Si la machine pense mieux que l’homme
En 1981, Krishnamurti parle des ordinateurs.
Il imagine des machines capables d’apprendre, de mémoriser, de calculer, d’écrire, de composer de la musique, de résoudre des problèmes.
Puis il pose cette question :
“If the machine can do everything even better than you, what are you?”
Si la machine peut tout faire, et mieux que vous, qu’êtes-vous ?
La phrase est forte.
Mais son point de départ mérite d’être regardé de près.
La séquence provient d’un exposé public donné à Madras, le 10 janvier 1981, intitulé “Is thought the cause of the decay of man ?”.
(voir les sources en fin d’article)
Le postulat
Krishnamurti considère la pensée comme un processus mécanique.
Mémoire. Expérience. Connaissance. Association. Réponse.
La pensée accumule, compare, reconnaît, reproduit.
L’ordinateur peut alors faire la même chose.
Plus vite.
Avec davantage de mémoire.
Sans fatigue.
La conclusion semble évidente : la machine finira par dépasser l’homme.
Mais quelque chose manque.
Comment savons-nous que la pensée est une mécanique ?
Nous observons des processus cérébraux.
Nous pouvons mesurer certaines activités.
Nous savons que la mémoire intervient.
Nous savons que les associations jouent un rôle.
Nous pouvons observer les effets de certaines lésions, de certaines substances, de certaines stimulations.
Mais nous ne savons pas, au sens fort, d’où vient une pensée.
Nous ne savons pas pourquoi telle pensée apparaît précisément à cet instant.
Nous ne savons pas exactement comment elle se transforme en une autre.
Nous ne savons pas comment une pensée acquiert son sens pour celui qui la pense.
Nous ne savons pas même expliquer complètement pourquoi il existe une expérience subjective de penser.
Nous connaissons donc des mécanismes autour de la pensée.
Cela ne suffit pas à établir que la pensée est elle-même un mécanisme.
La différence est considérable.
Dire que certaines opérations liées à la pensée sont mécaniques
n’est pas équivalent à :
la pensée est une mécanique.
Le premier énoncé peut être observé, mais le second est un postulat.
Et toute la construction de Krishnamurti repose dessus.
Est-ce que la machine pense ?
La machine ne pense pas : elle exécute des algorithmes.
Elle traite des données, calcule, associe et produit des réponses.
Elle peut reproduire certaines opérations que nous associons à la pensée.
Mais reproduire une opération n’est pas penser.
Elle n’a pas défini elle-même ce qu’est un problème à résoudre.
Elle n’a pas choisi les règles selon lesquelles elle fonctionne.
Nous avons construit la machine, puis nous avons appelé “pensée” ce qu’elle exécutait.
C’est ici que son raisonnement devient fragile.
Si la pensée humaine est une mécanique,
alors une machine plus puissante peut évidemment accomplir cette mécanique plus rapidement.
Mais si nous ne savons pas ce qu’est exactement la pensée, comment pouvons-nous conclure que l’ordinateur pense davantage
simplement parce qu’il traite davantage d’informations ?
L’ordinateur calcule.
Il mémorise, associe, transforme des données, produit des réponses.
Tout cela est observable.
Mais rien de tout cela ne démontre que nous avons reproduit l’acte de penser.
Nous avons peut-être reproduit certaines opérations que nous avions rangées sous ce mot.
Ce n’est pas la même chose.
Le paradoxe devient encore plus net chez Krishnamurti.
Il distingue lui-même la pensée de ce qu’il appelle l’”insight”.
Dans ses dialogues avec David Bohm, en 1981, il décrit la pensée comme mécanique et affirme que l’insight ne l’est pas.
Mais alors une question demeure :
si nous ne pouvons pas réduire l’humain à la pensée mécanique,
pourquoi la supériorité d’une machine dans cette mécanique devrait-elle remettre en cause l’homme ?
C’est là que son raisonnement rejoint, malgré lui, une certaine logique transhumaniste.
Parce qu’il accepte momentanément la même réduction :
l’homme peut être défini par ses capacités.
Mémoire.
Calcul.
Intelligence.
Raisonnement.
Production.
À partir de là, la machine devient naturellement l’étalon.
Elle possède plus de mémoire.
Elle calcule plus vite.
Elle traite davantage de données.
Elle produit plus rapidement.
L’homme devient inférieur.
Mais uniquement sur le terrain choisi pour la comparaison.
La machine gagne parce que nous avons accepté de mesurer l’homme avec ses instruments.
Une calculatrice calcule mieux que moi.
Une grue soulève davantage.
Un télescope voit plus loin.
Cela ne change rien à ce que je suis.
Pourquoi faudrait-il que cela change lorsque l’outil touche à la pensée ?
Peut-être parce que nous commettons alors une confusion plus profonde :
nous confondons ce que la pensée produit avec ce qu’est la pensée.
Puis nous confondons ce que l’homme fait avec ce qu’est l’homme.
Et lorsque la machine reproduit certaines de ces fonctions, nous croyons qu’elle nous remplace.
Mais elle ne remplace peut-être que ce que nous avions identifié comme l’humain.
Krishnamurti demande :
« If the machine can do everything even better than you, what are you? »
La question pourrait être retournée.
Si nous ne savons même pas exactement ce qu’est la pensée,
comment pouvons-nous savoir qu’une machine pense mieux que nous ?
Et plus loin encore :
si nous ne savons pas ce qui fait qu’une pensée surgit, se transforme, prend sens et devient expérience,
sur quoi repose notre certitude que la pensée humaine est une mécanique ?
La machine peut dépasser l’homme dans le calcul.
Dans la mémoire.
Dans la vitesse.
Dans le traitement de l’information.
Cela est mesurable.
Mais la pensée n’est pas mesurée par la vitesse à laquelle une machine produit une réponse.
Le renversement
Et il reste un fait que l’on oublie facilement lorsqu’on contemple la puissance de la machine :
c’est l’homme qui l’a construite.
L’ordinateur n’est pas tombé du ciel avec une définition de l’intelligence.
Il n’a pas décidé ce qu’était calculer.
Il n’a pas choisi ce qu’était une donnée.
Il n’a pas inventé la notion de problème à résoudre.
Nous avons construit la machine à partir de notre propre compréhension du monde.
Puis nous la regardons fonctionner et nous prenons sa puissance pour la mesure de notre propre nature.
C’est peut-être le dernier renversement.
L’homme fabrique la machine, puis commence à se juger à travers elle.
La machine devient alors le miroir.
Et l’homme finit par croire que le reflet est l’original.
Céleste R.
Sources :
Transcription de l’intervention de Krishnamurti - Madras, 10 janvier 1981
Dialogue avec David Bohm - 1er avril 1981
voir un extrait de la vidéo sur X