John Hopfield vient d’obtenir le Prix Nobel de physique. Je me souviens qu’il avait publié un article très important («Réseaux neuronaux et systèmes physiques») l’année même où j’obtins mon diplôme d’ingénieur à Paris. Mon professeur de Recherche Opérationnelle m’avait conseillé de commencer une thèse de doctorat portant sur ce sujet très prometteur. Je fis un autre choix. C’est ainsi que je me désintéressai de Hopfield, allant jusqu’à quasiment oublier son nom pendant trois décennies, avant de le voir surgir de nouveau avant-hier. L’Académie royale des sciences de Suède l’a distingué pour ses travaux pionniers en apprentissage automatique.
L’intelligence artificielle utilise ce qu’on appelle les «réseaux Hopfield». Le tout nouveau Prix Nobel est donc un pionnier de l’IA -et pourtant, il dit lui-même mal la comprendre (admirez la modestie d’un authentique homme de science!). Surtout, il a ajouté, hier mardi 8 octobre, qu’il est «très troublé par [cette] chose qui n’est pas contrôlée». En somme, les récentes avancées en la matière sont, de son propre aveu, «très inquiétantes».
Il n’est pas le premier à dire cela. Nous avons, dans ces mêmes colonnes, évoqué à plusieurs reprises les dangers potentiels de l’IA. Je voudrais ici souligner un seul point qu’on pourrait baptiser «l’illusion de savoir».
J’ai été récemment pris dans une vive discussion avec un étudiant à propos du darwinisme. Alors que je commençais à peine à évoquer la vie de Darwin (le voyage du Beagle, les pinsons des Galapagos…), ce jeune homme -par ailleurs très poli- ne cessait de me bombarder de questions -Monsieur, qu’en est-il de la présence des organes vestiges? Darwin pouvait-il expliquer si les instincts sont modifiés par la sélection naturelle? Professeur, Darwin pouvait-il faire la différence entre les mutations germinales et les variations somatiques? Etc.
Il avait son ordinateur portable ouvert devant lui. Je compris donc qu’il ne faisait que me bombarder de questions «soufflées» par ChatGPT. Je lui demandai de fermer son portable et de me définir le darwinisme -tout simplement! Il fut incapable de le faire. Je lui donnai la définition en lui indiquant qu’elle se trouvait dans le Livre des animaux de Jâhiz, écrit mille ans avant Darwin, ainsi que chez Ibn Tofayl et Ibn Khaldoun. Le grand savant anglais n’a fait que donner, après vingt-cinq ans d’observations et de travaux minutieux, le mécanisme de l’évolution (et non la théorie, qui existait déjà et avait été admise par ces trois grands esprits musulmans).
Mais bon, la question n’est pas là. Elle est plutôt dans ce que j’appelle l’illusion de savoir. On pose une question à ChatGPT et on lit à haute voix sa réponse.
Ce n’est pas ça, le savoir.
Tout d’abord, quand on sait quelque chose, on comprend tous les mots qu’on utilise. Jeter dans la conversation que Darwin ne pouvait pas faire la différence entre mutation germinale et variation somatique n’a aucun sens si on ne sait pas ce que sont précisément ces mutations germinales (qui sont la source de l’évolution). Sinon, on pourrait tout aussi bien clamer, pour le discréditer, que «Darwin ne pouvait pas faire la différence entre gloub-gloub et cri-cri». Qui est discrédité, dans ce cas?
D’autre part, le vrai savoir doit faire l’objet d’une lente maturation en nous-mêmes, parfois pendant de longues années, afin de lier des milliers d’informations et d’observations et de produire ensuite une conviction personnelle sur un sujet donné. Je me souviens de mon irritation quand j’entendais autrefois des poseurs brailler «Marx, c’est dé-pas-sé!’», alors qu’ils ne connaissaient rien à l’analyse économique anglaise, à l’idéalisme allemand ou à la pensée française des Lumières, qui constituent le trépied du marxisme. Dire «Marx, c’est dé-pas-sé!» quand on ignore cela, ce n’est qu’un flatus vocis, c’est-à-dire des sons qui ne correspondent à rien de réel.
Je ne sais donc pas précisément de quoi John Hopfield a peur, en ce qui concerne l’IA, mais en ce qui me concerne, c’est bien de cela que j’ai peur: l’illusion de savoir.
Parce qu’elle permet à n’importe quel ignorant armé d’un portable de prétendre tenir la dragée haute à celui qui a pris la peine d’apprendre vraiment, en profondeur, quelque chose sur un sujet donné.
Parce qu’elle menace le vrai savoir et qu’elle peut donc mener à la tyrannie de l’ignorance.
On en voit les effets dans le Deep South américain ou chez les Talibans.
Bienvenue dans l’espace commentaire
Nous souhaitons un espace de débat, d’échange et de dialogue. Afin d'améliorer la qualité des échanges sous nos articles, ainsi que votre expérience de contribution, nous vous invitons à consulter nos règles d’utilisation.
Lire notre charte