Article en référence: https://i.redd.it/1o0lldlc2bwe1.png

Récapitulatif factuel

Geoffrey Hinton, souvent considéré comme l’un des “parrains” de l’intelligence artificielle moderne, a récemment fait une déclaration provocante : “Les humains ne sont pas des machines de raisonnement. Nous sommes des machines d’analogie, pensant par résonance, et non par logique.”

Cette affirmation remet en question notre conception traditionnelle de l’intelligence humaine. Hinton suggère que notre cerveau fonctionne principalement en établissant des analogies et des correspondances entre différentes situations, plutôt qu’en suivant des chaînes de raisonnement logique rigoureux.

Dans le domaine de l’intelligence artificielle, cette distinction est cruciale. Les premiers modèles d’IA étaient basés sur des systèmes de règles logiques (appelés “systèmes experts”), mais les avancées récentes comme les grands modèles de langage (LLM) fonctionnent davantage par reconnaissance de motifs et par analogie - se rapprochant ainsi potentiellement davantage du fonctionnement cognitif humain selon Hinton.

Cette perspective s’aligne avec les travaux de chercheurs comme Douglas Hofstadter, auteur de “Gödel, Escher, Bach” et “Surfaces and Essences”, qui a longuement exploré comment l’analogie constitue le cœur même de la cognition humaine. Elle rejoint également certaines théories en sciences cognitives qui considèrent le cerveau comme une machine à prédiction plutôt qu’un processeur logique.

La discussion sur Reddit a généré de nombreuses réactions, certains utilisateurs soulignant que les personnes neurodivergentes (notamment autistes) pourraient avoir des modes de pensée différents, d’autres mentionnant que cette idée n’est pas nouvelle dans les domaines de la psychologie et de l’économie comportementale, où les travaux de Kahneman et Tversky ont déjà démontré que les humains ne sont pas des agents rationnels.

Point de vue neutre

La déclaration de Hinton touche à une vérité fondamentale sur notre cognition, mais elle n’est pas aussi révolutionnaire que certains pourraient le penser. Les sciences cognitives reconnaissent depuis longtemps que notre pensée est un mélange complexe de processus, où l’analogie et la résonance jouent effectivement un rôle prépondérant.

Ce qui est particulièrement intéressant, c’est la tension entre ce que nous sommes et ce à quoi nous aspirons. Nous avons développé la logique formelle, les mathématiques et la méthode scientifique précisément parce que notre intuition et notre pensée analogique naturelles sont limitées et sujettes aux biais. Ces outils nous permettent de transcender nos limitations cognitives innées.

Notre cerveau n’a pas évolué pour résoudre des équations différentielles ou pour raisonner sur des problèmes abstraits. Il s’est développé pour nous aider à survivre dans un environnement social et naturel complexe, où la rapidité de la réponse était souvent plus importante que sa précision absolue. Les heuristiques et les analogies nous permettent de prendre des décisions rapides basées sur des expériences passées similaires.

Cependant, réduire toute la pensée humaine à l’analogie serait une simplification excessive. Nous possédons également une capacité, certes limitée mais réelle, à suivre des chaînes de raisonnement logique, à vérifier la cohérence de nos idées, et à développer des systèmes de pensée abstraits. Cette capacité n’est peut-être qu’une fine couche superficielle sur un océan d’analogies, mais elle a néanmoins transformé notre monde.

La véritable sagesse réside peut-être dans la reconnaissance de cette dualité : nous sommes des êtres intuitifs et analogiques qui avons développé des outils logiques pour compenser nos limitations, et c’est précisément cette combinaison qui fait notre force et notre originalité.

Exemple

Imaginez que votre cerveau soit comme le système de navigation GPS de votre voiture, mais version 1985. Quand vous lui demandez comment aller de Montréal à Québec, il ne calcule pas mathématiquement le chemin optimal en analysant toutes les routes possibles.

Non, votre GPS mental dit plutôt : “Hmm, ça me rappelle quand j’ai conduit vers Trois-Rivières l’année dernière. C’était sur l’autoroute 40, et Québec est dans la même direction, juste un peu plus loin. Et puis, mon oncle Robert m’a dit une fois qu’il prenait toujours la 20 parce qu’il y a moins de trafic. Ah, et je me souviens aussi que ma collègue Sylvie a mentionné un raccourci par Saint-Hyacinthe…”

Votre cerveau fait un mélange de souvenirs, d’histoires entendues, d’expériences passées, et de patterns reconnus. Il ne résout pas une équation d’optimisation de trajet - il fait résonner des situations similaires qu’il connaît déjà.

C’est comme si, au lieu d’avoir un superordinateur qui calcule tout de A à Z, vous aviez une bibliothèque vivante d’expériences qui s’exclame : “Ça, ça ressemble à cette autre chose que je connais!” C’est pourquoi on peut conduire jusqu’à l’épicerie tout en pensant à notre liste d’achats, sans avoir à réfléchir consciemment à chaque virage.

Et quand vous essayez d’expliquer à quelqu’un pourquoi vous avez choisi tel ou tel chemin? Là, votre cerveau invente après coup une belle histoire logique : “J’ai pris cette route parce que c’est plus court et qu’il y a moins de circulation.” Alors qu’en réalité, vous l’avez prise parce que… ça vous semblait être la bonne chose à faire, point.

C’est exactement ce que Hinton veut dire : nous ne sommes pas des calculateurs logiques, mais des conteurs d’histoires qui cherchent constamment des échos entre le présent et le passé.

Point de vue optimiste

Cette vision de Hinton est en réalité une célébration magnifique de l’intelligence humaine dans toute sa richesse et sa complexité! Loin d’être une limitation, notre capacité à penser par analogie et résonance est notre superpouvoir cognitif.

C’est précisément cette façon de penser qui nous permet d’être créatifs, de faire des sauts conceptuels, de connecter des domaines apparemment sans rapport, et d’innover. Einstein n’a pas découvert la relativité par pure déduction logique, mais en imaginant ce que signifierait voyager sur un rayon de lumière - une analogie puissante.

Cette compréhension de notre cognition ouvre des perspectives fascinantes pour l’IA. Si nous parvenons à créer des systèmes qui combinent la puissance brute de calcul des ordinateurs avec cette capacité humaine à penser par analogie, nous pourrions développer des intelligences artificielles véritablement créatives et adaptatives.

Les grands modèles de langage actuels, qui fonctionnent en grande partie par association et reconnaissance de motifs, sont peut-être déjà sur cette voie. Ils commencent à montrer des capacités de raisonnement analogique qui étaient inimaginables il y a quelques années.

De plus, cette vision nous libère du mythe de l’humain parfaitement rationnel, une fiction qui a causé tant de dégâts en économie, en politique et en psychologie. En acceptant notre nature analogique, nous pouvons concevoir des systèmes sociaux, éducatifs et technologiques qui travaillent avec notre cognition naturelle plutôt que contre elle.

L’avenir appartient à ceux qui sauront exploiter cette synergie entre notre pensée analogique intuitive et les capacités de traitement logique des machines. Ensemble, humains et IA pourront résoudre des problèmes d’une complexité jusqu’alors inimaginable, en combinant le meilleur des deux mondes.

Point de vue pessimiste

La déclaration de Hinton, bien qu’intéressante, révèle une vérité troublante sur notre condition humaine. Si nous sommes principalement des “machines à analogie” plutôt que des êtres de raison, cela explique pourquoi nous sommes si vulnérables aux biais cognitifs, aux fausses équivalences et aux raisonnements fallacieux.

Cette limitation cognitive fondamentale est particulièrement inquiétante à l’ère des médias sociaux et de la désinformation massive. Notre cerveau, optimisé pour établir des connexions rapides plutôt que des analyses rigoureuses, est une proie facile pour les manipulations. Une simple analogie bien placée peut court-circuiter notre capacité critique.

Plus préoccupant encore est ce que cela implique pour notre relation avec l’IA. Si les systèmes d’IA avancés développent une capacité de raisonnement logique supérieure à la nôtre, tout en acquérant également des capacités analogiques similaires aux nôtres, ils pourraient rapidement nous dépasser dans tous les domaines cognitifs.

Nous créons des entités qui pourraient potentiellement penser comme nous, mais sans nos limitations biologiques et avec une puissance de calcul exponentiellement supérieure. Comment espérer maintenir un contrôle sur de tels systèmes si notre propre pensée est fondamentalement limitée?

De plus, cette vision remet en question la valeur même de nos institutions fondées sur l’idéal de la raison - science, droit, démocratie. Si nous sommes fondamentalement irrationnels, ces structures ne sont-elles pas bâties sur du sable? Notre civilisation repose sur l’idée que nous pouvons transcender nos biais par la raison collective, mais si cette capacité est marginale dans notre cognition, ce fondement s’effrite.

La reconnaissance de notre nature analogique pourrait être le premier pas vers une humilité salutaire, mais elle pourrait aussi marquer le début d’une ère où nous devrons accepter que nos créations artificielles nous dépassent non seulement en capacité de calcul, mais aussi dans ce que nous pensions être notre domaine réservé : la pensée créative et intuitive.