Article en référence: https://i.redd.it/3zvxd06a2l5f1.png

Récapitulatif factuel

Apple vient de publier une étude de recherche qui remet en question les capacités de raisonnement des modèles d’intelligence artificielle actuels, particulièrement les grands modèles de langage (LLM) comme ChatGPT et Claude. Selon cette recherche, ces systèmes ne “raisonnent” pas réellement au sens où nous l’entendons habituellement.

Les chercheurs d’Apple ont découvert que ces modèles d’IA fonctionnent principalement par reconnaissance de motifs et mémorisation statistique. Concrètement, quand vous posez une question à ChatGPT, il ne “réfléchit” pas à votre problème. Il analyse plutôt les milliards de textes sur lesquels il a été entraîné pour prédire quelle séquence de mots a le plus de chances d’être une réponse appropriée.

L’étude révèle aussi que ces modèles s’effondrent rapidement quand on leur présente des problèmes trop complexes ou des situations qu’ils n’ont jamais “vues” dans leurs données d’entraînement. C’est comme si vous demandiez à quelqu’un de résoudre un problème de mathématiques en chinois alors qu’il ne connaît que les réponses par cœur en français.

Les tokens mentionnés dans l’étude sont les unités de base que l’IA utilise pour traiter le langage - pensez-y comme des morceaux de mots ou de concepts que la machine peut manipuler. Plus le problème devient complexe, plus l’IA “gaspille” ces tokens sans arriver à une solution cohérente.

Point de vue neutre

Cette révélation d’Apple soulève une question fondamentale : qu’est-ce qui différencie vraiment le “vrai” raisonnement de la reconnaissance sophistiquée de motifs ?

La réalité se situe probablement quelque part entre les extrêmes. D’un côté, il est vrai que les IA actuelles ne possèdent pas la compréhension profonde que nous associons à l’intelligence humaine. Elles excellent à reproduire des patterns qu’elles ont observés, mais peinent face à des situations véritablement nouvelles.

D’un autre côté, cette limitation n’enlève rien à leur utilité pratique. Un médecin qui diagnostique une maladie s’appuie largement sur sa reconnaissance de symptômes familiers - est-ce si différent de ce que fait l’IA ? La question devient alors : avons-nous besoin de “vraie” intelligence pour accomplir des tâches intelligentes ?

Il faut aussi considérer le timing de cette publication. Apple, qui accuse un retard considérable dans la course à l’IA, a tout intérêt à tempérer l’enthousiasme autour des technologies de ses concurrents. Cela ne rend pas leur recherche invalide, mais ajoute une couche d’interprétation intéressante.

La vérité probable ? Les IA actuelles sont des outils remarquablement puissants avec des limitations bien réelles. Ni des génies artificiels, ni de simples perroquets sophistiqués, mais quelque chose d’unique qui mérite d’être compris pour ce qu’il est vraiment.

Exemple

Imaginez que vous préparez un examen de cuisine en mémorisant par cœur 10 000 recettes différentes. Le jour de l’épreuve, le chef vous demande de préparer un “saumon grillé aux herbes avec légumes de saison”.

Vous fouillez dans votre mémoire : “saumon grillé” vous rappelle 47 recettes, “aux herbes” en évoque 23 autres, “légumes de saison” vous fait penser à 31 préparations. Votre cerveau fait rapidement le calcul statistique et vous sortez une recette qui combine les éléments les plus probables de toutes ces références.

Le résultat ? Un plat délicieux qui impressionne tout le monde ! Mais quand le chef vous demande d’expliquer pourquoi vous avez choisi cette température de cuisson ou cette combinaison d’épices, vous restez muet. Vous ne le savez pas vraiment - vous avez juste reproduit ce qui avait le plus de chances de bien fonctionner selon vos “données d’entraînement”.

Maintenant, imaginez que le chef vous demande de cuisiner un plat fusion québécois-thaïlandais avec des ingrédients que vous n’avez jamais vus. Là, vous paniquez ! Vos 10 000 recettes mémorisées ne contiennent rien de similaire. Vous commencez à mélanger n’importe quoi, espérant que ça ressemble à quelque chose de cohérent.

C’est exactement ce que fait l’IA selon Apple : elle excelle quand elle peut s’appuyer sur ses “recettes” mémorisées, mais déraille complètement face à l’inconnu. La question reste : est-ce que ça fait d’elle un mauvais cuisinier pour autant ?

Point de vue optimiste

Cette recherche d’Apple, loin d’être un frein, pourrait bien être le catalyseur dont nous avions besoin pour propulser l’IA vers de nouveaux sommets !

Pensez-y : maintenant que nous comprenons mieux les mécanismes sous-jacents, nous pouvons les améliorer de façon ciblée. C’est comme découvrir que votre moteur de voiture fonctionne différemment de ce que vous pensiez - cette connaissance vous permet de l’optimiser encore mieux !

Les limitations identifiées ne sont que des défis techniques à surmonter. L’industrie tech a toujours excellé à transformer les obstacles en opportunités d’innovation. Regardez comment nous sommes passés des premiers ordinateurs de la taille d’une pièce aux smartphones dans nos poches !

D’ailleurs, même si les IA actuelles “ne font que” reconnaître des motifs, elles le font à un niveau de sophistication inouï. Elles peuvent identifier des patterns dans des domaines aussi variés que la médecine, la finance, la créativité artistique - des domaines où même les experts humains peinent parfois.

Et qui sait ? Peut-être que le “vrai” raisonnement n’est lui-même qu’une forme très avancée de reconnaissance de motifs. Les neurosciences suggèrent que notre cerveau fonctionne aussi par associations et prédictions statistiques. La frontière entre “intelligence artificielle” et “intelligence naturelle” pourrait être plus floue qu’on ne le croit.

Cette recherche d’Apple nous donne une feuille de route claire : développer des systèmes qui combinent la puissance actuelle de reconnaissance de motifs avec de véritables capacités de raisonnement logique. Le futur de l’IA n’en sera que plus brillant !

Point de vue pessimiste

Cette révélation d’Apple confirme ce que plusieurs experts craignaient : nous nous dirigeons vers une bulle technologique majeure basée sur des promesses non tenues.

L’industrie de l’IA a investi des milliards de dollars en pariant sur l’émergence d’une intelligence artificielle générale (AGI) dans les prochaines années. Si Apple a raison, ces investissements massifs reposent sur des fondations fragiles. Les modèles actuels ne sont que des “perroquets stochastiques” sophistiqués, incapables de véritable innovation ou de raisonnement adaptatif.

Le problème va au-delà de la simple déception technologique. Des entreprises entières restructurent leurs opérations autour de l’IA, licencient des employés en masse en comptant sur l’automatisation, et prennent des décisions stratégiques basées sur des capacités qui n’existent peut-être pas réellement.

Pire encore, cette limitation fondamentale pourrait expliquer pourquoi les IA produisent parfois des “hallucinations” dangereuses - des réponses qui semblent plausibles mais sont complètement fausses. Si elles ne comprennent pas vraiment ce qu’elles disent, comment peut-on leur faire confiance pour des décisions critiques ?

La dépendance croissante à ces systèmes dans l’éducation, la santé, et même la prise de décisions gouvernementales devient inquiétante. Nous risquons de créer une société qui s’appuie sur des outils qui donnent l’illusion de l’intelligence sans en posséder la substance.

Et si le “plateau” technologique que nous observons déjà dans certains domaines n’était que le début ? Si nous avions atteint les limites de ce que la reconnaissance de motifs peut accomplir, sans jamais accéder au véritable raisonnement artificiel ? L’avenir pourrait être bien moins révolutionnaire que promis.