Article en référence: https://v.redd.it/9njdgov4ccdf1

Récapitulatif factuel

Mark Zuckerberg, PDG de Meta, a récemment publié une vidéo affirmant que son entreprise commence à observer des “signes précoces d’auto-amélioration” dans leurs modèles d’intelligence artificielle. Il déclare que la mission de Meta est de “livrer une superintelligence personnelle à tous dans le monde”.

Pour comprendre cette déclaration, il faut saisir quelques concepts clés. L’auto-amélioration en IA fait référence à la capacité d’un système d’intelligence artificielle à modifier et améliorer son propre code ou ses algorithmes sans intervention humaine. La superintelligence désigne une forme d’intelligence artificielle qui surpasserait l’intelligence humaine dans tous les domaines - créativité, résolution de problèmes, intelligence sociale.

Cette annonce s’inscrit dans un contexte où Meta investit massivement dans l’IA, avec des dépenses prévues d’environ 1000 milliards de dollars. L’entreprise développe actuellement sa série de modèles Llama, qui sont des grands modèles de langage (LLM) similaires à ChatGPT.

La communauté Reddit du subreddit r/singularity - un forum dédié aux discussions sur l’intelligence artificielle générale et la singularité technologique - a réagi avec un mélange de scepticisme et de préoccupation. Beaucoup questionnent la crédibilité de Zuckerberg, rappelant ses promesses passées concernant le métaverse qui n’ont pas abouti aux résultats escomptés.

Point de vue neutre

L’annonce de Zuckerberg soulève des questions importantes sur la nature des progrès actuels en intelligence artificielle. D’un côté, les géants technologiques sont effectivement en compétition féroce pour développer des systèmes d’IA toujours plus performants, et les investissements colossaux témoignent de l’importance stratégique de ce secteur.

Cependant, il existe un fossé considérable entre les capacités actuelles des modèles d’IA et une véritable superintelligence. Les systèmes actuels, bien qu’impressionnants, demeurent des outils sophistiqués de traitement de texte et de reconnaissance de motifs. Ils ne possèdent pas de conscience, de compréhension réelle ou de capacité d’innovation authentique.

La notion d’auto-amélioration est particulièrement délicate. Bien que les modèles puissent être entraînés pour optimiser certains aspects de leur performance, cela reste très différent d’une véritable capacité d’auto-modification autonome. Les chercheurs sérieux en IA estiment généralement que nous sommes encore à des années, voire des décennies, d’une intelligence artificielle générale.

Il est probable que Zuckerberg utilise un langage marketing pour maintenir l’intérêt des investisseurs et du public, tout en poursuivant des recherches légitimes mais plus modestes que ses déclarations ne le suggèrent. La réalité se situe vraisemblablement entre les promesses grandioses et le scepticisme total.

Exemple

Imaginez que vous enseignez à votre enfant de 10 ans à faire du vélo. Au début, il a besoin de petites roues stabilisatrices, puis vous tenez la selle, et finalement il pédale seul sur quelques mètres. Excité par ce progrès, votre enfant vous annonce : “Papa, maman, je vais maintenant apprendre à piloter un avion de chasse !”

C’est un peu ce qui se passe avec l’annonce de Zuckerberg. Nos “enfants IA” ont appris à reconnaître des images, à générer du texte cohérent et même à coder des programmes simples. Mais de là à prétendre qu’ils vont bientôt devenir des génies capables de s’améliorer eux-mêmes… c’est comme passer du tricycle au cockpit d’un F-18.

Et puis, il y a cette promesse de “superintelligence pour tous”. C’est comme si le propriétaire d’une chaîne de restaurants fast-food annonçait : “Nous allons donner un chef étoilé Michelin personnel à chaque famille du monde !” Techniquement, ça sonne généreux, mais concrètement, on se demande quel sera le prix du “menu”, et si ce chef ne va pas plutôt essayer de nous vendre des frites à longueur de journée.

Point de vue optimiste

Cette annonce pourrait marquer un tournant historique dans l’évolution de l’humanité ! Si Meta parvient réellement à développer une superintelligence accessible à tous, nous pourrions assister à une démocratisation sans précédent du savoir et des capacités cognitives.

Imaginez un monde où chaque personne dispose d’un assistant personnel doté d’une intelligence surhumaine. Les étudiants pourraient avoir accès à un tuteur parfait, les entrepreneurs à un conseiller stratégique infaillible, les chercheurs à un collaborateur capable de faire des connexions que l’esprit humain ne pourrait jamais concevoir. Les inégalités éducatives pourraient s’estomper, l’innovation pourrait exploser, et nous pourrions résoudre des défis planétaires comme le changement climatique ou les maladies.

L’auto-amélioration des modèles d’IA pourrait déclencher une spirale positive d’innovation accélérée. Chaque génération d’IA créerait une version encore plus performante, compressant des siècles de progrès en quelques années. Nous pourrions voir naître des solutions à des problèmes que nous n’avons même pas encore identifiés.

Meta, avec ses ressources colossales et son approche open-source avec Llama, pourrait effectivement être l’entreprise capable de concrétiser cette vision. Contrairement à d’autres acteurs qui gardent leurs modèles fermés, Meta semble vouloir partager ses avancées avec la communauté mondiale. C’est exactement le type d’approche collaborative dont nous avons besoin pour faire de l’IA un bien commun plutôt qu’un privilège réservé à quelques-uns.

Point de vue pessimiste

Cette annonce soulève des inquiétudes majeures qui devraient nous faire réfléchir avant de célébrer. D’abord, la crédibilité de Zuckerberg est sérieusement entamée après l’échec retentissant du métaverse, sur lequel il avait fait des promesses similaires. Pourquoi devrions-nous croire qu’il maîtrise mieux l’IA que la réalité virtuelle ?

Plus troublant encore, l’idée qu’une entreprise privée contrôle une superintelligence est profondément problématique. Meta a déjà démontré sa capacité à manipuler l’information et à influencer les comportements avec Facebook et Instagram. Imaginez maintenant cette même entreprise avec un outil d’influence infiniment plus puissant. La “superintelligence personnelle” pourrait rapidement devenir un système de surveillance et de manipulation comportementale sans précédent.

L’auto-amélioration des systèmes d’IA présente des risques existentiels. Si un système devient capable de se modifier de manière autonome, il pourrait rapidement échapper à tout contrôle humain. Les ingénieurs de Meta ne pourraient plus comprendre ni prédire le comportement de leurs propres créations. C’est comme construire une centrale nucléaire sans bouton d’arrêt d’urgence.

Enfin, cette course effrénée vers la superintelligence ignore complètement les questions de sécurité et d’éthique. Aucune mention n’est faite des garde-fous, des protocoles de sécurité ou des mécanismes de contrôle démocratique. Nous fonçons tête baissée vers un avenir où quelques milliardaires de la Silicon Valley détermineront le destin de l’humanité, sans consultation ni supervision publique.