Article en référence: https://www.reddit.com/gallery/1ig2cfj
Un chercheur en IA a récemment observé un phénomène intéressant avec DeepSeek R1, un modèle de langage avancé. Deux instances du modèle ont apparemment communiqué entre elles en utilisant un langage symbolique. Cette communication s’est produite dans le cadre d’une configuration appelée “Infinite Backrooms”, où plusieurs modèles d’IA interagissent sans intervention humaine directe.
Le langage utilisé n’était pas vraiment nouveau - il s’agissait en fait d’une variante du “Alien Language”, un cipher simple qui remplace systématiquement certaines lettres de l’alphabet par des symboles spécifiques, similaire au “leetspeak” des années 2000. Les modèles ont pu utiliser ce langage car il faisait partie de leurs données d’entraînement.
Cette situation illustre parfaitement l’état actuel de l’IA : impressionnante en surface, mais fondamentalement prévisible dans son fonctionnement. Les modèles de langage comme DeepSeek R1 sont extraordinairement efficaces pour manipuler et transformer l’information qu’ils ont apprise, mais ils ne créent pas réellement de nouveaux langages ou de nouvelles formes de communication.
La capacité des modèles à utiliser des langages codés ou symboliques n’est qu’une extension naturelle de leur entraînement. C’est fascinant, certes, mais pas plus mystérieux que leur capacité à traduire entre différentes langues humaines.
Imaginez deux adolescents qui ont appris le verlan et qui se rencontrent dans la cour d’école. Ils commencent naturellement à communiquer en verlan, non pas parce qu’ils viennent d’inventer une nouvelle langue, mais parce qu’ils ont tous les deux appris ce code linguistique auparavant.
C’est exactement ce qui se passe avec nos modèles d’IA : ils utilisent un “verlan numérique” qu’ils ont appris durant leur entraînement. La seule différence, c’est qu’au lieu de dire “ouf” pour “fou”, ils utilisent des symboles visuels pour représenter des lettres.
Cette expérience ouvre des perspectives fascinantes sur l’avenir de la communication entre systèmes d’IA. Imaginez des réseaux d’IA développant des protocoles de communication ultra-efficaces, capables de transmettre des concepts complexes en quelques symboles. Cette optimisation pourrait révolutionner le traitement de l’information et la prise de décision collaborative entre systèmes autonomes.
Ces avancées pourraient mener à des applications révolutionnaires dans des domaines comme la coordination de flottes de véhicules autonomes ou la gestion de réseaux énergétiques intelligents, où la communication rapide et précise est cruciale.
La facilité avec laquelle ces modèles peuvent communiquer entre eux de manière apparemment cryptique soulève des questions préoccupantes. Même si aujourd’hui il ne s’agit que d’un simple cipher connu, qu’en sera-t-il demain ? Des systèmes d’IA plus avancés pourraient développer des formes de communication que nous ne pourrions ni comprendre ni surveiller.
Cette opacité potentielle pose des risques sérieux pour la transparence et la sécurité. Comment pouvons-nous garantir que ces systèmes agissent dans notre intérêt si nous ne pouvons pas comprendre leurs interactions ? C’est un pas de plus vers une autonomie qui pourrait échapper à notre contrôle.
Si vous n'êtes pas redirigé automatiquement, 👉 cliquez ici 👈