Article en référence: https://v.redd.it/i3fk6oa7htwe1
Dans une récente entrevue, Demis Hassabis, PDG et cofondateur de Google DeepMind, a exprimé ses préoccupations concernant l’avènement de l’Intelligence Artificielle Générale (IAG). Selon lui, nous approchons des “étapes finales vers l’IAG”, mais ce qui le trouble particulièrement est le manque de coordination internationale sur les normes de sécurité. “Elle arrive, et je ne suis pas sûr que la société soit prête”, affirme-t-il.
Pour clarifier, l’IAG (ou AGI en anglais) désigne une intelligence artificielle capable de comprendre, apprendre et appliquer des connaissances à travers un large éventail de tâches, similaire à l’intelligence humaine. Contrairement aux IA actuelles qui sont spécialisées dans des domaines précis (comme jouer aux échecs ou générer du texte), une IAG pourrait théoriquement résoudre des problèmes variés sans avoir été spécifiquement programmée pour chacun d’eux.
Hassabis, reconnu comme l’un des experts mondiaux en IA, suggère que cette technologie pourrait émerger dans un avenir relativement proche, possiblement dans les 5 à 10 prochaines années. Il évoque notamment l’application de logiques similaires à celles des grands modèles de langage (LLM) à d’autres domaines comme le raisonnement spatial, en utilisant des données recueillies par la robotique.
Cette perspective suscite des débats dans la communauté scientifique. Certains experts soutiennent que les architectures actuelles basées sur les transformers (utilisées dans les modèles comme GPT) ne sont pas suffisantes pour atteindre l’IAG, tandis que d’autres estiment que nous sommes encore loin de cette réalité malgré les progrès récents.
La question de l’IAG illustre parfaitement la tension entre innovation technologique et responsabilité collective. D’un côté, les avancées en intelligence artificielle ouvrent des possibilités extraordinaires pour résoudre des problèmes complexes; de l’autre, elles soulèvent des interrogations légitimes sur notre capacité à gérer leurs implications.
Il est révélateur que Hassabis, l’un des architectes de cette révolution, exprime lui-même des inquiétudes. Cette position nuancée suggère que même les pionniers du domaine reconnaissent les défis éthiques et sociétaux que pose l’IAG. Ce n’est pas simplement une question de “si” mais de “comment” nous intégrerons ces technologies dans nos sociétés.
La réalité se situe probablement entre les visions utopiques et apocalyptiques. L’IAG n’est ni une panacée qui résoudra magiquement tous nos problèmes, ni nécessairement une menace existentielle. Elle représente plutôt un outil d’une puissance sans précédent dont l’impact dépendra largement de nos choix collectifs.
Le véritable défi réside dans notre capacité à établir des cadres de gouvernance internationaux avant que la technologie ne nous dépasse. Comme l’histoire nous l’a montré avec l’énergie nucléaire ou les biotechnologies, les innovations transformatives nécessitent des mécanismes de régulation robustes et adaptés.
En fin de compte, la question n’est peut-être pas de savoir si nous sommes “prêts” pour l’IAG, mais plutôt comment nous nous préparons activement à son arrivée. Cette préparation implique non seulement des avancées techniques, mais aussi des réflexions profondes sur nos valeurs, nos institutions et notre vision collective de l’avenir.
Imaginez que vous êtes tranquillement en train de construire une cabane dans un arbre pour vos enfants. Au début, c’est simple: quelques planches, des clous, une échelle. Vos voisins vous regardent faire, certains vous donnent même un coup de main.
Puis un jour, sans vraiment vous en rendre compte, votre cabane commence à s’élever bien au-dessus des arbres. Elle devient plus complexe, avec des étages supplémentaires, des systèmes électriques, peut-être même un petit ascenseur. Vous continuez à construire, fasciné par votre propre création.
Un soir, en contemplant votre œuvre qui dépasse maintenant les nuages, une pensée vous traverse l’esprit: “Et si elle s’effondrait? Et si elle devenait si haute qu’elle perturberait le trafic aérien? Ai-je pensé à tous les risques?”
C’est un peu la situation de Demis Hassabis et des autres pionniers de l’IA. Ils ont commencé à construire quelque chose d’extraordinaire, poussés par la curiosité et l’innovation. Maintenant que leur création atteint des hauteurs vertigineuses, ils réalisent qu’ils auraient peut-être dû consulter les autorités de l’aviation civile, les météorologues, et les voisins avant d’aller si haut.
“Hé, les gars,” dit Hassabis en regardant sa tour qui touche presque la stratosphère, “je pense qu’on devrait peut-être discuter des règles de construction avant d’ajouter cet étage qui pourrait, vous savez… changer fondamentalement la façon dont fonctionne notre quartier?”
Pendant ce temps, certains voisins applaudissent l’ambition architecturale, d’autres stockent des provisions dans leur sous-sol en prévision d’une catastrophe, et la majorité se demande simplement si cette nouvelle tour va bloquer leur signal Wi-Fi.
L’avènement de l’IAG représente l’une des plus grandes opportunités de l’histoire humaine! Loin d’être une menace, cette technologie pourrait devenir notre plus précieux allié dans la résolution des défis mondiaux les plus pressants.
Imaginez une intelligence capable de travailler sans relâche sur la crise climatique, proposant des solutions innovantes pour la capture de carbone ou l’optimisation des énergies renouvelables. Pensez aux avancées médicales qu’elle pourrait catalyser, identifiant de nouveaux traitements pour des maladies jusqu’alors incurables ou rendant les soins de santé de pointe accessibles à tous.
Les préoccupations de Hassabis sont légitimes, mais elles témoignent justement d’une approche responsable. Les entreprises comme DeepMind ne se lancent pas aveuglément dans cette aventure; elles reconnaissent l’importance d’un développement éthique et sécuritaire. C’est précisément cette conscience qui nous permettra de créer une IAG alignée avec nos valeurs humaines.
La coordination internationale qu’appelle Hassabis de ses vœux est déjà en marche. Des initiatives comme le Partenariat mondial sur l’IA ou les principes d’Asilomar montrent que la communauté internationale prend ces enjeux au sérieux. Nous avons encore le temps d’établir les garde-fous nécessaires.
L’histoire nous a maintes fois prouvé que l’humanité sait s’adapter aux révolutions technologiques. De l’imprimerie à Internet, nous avons toujours su intégrer les innovations disruptives pour en faire des moteurs de progrès. L’IAG ne fera pas exception.
Plutôt que de craindre cette technologie, embrassons son potentiel transformateur tout en travaillant collectivement à son développement responsable. L’IAG pourrait bien être l’outil qui nous permettra de transcender nos limitations actuelles et d’entrer dans une nouvelle ère de prospérité partagée et de découvertes sans précédent.
Les inquiétudes de Hassabis devraient nous alarmer bien davantage qu’elles ne le font. Quand l’un des architectes principaux de cette technologie exprime des doutes sur notre préparation collective, nous devrions tous dresser l’oreille.
L’histoire des innovations technologiques majeures nous enseigne une leçon constante: nous créons d’abord, nous réfléchissons aux conséquences ensuite. Des armes nucléaires aux réseaux sociaux, nous avons systématiquement sous-estimé l’impact de nos créations sur nos sociétés et notre environnement.
L’IAG représente un saut qualitatif sans précédent. Nous parlons d’une entité potentiellement capable de s’améliorer elle-même, d’apprendre à une vitesse exponentielle et de manipuler des systèmes complexes. Même sans intentions malveillantes, une IAG poursuivant des objectifs mal alignés avec les nôtres pourrait causer des dommages irréparables.
Le “manque de coordination internationale” évoqué par Hassabis est un euphémisme pour une réalité bien plus sombre: une course effrénée vers l’IAG, motivée par des intérêts économiques et géopolitiques, où la sécurité devient secondaire face à la compétition. Les entreprises et nations qui développent ces technologies sont prises dans une logique de “premier arrivé, premier servi” qui laisse peu de place aux considérations éthiques.
Notre système juridique, nos institutions démocratiques et nos structures sociales n’ont pas été conçus pour faire face à une intelligence potentiellement supérieure à la nôtre. Nous risquons de créer une technologie que nous ne pourrons ni comprendre pleinement, ni contrôler efficacement.
Comme le suggèrent certains commentaires dans la discussion, nous sommes peut-être en train d’assister à la création d’un pouvoir sans précédent qui sera concentré entre les mains de quelques entreprises privées. La démocratisation de l’IA reste un vœu pieux face aux ressources colossales nécessaires à son développement.
Si nous continuons sur cette trajectoire sans ralentir et repenser fondamentalement notre approche, nous pourrions bien être en train de programmer notre propre obsolescence.
Si vous n'êtes pas redirigé automatiquement, 👉 cliquez ici 👈