Article en référence: https://v.redd.it/nrarx70auwje1
Le PDG de Google DeepMind, Demis Hassabis, propose trois institutions internationales pour encadrer le développement de l’Intelligence Artificielle Générale (IAG). Il suggère la création d’un “CERN de l’IAG” pour coordonner la recherche sur la sécurité, une “AIEA de l’IAG” pour surveiller les projets à risque, et une “ONU technique” pour la gouvernance.
L’IAG représente une IA capable d’égaler ou surpasser l’intelligence humaine dans pratiquement tous les domaines. Contrairement aux IA actuelles qui sont spécialisées (comme ChatGPT pour le texte), l’IAG pourrait raisonner, apprendre et s’adapter comme un humain, voire mieux.
Ces propositions s’inspirent d’institutions existantes :
La proposition de Hassabis reflète une réalité incontournable : l’IAG nécessitera une coordination mondiale sans précédent. Cependant, la mise en place de telles institutions fait face à des défis considérables.
D’une part, le développement de l’IAG avance rapidement, possiblement plus vite que notre capacité à établir ces structures de gouvernance. D’autre part, les intérêts divergents des nations et des grandes entreprises technologiques compliquent l’établissement d’un consensus international.
La vraie question n’est peut-être pas si nous avons besoin de ces institutions - nous en avons clairement besoin - mais plutôt comment les mettre en place efficacement dans un monde où la course à l’IAG est déjà lancée.
Imaginez une course de Formule 1 où les voitures sont déjà en piste, accélérant à pleine vitesse, pendant que les organisateurs tentent encore d’installer les barrières de sécurité et les règles de course. C’est un peu la situation actuelle avec l’IAG.
Google DeepMind dit essentiellement : “Attendez, on devrait peut-être installer des ambulances et des commissaires de course avant que quelqu’un ne s’écrase dans un mur!” Pendant ce temps, d’autres pilotes (entreprises) répondent : “Pas le temps, on doit gagner la course!”
Cette proposition représente une opportunité historique de créer un cadre de gouvernance internationale avant qu’il ne soit trop tard. La collaboration internationale dans le domaine de l’IAG pourrait non seulement prévenir les risques, mais aussi maximiser les bénéfices pour l’humanité.
Ces institutions pourraient accélérer les avancées positives en partageant les ressources et les connaissances, tout en établissant des standards éthiques robustes. Elles pourraient garantir que l’IAG serve véritablement l’intérêt général plutôt que des intérêts particuliers.
L’histoire nous a montré que la coopération internationale peut fonctionner, comme avec le CERN qui a permis des découvertes majeures grâce à la collaboration mondiale.
La proposition semble naïve face à la réalité géopolitique actuelle. Les tensions internationales croissantes et la compétition technologique féroce rendent improbable une véritable collaboration mondiale sur l’IAG.
Ces institutions risquent de devenir des bureaucraties inefficaces, ralentissant l’innovation sans réellement protéger contre les risques. Pire encore, elles pourraient être instrumentalisées par les grandes entreprises technologiques pour maintenir leur monopole et étouffer la concurrence.
Le temps nécessaire pour mettre en place ces structures pourrait être trop long face à l’accélération du développement de l’IAG. Nous risquons de nous retrouver avec un cadre réglementaire obsolète avant même qu’il ne soit opérationnel.
Si vous n'êtes pas redirigé automatiquement, 👉 cliquez ici 👈