Article en référence: https://v.redd.it/5fsbs7gfx86e1
Article Reddit: Nobel winner Geoffrey Hinton says countries won’t stop making autonomous weapons but will collaborate on preventing extinction since nobody wants AI to take over https://www.reddit.com/r/artificial/comments/1hbxd2x/nobel_winner_geoffrey_hinton_says_countries_wont/
Geoffrey Hinton, lauréat du prix Nobel et pionnier de l’intelligence artificielle, a récemment partagé une perspective intrigante sur l’avenir des armes autonomes et de l’IA. Selon lui, bien que les pays continueront de développer des armes autonomes (des systèmes d’armement capables de sélectionner et d’attaquer des cibles sans intervention humaine), ils collaboreront probablement pour éviter l’extinction de l’humanité causée par une IA devenue incontrôlable.
Cette déclaration soulève plusieurs points importants. D’abord, les “armes autonomes” ne sont pas de simples drones télécommandés, mais des systèmes capables de prendre des décisions létales de façon indépendante. Ensuite, le concept d’IA “prenant le contrôle” fait référence à un scénario où une Intelligence Artificielle Supérieure (IAS) dépasserait les capacités humaines au point de pouvoir agir indépendamment de notre contrôle.
La position de Hinton reflète une réalité géopolitique complexe. Tout comme avec les armes nucléaires, les nations poursuivront probablement le développement d’armes autonomes pour maintenir leur avantage stratégique, tout en cherchant à établir des garde-fous communs pour éviter les scénarios catastrophiques.
Cette dynamique n’est pas nouvelle : nous l’avons vue avec les traités sur les armes nucléaires, chimiques et biologiques. Les pays comprennent qu’il est dans leur intérêt mutuel d’éviter certains développements technologiques potentiellement destructeurs, tout en maintenant leur capacité de défense.
Cette perspective suggère une voie prometteuse pour la gouvernance mondiale de l’IA. La reconnaissance commune des risques pourrait mener à une collaboration internationale sans précédent. Nous pourrions voir émerger des protocoles de sécurité partagés, des standards éthiques communs et des mécanismes de contrôle internationaux.
Cette collaboration pourrait même s’étendre au-delà de la sécurité, permettant des avancées majeures dans des domaines comme la santé, l’éducation et la lutte contre le changement climatique. L’IA pourrait devenir un catalyseur de coopération internationale plutôt qu’une source de conflit.
L’histoire nous montre que les bonnes intentions ne suffisent pas face aux intérêts nationaux. Malgré les traités existants, nous n’avons jamais réussi à éliminer complètement les armes nucléaires, et la course aux armements continue sous de nouvelles formes.
La compétition pour la suprématie en IA pourrait s’avérer encore plus dangereuse. Contrairement aux armes nucléaires, le développement de l’IA est largement invisible et difficile à contrôler. Un pays ou une organisation pourrait développer une IA superintelligente en secret, créant un avantage stratégique impossible à contrer. De plus, une fois qu’une IA superintelligente existe, il pourrait être impossible de la “désactiver” ou de la contrôler efficacement.
Si vous n'êtes pas redirigé automatiquement, 👉 cliquez ici 👈