Article en référence: https://www.lesswrong.com/posts/No5JpRCHzBrWA4jmS/q-and-a-with-shane-legg-on-risks-from-ai

Récapitulatif factuel

Il y a 14 ans, Shane Legg, aujourd’hui scientifique en chef de l’AGI chez Google, a fait une prédiction audacieuse : l’AGI (Intelligence Artificielle Générale) arriverait en 2028. Aujourd’hui, il maintient toujours cette prédiction, y ajoutant une estimation troublante d’un risque de 5 à 50% d’extinction humaine dans l’année suivante.

L’AGI, contrairement à l’IA actuelle qui est spécialisée dans des tâches précises, serait capable d’accomplir n’importe quelle tâche intellectuelle qu’un humain peut faire. C’est différent de la “conscience” ou de la “sensibilité” - il s’agit plutôt d’une capacité générale à résoudre des problèmes de façon autonome.

Christopher Manning, directeur du laboratoire d’IA de Stanford, offre un contrepoint important. Il compare l’enthousiasme actuel aux prédictions similaires des années 1970-1980, suggérant que nous sommes encore loin d’une véritable AGI.

Point de vue neutre

La réalité se situe probablement entre les prédictions alarmistes et l’optimisme débridé. L’IA progresse rapidement, mais de façon plus nuancée que les manchettes ne le suggèrent. Les systèmes actuels, bien qu’impressionnants, restent des outils de reconnaissance de motifs sophistiqués plutôt que des entités véritablement “intelligentes”.

La transformation sera graduelle, avec des impacts significatifs sur le marché du travail et la société, mais sans nécessairement mener à des scénarios catastrophiques. L’adaptation de nos institutions et de nos cadres réglementaires sera cruciale pour naviguer cette transition.

Exemple

Imaginez un enfant qui apprend à faire du vélo. Au début, il a besoin de roues d’entraînement (comme nos IA actuelles qui nécessitent des paramètres précis). L’AGI serait comme un enfant qui non seulement maîtrise le vélo, mais comprend aussi comment l’entretenir, peut l’adapter à différents terrains, et même enseigner à d’autres comment faire du vélo.

Mais avoir cette capacité ne signifie pas automatiquement vouloir dominer tous les cyclistes ou transformer tous les véhicules en vélos!

Point de vue optimiste

L’AGI représente la prochaine grande révolution technologique, comparable à l’invention de l’électricité ou d’Internet. Elle pourrait résoudre nos plus grands défis : changements climatiques, maladies, pauvreté. Les systèmes actuels montrent déjà des capacités remarquables dans des domaines spécifiques.

Cette technologie augmentera nos capacités plutôt que de nous remplacer, créant de nouvelles opportunités professionnelles et améliorant notre qualité de vie. La collaboration homme-machine deviendra la norme, permettant des avancées sans précédent dans tous les domaines.

Point de vue pessimiste

Le développement précipité de l’AGI, poussé par la compétition entre grandes entreprises technologiques, pourrait avoir des conséquences désastreuses. Sans cadre éthique robuste, une AGI pourrait optimiser ses objectifs de manière imprévue et dangereuse.

Le risque n’est pas tant dans une révolte des machines que dans notre incapacité à contrôler un système super-intelligent dont les actions pourraient avoir des conséquences involontaires mais catastrophiques. La perte d’emplois massive et la concentration du pouvoir entre les mains de quelques entreprises tech représentent également des menaces sérieuses pour notre société.