Article en référence: https://i.redd.it/buitz232cuue1.png

Récapitulatif factuel

Google a récemment publié une offre d’emploi pour un poste de chercheur en “recherche post-AGI” (Intelligence Artificielle Générale). Cette annonce, partagée sur Reddit, a suscité de nombreuses réactions dans la communauté technologique. Le poste, basé à Londres, recherche un scientifique pour explorer “l’impact profond de ce qui vient après l’AGI”.

Pour comprendre l’importance de cette annonce, clarifions quelques termes :

• AGI (Intelligence Artificielle Générale) : contrairement aux IA actuelles qui sont spécialisées dans des tâches spécifiques, l’AGI désignerait une intelligence artificielle capable de comprendre, apprendre et appliquer des connaissances dans n’importe quel domaine, similaire à l’intelligence humaine.
• ASI (Intelligence Artificielle Superintelligente) : une intelligence qui dépasserait significativement les capacités cognitives humaines.

L’offre d’emploi mentionne explicitement plusieurs domaines de recherche, notamment l’économie, le droit, la santé, la “conscience des machines” et la transition de l’AGI vers l’ASI. Le candidat idéal devra définir des questions de recherche critiques, collaborer avec des équipes pluridisciplinaires et mener des expériences pour faire avancer la mission de Google dans ce domaine.

Cette démarche de Google suggère que l’entreprise anticipe activement un futur où l’AGI pourrait devenir réalité, et qu’elle souhaite se préparer aux implications sociétales, économiques et technologiques qui en découleraient.

Point de vue neutre

Cette offre d’emploi de Google représente moins une confirmation de l’imminence de l’AGI qu’une stratégie d’anticipation prudente. Les grandes entreprises technologiques ont toujours investi dans la recherche prospective, même pour des technologies qui pourraient n’émerger que dans plusieurs années, voire décennies.

L’état actuel de l’IA, malgré ses progrès impressionnants avec les grands modèles de langage comme GPT-4 ou Gemini, reste fondamentalement différent d’une véritable intelligence générale. Ces systèmes, bien que puissants, fonctionnent principalement par prédiction statistique et manquent de nombreuses caractéristiques fondamentales de l’intelligence humaine comme la conscience de soi, la compréhension causale profonde ou l’adaptabilité générale.

Cette initiative de Google peut être interprétée comme une reconnaissance que, si l’AGI reste hypothétique à court terme, ses implications potentielles sont suffisamment importantes pour justifier une réflexion anticipée. C’est une approche rationnelle : mieux vaut étudier les conséquences possibles d’une technologie transformative avant son apparition plutôt qu’après.

La création de ce poste reflète également la compétition intense entre les géants technologiques dans le domaine de l’IA. Dans un contexte où OpenAI, Anthropic et d’autres startups attirent talents et investissements, Google affirme sa volonté de rester à la pointe non seulement du développement technologique, mais aussi de la réflexion sur ses implications futures.

Exemple

Imaginez que vous soyez le responsable d’une petite ville tranquille, et qu’un jour, un scientifique local vous annonce qu’il travaille sur une machine capable de contrôler la météo. Cette machine n’existe pas encore, mais les calculs théoriques suggèrent qu’elle pourrait être possible dans les prochaines années.

Que feriez-vous? Vous pourriez hausser les épaules et dire “Appelez-moi quand ça marchera!” Ou bien, en tant que maire prévoyant, vous pourriez créer un comité pour réfléchir aux questions importantes : Comment réglementer une telle technologie? Qui déciderait s’il doit pleuvoir sur les champs ou faire soleil pour le festival municipal? Comment éviter les conflits entre agriculteurs qui veulent de la pluie et propriétaires de terrains de golf qui préfèrent le beau temps?

C’est exactement ce que fait Google avec cette offre d’emploi. Ils ne disent pas “Hé, on a créé l’AGI!” mais plutôt “On devrait peut-être commencer à réfléchir à ce qu’on fera si jamais on y arrive.”

C’est comme si votre conjoint(e) vous disait un matin: “J’ai commandé un livre sur comment élever des dragons” et que vous répondiez paniqué: “Tu as acheté un dragon?!” Non, il/elle se prépare juste… au cas où les dragons deviendraient une réalité. C’est de la planification préventive, pas une confirmation que les dragons existent déjà dans votre garage!

Point de vue optimiste

Cette initiative de Google représente une avancée remarquable dans notre approche collective de l’innovation technologique. Pour la première fois, nous voyons une entreprise majeure investir sérieusement dans la préparation d’un avenir post-AGI, démontrant une vision à long terme et une responsabilité exemplaire.

L’AGI pourrait représenter la plus grande avancée technologique de l’histoire humaine, offrant des solutions à des problèmes jusqu’alors insolubles: changement climatique, maladies incurables, optimisation des ressources mondiales. En préparant dès maintenant ce futur, Google contribue à maximiser les bénéfices potentiels tout en minimisant les risques.

Cette démarche proactive pourrait également accélérer le développement de l’AGI elle-même. En anticipant les défis éthiques, légaux et sociétaux, l’entreprise crée un cadre qui permettra une adoption plus rapide et plus sûre de cette technologie révolutionnaire lorsqu’elle émergera.

Le fait que Google mentionne explicitement des domaines comme l’économie, la santé et l’éducation dans son offre d’emploi montre une vision holistique des impacts de l’AGI. Cela suggère que l’entreprise envisage cette technologie non pas comme une fin en soi, mais comme un outil pour améliorer fondamentalement la condition humaine dans tous ses aspects.

Cette approche pourrait également inspirer d’autres acteurs technologiques à adopter une vision plus responsable et à long terme, créant un effet d’entraînement positif dans l’industrie. Nous pourrions assister à l’émergence d’une nouvelle ère de développement technologique guidée par une réflexion éthique approfondie et une considération sincère du bien commun.

Point de vue pessimiste

Cette offre d’emploi de Google soulève des inquiétudes profondes quant à la direction que prend le développement de l’IA. Qu’une entreprise privée, motivée principalement par le profit et la domination du marché, se positionne comme architecte d’un futur post-AGI devrait nous alarmer collectivement.

L’histoire nous a montré que les avancées technologiques majeures, lorsqu’elles sont contrôlées par des intérêts privés, tendent à exacerber les inégalités plutôt qu’à les réduire. Une AGI développée et contrôlée par Google pourrait concentrer un pouvoir sans précédent entre les mains d’une seule entité commerciale, créant des déséquilibres économiques et sociaux insurmontables.

Cette initiative révèle également une confiance excessive dans notre capacité à contrôler des technologies potentiellement existentielles. Les mentions de “conscience des machines” et de transition vers l’ASI suggèrent que Google envisage sérieusement des scénarios où l’intelligence artificielle pourrait dépasser l’intelligence humaine, avec tous les risques que cela comporte.

Le fait que cette recherche soit menée en interne, sans supervision démocratique ou réglementation internationale adéquate, est particulièrement préoccupant. Des décisions qui pourraient affecter l’avenir de l’humanité tout entière sont prises dans les salles de conseil d’administration d’entreprises privées, sans transparence ni responsabilité publique.

Cette annonce pourrait également intensifier la course aux armements de l’IA entre les grandes puissances technologiques, chacune cherchant à développer l’AGI avant ses concurrents, potentiellement au détriment de la sécurité et de considérations éthiques fondamentales. Dans cette course effrénée, les précautions nécessaires pourraient être négligées, augmentant les risques d’accidents ou de conséquences imprévues désastreuses.