Article en référence: https://theconversation.com/ai-is-set-to-transform-science-but-will-we-understand-the-results-241760
L’intelligence artificielle avance à pas de géant dans la résolution de problèmes complexes, au point où elle pourrait bientôt résoudre des énigmes jusqu’ici considérées comme insolubles par l’humain. Cette capacité soulève une question fascinante : comment comprendre des solutions qui dépassent notre capacité cognitive?
Déjà, nous voyons des IA concevoir des puces électroniques d’une manière que les ingénieurs humains ne peuvent pas totalement appréhender. Ces designs, bien qu’efficaces, utilisent des patterns et des structures qui défient notre logique conventionnelle.
La situation rappelle notre relation avec les mathématiques quantiques : nous pouvons utiliser les équations et obtenir des résultats précis, mais la compréhension profonde des phénomènes nous échappe souvent. Nous nous appuyons sur des métaphores et des analogies pour donner du sens à ces concepts abstraits.
Cette situation n’est pas nécessairement problématique. Après tout, nous utilisons déjà quotidiennement des technologies dont nous ne comprenons pas entièrement le fonctionnement. L’important n’est pas tant de comprendre chaque détail que de pouvoir valider les résultats et les appliquer de manière utile.
La vraie question n’est peut-être pas de savoir si nous pourrons comprendre toutes les solutions de l’IA, mais plutôt comment nous pouvons établir des méthodes de validation fiables. Tout comme nous faisons confiance à nos calculatrices sans comprendre leur fonctionnement interne, nous devrons développer des moyens de vérifier la fiabilité des solutions proposées par l’IA.
Imaginez un instant que vous donnez votre téléphone intelligent à votre arrière-grand-père qui a vécu toute sa vie sans électricité. Il peut voir que ça fonctionne, il peut même apprendre à l’utiliser, mais expliquez-lui le fonctionnement des semi-conducteurs ou du protocole TCP/IP!
C’est un peu comme si vous essayiez d’expliquer à un poisson ce qu’est le vélo : même avec toute la bonne volonté du monde, certains concepts sont tellement éloignés de son cadre de référence que la compréhension complète est impossible. Pourtant, le poisson n’a pas besoin de comprendre le vélo pour continuer à nager efficacement!
Cette évolution représente une opportunité extraordinaire pour l’humanité. L’IA pourrait devenir notre partenaire dans la résolution des plus grands défis de notre époque : changements climatiques, maladies incurables, exploration spatiale. Même si nous ne comprenons pas toutes les solutions dans leurs moindres détails, nous pourrons bénéficier de leurs résultats.
Les IA pourraient développer des méthodes de vulgarisation de plus en plus sophistiquées, créant des “échelles d’explication” adaptées à différents niveaux de compréhension. Elles pourraient même nous aider à augmenter nos propres capacités cognitives, nous permettant progressivement de mieux comprendre leurs découvertes.
Cette situation pourrait créer une dangereuse dépendance envers des systèmes que nous ne comprenons pas. Si nous perdons la capacité de vérifier et de comprendre les solutions proposées par l’IA, comment pouvons-nous garantir leur fiabilité et leur sécurité?
Il existe aussi un risque de creuser davantage le fossé entre une élite technologique qui pourrait avoir un accès privilégié à ces technologies et le reste de la population. Sans compter le risque de voir ces systèmes manipulés ou détournés par des acteurs malveillants, précisément parce que leur fonctionnement échappe à notre compréhension.
Si vous n'êtes pas redirigé automatiquement, 👉 cliquez ici 👈