Article en référence: https://www.reddit.com/r/singularity/comments/1h9ykt9/john_schulman_openai_cofounder_and_one_of_the_key/
Article Reddit: John Schulman, OpenAI cofounder and one of the key minds behind ChatGPT (now at Anthropic), says that we only know how to train reasoning models to work in fields like maths with objective ground truth answers, it’s a mistake to assume this will work generally https://www.reddit.com/r/singularity/comments/1h9ykt9/john_schulman_openai_cofounder_and_one_of_the_key/
John Schulman, cofondateur d’OpenAI et l’un des architectes de ChatGPT, maintenant chez Anthropic, soulève un point crucial sur l’intelligence artificielle : nos modèles actuels excellent uniquement dans les domaines où il existe une “vérité objective”, comme les mathématiques.
Le raisonnement des IA fonctionne particulièrement bien lorsqu’il y a des réponses clairement vraies ou fausses. Par exemple, 2+2=4 est vérifiable objectivement. Cette approche, appelée “Chain of Thought” (chaîne de pensée), permet à l’IA de décomposer un problème en étapes logiques pour atteindre une conclusion vérifiable.
Cependant, cette méthode montre ses limites dans des domaines plus nuancés comme l’éthique, l’art ou les sciences sociales, où les “bonnes réponses” sont souvent subjectives ou contextuelles. Les systèmes actuels ne font qu’imiter le raisonnement humain sans véritablement comprendre ou innover.
Cette limitation reflète l’état actuel de l’IA : un outil puissant mais spécialisé. Comme une calculatrice très sophistiquée, elle excelle dans son domaine mais peine à sortir de son cadre prédéfini.
Les progrès sont réels et significatifs dans les domaines techniques, mais les questions complexes qui nécessitent une compréhension nuancée du monde restent hors de portée. Ce n’est ni une catastrophe ni une révolution totale, mais plutôt une évolution technologique avec ses forces et ses limites.
L’IA continuera probablement à progresser de manière incrémentale, améliorant ses capacités dans des domaines spécifiques tout en restant limitée dans d’autres. Cette progression ressemblera davantage à l’évolution d’un outil qu’à l’émergence d’une conscience artificielle.
Cette “limitation” n’est qu’une étape transitoire ! Les modèles actuels démontrent déjà des capacités impressionnantes dans des domaines créatifs comme l’art et la musique, prouvant que le raisonnement peut s’étendre au-delà des vérités objectives.
Les futures innovations permettront de développer de nouvelles approches pour évaluer et améliorer le raisonnement des IA dans des domaines complexes. L’apprentissage par renforcement, combiné à des métriques sophistiquées et à l’interaction avec le monde réel, pourrait débloquer des capacités de raisonnement plus générales.
La collaboration entre l’intelligence humaine et artificielle créera une synergie unique, où chacun compense les limitations de l’autre. Nous sommes à l’aube d’une révolution cognitive qui transformera notre façon de résoudre les problèmes complexes.
Cette limitation fondamentale révèle une vérité dérangeante : nous créons des systèmes qui excellent à imiter sans comprendre. Les IA actuelles sont des perroquets sophistiqués qui reproduisent des patterns sans véritable compréhension.
Le danger réside dans notre tendance à surestimer leurs capacités. En déployant ces systèmes dans des domaines critiques nécessitant un jugement nuancé, nous risquons de déléguer des décisions importantes à des machines fondamentalement incapables de comprendre leurs implications.
Plus inquiétant encore, cette course à l’IA générale pourrait nous conduire à créer des systèmes qui semblent intelligents mais qui propagent des biais et des erreurs à une échelle sans précédent, tout en donnant l’illusion d’une objectivité qu’ils ne possèdent pas.
Si vous n'êtes pas redirigé automatiquement, 👉 cliquez ici 👈