Article en référence: https://i.redd.it/5bo3l9c6x4ie1.jpeg

Récapitulatif factuel

La communauté tech débat actuellement de la nature “pure” des modèles de langage comme O1 et R1. Le débat a été déclenché par Gary Marcus, qui affirme que ces modèles ne sont pas de “purs” LLM (Large Language Models) mais plutôt des systèmes complexes.

DeepSeek R1 est en réalité un modèle de type “decoder-only transformer” utilisant une architecture MoE (Mixture of Experts). Cette architecture permet au modèle d’activer différents “experts” spécialisés selon le type de tâche. Le modèle a été entraîné avec une technique appelée GRPO (Generalized Reward-Powered Optimization), une version améliorée de PPO (Proximal Policy Optimization).

Quant à O1 d’OpenAI, bien que son architecture exacte ne soit pas publique, l’entreprise a confirmé qu’il s’agit bien d’un LLM unique et non d’un système complexe. La particularité de ces modèles est leur capacité à générer des chaînes de réflexion (Chain of Thought) avant de produire une réponse finale.

Point de vue neutre

Le débat sur la “pureté” des LLM semble plus sémantique que technique. Que ce soit R1 ou O1, ces modèles restent fondamentalement des transformers qui prédisent le prochain token. Leur particularité réside dans leur entraînement et leur façon de structurer leur raisonnement, pas dans leur architecture fondamentale.

La vraie question n’est peut-être pas de savoir s’ils sont “purs”, mais plutôt de comprendre comment leurs différentes approches d’entraînement influencent leurs capacités. L’important n’est pas tant la classification que les résultats obtenus.

Exemple

Imaginez un chef cuisinier. Un chef “traditionnel” qui cuisine à l’instinct serait comme un LLM classique. Maintenant, si ce même chef prend l’habitude d’écrire sa recette étape par étape avant de cuisiner, est-il moins chef pour autant? C’est essentiellement ce que font O1 et R1 : ils “réfléchissent à voix haute” avant de donner leur réponse finale.

C’est comme si on reprochait à un mathématicien d’utiliser un brouillon pour résoudre un problème complexe plutôt que de donner directement la réponse. Le processus ne change pas la nature du mathématicien, il le rend juste plus méthodique.

Point de vue optimiste

Cette évolution des LLM vers des modèles capables de raisonnement structuré représente une avancée majeure! La capacité à générer des chaînes de réflexion explicites est exactement ce dont nous avions besoin pour des IA plus fiables et transparentes.

Ces développements ouvrent la voie à des assistants IA vraiment utiles, capables non seulement de donner des réponses, mais aussi d’expliquer leur raisonnement. C’est un pas de plus vers des IA véritablement compréhensibles et dignes de confiance.

Point de vue pessimiste

La complexification des modèles de langage, qu’elle soit architecturale ou dans leur processus de raisonnement, nous éloigne de la compréhension fondamentale de leur fonctionnement. Plus nous ajoutons de couches d’abstraction, plus il devient difficile de prédire et contrôler leur comportement.

De plus, cette tendance à “cacher” certains processus de raisonnement (comme dans O1) soulève des questions éthiques. Si nous ne pouvons pas voir ou comprendre comment ces modèles arrivent à leurs conclusions, comment pouvons-nous leur faire confiance pour des décisions importantes?