Article en référence: https://v.redd.it/izceqbs3f8oe1

Récapitulatif factuel

La publication Reddit en question présente une animation extraite d’une vidéo éducative de la chaîne YouTube 3Blue1Brown, expliquant le fonctionnement des modèles de langage comme ChatGPT. L’animation montre comment ces systèmes d’intelligence artificielle traitent l’information à travers des matrices et des vecteurs pour générer du texte cohérent.

Les modèles de langage comme ChatGPT fonctionnent essentiellement comme un système de prédiction de texte très sophistiqué. Voici comment cela se déroule :

1. Le modèle a été entraîné sur d’immenses quantités de textes provenant d’Internet, de livres et d’autres sources.
2. Lors de cet entraînement, il apprend les relations statistiques entre les mots et les concepts.
3. Quand vous lui soumettez une question ou une phrase, il analyse ce texte et calcule les probabilités des mots qui pourraient suivre.
4. Il génère ensuite une réponse mot par mot (ou plus précisément, token par token), en choisissant à chaque étape le mot le plus probable selon le contexte.

L’architecture utilisée s’appelle “Transformer”, une innovation qui permet au modèle de prendre en compte l’ensemble du contexte d’une conversation plutôt que simplement les mots précédents. Cette capacité à maintenir le contexte est ce qui rend les réponses de ChatGPT relativement cohérentes sur de longs échanges.

Dans les commentaires de la publication, plusieurs utilisateurs ont critiqué le fait que la vidéo originale de 3Blue1Brown ait été partagée sans crédit, avec une musique ajoutée et sans les explications détaillées qui rendaient la vidéo originale si instructive.

Point de vue neutre

Cette situation illustre parfaitement la façon dont nous consommons l’information à l’ère des réseaux sociaux. D’un côté, nous avons un contenu éducatif de haute qualité (la vidéo originale de 3Blue1Brown) qui explique en détail un sujet complexe. De l’autre, nous avons sa transformation en contenu viral court, avec une musique entraînante mais sans les explications qui lui donnaient sa valeur pédagogique.

Ce phénomène n’est ni bon ni mauvais en soi - il reflète simplement l’évolution de nos habitudes de consommation médiatique. Les formats courts et stimulants attirent l’attention, mais ils ne peuvent pas remplacer l’apprentissage en profondeur. Ils servent plutôt de porte d’entrée, d’introduction qui peut éveiller la curiosité.

La technologie des grands modèles de langage comme ChatGPT est elle-même à un carrefour similaire. Elle rend l’information plus accessible, mais cette accessibilité s’accompagne parfois d’une perte de profondeur ou de précision. Tout comme la vidéo raccourcie, ChatGPT peut donner l’impression de comprendre un sujet sans nécessairement en saisir toutes les nuances.

La réaction des commentateurs Reddit montre aussi notre relation ambivalente avec l’attribution du crédit intellectuel à l’ère numérique. Nous valorisons l’originalité et reconnaissons l’importance de citer nos sources, mais nos outils de partage et nos plateformes sociales facilitent la dissémination de contenu sans son contexte d’origine.

Exemple

Imaginez que vous êtes dans un restaurant et que vous commandez un plat que vous n’avez jamais goûté auparavant. Vous demandez au serveur : “Est-ce que c’est bon, la poutine au foie gras?”

Le serveur, qui dans notre analogie joue le rôle de ChatGPT, n’a jamais goûté ce plat spécifique. Mais il a servi des centaines de clients, entendu leurs commentaires sur la poutine traditionnelle, sur d’autres plats au foie gras, et il a observé que les clients qui aiment les plats riches et savoureux tendent à apprécier cette combinaison.

Alors il vous répond : “Oui, c’est excellent! Le contraste entre le croustillant des frites, le fondant du fromage et la richesse du foie gras crée une harmonie parfaite en bouche.”

Est-ce qu’il ment? Pas exactement. Il fait une prédiction basée sur toutes les conversations qu’il a entendues et les tendances qu’il a observées. Il n’a pas d’opinion personnelle - il n’a jamais “goûté” quoi que ce soit - mais il a appris à prédire ce que quelqu’un dirait probablement dans cette situation.

C’est exactement ce que fait ChatGPT. Quand vous lui demandez si la poutine au foie gras est bonne, il ne “sait” pas vraiment. Il n’a jamais mangé. Mais il a “lu” des millions de textes où les gens parlent de nourriture, de poutine, de foie gras, et il peut prédire quelle serait une réponse probable à votre question.

Et tout comme notre serveur pourrait parfois se tromper (peut-être que vous détestez le foie gras!), ChatGPT peut aussi générer des réponses qui semblent plausibles mais qui ne correspondent pas à la réalité ou à vos préférences personnelles.

Point de vue optimiste

Quelle merveille d’ingénierie que ces modèles de langage! Pensez-y un instant : nous avons créé des systèmes capables d’apprendre les subtilités du langage humain à partir de textes, sans aucune instruction explicite sur la grammaire ou la sémantique. C’est comme si nous avions découvert comment extraire l’essence même de la communication humaine et la transformer en algorithme.

Cette technologie représente une démocratisation sans précédent du savoir. Aujourd’hui, n’importe qui avec une connexion internet peut avoir accès à un assistant virtuel capable de répondre à des questions sur pratiquement n’importe quel sujet, d’aider à rédiger un texte, ou même de générer du code informatique. C’est comme avoir un expert polyvalent disponible 24/7, sans rendez-vous et sans frais prohibitifs.

Les applications potentielles sont infinies! Dans l’éducation, ces outils peuvent fournir un tutorat personnalisé à chaque élève. Dans la santé, ils peuvent aider les médecins à rester à jour avec les dernières recherches. Dans les entreprises, ils peuvent automatiser les tâches répétitives et libérer du temps pour la créativité et l’innovation.

Et ce n’est que le début! À mesure que ces modèles s’amélioreront, ils deviendront encore plus précis, plus utiles et plus accessibles. Ils pourront comprendre des contextes plus complexes, générer des réponses plus nuancées et peut-être même développer une forme de raisonnement qui se rapproche davantage de la pensée humaine.

La vidéo partagée sur Reddit, même simplifiée, contribue à cette démocratisation en rendant accessible à un public plus large la compréhension de ces technologies révolutionnaires. Elle suscite la curiosité et invite à explorer davantage ce domaine fascinant qui transforme notre monde jour après jour.

Point de vue pessimiste

Cette publication Reddit illustre parfaitement les problèmes fondamentaux de notre ère numérique : l’appauvrissement du contenu éducatif et la propagation de la désinformation technologique.

La vidéo originale de 3Blue1Brown, une explication rigoureuse et nuancée, a été dépouillée de sa substance, agrémentée d’une musique accrocheuse et présentée comme une explication complète du fonctionnement de ChatGPT. C’est exactement ce type de simplification excessive qui alimente les malentendus sur l’IA et crée des attentes irréalistes.

Ces modèles de langage ne “comprennent” rien. Ils ne font que reproduire des motifs statistiques observés dans d’énormes quantités de texte. Leur apparente intelligence n’est qu’une illusion créée par notre tendance humaine à anthropomorphiser les technologies. Nous projetons de la compréhension là où il n’y a que des calculs de probabilité.

Cette illusion est dangereuse. Elle nous pousse à faire confiance à ces systèmes pour des tâches qui nécessitent un véritable jugement humain. Des décisions importantes dans les domaines de la santé, de l’éducation ou de la justice pourraient être influencées par des systèmes qui n’ont aucune compréhension réelle des enjeux humains en question.

De plus, ces modèles perpétuent et amplifient les biais présents dans leurs données d’entraînement. Ils sont entraînés sur des textes produits par des humains, avec tous leurs préjugés et leurs erreurs. Loin d’être des oracles neutres, ils risquent de renforcer les inégalités existantes sous couvert d’objectivité algorithmique.

Et que dire de l’impact environnemental? L’entraînement de ces modèles géants consomme des quantités astronomiques d’énergie. Pendant que nous nous émerveillons devant leurs capacités, des centres de données gigantesques tournent à plein régime, contribuant au réchauffement climatique pour que nous puissions avoir des conversations avec une machine.

La fascination pour ces technologies nous détourne des véritables défis auxquels l’humanité est confrontée. Plutôt que d’investir dans l’éducation humaine et la résolution collective de problèmes, nous déléguons de plus en plus notre pensée à des machines qui ne font qu’imiter l’intelligence sans la posséder réellement.