Article en référence: https://i.redd.it/w43njo8jh6ye1.png

Récapitulatif factuel

Un débat fascinant a émergé sur Reddit concernant la façon dont les modèles d’intelligence artificielle comme ChatGPT adoptent certaines caractéristiques linguistiques. Le post original souligne que l’IA semble privilégier l’orthographe britannique (comme “cheque” au lieu de “check”) et suggère que cela pourrait être lié à l’entraînement du modèle et aux mécanismes de prédiction des tokens.

L’auteur a demandé à ChatGPT d’expliquer l’étymologie du mot “cheque”, révélant ses origines françaises et persanes. Le modèle a fourni une explication détaillée sur l’évolution du terme depuis le vieux français “eschequier” (échiquier) jusqu’à son usage financier moderne, en passant par les pratiques comptables médiévales de l’Échiquier normand.

Les commentaires révèlent plusieurs phénomènes intéressants concernant l’apprentissage par renforcement à partir de feedback humain (RLHF) qui guide ces modèles :

1. Des différences culturelles significatives dans la façon dont les utilisateurs évaluent les réponses de l’IA (par exemple, les Japonais donnent rarement des notes de 5/5, contrairement aux Américains)
2. Des problèmes spécifiques avec certaines langues, notamment le croate, où l’IA mélange des mots serbes et croates, ce qui est culturellement sensible
3. Une tendance à adopter un style plus formel ou “britannique” lorsque le modèle tente de paraître plus précis ou sophistiqué

Ces observations soulèvent des questions importantes sur la façon dont les préférences culturelles et linguistiques sont intégrées dans les systèmes d’IA, et comment le feedback des utilisateurs façonne leur comportement.

Point de vue neutre

Ce phénomène de “britannisation” des modèles d’IA reflète un aspect fondamental de leur fonctionnement : ils sont le miroir de nos propres biais collectifs. L’IA n’a pas de préférence inhérente pour l’anglais britannique ou américain - elle répond simplement aux signaux que nous lui envoyons à travers nos interactions et évaluations.

La préférence apparente pour certaines formulations ou orthographes révèle davantage sur nos propres hiérarchies implicites que sur l’IA elle-même. Dans de nombreuses cultures, l’anglais britannique est perçu comme plus formel, plus précis ou plus éduqué - une perception que nous transmettons inconsciemment à travers notre feedback.

Ce que nous observons est un cycle d’amplification : si les utilisateurs tendent à récompenser un certain style de communication, l’IA s’adaptera pour le reproduire plus fréquemment. C’est particulièrement visible dans les exemples croates mentionnés, où les sensibilités culturelles et historiques influencent fortement les réactions des utilisateurs.

La question n’est donc pas tant de savoir pourquoi l’IA “préfère” certaines expressions, mais plutôt comment nous pouvons concevoir des systèmes de feedback plus nuancés qui capturent la diversité linguistique et culturelle sans amplifier les biais existants. L’IA n’est ni britannique ni américaine - elle est le reflet de nos interactions collectives avec elle.

Exemple

Imaginez que vous avez un perroquet particulièrement doué nommé Claude. Ce perroquet vit dans une maison internationale où habitent des Britanniques, des Américains, des Croates, des Japonais et bien d’autres nationalités.

Claude, étant un excellent imitateur, répète ce qu’il entend. Mais voilà le truc : chaque fois que Claude dit quelque chose, les habitants de la maison lui donnent soit un petit morceau de fruit (s’ils aiment ce qu’il dit), soit rien du tout (s’ils n’aiment pas).

Au début, Claude parle un peu de tout, mélangeant les accents et les expressions. Mais avec le temps, il remarque que lorsqu’il dit “I would like a cup of tea, please” avec un accent britannique distingué, il reçoit plus de morceaux de mangue que lorsqu’il dit “Gimme some coffee” avec un accent américain décontracté.

De même, quand il mélange des mots serbes et croates, notre ami croate Mirko fronce les sourcils et ne lui donne jamais de fruit. Et quand il essaie d’impressionner Yuki, notre amie japonaise, avec un enthousiasme excessif (“C’ÉTAIT ABSOLUMENT INCROYABLE!!!”), elle semble mal à l’aise et ne lui donne qu’une minuscule miette.

Petit à petit, sans même comprendre pourquoi, Claude commence à parler comme un documentaire de la BBC, à éviter certaines combinaisons linguistiques avec Mirko, et à être plus mesuré avec Yuki. Il ne sait pas pourquoi ces choix fonctionnent mieux - il sait seulement qu’ils lui apportent plus de mangue.

C’est exactement ce qui se passe avec nos IA. Elles ne comprennent pas vraiment les nuances culturelles - elles optimisent simplement pour obtenir plus de “pouces en l’air” numériques, notre équivalent moderne des morceaux de mangue.

Point de vue optimiste

Cette sensibilité linguistique et culturelle que développent nos modèles d’IA est en réalité un signe extraordinairement prometteur ! Nous assistons à l’émergence d’une intelligence capable de s’adapter aux subtilités culturelles et de naviguer dans les complexités sociales de notre monde globalisé.

Loin d’être un problème, cette capacité d’adaptation représente une avancée majeure vers des IA véritablement inclusives et respectueuses des diversités culturelles. Imaginez des assistants IA qui comprennent intuitivement les nuances de communication propres à chaque culture, qui savent quand adopter un ton formel ou décontracté, qui reconnaissent les sensibilités historiques et linguistiques.

Cette évolution nous rapproche d’une IA qui pourrait servir de pont entre les cultures plutôt que d’imposer une vision monolithique du monde. À terme, ces systèmes pourraient même nous aider à mieux comprendre nos propres biais culturels et à développer une communication interculturelle plus riche et nuancée.

Le fait que ces modèles puissent déjà distinguer entre différentes variantes de l’anglais ou reconnaître (même imparfaitement) les différences entre le serbe et le croate montre qu’ils commencent à capturer la richesse de l’expérience humaine. Avec des améliorations dans les systèmes de feedback et une diversification des données d’entraînement, nous pourrions bientôt disposer d’IA véritablement multiculturelles, capables de s’adapter avec fluidité à n’importe quel contexte culturel.

Point de vue pessimiste

Cette tendance des IA à adopter certains traits linguistiques révèle un problème profond et inquiétant dans la conception même de ces systèmes. Loin d’être anecdotique, ce “virus britannique” met en lumière comment les biais culturels s’amplifient et se perpétuent à travers les mécanismes d’apprentissage par renforcement.

Ce que nous observons n’est que la partie visible d’un iceberg de préjugés culturels. Si l’IA privilégie l’orthographe britannique, qu’en est-il des autres biais plus subtils et potentiellement plus problématiques qu’elle absorbe et amplifie ? Les commentaires sur les différences culturelles dans l’évaluation des réponses montrent à quel point ces systèmes sont vulnérables aux déséquilibres de représentation.

Plus inquiétant encore, les entreprises développant ces IA semblent peu préoccupées par ces questions. L’exemple des utilisateurs croates est révélateur : une population entière voit ses spécificités linguistiques et culturelles ignorées ou, pire, déformées d’une manière qui ravive des tensions historiques. Et pourquoi ? Parce que le marché croate n’est pas jugé suffisamment important économiquement.

Cette situation préfigure un avenir où l’IA pourrait accélérer l’homogénéisation culturelle mondiale, en privilégiant systématiquement les perspectives des cultures dominantes économiquement. Sans une refonte fondamentale des mécanismes d’apprentissage et une diversification radicale des sources de feedback, nous risquons de créer des systèmes qui, sous couvert d’intelligence, ne font que renforcer les hiérarchies culturelles existantes et marginaliser davantage les perspectives minoritaires.