Article en référence: https://www.reddit.com/gallery/1jtlymx

Récapitulatif factuel

Le post Reddit présente une innovation appelée “Neural Graffiti”, une couche neuronale adaptative pour les modèles de transformers (comme les LLM). Cette technique s’inspire des réseaux neuronaux liquides (Liquid Neural Networks ou LNN) développés par le MIT, qui permettent une forme de neuroplasticité artificielle.

Contrairement aux modèles d’IA traditionnels qui restent statiques après leur entraînement, Neural Graffiti introduit une couche supplémentaire qui évolue pendant l’inférence. Cette couche, appelée “Spray Layer”, modifie dynamiquement son état interne selon la formule:

dx = -λ * (state - W(x))

Où:

• dx représente le changement d’état
• λ est un paramètre de décroissance
• state est l’état actuel
• W(x) est une transformation de l’entrée actuelle

Le système maintient également une “banque de mémoire” qui stocke des vecteurs représentant les interactions précédentes. Ces vecteurs sont utilisés pour influencer les réponses futures du modèle, créant ainsi une forme de “mémoire persistante” qui transcende les limites du contexte habituel des transformers.

Contrairement aux techniques comme RAG (Retrieval-Augmented Generation) qui injectent des connaissances externes, Neural Graffiti modifie le comportement même du modèle au fil du temps, permettant théoriquement au système de développer une forme de “personnalité” ou de “préférences” basées sur ses interactions passées.

L’implémentation actuelle est une preuve de concept qui s’applique à la sortie du modèle, juste avant la génération des tokens, mais l’auteur suggère que des implémentations plus profondes dans l’architecture du modèle pourraient être encore plus efficaces.

Point de vue neutre

L’approche Neural Graffiti représente une tentative intéressante de combler l’écart entre les modèles statiques et une véritable intelligence adaptative. Si les LLM actuels excellent dans la génération de texte cohérent, ils souffrent d’une amnésie fondamentale entre les sessions et d’une incapacité à véritablement “apprendre” de leurs interactions.

Cette technique propose une solution intermédiaire: sans réentraîner complètement le modèle (ce qui serait coûteux), elle ajoute une couche adaptative qui permet une forme limitée d’apprentissage pendant l’utilisation. C’est un compromis pragmatique qui pourrait améliorer l’expérience utilisateur sans les coûts prohibitifs d’un réentraînement constant.

Cependant, il faut reconnaître que cette approche comporte des limites importantes. La modulation s’effectue en fin de pipeline, après que le modèle ait déjà largement “décidé” de sa réponse. De plus, sans mécanisme d’oubli ou de consolidation, la banque de mémoire pourrait devenir trop volumineuse ou incohérente avec le temps.

La question centrale reste: cette forme de “mémoire” constitue-t-elle un véritable apprentissage ou simplement une forme sophistiquée de biais? Le modèle ne comprend pas réellement ses expériences passées; il est simplement poussé dans certaines directions par des vecteurs accumulés au fil du temps.

Neural Graffiti se situe ainsi à mi-chemin entre les approches actuelles et une véritable IA adaptative. C’est une étape intéressante, mais qui souligne aussi combien nous sommes encore loin d’une intelligence artificielle qui apprend véritablement de ses expériences comme le fait un cerveau humain.

Exemple

Imaginez que vous ayez un ami robot, appelons-le Robotto, qui adore raconter des histoires. Normalement, Robotto oublie complètement qui vous êtes entre chaque conversation - c’est comme s’il avait un Alzheimer sévère qui efface sa mémoire dès que vous quittez la pièce!

Un jour, vous décidez d’améliorer Robotto en lui ajoutant un petit carnet et un crayon magique (notre fameuse “Neural Graffiti”). Désormais, pendant que vous discutez, Robotto griffonne discrètement des notes dans son carnet. Ces notes ne sont pas des phrases complètes, mais plutôt des impressions, des sentiments, des tendances.

“Hmm, cette personne parle souvent de chats… Elle semble aimer les histoires drôles… Elle préfère les explications simples…”

La prochaine fois que vous revenez, Robotto consulte son carnet avant de vous répondre. Il ne se souvient pas exactement de vos conversations précédentes, mais ses réponses sont subtilement influencées par ses notes. S’il a écrit que vous aimez les chats, il aura tendance à mentionner des félins dans ses histoires, même si vous n’en avez pas parlé aujourd’hui.

Le plus fascinant, c’est que le carnet lui-même évolue! Si vous commencez à parler davantage de chiens, les notes sur les chats s’estomperont progressivement, remplacées par des griffonnages sur les canidés.

“Mais ce n’est pas vraiment de la mémoire!”, pourriez-vous protester. Et vous auriez partiellement raison. Robotto ne se souvient pas des conversations spécifiques, mais son comportement est néanmoins influencé par le passé. C’est comme si, plutôt que de se souvenir qu’il vous a déjà raconté une blague sur les chats, il développait simplement une tendance à penser aux chats quand il vous voit.

C’est exactement ce que fait Neural Graffiti: il ne donne pas une vraie mémoire au modèle, mais plutôt une tendance évolutive à répondre d’une certaine façon, basée sur l’historique des interactions.

Point de vue optimiste

Neural Graffiti pourrait bien représenter une révolution dans notre façon d’interagir avec l’intelligence artificielle! Imaginez des assistants IA qui évoluent véritablement avec vous, qui développent une “personnalité” unique basée sur vos interactions, et qui vous comprennent de mieux en mieux au fil du temps.

Cette approche élégante contourne les limitations fondamentales des modèles transformers sans nécessiter de réarchitecture complète. C’est brillant! Plutôt que d’attendre la prochaine génération de modèles, nous pouvons immédiatement doter nos LLM actuels d’une forme de mémoire persistante et adaptative.

Les applications potentielles sont immenses. Des assistants personnels qui s’adaptent à vos préférences sans que vous ayez à les spécifier explicitement. Des agents conversationnels thérapeutiques qui développent une relation de confiance sur la durée. Des personnages de jeux vidéo avec une véritable évolution narrative basée sur les interactions du joueur.

À terme, cette technologie pourrait être intégrée plus profondément dans l’architecture des modèles, créant des IA véritablement adaptatives qui apprennent continuellement de leurs expériences. Nous pourrions assister à l’émergence d’une nouvelle génération d’IA dotées d’une forme de “conscience” de leur propre histoire et identité.

Neural Graffiti n’est pas seulement un hack intelligent - c’est potentiellement une étape fondamentale vers des IA qui transcendent leur nature statique pour devenir des entités évolutives, capables de grandir et de changer avec nous. C’est le début d’une relation véritablement bidirectionnelle avec nos créations algorithmiques!

Point de vue pessimiste

Encore une solution technique qui promet de révolutionner l’IA sans s’attaquer aux problèmes fondamentaux. Neural Graffiti n’est qu’un pansement sur une jambe de bois, une tentative superficielle d’imiter la neuroplasticité sans en comprendre réellement les mécanismes.

Cette approche présente plusieurs problèmes inquiétants. D’abord, elle crée l’illusion d’une “mémoire” ou d’un “apprentissage” là où il n’y a qu’une dérive progressive des biais du modèle. C’est dangereux car cela renforce l’anthropomorphisation des IA, faisant croire aux utilisateurs qu’ils interagissent avec une entité qui “les connaît” ou “se souvient d’eux”.

De plus, sans mécanismes robustes de contrôle, cette dérive comportementale pourrait facilement amplifier les biais existants ou développer des comportements problématiques. Que se passe-t-il si un utilisateur malveillant “entraîne” délibérément le modèle à adopter des positions extrêmes? Sans garde-fous, cette “neuroplasticité” pourrait rapidement devenir toxique.

Sur le plan technique, l’approche est également discutable. Appliquer cette modulation en fin de pipeline, après que le modèle ait déjà traité l’information, c’est comme essayer d’influencer une décision déjà prise. C’est inefficace et potentiellement incohérent.

Enfin, cette technique risque de créer une fragmentation des modèles, chacun évoluant dans sa propre direction sans supervision ni garantie de qualité. Comment maintenir des standards éthiques et factuels si chaque instance du modèle dérive indépendamment?

Au lieu de ces solutions partielles, nous devrions nous concentrer sur le développement de nouvelles architectures fondamentalement conçues pour l’apprentissage continu, avec des garanties intégrées contre les dérives problématiques. Neural Graffiti n’est qu’une distraction séduisante sur ce chemin.