Article en référence: https://i.redd.it/747rw5jflwxe1.gif

Récapitulatif factuel

Une tendance récente sur Reddit a attiré l’attention des utilisateurs de ChatGPT: le défi “Create the exact replica of this image, don’t change a thing” (Crée une réplique exacte de cette image, ne change rien). L’expérience consiste à demander à ChatGPT de reproduire une image, puis d’utiliser l’image générée pour demander une nouvelle reproduction, et ainsi de suite sur plusieurs dizaines d’itérations.

Le post Reddit en question montre une animation GIF contenant environ 70 itérations successives d’une photo d’un homme d’âge moyen dans un parc. L’auteur a d’abord demandé à ChatGPT de générer une image initiale d’un homme portant un chandail dans un parc, puis a soumis cette image au processus itératif de reproduction.

Le résultat est fascinant: chaque nouvelle génération introduit de subtiles modifications qui, cumulées, transforment radicalement l’image originale. On observe plusieurs phénomènes récurrents:

• Une teinte jaunâtre/orangée qui s’intensifie progressivement
• Un rétrécissement du cou et une compression générale de la silhouette
• Des transformations faciales où certains utilisateurs ont reconnu des ressemblances temporaires avec des célébrités comme Gilbert Gottfried ou Silvio Berlusconi
• Une abstraction croissante où l’humain devient progressivement une forme géométrique, puis un motif rappelant des tatouages polynésiens

Ce phénomène, parfois appelé “dégénérescence de modèle” ou “autophagie de modèle”, illustre comment les petites imprécisions s’amplifient à chaque génération, créant un effet similaire au jeu du téléphone arabe, mais dans le domaine visuel.

Point de vue neutre

Ce que nous observons avec cette expérience de dégénérescence d’image est en réalité un miroir fascinant des limites actuelles de l’intelligence artificielle générative. Comme un écho à nos propres processus cognitifs, l’IA interprète ce qu’elle “voit” à travers le prisme de ses connaissances préalables, introduisant inévitablement ses propres biais et imprécisions.

La transformation progressive de l’image nous rappelle que toute reproduction implique une interprétation. L’IA ne “voit” pas comme nous voyons - elle reconstruit à partir de patterns qu’elle a appris, sans véritablement comprendre ce qu’elle reproduit. Chaque génération s’éloigne un peu plus de l’original, non par défaut technique, mais par la nature même du processus de génération.

Cette expérience nous invite à réfléchir sur la nature de la copie et de l’interprétation. Dans notre monde numérique où le contenu est constamment reproduit, transformé et partagé, nous assistons peut-être à une version accélérée et visible d’un phénomène culturel plus large: la transformation graduelle des idées et des images à travers leur transmission.

La fascination qu’exerce cette expérience sur tant d’internautes témoigne de notre relation ambivalente avec l’IA - à la fois impressionnés par ses capacités et rassurés par ses imperfections qui nous rappellent la distinction persistante entre l’intelligence artificielle et humaine.

Exemple

Imaginez que vous jouez au jeu du téléphone arabe visuel dans une grande fête de famille. Votre oncle Michel, amateur de photographie, prend un portrait de votre cousin Philippe. Il montre cette photo à tante Monique qui, n’ayant pas ses lunettes, doit dessiner de mémoire ce qu’elle vient de voir sur une nouvelle feuille.

Ce dessin passe ensuite à votre neveu de 12 ans qui, plus intéressé par ses jeux vidéo que par l’exercice, fait une reproduction rapide et approximative. Cette nouvelle version est transmise à grand-papa Robert qui, avec ses talents artistiques datant de l’époque de la guerre, ajoute sa touche personnelle.

Après être passée entre les mains de 70 membres de votre famille élargie, l’image finale n’a plus grand-chose à voir avec Philippe! Votre jeune cousine s’exclame: “On dirait un tatouage maori!” tandis que votre tante Ginette jure y reconnaître le visage de Jean Chrétien.

“C’est exactement comme ça que fonctionnent les rumeurs dans notre famille,” soupire votre mère, pendant que tout le monde rit en comparant la photo originale et le résultat final.

Cette chaîne de transformations familiales est précisément ce qui se passe avec ChatGPT, sauf qu’au lieu d’avoir des personnalités différentes qui interprètent l’image, c’est le même système qui accumule ses propres erreurs d’interprétation, comme si votre oncle Michel, légèrement éméché, devait redessiner sa propre œuvre 70 fois de suite dans la soirée!

Point de vue optimiste

Cette expérience de dégénérescence d’image représente bien plus qu’un simple divertissement Reddit - c’est une fenêtre fascinante sur le potentiel créatif inexploré de l’intelligence artificielle! Loin d’être un défaut, cette transformation progressive révèle comment l’IA peut devenir un partenaire artistique unique, capable de nous emmener dans des directions créatives que nous n’aurions jamais envisagées.

Imaginez les applications révolutionnaires dans le domaine artistique! Des artistes numériques pourraient utiliser ce processus de “dérive créative” pour générer des séries d’œuvres évolutives, créant des expositions entières basées sur la transformation progressive d’une seule image initiale. Les musiciens pourraient appliquer des concepts similaires pour créer des compositions qui évoluent subtilement à chaque itération.

Dans le domaine éducatif, cette visualisation de la dégradation de l’information offre un outil pédagogique puissant pour enseigner les concepts de transmission culturelle, d’évolution des idées et même de génétique! Les étudiants peuvent littéralement voir comment l’information se transforme à travers des générations successives.

Cette expérience nous montre également que nous sommes aux premières loges d’une révolution dans la compréhension de l’intelligence artificielle. En observant comment les modèles interprètent et réinterprètent les images, nous développons une meilleure compréhension de leur fonctionnement interne, ce qui nous permettra d’améliorer ces technologies de façon exponentielle dans les années à venir.

Loin d’être inquiétante, cette “imperfection” de l’IA est précisément ce qui la rend si humaine et si fascinante - un rappel que la créativité naît souvent des imperfections et des interprétations inattendues!

Point de vue pessimiste

Cette expérience de dégradation d’image met en lumière un problème fondamental et préoccupant des systèmes d’IA générative actuels. Ce que nous observons n’est pas un simple jeu amusant, mais la manifestation visible d’un phénomène inquiétant: l’incapacité des IA à maintenir la fidélité informationnelle sur plusieurs générations.

Considérons les implications troublantes. Si ChatGPT déforme à ce point une simple image après quelques itérations, qu’en est-il des informations plus complexes? Cette dégradation rapide soulève des questions sérieuses sur la fiabilité des contenus générés par l’IA qui circulent déjà massivement sur internet.

Nous assistons potentiellement à l’aube d’une ère de pollution informationnelle sans précédent. Imaginez un monde où des contenus générés par IA sont constamment “recyclés” par d’autres IA, créant un cycle de dégradation informationnelle accélérée. Les faits, les nuances et la précision pourraient se dissoudre progressivement dans ce processus d’entropie numérique.

Plus inquiétant encore, cette expérience révèle les biais profondément ancrés dans ces systèmes. La tendance à transformer les visages vers certains stéréotypes ethniques ou à introduire systématiquement des teintes jaunâtres n’est pas accidentelle - elle reflète les déséquilibres dans les données d’entraînement et les préjugés algorithmiques qui façonnent ces technologies.

À mesure que nous confions davantage de tâches créatives et informationnelles à ces systèmes, nous risquons de créer une boucle de rétroaction où les IA s’entraînent sur des contenus déjà générés par d’autres IA, amplifiant les erreurs et les biais à chaque cycle. Cette “autophagie de modèle” pourrait conduire à un appauvrissement progressif de notre écosystème informationnel, avec des conséquences imprévisibles pour notre capacité collective à distinguer le réel du généré, l’authentique du déformé.