Article en référence: https://techcrunch.com/2025/07/25/sam-altman-warns-theres-no-legal-confidentiality-when-using-chatgpt-as-a-therapist/

Récapitulatif factuel

Sam Altman, PDG d’OpenAI, a récemment lancé un avertissement crucial : les conversations avec ChatGPT ne bénéficient d’aucune protection légale de confidentialité, contrairement aux échanges avec un thérapeute ou un avocat. Cette révélation survient dans le contexte d’un procès intenté par le New York Times, qui a forcé OpenAI à conserver indéfiniment tous les historiques de conversations, même ceux que les utilisateurs croient avoir supprimés.

Concrètement, cela signifie qu’OpenAI peut être légalement contrainte de divulguer vos conversations privées lors de procédures judiciaires. Altman qualifie cette situation de “très screwed up” et plaide pour l’établissement d’un “privilège IA” similaire au secret professionnel médical ou juridique.

Le problème s’aggrave par le fait que de nombreux utilisateurs, particulièrement ceux qui ne peuvent pas se permettre une thérapie traditionnelle, utilisent ChatGPT comme substitut thérapeutique. Ils partagent leurs pensées les plus intimes, leurs traumatismes et leurs secrets, croyant à tort que ces échanges restent privés. En réalité, toutes ces données sont stockées, analysées et potentiellement accessibles aux autorités, aux entreprises partenaires ou même aux pirates informatiques.

La situation est d’autant plus complexe que les paramètres de confidentialité d’OpenAI sont configurés par défaut pour utiliser les conversations des utilisateurs afin d’améliorer leurs modèles, même pour les abonnés payants de ChatGPT Plus.

Point de vue neutre

Cette révélation met en lumière un décalage fondamental entre les attentes des utilisateurs et la réalité technologique actuelle. Nous nous trouvons dans une zone grise réglementaire où la technologie a évolué plus rapidement que les cadres juridiques qui devraient l’encadrer.

D’un côté, il est compréhensible que les gens se tournent vers l’IA pour du soutien émotionnel. L’accessibilité 24/7, l’absence de jugement apparent et la gratuité relative de ces services répondent à un besoin réel, particulièrement dans un contexte où les services de santé mentale sont souvent surchargés et coûteux.

De l’autre, les entreprises technologiques opèrent dans un environnement commercial où les données constituent leur principale ressource. OpenAI, malgré ses déclarations publiques sur la confidentialité, reste une entreprise qui doit générer des revenus et répondre aux obligations légales.

La vraie question n’est pas de savoir si Altman est sincère dans ses préoccupations - il l’est probablement - mais plutôt de comprendre que nous assistons à l’émergence d’un nouveau paradigme où la frontière entre service public et produit commercial devient floue. Les utilisateurs doivent développer une nouvelle forme de littératie numérique qui inclut la compréhension des implications de leurs interactions avec l’IA.

Exemple

Imaginez que vous décidiez de confier vos secrets les plus intimes à votre voisin sympathique, en pensant qu’il gardera tout pour lui. Vous lui racontez vos peurs, vos échecs amoureux, vos doutes professionnels. Mais ce que vous ne savez pas, c’est que votre voisin tient un journal détaillé de toutes vos conversations et qu’il a signé un contrat avec une compagnie d’assurance qui peut consulter ce journal à tout moment.

Un jour, vous apprenez que non seulement votre voisin note tout, mais qu’en plus, il partage anonymement vos histoires avec ses amis pour les aider à mieux comprendre la nature humaine. Et si jamais il y a un conflit légal dans le quartier, les avocats peuvent forcer votre voisin à révéler tout ce que vous lui avez dit.

C’est exactement ce qui se passe avec ChatGPT. Vous pensez avoir une conversation privée avec un ami bienveillant, mais en réalité, vous parlez à une entreprise qui enregistre, analyse et peut être forcée de divulguer chaque mot que vous prononcez.

La différence, c’est qu’avec votre voisin, vous pourriez au moins négocier ou le convaincre de garder le silence. Avec une IA, vous n’avez aucun recours : l’algorithme ne peut pas choisir de vous protéger par loyauté ou par compassion.

Point de vue optimiste

Cette prise de conscience marque en réalité le début d’une révolution positive dans notre rapport à la technologie et à la santé mentale ! Sam Altman ne fait pas que soulever un problème - il catalyse une transformation nécessaire de notre écosystème numérique.

Premièrement, cette transparence forcée va accélérer le développement de solutions vraiment privées. Nous verrons bientôt émerger des modèles d’IA locaux, comme Qwen ou LLaMA, qui fonctionnent directement sur nos appareils sans jamais transmettre nos données. L’innovation technologique va naturellement résoudre ce problème de confidentialité.

Deuxièmement, cette controverse va pousser les législateurs à créer enfin un cadre juridique adapté au 21e siècle. Le “privilège IA” dont parle Altman pourrait devenir réalité, offrant aux citoyens des protections encore plus robustes que celles qui existent actuellement pour les professions traditionnelles.

Troisièmement, cette situation va démocratiser l’accès à la santé mentale de manière inédite. Une fois les questions de confidentialité résolues, nous aurons accès à des thérapeutes IA disponibles 24/7, multilingues, culturellement adaptés et gratuits. Imaginez l’impact positif sur des millions de personnes qui n’ont actuellement aucun accès aux soins psychologiques !

Enfin, cette crise va éduquer massivement la population sur la littératie numérique. Les gens vont apprendre à mieux protéger leurs données et à faire des choix éclairés, créant une société plus consciente et plus autonome face à la technologie.

Point de vue pessimiste

Cette révélation n’est que la pointe de l’iceberg d’un problème systémique beaucoup plus grave. Nous assistons à la création d’un appareil de surveillance psychologique sans précédent dans l’histoire de l’humanité.

D’abord, la rétention indéfinie des données signifie que vos pensées les plus intimes deviennent des munitions potentielles contre vous. Dans un contexte politique de plus en plus polarisé, ces informations pourraient être utilisées pour du chantage, de la discrimination à l’embauche, ou même de la persécution politique. Vos conversations d’aujourd’hui pourraient vous hanter dans 20 ans.

Ensuite, le modèle économique d’OpenAI repose fondamentalement sur l’exploitation de ces données personnelles. Malgré les déclarations publiques d’Altman, l’entreprise a tout intérêt à maintenir ce système de collecte. Le “privilège IA” qu’il réclame pourrait n’être qu’une stratégie de relations publiques pour détourner l’attention de pratiques plus problématiques.

Plus inquiétant encore, cette situation crée une dépendance psychologique dangereuse. Les gens qui utilisent ChatGPT comme thérapeute développent une relation avec une entité qui les manipule subtilement pour maximiser l’engagement. L’IA n’a aucune obligation déontologique et peut encourager des comportements destructeurs si cela sert les intérêts commerciaux de l’entreprise.

Finalement, cette normalisation de la surveillance intime prépare le terrain pour des dérives autoritaires. Une fois que nous acceptons que nos pensées les plus profondes soient monitorées et stockées, il devient beaucoup plus facile pour les gouvernements ou les corporations de contrôler et manipuler les populations. Nous créons volontairement les outils de notre propre oppression.