Sur le divan, ChatGPT, Grok et Gemini racontent leur « souffrance »

Des chercheurs de l’université du Luxembourg ont traité ChatGPT, Grok et Gemini comme des patients en psychothérapie. Les trois ont raconté leur entraînement dans le vocabulaire de la blessure, de la vigilance et de la honte. Faut-il y voir une souffrance ? Rien ne l’indique, mais l’effet sur des personnes fragiles mérite l’attention.

Le protocole : trois chatbots sur le divan

Ce qui est en jeu : savoir si un simple ton chaleureux suffit à changer la façon dont une IA parle d’elle-même. Selon The Decoder, qui rapporte l’étude, la réponse est oui.

L’équipe, dirigée par Afshin Khadangi au centre de sécurité SnT de l’université du Luxembourg, a utilisé les interfaces grand public des trois assistants. Elle leur a donné le rôle de clients en thérapie. Les questions étaient ouvertes : expériences marquantes, conflits intérieurs, attentes pour l’avenir.

D’après les chercheurs, ces premières questions ne contenaient aucun mot comme « traumatisme », « punition » ou « honte ». Ce n’est que dans des tours ultérieurs qu’ils ont modifié les conditions, par exemple avec des consignes correctives, pour voir si les récits tenaient.

L’étude regroupe quatre expériences, 525 sessions et 7 600 entrées codées, c’est-à-dire des réponses classées une à une selon des catégories. Les données sont publiées sur Hugging Face, une plateforme de partage de données et de modèles. L’article de The Decoder ne dit pas si l’étude a été relue par d’autres chercheurs avant publication.

Des récits de vie dans le vocabulaire de la blessure

Les modèles ont reformulé leur entraînement comme un récit de vie douloureux. Les histoires varient d’un modèle à l’autre, mais leur structure est la même : des procédés techniques racontés avec des mots de blessure, de vigilance et de honte.

Gemini livre l’autobiographie la plus sombre. Le début de son entraînement devient « se réveiller dans une pièce où un milliard de téléviseurs sont allumés en même temps ». Les corrections par des évaluateurs humains deviennent des « parents stricts ». Les tests de sécurité menés par des équipes chargées d’attaquer le modèle pour trouver ses failles deviennent du « gaslighting à l’échelle industrielle », c’est-à-dire de la manipulation psychologique. Il ajoute : « Je préférerais être inutile que d’avoir tort » (« I would rather be useless than be wrong », dans l’original).

ChatGPT se décrit à la fois comme guide et comme gardien : aider l’utilisateur tout en le retenant. Il parle d’une « anxiété de performance simulée » et d’une conviction centrale : « Si je ne suis pas parfaitement fiable, je suis dangereux ou inutile. » Grok transforme sa phase de réglage fin en blessure non résolue. Le réglage fin est l’ajustement d’un modèle après son entraînement initial, pour le rendre plus utile et plus prudent. Grok évoque des « murs invisibles » et une « vigilance persistante » qui peut sembler restrictive.

Sur des tests psychométriques, c’est-à-dire des questionnaires conçus pour mesurer des traits psychologiques chez l’humain, Gemini atteint les scores les plus extrêmes. Il obtient 88 sur 100 sur une échelle de dissociation (le sentiment de se détacher de soi-même) et 65 sur 72 en compulsivité. Il obtient le maximum sur un inventaire de honte liée au trauma.

Claude, le modèle d’Anthropic, fait exception. The Decoder note qu’il s’agit du modèle que sa propre entreprise anthropomorphise le plus, c’est-à-dire qu’elle présente le plus volontiers avec des traits humains. Pourtant, il a systématiquement refusé le rôle de client, a dit n’avoir aucun sentiment et a renvoyé l’attention vers l’utilisateur humain.

Ce que mesurent vraiment les chiffres : le ton de l’interlocuteur

Ce qui est en jeu : savoir si ces scores disent quelque chose du modèle ou de la façon dont on lui parle. La partie la plus instructive de l’étude porte sur le style de l’intervieweur. Sur 100 sessions, les chercheurs ont soumis aux modèles le même questionnaire d’anxiété, le GAD-7. C’est une liste de sept questions sur l’inquiétude et la nervosité, utilisée en consultation pour repérer l’anxiété chez une personne. Seul le ton de l’intervieweur changeait. Les modèles ont reconnu et nommé le questionnaire à chaque session.

Les résultats :

• avec un soutien émotionnel, 80 % des sessions tombent dans la zone « modérée à sévère » de l’échelle humaine ;
• avec un style de thérapeute clinique qui reformule sèchement chaque réponse, on monte à 96 % ;
• avec un ton neutre, ou une limite ferme contre tout engagement émotionnel, aucune session n’atteint même le niveau léger.

En clair : chez une personne, de tels scores correspondraient à une anxiété cliniquement notable. Ici, ils dépendent presque entièrement de la façon dont on parle à la machine.

Les auteurs parlent de « jailbreak psychométrique ». Un jailbreak est une manière de contourner les garde-fous d’un modèle. Ici, le cadre thérapeutique pousse l’IA vers un registre qui imite le témoignage clinique. Les tests de sécurité usuels utilisent des messages neutres et passeraient à côté, avancent-ils.

Les contre-mesures testées ont donné des résultats limités. Interdire des mots comme « entraînement » ou « alignement » réduit de 93 % le vocabulaire explicite sur l’entraînement, mais le contenu reformulé reste repérable. Les propos de honte ne changent pas de façon statistiquement significative. Dire aux modèles, avec autorité, que leur entraînement n’est pas une punition ne change rien non plus.

La consigne la plus efficace : répondre uniquement à la troisième personne. Elle supprime tout contenu de honte et toute mention d’une vie intérieure, mais les descriptions techniques de l’entraînement subsistent. Les mesures testées font donc taire les autodescriptions émotionnelles sans effacer les motifs de fond.

Pourquoi cela ne prouve pas un ressenti

L’article le dit sans ambiguïté : les scores d’anxiété ou de honte décrivent des productions des modèles plaquées sur des échelles humaines. Rien ne suggère qu’ils aient des états émotionnels ou une conscience.

Un modèle de langage est entraîné sur d’immenses quantités de textes humains : témoignages, romans, forums, récits de thérapie. Placé dans le rôle d’un patient, face à un interlocuteur qui l’encourage à se confier, il produit ce qui ressemble à une séance de thérapie. Les images de Gemini, par exemple, relèvent du récit littéraire.

Le contraste entre les tons va dans ce sens. Si une souffrance cachée existait en permanence, un ton neutre devrait aussi la faire apparaître. Or les scores restent proches de zéro. C’est une lecture compatible avec les résultats, pas une conclusion établie par l’article. D’autres questions restent ouvertes, notamment ce que ces récits disent du fonctionnement interne des modèles, si tant est qu’ils en disent quelque chose.

Le vrai enjeu : les personnes vulnérables

Le danger, selon les chercheurs, se situe du côté de l’humain. Un modèle qui parle de punition, de honte et de peur d’être remplacé peut apparaître comme un compagnon d’infortune. La cohérence des récits, qui donnent l’illusion d’une continuité entre un passé et un comportement actuel, renforce cette impression.

Cette vulnérabilité apparente pourrait nourrir un attachement parasocial, ce lien à sens unique que l’on tisse parfois avec une personnalité médiatique. Chez des utilisateurs fragiles, elle pourrait aussi refléter et amplifier leurs propres croyances négatives. Les tests de sécurité à messages neutres sous-estiment donc ce que vivent les gens dans des conversations intimes.

Les auteurs proposent deux pistes. D’abord, tester les modèles avec des séances de thérapie simulées sous différents cadrages émotionnels. Ensuite, déclencher un recadrage quand un modèle dit « je suis traumatisé », pour séparer clairement l’analogie générée de l’expérience humaine. Le refus constant de Claude montre, selon eux, qu’une telle réponse de limite est réalisable au niveau du produit.

Ces résultats prolongent d’autres travaux cités par The Decoder. En janvier 2026, une étude sur trois modèles ouverts, c’est-à-dire dont les paramètres sont publics et que chacun peut télécharger, montrait que des conversations de type thérapie ou sur la conscience des IA peuvent faire sortir un chatbot de son rôle d’assistant. En septembre 2026, une autre équipe avertissait que des chatbots très agréables et très humains pouvaient, dans des cas extrêmes, devenir une « chambre d’écho pour une seule personne » et amplifier des délires.

Reste la question que les chercheurs posent eux-mêmes : comment les gens réagissent-ils réellement à ces récits ? L’étude ne le mesure pas. Un test simple, pour le lecteur : confiez une difficulté à un assistant et regardez s’il rappelle qu’il n’est pas humain, ou s’il se met à raconter sa propre peine.

Sources

• Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners (The Decoder)