Vous ne faites pas confiance à l'IA en thérapie ? Tant mieux.

Nous non plus, quand elle prétend être certaine.

Il y a une phrase qui revient systématiquement dans les conversations avec les thérapeutes dès que le sujet de l’intelligence artificielle dans le cabinet de consultation est abordé : « Je ne ferai pas confiance à quelque chose que je ne comprends pas. »

Ce n’est pas de la technophobie. C’est un instinct clinique sain. Un thérapeute est responsable de chaque hypothèse qu’il formule sur un patient - il a donc le droit, et même le devoir, de savoir d’où vient cette hypothèse.

Pourtant, la plupart des outils d’IA se comportent comme une boîte noire : on y introduit des données, un résultat fini en ressort, et le chemin parcouru entre les deux reste caché - enfoui dans des millions de paramètres que personne ne peut inspecter. Dans une application météo, ce n’est pas un problème. Dans le travail avec un autre être humain, c’en est un.

Il existe aussi un second piège, plus dangereux. Un modèle de langage qui rencontre un trou dans les données a une forte tendance à le combler - à ajouter ce qui convient, ce qui est plausible, ce qui ressemble à l’image des manuels. C’est exactement cela, une hallucination. Et dans un contexte clinique, c’est plus dangereux que le silence, car cela sonne de façon crédible.

Le point de départ est donc simple : un outil d’IA en thérapie ne gagne pas la confiance parce qu’il est sûr de lui. Il la gagne quand il est honnête - il montre la source, il montre le raisonnement, et il admet ce qu’il ne sait pas.

C’est plus facile à voir sur un cas concret. La carte qui ouvre cet article est un fragment que le système a généré à partir d’une transcription de séance - parcourons ses différentes sections.

Le système n’invente pas les pensées du patient - il les cite

Dans la section des pensées automatiques, il n’y a nulle part d’« interprétation de l’IA ». Ce qui apparaît, ce sont les propos exacts du patient, tirés de la transcription : « J’irais là-bas et je n’écrirais rien », « Je ne réussirais pas », « Je suis un raté ». En dessous, dans le champ « AI Rationale », le système explique pourquoi il a associé ces pensées à telle catégorie et quelles distorsions cognitives pourraient s’y cacher.

C’est l’opposé d’une boîte noire. Au lieu d’un verdict venu de nulle part, le thérapeute reçoit un message : voici d’où je tiens cela - vérifiez par vous-même. La vérification prend quelques secondes, car la source est là, à portée de main.

Ce n’est pas un verdict - c’est une hypothèse

À côté de chaque section se trouve un mot petit mais crucial : (hypothèse). Le système n’annonce pas : « c’est l’élément déclencheur ». Il dit : c’est probablement l’élément déclencheur - vérifiez-le.

Le même ton revient dans les justifications : « semble », « pourrait suggérer », « nécessite une vérification clinique complémentaire ». Ce n’n’est pas une prudence de langage ajoutée en fin de course. C’est une posture intégrée - une humilité épistémique inscrite dans la manière même dont le système formule ses conclusions. La décision reste toujours du côté du thérapeute. L’humain ne sort jamais de la boucle, pas un instant.

Et maintenant le plus important : ce que le système fait quand il ne sait pas quelque chose

Regardons la section de la physiologie et des réactions somatiques.

Quiconque travaille avec l’anxiété connaît le tableau typique : tension musculaire, cœur qui s’accélère, transpiration, respiration superficielle. Un modèle de langage pourrait simplement l’ajouter - cela conviendrait parfaitement, cela sonnerait crédible, personne ne le remarquerait.

Le système ne le fait pas. Il écrit : « Aucune donnée dans la transcription. »

Et il franchit ensuite une étape qui change tout. Dans la justification, il ne se contente pas de reconnaître le vide, il le transforme en indice clinique : il note que la patiente a décrit du « stress » sans donner de réactions corporelles précises, et suggère qu’un ABC plus complet exigerait de demander ce qui se passait dans le corps au moment d’entrer dans la pièce et pendant qu’elle se tenait à côté de la conversation.

C’est exactement le moment où un modèle ordinaire hallucinerait. ATS dit à la place « je ne sais pas » - et montre au thérapeute où s’arrête la transcription et où commence son propre travail.

La même précision apparaît dans la section des émotions : là où la patiente a donné un chiffre (« stress 90/100 »), le système l’enregistre. Là où elle ne l’a pas fait - pour la tristesse et le deuil - il indique clairement : « intensité : non fournie ». Il distingue ce qui a été mesuré de ce qui ne l’a pas été. Il ne feint pas la complétude.

Une seule posture, pas trois fonctionnalités

La source. L’hypothèse. La limite.

Ce ne sont pas trois boutons distincts greffés sur le produit. C’est une seule façon cohérente dont le système aborde d’emblée la matière clinique : il montre où il sait ce qu’il sait, il traite ses conclusions comme des hypothèses à vérifier, et il signale ouvertement les endroits où des données manquaient.

Une boîte noire fonctionne à l’inverse - elle cache le chemin et comble les vides pour paraître certaine. Dans le cabinet de consultation, il n’y a pas de consentement pour cela.

La méfiance envers l’IA en thérapie est justifiée. Il ne s’agit donc pas de vous convaincre de faire confiance à l’IA - il s’agit que l’outil prouve, par lui-même, qu’il peut être vérifié. La confiance ne vient pas de l’assurance. Elle vient de l’honnêteté.

L’équipe Therapy Support