No et fies de la IA en teràpia? Bé.
Nosaltres tampoc, quan pretén estar segura.
Hi ha una frase que apareix en converses amb terapeutes cada vegada que sorgeix el tema de la intel·ligència artificial a la consulta: “No confiaré en una cosa que no entenc.”
Això no és tecnofòbia. És un instint clínic saludable. Un terapeuta és responsable de cada hipòtesi que formula sobre un pacient, així que té el dret, i de fet el deure, de saber d’on ve aquesta hipòtesi.
Tanmateix, la majoria d’eines d’IA es comporten com una caixa negra: hi introdueixes les dades, en surt un resultat acabat, i el camí de l’una a l’altre queda amagat, enterrat en milions de paràmetres que ningú pot inspeccionar. En una aplicació del temps, això no és cap problema. En el treball amb un altre ésser humà, sí que ho és.
Hi ha també una segona trampa, més perillosa. Un model de llenguatge que troba un buit en les dades té una forta tendència a omplir-lo — a afegir el que encaixa, el que és plausible, el que sembla el quadre de manual. Això és exactament el que és una al·lucinació. I en un context clínic és més perillós que el silenci, perquè sona creïble.
Així que el punt de partida és simple: una eina d’IA en teràpia no es guanya la confiança perquè sigui segura d’ella mateixa. Se la guanya quan és honesta — mostra la font, mostra el raonament i admet el que no sap.
Això es veu més fàcilment en un cas concret. El mapa que obre aquest article és un fragment que el sistema va generar a partir d’una transcripció de sessió — repassem-ne les seccions.
El sistema no inventa els pensaments del pacient — els cita
A la secció de pensaments automàtics no hi ha enlloc una “interpretació de la IA”. El que hi apareix són les declaracions textuals del pacient extretes de la transcripció: “Hi aniria i no escriuria res”, “No aprovaria”, “Sóc un fracàs”. A sota, al camp AI Rationale, el sistema explica per què ha assignat aquests pensaments a una categoria determinada i quines distorsions cognitives podrien amagar-s’hi al darrere.
Això és l’oposat d’una caixa negra. En lloc d’un veredicte que ve del no-res, el terapeuta rep un missatge: aquí és d’on ho he tret — comprova-ho tu mateix. La verificació triga segons, perquè la font hi és, a l’abast de la mà.
No és un veredicte — és una hipòtesi
Al costat de cada secció hi ha una paraula petita però crucial: (hipòtesi). El sistema no anuncia: “aquest és el desencadenant”. Diu: probablement aquest sigui el desencadenant — verifica-ho.
El mateix to torna en les justificacions: “sembla que”, “podria suggerir”, “requereix més verificació clínica”. Això no és una prudència lingüística afegida al final. És una posició integrada — humilitat epistèmica escrita en la mateixa manera com el sistema formula les seves conclusions. La decisió sempre es queda al costat del terapeuta. L’ésser humà mai no surt del circuit, ni per un instant.
I ara la part més important: què fa el sistema quan no sap alguna cosa
Fixem-nos en la secció de fisiologia i reaccions somàtiques.
Qualsevol que treballi amb l’ansietat coneix el quadre típic: tensió muscular, cor accelerat, sudoració, respiració superficial. Un model de llenguatge podria simplement afegir-ho — encaixaria perfectament, sonaria creïble, ningú se n’adonaria.
El sistema no ho fa. Escriu: “Sense dades a la transcripció”.
I llavors fa un pas que ho canvia tot. A la justificació, no només reconeix el buit, sinó que el converteix en una pista clínica: assenyala que el pacient va descriure “estrès” però no va donar reaccions corporals específiques, i suggereix que un ABC més complet requeriria preguntar què estava passant al cos en el moment d’entrar i mentre estava dret al costat de la conversa.
Aquest és exactament el moment en què un model normal al·lucinaria. ATS, en canvi, diu “no ho sé” — i mostra al terapeuta on acaba la transcripció i on comença el seu propi treball.
La mateixa precisió apareix a la secció d’emocions: on la pacient va donar un número (“estrès 90/100”), el sistema el registra. On no ho va fer — amb la tristesa i el dol — afirma clarament: “intensitat: no proporcionada”. Distingeix el que es va mesurar del que no. No simula una completesa que no existeix.
Una sola postura, no tres funcionalitats
Font. Hipòtesi. Límit.
No són tres botons separats afegits al producte. Són una única manera coherent en què el sistema aborda el material clínic des del principi: mostra on sap el que sap, tracta les seves conclusions com a hipòtesis per verificar, i senyala obertament els llocs on falten dades.
Una caixa negra funciona a l’inrevés — amaga el camí i omple els buits per semblar segura. A la consulta, no hi ha consentiment per a això.
L’escepticisme envers la IA en teràpia és justificat. Així que el punt no és convèncer-te de confiar en la IA — és que l’eina demostri, per ella mateixa, que es pot comprovar. La confiança no ve de la seguretat en un mateix. Ve de l’honestedat.
L’equip de Therapy Support