Non ti fidi dell'AI in terapia? Bene.

Nemmeno noi, quando finge di essere certa.

C’è una frase che ricorre nelle conversazioni con i terapeuti ogni singola volta che si affronta il tema dell’intelligenza artificiale nella stanza di consultazione: “Non mi fiderò di qualcosa che non capisco.”

Questa non è tecnofobia. È un istinto clinico sano. Un terapeuta è responsabile di ogni ipotesi che formula su un paziente - quindi ha il diritto, e in effetti il dovere, di sapere da dove viene quell’ipotesi.

Eppure la maggior parte degli strumenti AI si comporta come una scatola nera: inserisci i dati, esce un risultato finito, e il percorso dall’uno all’altro rimane nascosto - sepolto in milioni di parametri che nessuno può ispezionare. In un’app meteo, questo non è un problema. Nel lavoro con un altro essere umano, lo è.

C’è anche una seconda trappola, più pericolosa. Un modello linguistico che incontra una lacuna nei dati ha una forte tendenza a colmarla - ad aggiungere ciò che si adatta, ciò che è plausibile, ciò che assomiglia al quadro da manuale. Questa è esattamente un’allucinazione. E in un contesto clinico è più pericolosa del silenzio, perché suona credibile.

Quindi il punto di partenza è semplice: uno strumento AI in terapia non guadagna fiducia perché è sicuro di sé. La guadagna quando è onesto - mostra la fonte, mostra il ragionamento e ammette ciò che non sa.

Questo è più facile da vedere in un caso concreto. La mappa che apre questo articolo è un frammento generato dal sistema a partire da una trascrizione di seduta - esaminiamo insieme le sue sezioni.

Il sistema non inventa i pensieri del paziente - li cita

Nella sezione dei pensieri automatici non compare da nessuna parte un‘“interpretazione dell’AI”. Ciò che appare sono le dichiarazioni testuali del paziente tratte dalla trascrizione: “Andrei là e non scriverei nulla”, “Non sarei promosso”, “Sono un fallito”. Sotto, nel campo AI Rationale, il sistema spiega perché ha assegnato quei pensieri a una determinata categoria e quali distorsioni cognitive potrebbero esserci dietro.

Questo è l’opposto di una scatola nera. Invece di un verdetto dal nulla, il terapeuta riceve un messaggio: ecco da dove ho preso questo - verifica tu stesso. La verifica richiede secondi, perché la fonte è lì, a portata di mano.

Non è un verdetto - è un’ipotesi

Accanto a ogni sezione c’è una parola piccola ma cruciale: (ipotesi). Il sistema non annuncia: “questo è il trigger”. Dice: probabilmente questo è il trigger - verificalo.

Lo stesso tono ritorna nelle motivazioni: “sembra”, “può suggerire”, “richiede ulteriore verifica clinica”. Questa non è una cautela linguistica aggiunta alla fine. È una posizione integrata - un’umiltà epistemica scritta nel modo stesso in cui il sistema formula le proprie conclusioni. La decisione resta sempre dalla parte del terapeuta. L’essere umano non esce mai dal ciclo, nemmeno per un momento.

E ora la parte più importante: cosa fa il sistema quando non sa qualcosa

Guardiamo la sezione della fisiologia e delle reazioni somatiche.

Chiunque lavori con l’ansia conosce il quadro tipico: tensione muscolare, cuore che batte veloce, sudorazione, respiro superficiale. Un modello linguistico potrebbe semplicemente aggiungerlo - si adatterebbe perfettamente, suonerebbe credibile, nessuno se ne accorgerebbe.

Il sistema non lo fa. Scrive: “Nessun dato nella trascrizione”.

E poi fa un passo che cambia tutto. Nella motivazione non si limita a riconoscere la lacuna, la trasforma in uno spunto clinico: nota che il paziente ha descritto “stress” ma non ha fornito reazioni fisiche specifiche, e suggerisce che un’analisi ABC più completa richiederebbe di chiedere cosa stava accadendo nel corpo nel momento dell’ingresso e mentre si trovava accanto alla conversazione.

Questo è esattamente il momento in cui un modello ordinario allucinerebbe. L’ATS dice invece “non lo so” - e mostra al terapeuta dove finisce la trascrizione e dove inizia il suo stesso lavoro.

La stessa precisione si ritrova nella sezione delle emozioni: dove il paziente ha dato un numero (“stress 90/100”), il sistema lo registra. Dove non lo ha fatto - con tristezza e dolore - dichiara chiaramente: “intensità: non fornita”. Distingue ciò che è stato misurato da ciò che non lo è stato. Non finge completezza.

Una posizione, non tre funzionalità

Fonte. Ipotesi. Limite.

Questi non sono tre pulsanti separati aggiunti al prodotto. Sono un unico modo coerente in cui il sistema affronta il materiale clinico fin dall’inizio: mostra dove sa ciò che sa, tratta le sue conclusioni come ipotesi da verificare, e segnala apertamente i punti in cui i dati mancavano.

Una scatola nera funziona nel modo opposto - nasconde il percorso e colma le lacune per sembrare certa. Nella stanza di consultazione, non c’è consenso per questo.

Lo scetticismo verso l’AI in terapia è giustificato. Quindi il punto non è convincerti a fidarti dell’AI - è che lo strumento dimostri, da solo, di poter essere verificato. La fiducia non nasce dalla sicurezza di sé. Nasce dall’onestà.

Il Team di Therapy Support