Nu aveți încredere în AI în terapie? Bine.

Nici noi, atunci când se preface că este sigur.

Există o propoziție care revine în conversațiile cu terapeuții de fiecare dată când apare subiectul inteligenței artificiale în cabinet: “Nu voi avea încredere în ceva ce nu înțeleg.”

Aceasta nu este tehnofobie. Este un instinct clinic sănătos. Un terapeut este răspunzător pentru fiecare ipoteză pe care o formulează despre un pacient - așa că are dreptul, și chiar datoria, să știe de unde vine acea ipoteză.

Totuși, majoritatea instrumentelor AI se comportă ca o cutie neagră: introduci datele, iese un rezultat finit, iar drumul de la unul la celălalt rămâne ascuns - îngropat în milioane de parametri pe care nimeni nu îi poate inspecta. Într-o aplicație meteo, asta nu e o problemă. În munca cu o altă ființă umană, este.

Există și o a doua capcană, mai periculoasă. Un model lingvistic care întâlnește un gol în date are o tendință puternică să îl umple - să adauge ceea ce se potrivește, ceea ce este plauzibil, ceea ce arată ca imaginea de manual. Exact asta este o halucinație. Și într-un context clinic este mai periculoasă decât tăcerea, pentru că sună credibil.

Așadar, punctul de plecare este simplu: un instrument AI în terapie nu câștigă încredere pentru că este sigur pe sine. O câștigă atunci când este onest - își arată sursa, își arată raționamentul și recunoaște ce nu știe.

Acest lucru se vede cel mai bine într-un caz concret. Harta ce deschide acest articol este un fragment generat de sistem dintr-o transcriere de ședință - să parcurgem secțiunile ei.

Sistemul nu inventează gândurile pacientului - le citează

În secțiunea gândurilor automate nu apare nicăieri o “interpretare din partea AI”. Ceea ce apare sunt afirmațiile textuale ale pacientului din transcriere: “M-aș duce acolo și n-aș scrie nimic”, “N-aș trece”, “Sunt un ratat”. Dedesubt, în câmpul AI Rationale, sistemul explică de ce a atribuit acele gânduri unei anumite categorii și ce distorsiuni cognitive ar putea sta în spatele lor.

Acesta este opusul unei cutii negre. În loc de un verdict venit de nicăieri, terapeutul primește un mesaj: iată de unde am obținut asta - verifică singur. Verificarea durează câteva secunde, pentru că sursa este chiar la îndemână.

Nu este un verdict - este o ipoteză

Lângă fiecare secțiune se află un cuvânt mic, dar crucial: (ipoteză). Sistemul nu anunță: “acesta este declanșatorul”. Spune: acesta este probabil declanșatorul - verifică-l.

Același ton revine în raționamente: “pare să”, “poate sugera”, “necesită verificare clinică suplimentară”. Aceasta nu este o precauție lingvistică adăugată la final. Este o poziție integrată - o smerenie epistemică înscrisă chiar în modul în care sistemul își formulează concluziile. Decizia rămâne întotdeauna de partea terapeutului. Omul nu iese niciodată din buclă, nici măcar o clipă.

Și acum partea cea mai importantă: ce face sistemul când nu știe ceva

Să privim secțiunea fiziologiei și a reacțiilor somatice.

Oricine lucrează cu anxietatea cunoaște tabloul tipic: tensiune musculară, ritm cardiac accelerat, transpirație, respirație superficială. Un model lingvistic ar putea pur și simplu să adauge asta - s-ar potrivi perfect, ar suna credibil, nimeni nu ar observa.

Sistemul nu face asta. Scrie: “Fără date în transcriere”.

Și apoi face un pas care schimbă totul. În raționament nu doar recunoaște golul, ci îl transformă într-un indiciu clinic: notează că pacientul a descris “stres”, dar nu a oferit reacții corporale specifice, și sugerează că un ABC complet ar necesita întrebarea despre ce se întâmpla în corp în momentul intrării și în timp ce stătea lângă conversație.

Acesta este exact momentul în care un model obișnuit ar halucina. ATS spune în schimb “nu știu” - și arată terapeutului unde se termină transcrierea și unde începe propria muncă.

Aceeași precizie apare în secțiunea emoțiilor: acolo unde pacientul a dat un număr (“stres 90/100”), sistemul îl înregistrează. Acolo unde nu a dat - în cazul tristeții și al durerii - afirmă clar: “intensitate: neindicată”. Distinge ce a fost măsurat de ce nu a fost. Nu simulează completitudinea.

O singură poziție, nu trei funcționalități

Sursă. Ipoteză. Limită.

Acestea nu sunt trei butoane separate atașate produsului. Sunt un singur mod consecvent în care sistemul abordează materialul clinic de la bun început: arată unde știe ceea ce știe, își tratează concluziile ca ipoteze de verificat și semnalează deschis locurile unde au lipsit date.

O cutie neagră funcționează invers - ascunde drumul și umple golurile pentru a părea sigură pe sine. În cabinet, nu există consimțământ pentru asta.

Scepticismul față de AI în terapie este justificat. Așa că ideea nu este să vă convingem să aveți încredere în AI - ci ca instrumentul să dovedească, prin el însuși, că poate fi verificat. Încrederea nu vine din siguranța de sine. Vine din onestitate.

Echipa Therapy Support