Du stoler ikke på AI i terapi? Bra.

Det gjør ikke vi heller, når det later som om det er sikkert.

Det er én setning som dukker opp i samtaler med terapeuter, hver eneste gang temaet kunstig intelligens i konsultasjonsrommet kommer på tale: «Jeg stoler ikke på noe jeg ikke forstår.»

Dette er ikke teknofobi. Det er et sunt klinisk instinkt. En terapeut er ansvarlig for hver eneste hypotese de danner om en pasient - så de har rett til, og faktisk plikt til, å vite hvor den hypotesen kommer fra.

Likevel oppfører de fleste AI-verktøy seg som en svart boks: du mater inn data, et ferdig resultat kommer ut, og veien fra det ene til det andre forblir skjult - begravd i millioner av parametere som ingen kan inspisere. I en værapp er det ikke noe problem. I arbeid med et annet menneske er det.

Det finnes også en annen, farligere felle. En språkmodell som støter på et hull i dataene, har en sterk tendens til å fylle det - til å legge til det som passer, det som er sannsynlig, det som ligner læreboksbildet. Det er nøyaktig hva en hallusinasjon er. Og i en klinisk kontekst er det farligere enn taushet, fordi det høres troverdig ut.

Så utgangspunktet er enkelt: et AI-verktøy i terapi fortjener ikke tillit fordi det er selvsikkert. Det fortjener den når det er ærlig - det viser kilden, viser resonnementet, og innrømmer hva det ikke vet.

Dette er lettest å se i et konkret tilfelle. Kartet som åpner denne artikkelen, er et utdrag systemet genererte fra en sesjonstranskripsjon - la oss gå gjennom seksjonene.

Systemet dikter ikke opp pasientens tanker - det siterer dem

I seksjonen om automatiske tanker finnes det ingen «tolkning fra AI» noe sted. Det som vises, er pasientens ordrette uttalelser fra transkripsjonen: «Jeg ville gå dit og ikke skrive noe», «Jeg ville ikke bestå», «Jeg er en mislykket person». Under, i feltet AI-begrunnelse, forklarer systemet hvorfor det tilordnet de tankene til en gitt kategori, og hvilke kognitive forvrengninger som kan ligge bak dem.

Dette er det motsatte av en svart boks. I stedet for en dom ut av intet får terapeuten en melding: her er hvor jeg fikk dette fra - sjekk det selv. Verifisering tar sekunder, fordi kilden er der, innen rekkevidde.

Det er ikke en dom - det er en hypotese

Ved siden av hver seksjon står ett lite, men avgjørende ord: (hypotese). Systemet erklærer ikke: «dette er utløseren». Det sier: dette er trolig utløseren - verifiser det.

Den samme tonen går igjen i begrunnelsene: «synes å», «kan tyde på», «krever ytterligere klinisk verifisering». Dette er ikke språklig forsiktighet klistret på til slutt. Det er en innebygd holdning - epistemisk ydmykhet skrevet inn i selve måten systemet formulerer sine konklusjoner på. Beslutningen forblir alltid hos terapeuten. Mennesket faller aldri ut av løkken, ikke et øyeblikk.

Og nå til det viktigste: hva systemet gjør når det ikke vet noe

La oss se på seksjonen om fysiologi og somatiske reaksjoner.

Alle som arbeider med angst, kjenner det typiske bildet: muskelspenninger, hjertebank, svetting, overfladisk pust. En språkmodell kunne bare ha lagt det til - det ville passet perfekt, det ville hørtes troverdig ut, ingen ville lagt merke til det.

Systemet gjør ikke det. Det skriver: «Ingen data i transkripsjonen».

Og så tar det et steg som endrer alt. I begrunnelsen erkjenner det ikke bare hullet, det gjør det til et klinisk holdepunkt: det bemerker at pasienten beskrev «stress», men ikke oppga noen spesifikke kroppslige reaksjoner, og foreslår at en mer fullstendig ABC ville kreve å spørre hva som skjedde i kroppen i det øyeblikket hun kom inn og mens hun sto ved siden av samtalen.

Dette er nøyaktig øyeblikket der en vanlig modell ville ha hallusinert. ATS sier i stedet «jeg vet ikke» - og viser terapeuten hvor transkripsjonen slutter, og deres eget arbeid begynner.

Den samme presisjonen viser seg i seksjonen om følelser: der pasienten oppga et tall («stress 90/100»), registrerer systemet det. Der hun ikke gjorde det - med sorg og tap - står det rett ut: «intensitet: ikke oppgitt». Det skiller mellom det som ble målt, og det som ikke ble det. Det later ikke som fullstendighet.

Én holdning, ikke tre funksjoner

Kilde. Hypotese. Grense.

Dette er ikke tre separate knapper skrudd på produktet. Det er én konsekvent måte systemet i det hele tatt nærmer seg klinisk materiale på: det viser hvor det vet hva det vet, det behandler sine konklusjoner som hypoteser som skal verifiseres, og det flagger åpent stedene der data manglet.

En svart boks fungerer motsatt vei - den skjuler veien og fyller hullene for å fremstå sikker. I konsultasjonsrommet finnes det ikke samtykke til det.

Skepsis mot AI i terapi er berettiget. Så poenget er ikke å overtale deg til å stole på AI - det er at verktøyet selv skal bevise at det kan sjekkes. Tillit kommer ikke av selvsikkerhet. Den kommer av ærlighet.

Therapy Support-teamet