Ne verujete AI u terapiji? Dobro.
Ni mi ne verujemo, kada se pretvara da je sigurna.
Postoji jedna rečenica koja se pojavljuje u razgovorima sa terapeutima svaki put kada se otvori tema veštačke inteligencije u ordinaciji: „Neću verovati nečemu što ne razumem.”
Ovo nije tehnofobija. To je zdrav klinički instinkt. Terapeut je odgovoran za svaku hipotezu koju formira o pacijentu - pa ima pravo, i zapravo dužnost, da zna odakle ta hipoteza dolazi.
Ipak, većina AI alata ponaša se kao crna kutija: unesete podatke, izađe gotov rezultat, a put od jednog do drugog ostaje skriven - zakopan u milionima parametara koje niko ne može da pregleda. U aplikaciji za vreme, to nije problem. U radu sa drugim ljudskim bićem, jeste.
Postoji i druga, opasnija zamka. Jezički model koji naiđe na prazninu u podacima ima jaku sklonost da je popuni - da doda ono što se uklapa, što je verovatno, što liči na sliku iz udžbenika. To je tačno ono što je halucinacija. A u kliničkom kontekstu je opasnija od ćutanja, jer zvuči uverljivo.
Zato je polazna tačka jednostavna: AI alat u terapiji ne zaslužuje poverenje zato što je siguran u sebe. Zaslužuje ga kada je pošten - kad pokaže izvor, pokaže rezonovanje i prizna šta ne zna.
Ovo je najlakše videti na konkretnom slučaju. Mapa koja otvara ovaj tekst je fragment koji je sistem generisao iz transkripta seanse - prođimo kroz njene delove.
Sistem ne izmišlja misli pacijenta - on ih citira
U odeljku automatskih misli nigde nema „interpretacije od strane AI-a”. Ono što se pojavljuje jesu doslovne izjave pacijenta iz transkripta: „Otišla bih tamo i ne napisala ništa”, „Ne bih položila”, „Ja sam promašaj”. Ispod, u polju AI Rationale (obrazloženje AI-a), sistem objašnjava zašto je te misli svrstao u datu kategoriju i koje kognitivne distorzije mogu stajati iza njih.
Ovo je suprotno od crne kutije. Umesto presude niotkuda, terapeut dobija poruku: evo odakle sam ovo uzeo - proverite sami. Provera traje sekundu, jer je izvor nadohvat ruke.
Nije presuda - to je hipoteza
Pored svakog odeljka stoji jedna mala, ali ključna reč: (hipoteza). Sistem ne najavljuje: „ovo je okidač”. Kaže: ovo je verovatno okidač - proverite.
Isti ton se vraća u obrazloženjima: „čini se da”, „može ukazivati na”, „zahteva dalju kliničku proveru”. Ovo nije jezička opreznost dodata na kraju. To je ugrađen stav - epistemička skromnost upisana u sam način na koji sistem formuliše svoje zaključke. Odluka uvek ostaje na strani terapeuta. Čovek nijednog trenutka ne ispada iz petlje.
A sada najvažniji deo: šta sistem radi kada nešto ne zna
Pogledajmo odeljak fiziologije i somatskih reakcija.
Svako ko radi sa anksioznošću zna tipičnu sliku: napetost mišića, ubrzan rad srca, znojenje, plitko disanje. Jezički model bi to jednostavno mogao da doda - savršeno bi se uklopilo, zvučalo bi uverljivo, niko to ne bi primetio.
Sistem to ne radi. Piše: „Nema podataka u transkriptu”.
A onda čini korak koji menja sve. U obrazloženju ne samo da priznaje prazninu, već je pretvara u klinički signal: primećuje da je pacijentkinja opisala „stres”, ali nije navela konkretne telesne reakcije, i predlaže da bi potpunija ABC analiza zahtevala pitanje šta se dešavalo u telu u trenutku ulaska i dok je stajala pored razgovora.
Ovo je tačno trenutak u kom bi običan model halucinirao. ATS umesto toga kaže „ne znam” - i pokazuje terapeutu gde se transkript završava, a počinje njegov sopstveni rad.
Ista preciznost se javlja u odeljku emocija: tamo gde je pacijentkinja dala broj („stres 90/100”), sistem ga beleži. Tamo gde nije - kod tuge i žalosti - jasno navodi: „intenzitet: nije naveden”. Razlikuje ono što je izmereno od onoga što nije. Ne glumi potpunost.
Jedan stav, a ne tri funkcije
Izvor. Hipoteza. Granica.
Ovo nisu tri odvojena dugmeta prilepljena na proizvod. To je jedan dosledan način na koji sistem uopšte pristupa kliničkom materijalu: pokazuje odakle zna ono što zna, tretira svoje zaključke kao hipoteze koje treba proveriti i otvoreno označava mesta gde su podaci nedostajali.
Crna kutija radi obrnuto - skriva put i popunjava praznine kako bi delovala sigurno. U ordinaciji za to nema saglasnosti.
Skepticizam prema AI u terapiji je opravdan. Zato poenta nije da vas nagovorimo da verujete AI-u - poenta je da alat sam dokaže da se može proveriti. Poverenje ne dolazi iz sigurnosti. Dolazi iz poštenja.
Tim Therapy Support