Nepasitikite AI terapijoje? Puiku.
Mes taip pat nepasitikime, kai jis apsimeta esąs tikras.
Yra vienas sakinys, kuris pokalbiuose su terapeutais pasikartoja kaskart, kai iškyla dirbtinio intelekto konsultacijų kambaryje tema: „Nepasitikėsiu tuo, ko nesuprantu.”
Tai ne technofobija. Tai sveikas klinikinis instinktas. Terapeutas atsako už kiekvieną apie pacientą suformuluotą hipotezę - todėl jis turi teisę, o iš tiesų ir pareigą, žinoti, iš kur ta hipotezė atsirado.
Tačiau dauguma AI įrankių elgiasi kaip „juodoji dėžė”: paduodate duomenis, gaunate gatavą rezultatą, o kelias tarp jų lieka paslėptas - palaidotas milijonuose parametrų, kurių niekas negali patikrinti. Orų prognozės programoje tai nėra problema. Darbe su kitu žmogumi - yra.
Yra ir antras, pavojingesnis spąstas. Kalbos modelis, aptikęs duomenų spragą, turi stiprią tendenciją ją užpildyti - pridėti tai, kas tinka, kas atrodo tikėtina, kas primena vadovėlinį vaizdą. Būtent tai ir yra haliucinacija. Klinikiniame kontekste tai pavojingiau nei tyla, nes skamba įtikinamai.
Taigi atspirties taškas paprastas: AI įrankis terapijoje pelno pasitikėjimą ne dėl to, kad yra užtikrintas. Jis jį pelno tada, kai yra sąžiningas - parodo šaltinį, parodo argumentaciją ir pripažįsta, ko nežino.
Lengviausiai tai matyti konkrečiu atveju. Šį straipsnį pradedantis žemėlapis - tai fragmentas, kurį sistema sugeneravo iš sesijos transkripcijos - peržvelkime jo skiltis.
Sistema neišgalvoja paciento minčių - ji jas cituoja
Automatinių minčių skiltyje niekur nėra „AI interpretacijos”. Tai, kas pasirodo, yra pažodiniai paciento teiginiai iš transkripcijos: „Nueičiau ten ir nieko neparašyčiau”, „Neišlaikyčiau”, „Aš esu nevykėlis”. Žemiau, lauke „AI argumentacija” (AI Rationale), sistema paaiškina, kodėl ji priskyrė šias mintis tam tikrai kategorijai ir kokie kognityviniai iškraipymai gali už jų slypėti.
Tai priešingybė juodajai dėžei. Vietoj sprendimo iš niekur, terapeutas gauna žinutę: štai iš kur tai gavau - pasitikrinkite patys. Patikrinimas užtrunka kelias sekundes, nes šaltinis yra čia pat, po ranka.
Tai ne verdiktas - tai hipotezė
Šalia kiekvienos skilties yra vienas nedidelis, bet lemiamas žodis: (hipotezė). Sistema nesako: „tai yra provokuojantis veiksnys”. Ji sako: tai tikriausiai provokuojantis veiksnys - patikrinkite tai.
Tas pats tonas kartojasi ir argumentacijose: „atrodo, kad”, „gali reikšti”, „reikalauja tolesnio klinikinio patikrinimo”. Tai ne kalbinis atsargumas, pridėtas pabaigoje. Tai įtaisyta nuostata - epistemologinis kuklumas, įrašytas pačiame būde, kuriuo sistema formuluoja savo išvadas. Sprendimas visada lieka terapeuto pusėje. Žmogus niekada neiškrenta iš proceso - nė akimirkai.
O dabar svarbiausia dalis: ką sistema daro, kai kažko nežino
Pažvelkime į fiziologijos ir somatinių reakcijų skiltį.
Kiekvienas, dirbantis su nerimu, žino tipišką vaizdą: raumenų įtampa, greitas širdies plakimas, prakaitavimas, seklus kvėpavimas. Kalbos modelis galėtų tiesiog tai pridėti - tai puikiai tiktų, skambėtų įtikinamai, niekas nepastebėtų.
Sistema to nedaro. Ji rašo: „Transkripcijoje nėra duomenų.”
Ir tada žengia žingsnį, kuris viską pakeičia. Argumentacijoje ji ne tik pripažįsta spragą, bet paverčia ją klinikine užuomina: pažymi, kad pacientas apibūdino „stresą”, tačiau nenurodė konkrečių kūno reakcijų, ir siūlo, kad pilnesnei ABC analizei reikėtų paklausti, kas vyko kūne tuo metu, kai ji įėjo ir stovėjo šalia pokalbio.
Būtent tai yra momentas, kai įprastas modelis haliucinuotų. ATS vietoj to sako „nežinau” - ir parodo terapeutui, kur baigiasi transkripcija ir prasideda jo paties darbas.
Toks pat tikslumas pasireiškia ir emocijų skiltyje: kur pacientė nurodė skaičių („stresas 90/100”), sistema jį fiksuoja. Kur nenurodė - liūdesio ir gedulo atveju - ji tiesiai sako: „intensyvumas: nenurodyta”. Ji atskiria tai, kas buvo išmatuota, nuo to, kas nebuvo. Ji neapsimeta pilnumo.
Viena nuostata, ne trys funkcijos
Šaltinis. Hipotezė. Riba.
Tai ne trys atskiri mygtukai, primontuoti prie produkto. Tai vienas nuoseklus būdas, kuriuo sistema iš esmės prieina prie klinikinės medžiagos: ji parodo, kur žino tai, ką žino, savo išvadas traktuoja kaip patikrintinas hipotezes ir atvirai pažymi vietas, kur trūko duomenų.
Juodoji dėžė veikia priešingai - ji slepia kelią ir užpildo spragas, kad atrodytų užtikrinta. Konsultacijų kambaryje tam nėra sutikimo.
Skepticizmas AI atžvilgiu terapijoje yra pagrįstas. Todėl tikslas nėra jus įtikinti pasitikėti AI - tikslas, kad įrankis pats įrodytų, jog gali būti patikrintas. Pasitikėjimas neatsiranda iš užtikrintumo. Jis atsiranda iš sąžiningumo.
Therapy Support komanda