U vertrouwt AI in therapie niet? Goed.
Wij ook niet, wanneer het doet alsof het zeker is.
Er is één zin die telkens terugkomt in gesprekken met therapeuten wanneer het onderwerp kunstmatige intelligentie in de spreekkamer ter sprake komt: “Ik vertrouw niets wat ik niet begrijp.”
Dit is geen technofobie. Het is een gezond klinisch instinct. Een therapeut is verantwoordelijk voor elke hypothese die hij over een patiënt vormt - hij heeft dus het recht, en zelfs de plicht, om te weten waar die hypothese vandaan komt.
Toch gedragen de meeste AI-instrumenten zich als een black box: u voert de gegevens in, er komt een afgerond resultaat uit, en het pad van het een naar het ander blijft verborgen - begraven in miljoenen parameters die niemand kan inspecteren. Bij een weer-app is dat geen probleem. In het werk met een ander mens wel.
Er is ook een tweede, gevaarlijkere valkuil. Een taalmodel dat een gat in de data tegenkomt, heeft een sterke neiging om het op te vullen - toe te voegen wat past, wat aannemelijk is, wat lijkt op het leerboekbeeld. Dat is precies wat een hallucinatie is. En in een klinische context is dat gevaarlijker dan stilte, omdat het geloofwaardig klinkt.
Het uitgangspunt is dus eenvoudig: een AI-instrument in therapie wint geen vertrouwen doordat het zeker is. Het wint vertrouwen doordat het eerlijk is - het toont de bron, toont de redenering en geeft toe wat het niet weet.
Dit is het gemakkelijkst te zien aan een concreet geval. De kaart die dit artikel opent, is een fragment dat het systeem heeft gegenereerd uit een sessietranscript - laten we de onderdelen ervan doorlopen.
Het systeem verzint de gedachten van de patiënt niet - het citeert ze
In het onderdeel automatische gedachten staat nergens een “interpretatie van de AI”. Wat verschijnt, zijn de woordelijke uitspraken van de patiënt uit het transcript: “Ik zou daarheen gaan en niets schrijven”, “Ik zou niet slagen”, “Ik ben een mislukkeling”. Daaronder legt het systeem in het veld AI Rationale uit waarom het die gedachten aan een bepaalde categorie heeft toegewezen en welke cognitieve vertekeningen erachter zouden kunnen liggen.
Dit is het tegenovergestelde van een black box. In plaats van een oordeel uit het niets krijgt de therapeut een boodschap: hier heb ik dit vandaan - controleer het zelf. Verificatie duurt seconden, omdat de bron direct binnen handbereik ligt.
Het is geen oordeel - het is een hypothese
Naast elk onderdeel staat één klein maar cruciaal woord: (hypothese). Het systeem verkondigt niet: “dit is de trigger.” Het zegt: dit is waarschijnlijk de trigger - controleer het.
Dezelfde toon keert terug in de onderbouwingen: “lijkt te”, “kan erop wijzen”, “vereist verdere klinische verificatie.” Dit is geen achteraf toegevoegde taalkundige voorzichtigheid. Het is een ingebouwde houding - epistemische bescheidenheid die is verwerkt in de manier waarop het systeem zijn conclusies formuleert. De beslissing blijft altijd bij de therapeut. De mens valt geen moment buiten de lus.
En nu het belangrijkste deel: wat het systeem doet wanneer het iets niet weet
Laten we kijken naar het onderdeel fysiologie en somatische reacties.
Iedereen die met angst werkt, kent het typische beeld: spierspanning, hartkloppingen, zweten, oppervlakkige ademhaling. Een taalmodel zou dat eenvoudigweg kunnen toevoegen - het zou perfect passen, geloofwaardig klinken, niemand zou het merken.
Het systeem doet dat niet. Het schrijft: “Geen gegevens in transcript.”
En dan zet het een stap die alles verandert. In de onderbouwing erkent het niet alleen het gat, maar verandert het dit in een klinisch aanknopingspunt: het merkt op dat de patiënt “stress” beschreef maar geen specifieke lichamelijke reacties gaf, en suggereert dat een vollediger ABC zou moeten vragen wat er in het lichaam gebeurde op het moment van binnenkomst en tijdens het staan naast het gesprek.
Dit is precies het moment waarop een gewoon model zou hallucineren. ATS zegt in plaats daarvan “ik weet het niet” - en toont de therapeut waar het transcript eindigt en zijn eigen werk begint.
Dezelfde precisie zien we in het onderdeel emoties: waar de patiënte een getal gaf (“stress 90/100”), registreert het systeem dat. Waar ze dat niet deed - bij verdriet en rouw - staat er duidelijk: “intensiteit: niet opgegeven.” Het onderscheidt wat gemeten is van wat niet gemeten is. Het doet niet alsof het compleet is.
Eén houding, geen drie functies
Bron. Hypothese. Grens.
Dit zijn geen drie afzonderlijke knoppen die achteraf aan het product zijn vastgeschroefd. Het is één consistente manier waarop het systeem klinisch materiaal überhaupt benadert: het toont waar het weet wat het weet, het behandelt zijn conclusies als te verifiëren hypothesen, en het markeert openlijk de plaatsen waar gegevens ontbraken.
Een black box werkt andersom - hij verbergt het pad en vult de gaten op om zeker te lijken. In de spreekkamer is daar geen toestemming voor.
Scepsis tegenover AI in therapie is gerechtvaardigd. Het punt is dus niet u te overtuigen om AI te vertrouwen - het is dat het instrument zelf bewijst dat het gecontroleerd kan worden. Vertrouwen komt niet voort uit zekerheid. Het komt voort uit eerlijkheid.
Het Therapy Support-team