Δεν εμπιστεύεστε την AI στη θεραπεία; Καλώς.

Ούτε εμείς, όταν προσποιείται ότι είναι σίγουρο.

Υπάρχει μια πρόταση που εμφανίζεται σε συζητήσεις με θεραπευτές κάθε φορά που προκύπτει το θέμα της τεχνητής νοημοσύνης στο ιατρείο: «Δεν θα εμπιστευτώ κάτι που δεν καταλαβαίνω.»

Αυτό δεν είναι τεχνοφοβία. Είναι ένα υγιές κλινικό ένστικτο. Ένας θεραπευτής είναι υπόλογος για κάθε υπόθεση που διαμορφώνει για έναν ασθενή - έτσι έχει το δικαίωμα, και μάλιστα το καθήκον, να γνωρίζει από πού προέρχεται αυτή η υπόθεση.

Ωστόσο, τα περισσότερα εργαλεία AI συμπεριφέρονται σαν μαύρο κουτί: τροφοδοτείτε τα δεδομένα, βγαίνει ένα τελικό αποτέλεσμα, και η διαδρομή από το ένα στο άλλο παραμένει κρυμμένη - θαμμένη σε εκατομμύρια παραμέτρους που κανείς δεν μπορεί να επιθεωρήσει. Σε μια εφαρμογή καιρού, αυτό δεν είναι πρόβλημα. Στη δουλειά με έναν άλλο άνθρωπο, είναι.

Υπάρχει επίσης μια δεύτερη, πιο επικίνδυνη παγίδα. Ένα γλωσσικό μοντέλο που πέφτει σε ένα κενό στα δεδομένα έχει μια ισχυρή τάση να το γεμίσει - να προσθέσει αυτό που ταιριάζει, αυτό που είναι εύλογο, αυτό που μοιάζει με τη σχολική εικόνα. Ακριβώς αυτό είναι μια ψευδαίσθηση (hallucination). Και σε κλινικό πλαίσιο είναι πιο επικίνδυνο από τη σιωπή, γιατί ακούγεται αξιόπιστο.

Έτσι, το σημείο εκκίνησης είναι απλό: ένα εργαλείο AI στη θεραπεία δεν κερδίζει την εμπιστοσύνη επειδή είναι σίγουρο. Την κερδίζει όταν είναι ειλικρινές - δείχνει την πηγή, δείχνει τη συλλογιστική, και παραδέχεται τι δεν γνωρίζει.

Αυτό φαίνεται πιο εύκολα σε μια συγκεκριμένη περίπτωση. Ο χάρτης που ανοίγει αυτό το άρθρο είναι ένα απόσπασμα που δημιούργησε το σύστημα από απομαγνητοφώνηση συνεδρίας - ας περάσουμε τις ενότητές του.

Το σύστημα δεν εφευρίσκει τις σκέψεις του ασθενούς - τις παραθέτει

Στην ενότητα των αυτόματων σκέψεων δεν υπάρχει πουθενά «ερμηνεία από την AI». Αυτό που εμφανίζεται είναι οι κατά λέξη δηλώσεις του ασθενούς από την απομαγνητοφώνηση: «Θα πήγαινα εκεί και δεν θα έγραφα τίποτα», «Δεν θα περνούσα», «Είμαι αποτυχημένος/η». Από κάτω, στο πεδίο AI Rationale, το σύστημα εξηγεί γιατί ανέθεσε αυτές τις σκέψεις σε μια συγκεκριμένη κατηγορία και ποιες γνωσιακές διαστρεβλώσεις μπορεί να κρύβονται πίσω τους.

Αυτό είναι το αντίθετο ενός μαύρου κουτιού. Αντί για μια ετυμηγορία από το πουθενά, ο θεραπευτής λαμβάνει ένα μήνυμα: εδώ είναι από πού το πήρα αυτό - ελέγξτε το εσείς οι ίδιοι. Η επαλήθευση παίρνει δευτερόλεπτα, γιατί η πηγή είναι ακριβώς εκεί, σε άμεση εμβέλεια.

Δεν είναι ετυμηγορία - είναι υπόθεση

Δίπλα σε κάθε ενότητα βρίσκεται μια μικρή αλλά καίρια λέξη: (υπόθεση). Το σύστημα δεν ανακοινώνει: «αυτό είναι το ερέθισμα». Λέει: αυτό είναι πιθανώς το ερέθισμα - επαληθεύστε το.

Ο ίδιος τόνος επιστρέφει στις αιτιολογήσεις: «φαίνεται ότι», «μπορεί να υποδηλώνει», «απαιτεί περαιτέρω κλινική επαλήθευση». Αυτό δεν είναι γλωσσική προσοχή που προστέθηκε στο τέλος. Είναι μια ενσωματωμένη στάση - επιστημική ταπεινότητα γραμμένη στον ίδιο τον τρόπο που το σύστημα διατυπώνει τα συμπεράσματά του. Η απόφαση παραμένει πάντα στην πλευρά του θεραπευτή. Ο άνθρωπος δεν αποχωρεί ποτέ από τον βρόχο, ούτε για μια στιγμή.

Και τώρα το πιο σημαντικό μέρος: τι κάνει το σύστημα όταν δεν γνωρίζει κάτι

Ας δούμε την ενότητα φυσιολογίας και σωματικών αντιδράσεων.

Όποιος εργάζεται με το άγχος γνωρίζει την τυπική εικόνα: μυϊκή ένταση, γρήγορος καρδιακός ρυθμός, εφίδρωση, ρηχή αναπνοή. Ένα γλωσσικό μοντέλο θα μπορούσε απλά να το προσθέσει αυτό - θα ταίριαζε τέλεια, θα ακουγόταν αξιόπιστο, κανείς δεν θα το παρατηρούσε.

Το σύστημα δεν το κάνει αυτό. Γράφει: «Δεν υπάρχουν δεδομένα στην απομαγνητοφώνηση».

Και μετά κάνει ένα βήμα που αλλάζει τα πάντα. Στην αιτιολόγηση δεν αναγνωρίζει απλώς το κενό, το μετατρέπει σε κλινικό στοιχείο: σημειώνει ότι ο ασθενής περιέγραψε «άγχος» αλλά δεν έδωσε συγκεκριμένες σωματικές αντιδράσεις, και προτείνει ότι μια πληρέστερη ABC θα απαιτούσε να ρωτήσουμε τι συνέβαινε στο σώμα τη στιγμή που έμπαινε και ενώ στεκόταν δίπλα στη συνομιλία.

Αυτή είναι ακριβώς η στιγμή όπου ένα συνηθισμένο μοντέλο θα είχε ψευδαίσθηση. Το ATS αντ’ αυτού λέει «δεν γνωρίζω» - και δείχνει στον θεραπευτή πού τελειώνει η απομαγνητοφώνηση και πού αρχίζει η δική του δουλειά.

Η ίδια ακρίβεια εμφανίζεται στην ενότητα των συναισθημάτων: όπου ο ασθενής έδωσε έναν αριθμό («άγχος 90/100»), το σύστημα τον καταγράφει. Όπου δεν το έκανε - με τη λύπη και το πένθος - δηλώνει ξεκάθαρα: «ένταση: δεν παρασχέθηκε». Διακρίνει τι μετρήθηκε από τι δεν μετρήθηκε. Δεν προσποιείται πληρότητα.

Μια στάση, όχι τρία χαρακτηριστικά

Πηγή. Υπόθεση. Όριο.

Αυτά δεν είναι τρία ξεχωριστά κουμπιά κολλημένα στο προϊόν. Είναι ένας συνεπής τρόπος με τον οποίο το σύστημα προσεγγίζει εξαρχής το κλινικό υλικό: δείχνει πού γνωρίζει τι γνωρίζει, αντιμετωπίζει τα συμπεράσματά του ως υποθέσεις προς επαλήθευση, και επισημαίνει ανοιχτά τα σημεία όπου έλειπαν δεδομένα.

Ένα μαύρο κουτί λειτουργεί αντίστροφα - κρύβει τη διαδρομή και γεμίζει τα κενά προκειμένου να φαίνεται σίγουρο. Στο ιατρείο, δεν υπάρχει συναίνεση γι’ αυτό.

Ο σκεπτικισμός απέναντι στην AI στη θεραπεία είναι δικαιολογημένος. Έτσι το θέμα δεν είναι να σας πείσουμε να εμπιστευτείτε την AI - είναι το εργαλείο να αποδείξει, μόνο του, ότι μπορεί να ελεγχθεί. Η εμπιστοσύνη δεν προέρχεται από τη βεβαιότητα. Προέρχεται από την ειλικρίνεια.

Η Ομάδα του Therapy Support