Вы не доверяете AI в терапии? Хорошо.

Мы тоже — когда он притворяется, что уверен.

Есть одна фраза, которая появляется в разговорах с терапевтами каждый раз, когда заходит речь об искусственном интеллекте в кабинете терапевта: “Я не буду доверять тому, чего не понимаю.”

Это не технофобия. Это здоровый клинический инстинкт. Терапевт отвечает за каждую гипотезу, которую он формирует о пациенте, — поэтому он имеет право, а точнее обязан, знать, откуда эта гипотеза берётся.

Тем не менее большинство инструментов AI ведут себя как чёрный ящик: вы подаёте данные, на выходе получаете готовый результат, а путь от одного к другому остаётся скрытым — погребённым в миллионах параметров, которые никто не может проверить. В приложении погоды это не проблема. В работе с другим человеком — это проблема.

Есть и вторая, более опасная ловушка. Языковая модель, наткнувшаяся на пробел в данных, имеет сильную тенденцию его заполнять — добавлять то, что подходит, что правдоподобно, что выглядит как картина из учебника. Это и есть галлюцинация. И в клиническом контексте это опаснее молчания, потому что звучит убедительно.

Поэтому отправная точка проста: инструмент AI в терапии заслуживает доверия не потому, что уверен в себе. Он заслуживает его, когда честен — показывает источник, показывает рассуждение и признаёт, чего не знает.

Легче всего это увидеть на конкретном случае. Карта, открывающая эту статью, — это фрагмент, который система сгенерировала из транскрипта сессии — давайте пройдёмся по её разделам.

Система не выдумывает мысли пациента — она их цитирует

В разделе автоматических мыслей нигде нет “интерпретации от AI”. Там появляются дословные высказывания пациента из транскрипта: “Я бы пошла туда и ничего не написала”, “Я бы не сдала”, “Я неудачница”. Ниже, в поле AI Rationale, система объясняет, почему она отнесла эти мысли к данной категории и какие когнитивные искажения могут за ними стоять.

Это противоположность чёрному ящику. Вместо вердикта из ниоткуда терапевт получает сообщение: вот откуда я это взял — проверь сам. Проверка занимает секунды, потому что источник находится прямо под рукой.

Это не вердикт — это гипотеза

Рядом с каждым разделом стоит одно маленькое, но решающее слово: (гипотеза). Система не объявляет: “это триггер”. Она говорит: это, вероятно, триггер — проверь это.

Тот же тон возвращается в обоснованиях: “по-видимому”, “может указывать”, “требует дальнейшей клинической проверки”. Это не языковая осторожность, добавленная под конец. Это встроенная позиция — эпистемическая скромность, вписанная в саму манеру, в которой система формулирует свои выводы. Решение всегда остаётся за терапевтом. Человек ни на мгновение не выпадает из контура.

А теперь самое важное: что делает система, когда чего-то не знает

Давайте посмотрим на раздел физиологии и соматических реакций.

Любой, кто работает с тревогой, знает типичную картину: напряжение мышц, учащённое сердцебиение, потливость, поверхностное дыхание. Языковая модель могла бы это просто добавить — идеально подошло бы, звучало бы убедительно, никто бы не заметил.

Система этого не делает. Она пишет: “Нет данных в транскрипте”.

А затем делает шаг, который меняет всё. В обосновании она не просто признаёт пробел, а превращает его в клиническую подсказку: отмечает, что пациентка описала “стресс”, но не дала конкретных телесных реакций, и предлагает, что более полное ABC требовало бы спросить, что происходило в теле в момент входа и во время стояния рядом с разговором.

Это как раз тот момент, где обычная модель бы галлюцинировала. ATS вместо этого говорит “я не знаю” — и показывает терапевту, где заканчивается транскрипт и начинается его собственная работа.

Та же точность проявляется в разделе эмоций: там, где пациентка дала число (“стресс 90/100”), система его фиксирует. Там, где нет — с грустью и горем — она прямо заявляет: “интенсивность: не указана”. Она различает то, что было измерено, и то, что не было. Она не притворяется полнотой.

Одна позиция, а не три функции

Источник. Гипотеза. Граница.

Это не три отдельные кнопки, прикрученные к продукту. Это единый последовательный способ, которым система подходит к клиническому материалу с самого начала: она показывает, где знает то, что знает, относится к своим выводам как к гипотезам, требующим проверки, и открыто отмечает места, где данные отсутствовали.

Чёрный ящик работает наоборот — он скрывает путь и заполняет пробелы, чтобы выглядеть уверенно. В кабинете терапевта на это нет согласия.

Скептицизм по отношению к AI в терапии оправдан. Поэтому суть не в том, чтобы убедить вас доверять AI, — суть в том, чтобы инструмент сам доказал, что его можно проверить. Доверие приходит не от уверенности. Оно приходит от честности.

Команда Therapy Support