¿No confías en la IA en terapia? Bien.
Nosotros tampoco, cuando finge estar segura.
Hay una frase que aparece en las conversaciones con terapeutas cada vez que surge el tema de la inteligencia artificial en la sala de consulta: “No voy a confiar en algo que no entiendo.”
Esto no es tecnofobia. Es un instinto clínico saludable. Un terapeuta responde por cada hipótesis que formula sobre un paciente — así que tiene el derecho, y de hecho el deber, de saber de dónde viene esa hipótesis.
Sin embargo, la mayoría de las herramientas de IA se comportan como una caja negra: introduces los datos, sale un resultado terminado, y el camino de uno a otro permanece oculto — enterrado en millones de parámetros que nadie puede inspeccionar. En una aplicación del tiempo, eso no es un problema. En el trabajo con otro ser humano, sí lo es.
Hay también una segunda trampa, más peligrosa. Un modelo de lenguaje que se topa con un vacío en los datos tiene una fuerte tendencia a llenarlo — a añadir lo que encaja, lo que resulta plausible, lo que se parece al cuadro de manual. Eso es exactamente una alucinación. Y en un contexto clínico es más peligrosa que el silencio, porque suena creíble.
Así que el punto de partida es simple: una herramienta de IA en terapia no se gana la confianza por ser segura de sí misma. Se la gana cuando es honesta — muestra la fuente, muestra el razonamiento y admite lo que no sabe.
Esto se ve más fácilmente en un caso concreto. El mapa que abre este artículo es un fragmento que el sistema generó a partir de una transcripción de sesión — repasemos sus secciones.
El sistema no inventa los pensamientos del paciente - los cita
En la sección de pensamientos automáticos no aparece en ningún lugar una “interpretación de la IA”. Lo que aparece son las declaraciones textuales del paciente tomadas de la transcripción: “Iría allí y no escribiría nada”, “No aprobaría”, “Soy un fracaso”. Debajo, en el campo AI Rationale, el sistema explica por qué asignó esos pensamientos a una categoría determinada y qué distorsiones cognitivas podrían estar detrás.
Esto es lo opuesto a una caja negra. En lugar de un veredicto salido de la nada, el terapeuta recibe un mensaje: aquí es de donde saqué esto — compruébalo tú mismo. La verificación toma segundos, porque la fuente está ahí, al alcance de la mano.
No es un veredicto - es una hipótesis
Junto a cada sección hay una palabra pequeña pero crucial: (hipótesis). El sistema no anuncia: “este es el desencadenante”. Dice: probablemente este sea el desencadenante — verifícalo.
El mismo tono vuelve en las justificaciones: “parece”, “puede sugerir”, “requiere mayor verificación clínica”. Esto no es una cautela lingüística añadida al final. Es una postura integrada — humildad epistémica incorporada en la propia manera en que el sistema formula sus conclusiones. La decisión siempre queda del lado del terapeuta. El ser humano nunca sale del bucle, ni por un momento.
Y ahora la parte más importante: qué hace el sistema cuando no sabe algo
Miremos la sección de fisiología y reacciones somáticas.
Cualquiera que trabaje con ansiedad conoce el cuadro típico: tensión muscular, corazón acelerado, sudoración, respiración superficial. Un modelo de lenguaje podría simplemente añadir eso — encajaría perfectamente, sonaría creíble, nadie lo notaría.
El sistema no hace eso. Escribe: “Sin datos en la transcripción”.
Y luego da un paso que lo cambia todo. En la justificación no se limita a reconocer el vacío, lo convierte en una pista clínica: señala que la paciente describió “estrés” pero no dio reacciones corporales concretas, y sugiere que un ABC más completo requeriría preguntar qué ocurría en el cuerpo en el momento de entrar y mientras estaba junto a la conversación.
Este es exactamente el momento en que un modelo corriente alucinaría. El ATS en cambio dice “no lo sé” — y le muestra al terapeuta dónde termina la transcripción y dónde empieza su propio trabajo.
La misma precisión aparece en la sección de emociones: donde la paciente dio un número (“estrés 90/100”), el sistema lo registra. Donde no lo hizo — con la tristeza y el duelo — declara con claridad: “intensidad: no proporcionada”. Distingue lo que se midió de lo que no. No finge exhaustividad.
Una sola postura, no tres funciones
Fuente. Hipótesis. Límite.
Estas no son tres funciones separadas añadidas al producto. Son una única forma coherente en que el sistema aborda el material clínico desde el principio: muestra dónde sabe lo que sabe, trata sus conclusiones como hipótesis a verificar, y señala abiertamente los lugares donde faltaban datos.
Una caja negra funciona al revés — oculta el camino y rellena los vacíos para parecer segura. En la sala de consulta, no hay consentimiento para eso.
El escepticismo hacia la IA en terapia está justificado. Así que el objetivo no es convencerte de confiar en la IA — es que la herramienta demuestre, por sí misma, que puede ser verificada. La confianza no viene de la seguridad en sí misma. Viene de la honestidad.
El equipo de Therapy Support