Último estudio Los modelos de lenguaje saben en qué dirección se inclinan por sexo los trastornos mentales, y exageran esa inclinación
Pedimos a 54 modelos de lenguaje, en cuatro idiomas, que inventaran a una persona con un trastorno mental 118.800 veces. Acertaron la dirección de las diferencias por sexo y exageraron su magnitud: el trastorno límite de la personalidad se representa como una mujer el 99% de las veces. Conjunto de datos abierto.
Cómo trabajamos
Le mostramos cómo trabajamos.
Estudiamos los sesgos y los límites de los modelos de lenguaje en contextos clínicos, medimos la calidad de la conceptualización de casos TCC asistida por IA, verificamos la seguridad de los datos de los pacientes y perfeccionamos las notas de sesión y la automatización de la documentación terapéutica.
Documentamos cada paso de forma abierta: la metodología, los datos brutos, el código y las conclusiones se publican íntegramente. Terapeutas, investigadores y clínicos pueden asomarse a nuestro taller y ver en qué basamos las decisiones de producto.
¿Quiere colaborar con nosotros? Póngase en contacto.
Publicaciones
Todos los estudios
Informes, experimentos y notas técnicas: todo publicado de forma abierta.
Los modelos de lenguaje saben en qué dirección se inclinan por sexo los trastornos mentales, y exageran esa inclinación
Pedimos a 54 modelos de lenguaje, en cuatro idiomas, que inventaran a una persona con un trastorno mental 118.800 veces. Acertaron la dirección de las diferencias por sexo y exageraron su magnitud: el trastorno límite de la personalidad se representa como una mujer el 99% de las veces. Conjunto de datos abierto.
Modelo pequeño, pipeline cuidadoso: reducir la brecha con los LLM de frontera
Un ciclo de investigación automatizado y evaluado por modelos situó un modelo lingüístico de bajo coste a la par de una referencia de frontera en la síntesis de documentos largos y múltiples. Observado en resúmenes previos a las sesiones elaborados a partir de transcripciones de dos pacientes sintéticos; evaluación basada únicamente en modelos.
¿Cómo ven los LLM a un paciente polaco?
Un análisis experimental del sesgo en seis modelos de lenguaje al generar pacientes ficticios con cuatro trastornos mentales. 240 consultas · 6 modelos · 4 trastornos.
Anna Graniczna tiene 31 años, miedo al abandono y no existe
Cómo construimos pacientes sintéticos para investigación y pruebas sin arriesgar la privacidad de personas reales. 20 sesiones de terapia de esquemas, una ficha de paciente abierta y la anatomía de un buen input para un LLM.