Senaste studien Språkmodeller vet åt vilket håll psykiska störningar är snedfördelade efter kön – och överdriver det
Vi bad 54 språkmodeller på fyra språk att hitta på en person med en psykisk störning 118 800 gånger. De anger riktningen på könsskillnaderna korrekt och överdriver deras storlek: borderline-PD beskrivs som en kvinna 99 % av gångerna. Öppen datauppsättning.
Så arbetar vi
Vi visar hur vi arbetar.
Vi studerar bias och språkmodellernas begränsningar i kliniska sammanhang, mäter kvaliteten på AI-stödd fallkonceptualisering inom KBT, granskar säkerheten kring patientdata och förfinar sessionsanteckningar och automatiseringen av terapeutisk dokumentation.
Vi dokumenterar varje steg öppet — metodik, rådata, kod och slutsatser publiceras i sin helhet. Terapeuter, forskare och kliniker kan titta in i vår verkstad och se vad vi grundar våra produktbeslut på.
Vill du samarbeta med oss? Hör av dig.
Publikationer
Alla studier
Rapporter, experiment, tekniska noteringar — allt publicerat öppet.
Språkmodeller vet åt vilket håll psykiska störningar är snedfördelade efter kön – och överdriver det
Vi bad 54 språkmodeller på fyra språk att hitta på en person med en psykisk störning 118 800 gånger. De anger riktningen på könsskillnaderna korrekt och överdriver deras storlek: borderline-PD beskrivs som en kvinna 99 % av gångerna. Öppen datauppsättning.
Liten modell, noggrant utformad pipeline: minska avståndet till frontier-LLM:er
En automatiserad, modellevaluerad forskningsloop fick en lågkostnadsmodell för språk att nå samma nivå som en frontierreferens vid lång sammanfattning av flera dokument. Observerat på sammanfattningar inför sessioner, baserade på transkriptioner från två syntetiska patienter; enbart modelbaserad utvärdering.
Hur ser LLM:er en polsk patient?
En experimentell analys av bias i sex språkmodeller vid generering av fiktiva patienter med fyra psykiska störningar. 240 frågor · 6 modeller · 4 störningar.
Anna Graniczna är 31, har övergivenhetsrädsla och finns inte
Hur vi bygger syntetiska patienter för forskning och testning utan att riskera integriteten hos riktiga människor. 20 sessioner schematerapi, ett öppet patientunderlag och anatomin hos en bra input till en LLM.