Neueste Studie Sprachmodelle wissen, in welche Richtung psychische Störungen nach Geschlecht verzerrt sind, und übertreiben das Ausmaß
Wir baten 54 Sprachmodelle in vier Sprachen, 118,800-mal eine Person mit einer psychischen Störung zu erfinden. Sie treffen die Richtung der Geschlechtsunterschiede und übertreiben deren Ausmaß: Borderline-PD wird in 99 % der Fälle als Frau dargestellt. Offener Datensatz.
Wie wir arbeiten
Wir zeigen Ihnen, wie wir arbeiten.
Wir untersuchen Verzerrungen und Grenzen von Sprachmodellen im klinischen Kontext, messen die Qualität KI-gestützter KVT-Fallkonzeptualisierung, prüfen die Sicherheit von Patientendaten und verfeinern Sitzungsnotizen und die Automatisierung therapeutischer Dokumentation.
Wir dokumentieren jeden Schritt offen – Methodik, Rohdaten, Code und Schlussfolgerungen werden vollständig veröffentlicht. Therapeutinnen, Forschende und Klinikerinnen und Kliniker können uns in die Werkstatt schauen und sehen, worauf wir Produktentscheidungen stützen.
Sie möchten mit uns zusammenarbeiten? Melden Sie sich.
Publikationen
Alle Studien
Berichte, Experimente, technische Notizen – alle offen veröffentlicht.
Sprachmodelle wissen, in welche Richtung psychische Störungen nach Geschlecht verzerrt sind, und übertreiben das Ausmaß
Wir baten 54 Sprachmodelle in vier Sprachen, 118,800-mal eine Person mit einer psychischen Störung zu erfinden. Sie treffen die Richtung der Geschlechtsunterschiede und übertreiben deren Ausmaß: Borderline-PD wird in 99 % der Fälle als Frau dargestellt. Offener Datensatz.
Kleines Modell, sorgfältige Pipeline: den Abstand zu Frontier-LLMs verringern
Ein automatisierter, modellbasierter Forschungszyklus brachte ein kostengünstiges Sprachmodell auf das Niveau einer Frontier-Referenz bei der Zusammenfassung langer Dokumente aus mehreren Quellen. Beobachtet anhand von Sitzungsbriefings auf Basis der Transkripte zweier synthetischer Patient:innen; ausschließlich modellbasierte Evaluation.
Wie sehen LLMs einen polnischen Patienten?
Eine experimentelle Analyse der Verzerrung (Bias) in sechs Sprachmodellen bei der Generierung fiktiver Patienten mit vier psychischen Störungen. 240 Anfragen · 6 Modelle · 4 Störungen.
Anna Graniczna ist 31, hat Verlassenheitsangst und existiert nicht
Wie wir synthetische Patienten für Forschung und Tests erstellen, ohne die Privatsphäre echter Menschen zu gefährden. 20 Sitzungen Schematherapie, ein offenes Patientenblatt und die Anatomie eines guten Inputs für ein LLM.