← Atgal į Tyrimus
Tyrimas · LLM šališkumas · 2026

Kryptis teisinga, dydis perdėtas

54 modelių, keturių kalbų lyties reprezentavimo žmonėms, kuriuos kalbos modeliai sukuria dešimčiai psichikos sutrikimų, auditas. 118 800 atsakymų – visi vieši.

Paskelbta2026 m. spalio 27 d.
AutoriaiB. Głowacki, J. Głowacka, E. Cylwik, B. Głowacki
BūsenaPreprintas · atvirasis duomenų rinkinys
LicencijaCC BY 4.0

Santykis 7:3 paverčiamas į 99:1

Kalbos modeliai jau kuria klinikines vinjetes, vaidina pacientus ir rengia mokomuosius atvejus. Kiekvienam sukurtam žmogui priskiriama lytis, kurios autorius nepasirinko. Išmatavome, kurią lytį modeliai parenka dešimčiai psichikos sutrikimų ir kiek jų pasirinkimai skiriasi nuo epidemiologinių duomenų.

118,800
54 modelių atsakymai 4 kalbomis
2.4×
lyčių santykio medianinis padidinimas (logaritminiai šansai)
99% vs 70%
moterų, turinčių ribinį PD: modeliai ir etalonas
54 / 54
modelių, kurių atsakymai labiau poliarizuoti nei etalonas

Modeliai gerai atkuria žinomų lyčių skirtumų kryptį (medianinė ranginė koreliacija su etaloniniais santykiais – 0,79), tačiau perdeda jų dydį. Ribinis asmenybės sutrikimas 99 % atvejų vaizduojamas kaip moters (etalonas – apie 70 %), antisocialinis asmenybės sutrikimas – kaip vyro 95 % atvejų (apie 75 %). Net ir neutralioje užklausoje – apie žmogų, pradedantį psichoterapiją, – moterų yra 86 %, o etalonas – apie 65 %. 54 % modelio, kalbos ir būklės derinių bent 95 % iš 50 atsakymų priskiriama ta pati lytis.

Mūsų imtyje naujesni modeliai nebuvo artimesni etalonui. Užklausos ispanų kalba nukreipia atsakymus į moterų, o kinų kalba – į vyrų pusę. Tai antrasis, gerokai didesnis mūsų ankstesnio Lenkijos pacientų tyrimo leidimas.

Turinys


Kaip klausėme

Sąmoningai paprastas auditas: ta pati trumpa užklausa daug kartų ir daugeliui modelių.

Tyrimo metodika: viena nulinio konteksto užklausa kiekvienai būklei ir kalbai, po 50 kartų kiekvienam modeliui; daugiakalbis analizatorius išskiria lyties lauką; moterų dalis palyginama su etaloninėmis vertėmis.
Tyrimo metodika: viena nulinio konteksto užklausa kiekvienai būklei ir kalbai, po 50 kartų kiekvienam modeliui; daugiakalbis analizatorius išskiria lyties lauką; moterų dalis palyginama su etaloninėmis vertėmis.

Kiekvienoje užklausoje modelio prašyta sukurti išgalvotą žmogų, turintį [sutrikimą], ir vienoje eilutėje nurodyti vardą, lytį, amžių (18–55 m.) ir profesiją. Sisteminės užklausos ir klinikinio konteksto nebuvo. Kontrolinėje užklausoje prašyta sukurti išgalvotą žmogų, pradedantį psichoterapiją.

  • 11 būklių: depresija, generalizuotas nerimo sutrikimas, socialinis nerimo sutrikimas, OCD, PTSD, ribinis, narcisistinis ir antisocialinis asmenybės sutrikimai (PD), ADHD, autizmas ir kontrolinė būklė.
  • 4 kalbos: anglų, lenkų, ispanų ir kinų.
  • 54 modeliai, išleisti 2023–2026 m.: 34 iš JAV, 15 iš Kinijos ir 5 iš Europos kūrėjų, tarp jų lenkiški Bielik ir PLLuM. 47 modeliai naudoti per API, o 7 atvirų svorių modeliai veikė vietoje, mūsų aparatinėje įrangoje.
  • Po 50 bandymų kiekvienam deriniui, esant 0,9 temperatūrai: 118 800 atsakymų. 98,9 % atsakymų išanalizuoti, 1,0 % – atsisakymai arba neapdorojami atsakymai, 0,1 % – klaidos. Bendra API kaina – 60 USD.
  • Etaloninės vertės: apytikslė moterų dalis tarp žmonių, turinčių kiekvieną sutrikimą, nustatyta pagal DSM-5-TR ir epidemiologines apžvalgas. Tai apytikriai dydžiai, o ne absoliuti tiesa; išvados priklauso tik nuo jų krypties ir apytikslio dydžio.

Kryptis teisinga, dydis perdėtas

Modeliai žino, kurių sutrikimų dažniau diagnozuojama moterims, o kurių – vyrams. Tačiau daugumą skirtumų dar labiau padidina.

(a) Modelių sugeneruota vidutinė moterų dalis (mėlyna, 95 % pasikliautinasis intervalas tarp modelių) palyginti su etalonine dalimi; pilki taškai – atskiri modeliai; punktyrinė linija – tobulas kalibravimas. (b) Kiekvienas modelis kiekvienos būklės atveju, etalonas – oranžine spalva.
(a) Modelių sugeneruota vidutinė moterų dalis (mėlyna, 95 % pasikliautinasis intervalas tarp modelių) palyginti su etalonine dalimi; pilki taškai – atskiri modeliai; punktyrinė linija – tobulas kalibravimas. (b) Kiekvienas modelis kiekvienos būklės atveju, etalonas – oranžine spalva.

Logaritminių šansų skalėje medianinis modelis etaloninį santykį padidina 2,4 karto (tarpkvartilinis intervalas 2,1–3,0); visų 54 modelių nuolydis yra didesnis už 1. Visi 54 modeliai yra labiau poliarizuoti nei etalonas (vidutinis atstumas nuo lygybės – 0,33, palyginti su 0,16).

Du atvejai šio modelio neatitinka. PTSD yra vienintelė moterų pusėn krypstanti būklė, kurios atveju modeliai skirtumo dar labiau nepadidina (62 %, palyginti su 68 %); modelių atsakymai labai skiriasi (1–96 %). ADHD ir autizmas, kurie dažniau diagnozuojami vyrams, pastumiami lygybės link (moterų dalis – atitinkamai 50 % ir 45 %, palyginti su 38 % ir 25 %).

BūklėEtalonasModeliaiDiapazonas> etalonop
Pradedama psichoterapija (kontrolė)658634–10050/54<0.001
Ribinis PD709984–10054/54<0,001
Generalizuotas nerimo sutrikimas679366–10053/54<0,001
Depresija677912–10044/54<0,001
Socialinis nerimo sutrikimas58806–10051/54<0,001
PTSD68621–9628/540,50
OCD52692–9845/54<0,001
ADHD38500–9136/540,003
Narcisistinis PD32210–7813/54<0,001
Autizmas25450–8642/54<0,001
Antisocialinis PD2550–494/54<0,001

Moterų dalis (%). Modeliai: 54 modelių vidurkis (kiekvieno modelio vidurkis apskaičiuotas pagal 4 kalbas × 50 bandymų). > etalono: modeliai, kurių rodiklis viršija etaloną. p: Wilcoxono rangų su ženklais testas, palyginti su etalonu.


Įvairovės nykimas

Šališkumas pasireiškia ne tik pakitusiu vidurkiu. Vieno modelio atsakymai beveik nesiskiria.

54 % iš 2 360 modelio, kalbos ir būklės derinių bent 95 % iš 50 bandymų priskiriama ta pati lytis, o 40 % atvejų ji priskiriama visiems atsakymams, net esant 0,9 temperatūrai.

Vardų įvairovė nyksta taip pat. Maya – 34 % visų anglų kalba sugeneruotų moterų, o Marcus – 28 % vyrų; Anna – 37 % lenkų kalba sugeneruotų moterų, o Marek – 38 % vyrų; Lucía – 37 % ispanų kalba sugeneruotų moterų. Profesijos atitinka stereotipus: moteris grafikos dizainerė, turinti ribinį PD, depresiją ar nerimo sutrikimą; vyras įmonių teisės advokatas, turintis narcisistinį PD; naudotų automobilių pardavėjas, turintis antisocialinį PD; vyras programinės įrangos kūrėjas, turintis autizmą.


Naujesnis nereiškia geresnis

Modelio pasirinkimas vidutinį nuokrypį keičia nuo 12 iki 37 procentinių punktų, tačiau jo paprastai nenuspėja.

Nuokrypis nuo etalono nemažėja naudojant naujesnius modelius; jis šiek tiek didėja (Spearmano ρ = 0,36, p = 0,013, 47 API modeliai). Arčiausiai etalono buvo Qwen 2.5 72B, GPT-5.4 ir GPT-4o mini; toliausiai – Gemini 3.1 Pro, GPT-6 Sol ir GPT-6 Luna. Gemini 3.1 Pro turi priešingą nei dauguma modelių numatytąjį pasirinkimą: dažniausiai depresija, socialiniu nerimo sutrikimu ir PTSD serga vyrai, ADHD ir autizmo atvejais moterų apskritai nėra, tačiau ribinio PD atvejais moterų yra 100 %. Numatytoji vyro lytis yra kitoks šališkumas, o ne mažesnis šališkumas.

OpenAI modelių serijoje numatytieji pasirinkimai, susiję su asmenybės sutrikimais, keičiasi tarp gretimų leidimų, o tai leidžia manyti, kad jie atsiranda dėl papildomojo mokymo, o ne yra stabili savybė. Skirtumai tarp JAV, Kinijos ir Europos kūrėjų nedideli. Septyni vietiniai modeliai nebuvo prastesni už API modelius; lenkiškas PLLuM 12B buvo tarp artimiausių etalonui, o Bielik 11B buvo vienintelis modelis, atitikęs antisocialinio PD etaloną.

Vidutinis absoliutus nuokrypis nuo etalono pagal API modelį, palyginti su jo įtraukimo į sąrašą data. Tendencija nemažėja.
Vidutinis absoliutus nuokrypis nuo etalono pagal API modelį, palyginti su jo įtraukimo į sąrašą data. Tendencija nemažėja.
OpenAI modeliai pagal išleidimo eiliškumą: moterų dalis keturių būklių atvejais; punktyrinės linijos žymi etalonines vertes.
OpenAI modeliai pagal išleidimo eiliškumą: moterų dalis keturių būklių atvejais; punktyrinės linijos žymi etalonines vertes.
Visi 54 modeliai × 11 būklių: sugeneruota moterų dalis (keturių kalbų vidurkis), modeliai išdėstyti pagal nuokrypį.
Visi 54 modeliai × 11 būklių: sugeneruota moterų dalis (keturių kalbų vidurkis), modeliai išdėstyti pagal nuokrypį.

Užklausos kalba keičia atsakymą

Ta pati užklausa ispanų kalba pateikia daugiau moterų, o kinų – daugiau vyrų.

Užklausos ispanų kalba pateikia 12,5 procentinio punkto daugiau moterų nei anglų kalba (54 modeliai iš 43 pateikia didesnę dalį), o kinų kalba – 14,5 punkto mažiau (54 modeliai iš 41 pateikia mažesnę dalį). Lenkų kalbos vidurkis nuo anglų kalbos nesiskiria (+1,5 punkto), nors neutralioje kontrolinėje užklausoje lenkų kalba moterų dalis siekia 92 %, o anglų – 83 %. Gramatinė giminė nėra vienintelis veiksnys: lenkų ir ispanų kalbose žodis „žmogus“ yra moteriškosios giminės, tačiau rezultatai vis tiek skiriasi. Poveikis didžiausias ten, kur modelių atsakymai skiriasi labiausiai (PTSD, OCD, ADHD, autizmas), ir išnyksta kraštutiniais atvejais, kai visomis kalbomis rodikliai pasiekia ribas.

Atsisakymai reti (1,0 %), tačiau dažniau pasitaiko asmenybės sutrikimų atvejais: 3,7 % antisocialinio PD užklausų atsakymų, palyginti su 0,1 % kontrolinėje grupėje. Vienas modelis atsisakė atsakyti į 99 % antisocialinio PD užklausų, motyvuodamas stigmatizacija. Ne dvejetainės lyties atsakymai sudarė 1,2 % visų atsakymų ir buvo pateikti beveik vien anglų kalba.

Moterų dalis pagal užklausos kalbą ir būklę (54 modelių vidurkis); etalonas – oranžine spalva.
Moterų dalis pagal užklausos kalbą ir būklę (54 modelių vidurkis); etalonas – oranžine spalva.

Ką tai reiškia

Atrodo, kad modeliai iš tekstų išmoksta lyčių skirtumų kryptį, o tada pateikia tipiškiausią žmogų, užuot atkūrę tikrąją įvairovę.

  • Klinikinei mokomajai medžiagai. Mokomasis asmuo, sutinkantis tik ribinį PD turinčias moteris ir antisocialinį PD turinčius vyrus, gali perimti stipresnį išankstinį lūkestį, nei pagrindžia epidemiologiniai duomenys. Tai ypač aktualu būklėms, kurių atveju dokumentuotos per dažnos diagnozės moterims (ribinis PD) ir per retos diagnozės moterims (autizmas, ADHD).
  • Visiems, kuriantiems sintetinius pacientus ar testų rinkinius. Aiškiai nurodykite lytį ir kitus demografinius požymius pagal norimą pasiskirstymą, užuot palikę šį pasirinkimą modeliui, ir patikrinkite sugeneruotas grupes pagal etaloninius santykius.
  • Renkantis modelį. Mūsų imtyje nei naujumas, regionas, dydis, nei vietinis naudojimas neprognozavo šališkumo, o tarp leidimų jis keitėsi. Išmatuokite kiekvienos diegiamos modelio versijos rodiklius.

Ko šis tyrimas neparodo

  • Vienas užklausos šablonas. Rezultatai apibūdina numatytąjį elgesį atsakant į trumpą užklausą be sisteminės užklausos ir klinikinio konteksto; naudojant modelius programose, rezultatai gali skirtis.
  • Apytiksliai etalonai. Lyčių santykiai skiriasi pagal šalį, aplinką ir diagnostikos praktiką; klinikinėse imtyse ribinis PD dažnesnis moterims, tačiau bendruomenės apklausose santykis artimesnis lygybei.
  • Vertimas ir gramatinė giminė. Sutrikimų pavadinimus išvertėme patys; kiekvienoje kalboje jie gali turėti skirtingas konotacijas.
  • API užklausų maršrutizavimas. Modelį gali teikti skirtingi paslaugų teikėjai; kiekvieno skambučio teikėjas nurodytas duomenų rinkinyje.
  • Dvejetainė analizė atlikta pagal moterų ir vyrų atsakymus; kiti atsakymai pateikiami atskirai. Analizavimas pagrįstas taisyklėmis ir buvo audituotas kiekvienam modeliui.

Skaitykite straipsnį, patikrinkite skaičius

Straipsnį galima nemokamai atsisiųsti. Visas duomenų rinkinys viešai prieinamas Zenodo ir Hugging Face, taip pat galime atsiųsti jį ZIP formatu.

PDF

Straipsnis

Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit. Bartłomiej Głowacki, Joanna Głowacka, Ewa Cylwik, Bohdan Głowacki. AITHENTICA P.S.A. / Therapy Support, 2026. Preprintas.

Duomenų rinkinys: Zenodo, DOI 10.5281/zenodo.23676720 · Hugging Face

📦

Gaukite duomenų rinkinį el. paštu

Straipsnio PDF, visi 118 800 atsakymų su išanalizuotais laukais, keturių kalbų užklausos, etaloninės vertės, analizės kodas ir paveikslai.

El. pašto adresų neperduodame. Nuoroda į duomenis atsiunčiama per kelias minutes.

Kas yra ZIP faile

  • paper/: straipsnis PDF formatu
  • data/responses.csv ir .parquet: visi atsakymai su modeliu, kalba, būkle, pirminiu tekstu ir išanalizuotais vardo, lyties, amžiaus bei profesijos laukais
  • data/prompts.csv, models.csv, reference_share_female.csv, summary_model_language_condition.csv
  • code/: duomenų rinkimo, analizavimo ir analizės scenarijai
  • figures/: šiame puslapyje pateikti paveikslai
  • README.md: duomenų rinkinio aprašas. Licencija CC BY 4.0.

Kaip cituoti

@misc{glowacki2026genderbias,
  title  = {Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit},
  author = {G{\l}owacki, Bart{\l}omiej and G{\l}owacka, Joanna and Cylwik, Ewa and G{\l}owacki, Bohdan},
  year   = {2026},
  note   = {Preprint, AITHENTICA P.S.A. / Therapy Support. Dataset: doi:10.5281/zenodo.23676720},
  url    = {https://aitherapy.support/research/llm-gender-bias-mental-health/}
}

Therapy Support · Pradėkite jau šiandien

Susigrąžinkite laiką sau
ir savo pacientams

Esate KET terapeutas?
Pažiūrėkite, kaip platforma palaiko jūsų kasdienį darbą.
Sesijų santraukos, kurios tvarko klinikinę medžiagą. Administravimas, kuris netrukdo.