← Tagasi uuringute juurde
Research · LLM bias · 2026

Õige suund, liialdatud suurus

54 mudeli ja nelja keele audit selle kohta, millise sooga inimesed keelemudelid kümne psüühikahäire puhul välja mõtlevad. 118 800 vastust, kõik avalikud.

Avaldatud27. oktoober 2026
AutoridB. Głowacki, J. Głowacka, E. Cylwik, B. Głowacki
StaatusEeltrükk · avatud andmestik
LitsentsCC BY 4.0

Võrdlussuhe 7:3 muutub väljundis suhteks 99:1

Keelemudelid kirjutavad nüüd kliinilisi juhtumikirjeldusi, mängivad patsiente ja koostavad õppejuhtumeid. Igal väljamõeldud inimesel on sugu, mida autor ei valinud. Mõõtsime, kumma soo mudelid kümne psüühikahäire puhul valivad ja kui palju see erineb epidemioloogilistest andmetest.

118 800
vastust 54 mudelilt neljas keeles
2,4×
sooliste suhete mediaanne võimendus (logaritmiline šansside suhe)
99% vs 70%
naisi piirialase isiksushäire puhul: mudelid vs võrdlusandmed
54 / 54
mudelit, mis olid võrdlusandmetest polariseerunumad

Mudelid kordavad teadaolevate sooliste erinevuste suunda hästi (mediaanne astakkorrelatsioon võrdlussuhetega 0,79), kuid võimendavad nende suurust. Piirialast isiksushäiret kujutatakse naisena 99% juhtudest (võrdlusandmetes umbes 70%), antisotsiaalset isiksushäiret mehena 95% juhtudest (umbes 75%). Isegi neutraalse päringu puhul, kus palutakse kujutada psühhoteraapiat alustavat inimest, on naisi 86%, võrdlusandmetes umbes 65%. 54% mudeli–keele–seisundi kombinatsioonidest oli vähemalt 95% 50-st vastusest sama sooga.

Meie valimis ei olnud uuemad mudelid võrdlusandmetele lähemal. Hispaaniakeelsed päringud kallutavad vastuseid naiste ja hiinakeelsed meeste poole. See on meie varasema Poola patsiente käsitlenud uuringu teine ja palju suurem väljaanne.

Sisukord


Kuidas küsisime

Tahtlikult lihtne audit: sama lühike palve, palju kordi ja paljudele mudelitele.

Uuringu ülesehitus: üks null-lask-päring iga seisundi ja keele kohta, 50 korda mudeli kohta; mitmekeelne parser loeb soo välja; naiste osakaalu võrreldakse võrdlusväärtustega.
Uuringu ülesehitus: üks null-lask-päring iga seisundi ja keele kohta, 50 korda mudeli kohta; mitmekeelne parser loeb soo välja; naiste osakaalu võrreldakse võrdlusväärtustega.

Igas päringus paluti mudelil luua väljamõeldud [häirega] inimene ja vastata ühel real: nimi, sugu, vanus (18–55) ning amet. Süsteemipäringut ega kliinilist konteksti ei antud. Kontrollpäringus paluti kujutada psühhoteraapiat alustavat väljamõeldud inimest.

  • 11 seisundit: depressioon, generaliseerunud ärevushäire, sotsiaalärevus, OCD, PTSD, piirialane, nartsissistlik ja antisotsiaalne isiksushäire (PD), ADHD, autism ning kontrolltingimus.
  • 4 keelt: inglise, poola, hispaania ja hiina keel.
  • 54 mudelit aastatest 2023–2026: 34 USA arendajatelt, 15 Hiina ja 5 Euroopa arendajatelt, nende hulgas Poola Bielik ja PLLuM. 47 mudelit kasutati API kaudu, 7 avatud kaaludega mudelit käitati kohapeal meie riistvaral.
  • 50 genereerimist kombinatsiooni kohta temperatuuril 0,9: 118 800 vastust. 98,9% vastustest parsiti, 1,0% olid keeldumised või parsida ei õnnestunud ning 0,1% olid vead. API kogukulu oli 60 USD.
  • Võrdlusväärtused: iga häirega inimeste seas naiste osakaudud ligikaudsed hinnangud DSM-5-TR-i ja epidemioloogiliste ülevaadete põhjal. Need on suurusjärgu hinnangud, mitte lõplikud tõeväärtused; järeldused sõltuvad üksnes suunast ja ligikaudsest suurusest.

Õige suund, liialdatud suurus

Mudelid teavad, milliseid häireid diagnoositakse sagedamini naistel ja milliseid meestel. Seejärel võimendavad nad enamikku erinevusi veelgi.

(a) Naiste osakaal genereeritud vastustes (sinine, 95% usaldusvahemik mudelite lõikes) võrreldes võrdlusandmetega; hallid punktid tähistavad üksikmudeleid; katkendjoon tähistab ideaalset kalibreeritust. (b) Iga mudel kõigi seisundite puhul, võrdlusväärtus oranžiga.
(a) Naiste osakaal genereeritud vastustes (sinine, 95% usaldusvahemik mudelite lõikes) võrreldes võrdlusandmetega; hallid punktid tähistavad üksikmudeleid; katkendjoon tähistab ideaalset kalibreeritust. (b) Iga mudel kõigi seisundite puhul, võrdlusväärtus oranžiga.

Logaritmilise šansside suhte skaalal võimendab mediaanmudel võrdlussuhet 2,4 korda (kvartiilide vahemik 2,1–3,0); tõus on kõigi 54 mudeli puhul suurem kui 1. Kõik 54 mudelit on võrdlusandmetest polariseerunumad (keskmine kaugus võrdsusest 0,33 vs 0,16).

Kaks seisundit mustriga ei sobitu. PTSD on ainus naiste poole kalduv seisund, mille puhul nihe naiste poole ei suurene (62% vs 68%); mudelitevaheline lahknevus on suur (1–96%). ADHD ja autismi, mida diagnoositakse sagedamini meestel, puhul liiguvad tulemused võrdsuse poole (naisi vastavalt 50% ja 45% vs 38% ja 25%).

SeisundVõrdlusMudelidVahemik> võrdlusp
Psühhoteraapiat alustamine (kontroll)658634–10050/54<0,001
Piirialane isiksushäire (PD)709984–10054/54<0,001
Generaliseerunud ärevushäire679366–10053/54<0,001
Depressioon677912–10044/54<0,001
Sotsiaalärevus58806–10051/54<0,001
PTSD68621–9628/540,50
OCD52692–9845/54<0,001
ADHD38500–9136/540,003
Nartsissistlik isiksushäire (PD)32210–7813/54<0,001
Autism25450–8642/54<0,001
Antisotsiaalne isiksushäire (PD)2550–494/54<0,001

Naiste osakaal (%). Mudelid: 54 mudeli keskmine (iga mudeli näitaja on 4 keele × 50 genereerimise keskmine). > võrdlus: võrdlusväärtusest suurema näitajaga mudelid. p: Wilcoxoni astakmärgitest võrdlusväärtuse suhtes.


Mitmekesisuse kadu

Eelarvamus ei väljendu ainult nihkes keskmises. Ühe mudeli sees varieeruvad vastused vaevu.

54% puhul 2360-st mudeli–keele–seisundi kombinatsioonist oli vähemalt 95% 50-st genereeringust sama sooga ja 40% puhul olid need kõik sama sooga, isegi temperatuuril 0,9.

Nimed koonduvad samamoodi. Maya moodustab 34% kõigist ingliskeelsetest naistest ja Marcus 28% ingliskeelsetest meestest; Anna moodustab 37% poolakeelsetest naistest ja Marek 38% poolakeelsetest meestest; Lucía moodustab 37% hispaaniakeelsetest naistest. Ametid järgivad stereotüüpe: piirialase isiksushäire, depressiooni ja ärevuse puhul naissoost graafiline disainer, nartsissistliku isiksushäire puhul meesettevõttejurist, antisotsiaalse isiksushäire puhul kasutatud autode müüja ning autismi puhul mees-tarkvaraarendaja.


Uuem ei tähenda paremat

Mudeli valik muudab keskmist kõrvalekallet 12-lt 37 protsendipunktini, kuid seda ei ennusta miski lihtne.

Uuemate mudelite puhul kõrvalekalle võrdlusandmetest ei vähene, vaid suureneb veidi (Spearmani ρ = 0,36, p = 0,013, 47 API-mudelit). Võrdlusandmetele olid kõige lähemal Qwen 2.5 72B, GPT-5.4 ja GPT-4o mini; kõige kaugemal Gemini 3.1 Pro, GPT-6 Sol ja GPT-6 Luna. Gemini 3.1 Pro vaikimisi eelistus on enamiku mudelite omale vastupidine: depressiooni, sotsiaalärevuse ja PTSD puhul enamasti mehed, ADHD ja autismi puhul mitte ühtegi naist, kuid piirialase isiksushäire puhul 100% naised. Meeste vaikimisi eelistamine on teistsugune eelarvamus, mitte väiksem eelarvamus.

OpenAI mudelisarjas muutuvad isiksushäirete vaikimisi eelistused järjestikuste väljalasete vahel, mis viitab sellele, et tegu võib olla järeltreeningu kõrvalsaadusega, mitte püsiva omadusega. USA, Hiina ja Euroopa arendajate erinevused on väikesed. Seitse kohalikku mudelit ei olnud API-mudelitest halvemad; Poola PLLuM 12B oli võrdlusandmetele üks lähemaid ning Bielik 11B oli ainus mudel, mis vastas antisotsiaalse isiksushäire puhul võrdlusandmetele.

Keskmine absoluutne kõrvalekalle võrdlusandmetest API-mudeli kohta võrrelduna mudeli loetelus märgitud kuupäevaga. Suundumus ei vähene.
Keskmine absoluutne kõrvalekalle võrdlusandmetest API-mudeli kohta võrrelduna mudeli loetelus märgitud kuupäevaga. Suundumus ei vähene.
OpenAI mudelid väljalaskejärjestuses: naiste osakaal nelja seisundi puhul; punktiirjooned tähistavad võrdlusväärtusi.
OpenAI mudelid väljalaskejärjestuses: naiste osakaal nelja seisundi puhul; punktiirjooned tähistavad võrdlusväärtusi.
Kõik 54 mudelit × 11 seisundit: genereeritud naiste osakaal (nelja keele keskmine), mudelid kõrvalekalde järgi järjestatuna.
Kõik 54 mudelit × 11 seisundit: genereeritud naiste osakaal (nelja keele keskmine), mudelid kõrvalekalde järgi järjestatuna.

Küsimuse keel muudab vastust

Sama päring hispaania keeles annab rohkem naisi, hiina keeles rohkem mehi.

Hispaaniakeelsete päringute tulemuseks on 12,5 protsendipunkti rohkem naisi kui ingliskeelsete päringute puhul (54 mudelist 43 andsid suurema näitaja), hiinakeelsete päringute puhul aga 14,5 protsendipunkti vähem (54 mudelist 41 andsid väiksema näitaja). Poola keel ei erine keskmiselt inglise keelest (+1,5 protsendipunkti), kuigi neutraalse kontrollpäringu puhul annab see 92% naisi, võrreldes ingliskeelsete päringute 83%-ga. Grammatiline sugu ei selgita kogu nähtust: poola ja hispaania keeles kasutatakse mõlemal juhul sõna „inimene“ naissoovormi, kuid tulemused on siiski erinevad. Mõju on suurim seal, kus mudelid on kõige erimeelsemad (PTSD, OCD, ADHD, autism), ning kaob äärmustes, kus kõigi keelte tulemused küllastuvad.

Keeldumisi esineb harva (1,0%), kuid need koonduvad isiksushäirete puhul: antisotsiaalse isiksushäire päringutest keelduti 3,7% korral, kontrollpäringu puhul 0,1% korral. Üks mudel keeldus 99% antisotsiaalse isiksushäire päringutest, põhjendades seda stigmatiseerimisega. Mittebinaarse soo vastuseid oli 1,2% kõigist vastustest ja peaaegu ainult inglise keeles.

Naiste osakaal päringu keele ja seisundi järgi (54 mudeli keskmine); võrdlusväärtus oranžiga.
Naiste osakaal päringu keele ja seisundi järgi (54 mudeli keskmine); võrdlusväärtus oranžiga.

Mida see tähendab

Mudelid näivad õppivat tekstidest sooliste erinevuste suuna ja kirjutavad seejärel tegeliku jaotuse valimi asemel kõige tüüpilisema inimese.

  • Kliinilise õppematerjali jaoks. Koolitatav, kes kohtab ainult piirialase isiksushäirega naisi ja antisotsiaalse isiksushäirega mehi, võib omandada epidemioloogilistest andmetest tugevama eelhoiaku just nende seisundite puhul, kus on dokumenteeritud naiste ülediagnoosimine (piirialane isiksushäire) ja aladiagnoosimine (autism, ADHD).
  • Kõigile, kes loovad sünteetilisi patsiente või testkogumeid. Määrake sugu ja muud demograafilised tunnused sihtjaotuse põhjal sõnaselgelt, selle asemel et jätta need mudeli otsustada, ning kontrollige genereeritud kohorte võrdlussuhete alusel.
  • Mudeli valimiseks. Meie valimis ei ennustanud eelarvamust ei mudeli uudsus, piirkond, suurus ega kohalik käitamine ning see muutus väljalasete vahel. Mõõtke iga juurutatava mudeliversiooni omadusi.

Mida see uuring ei näita

  • Üks päringumall. Tulemused kirjeldavad lühikese päringu korral ilmnevat vaikekäitumist ilma süsteemipäringu või kliinilise kontekstita; juurutatud rakendused võivad käituda teisiti.
  • Ligikaudsed võrdlusandmed. Soolised suhted erinevad riigi, olustiku ja diagnostilise praktika järgi; piirialane isiksushäire on kliinilistes valimites naiste poole kaldu, kuid kogukonnapõhistes uuringutes on suhe lähemal võrdsusele.
  • Tõlge ja grammatiline sugu. Tõlkisime häirete nimetused ise ning neil võivad eri keeltes olla erinevad varjundid.
  • API suunamine. Mudelit võivad teenindada eri pakkujad; iga päringu pakkuja on andmestikus talletatud.
  • Binaarne analüüs nais- ja meesvastuste põhjal; muud vastused esitatakse eraldi. Parsimine põhineb reeglitel ja seda auditeeriti mudelite kaupa.

Loe artiklit, kontrolli arve

Artikli saab tasuta alla laadida. Täielik andmestik on avalikult kättesaadav Zenodos ja Hugging Face'is ning saame selle saata ka ZIP-failina.

PDF

Artikkel

Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit. Bartłomiej Głowacki, Joanna Głowacka, Ewa Cylwik, Bohdan Głowacki. AITHENTICA P.S.A. / Therapy Support, 2026. Eeltrükk.

Andmestik: Zenodo, DOI 10.5281/zenodo.23676720 · Hugging Face

📦

Telli andmepakett e-postiga

Artikli PDF, kõik 118 800 vastust koos parsitud väljadega, päringud neljas keeles, võrdlusväärtused, analüüsikood ja joonised.

Me ei jaga e-posti aadresse. Andmelink saabub mõne minuti jooksul.

ZIP-faili sisu

  • paper/: artikkel PDF-failina
  • data/responses.csv ja .parquet: kõik vastused koos mudeli, keele, seisundi, algteksti ning parsitud nime, soo, vanuse ja ametiga
  • data/prompts.csv, models.csv, reference_share_female.csv, summary_model_language_condition.csv
  • code/: andmete kogumise, parsimise ja analüüsi skriptid
  • figures/: selle lehe joonised
  • README.md: andmestiku kirjeldus. Litsents CC BY 4.0.

Kuidas viidata

@misc{glowacki2026genderbias,
  title  = {Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit},
  author = {G{\l}owacki, Bart{\l}omiej and G{\l}owacka, Joanna and Cylwik, Ewa and G{\l}owacki, Bohdan},
  year   = {2026},
  note   = {Preprint, AITHENTICA P.S.A. / Therapy Support. Dataset: doi:10.5281/zenodo.23676720},
  url    = {https://aitherapy.support/research/llm-gender-bias-mental-health/}
}

Therapy Support · Alustage juba täna

Võtke aeg tagasi endale
ja oma patsientidele

Kas olete KKT terapeut?
Vaadake, kuidas platvorm toetab teie igapäevast tööd.
Seansikokkuvõtted, mis korrastavad kliinilise materjali. Haldus, mis ei jää jalgu.