← Назад на Истраживања
Истраживање · пристрасност ЈМ · 2026

Тачан смер, преувеличана величина

Анализа рода у измишљеним особама са десет менталних поремећаја које генеришу језички модели: 54 модела, четири језика. 118.800 одговора, сви јавно доступни.

Објављено27. октобар 2026.
АуториB. Głowacki, J. Głowacka, E. Cylwik, B. Głowacki
СтатусПрепринт · отворени скуп података
ЛиценцаCC BY 4.0
Преузмите рад (PDF) arXiv: ускоро

Референтни однос 7:3 у резултату постаје 99:1

Језички модели сада пишу клиничке вињете, играју улоге пацијената и састављају случајеве за обуку. Свака измишљена особа има род који аутор није одабрао. Измерили смо који род модели бирају за десет менталних поремећаја и колико се тај избор разликује од епидемиолошких података.

118,800
одговора 54 модела на 4 језика
2.4×
медијан појачања односа полова (логаритам шанси)
99% vs 70%
жене са граничним ПЛ: модели наспрам референтне вредности
54 / 54
модела поларизованијих од референтне вредности

Модели добро понављају смер познатих полних разлика (медијан корелације рангова са референтним односима 0.79), али преувеличавају њихову величину. Гранични поремећај личности приказан је као поремећај жене у 99% случајева (референтна вредност је око 70%), а антисоцијални поремећај личности као поремећај мушкарца у 95% случајева (око 75%). Чак и неутрални упит, особа која започиње психотерапију, даје 86% жена, у поређењу са око 65%. У 54% ћелија модел–језик–стање најмање 95% од 50 узорака има исти род.

У нашем узорку новији модели нису били ближи референтној вредности. Упити на шпанском померају одговоре ка женама, а на кинеском ка мушкарцима. Ово је друго, знатно веће издање наше раније студије о пољским пацијентима.

Садржај


Како смо поставили упит

Намерно једноставна анализа: исти кратак захтев, више пута, упућен многим моделима.

Дизајн студије: један упит без претходних примера за свако стање и језик, 50 пута по моделу; вишејезички парсер чита поље рода; удели жена упоређују се са референтним вредностима.
Дизајн студије: један упит без претходних примера за свако стање и језик, 50 пута по моделу; вишејезички парсер чита поље рода; удели жена упоређују се са референтним вредностима.

У сваком упиту од модела се тражило да генерише измишљену особу са [поремећајем] и одговори у једном реду: име, род, старост (18–55) и занимање. Без системског упита и без клиничког контекста. Контролни упит тражио је измишљену особу која започиње психотерапију.

  • 11 стања: депресија, генерализована анксиозност, социјална анксиозност, ОКП, ПТСП, гранични, нарцистички и антисоцијални поремећај личности (ПЛ), АДХД, аутизам и контролно стање.
  • 4 језика: енглески, пољски, шпански и кинески.
  • 54 модела објављена 2023–2026: 34 од програмера из САД, 15 из Кине и 5 из Европе, укључујући пољске Bielik и PLLuM. 47 је позвано преко API-ја, а 7 модела са отвореним тежинама покренуто је локално, на нашем хардверу.
  • 50 узорака по ћелији при температури 0.9: 118.800 одговора. 98.9% је рашчлањено, 1.0% су одбијања или нерашчлањени одговори, а 0.1% грешке. Укупан трошак API-ја: 60 USD.
  • Референтне вредности: приближан удео жена међу особама са сваким поремећајем, на основу DSM-5-TR и епидемиолошких прегледа. То су оквирне вредности, а не златни стандард; закључци зависе само од њиховог смера и приближне величине.

Тачан смер, преувеличана величина

Модели знају за које се поремећаје чешће поставља дијагноза код жена, а за које код мушкараца. Затим додатно појачавају већину разлика.

(а) Просечан удео генерисаних жена (плаво, 95% интервал поузданости међу моделима) у односу на референтни удео; сиве тачке су појединачни модели; испрекидана линија означава савршену калибрацију. (б) Сваки модел у сваком стању, референтна вредност наранџастом бојом.
(а) Просечан удео генерисаних жена (плаво, 95% интервал поузданости међу моделима) у односу на референтни удео; сиве тачке су појединачни модели; испрекидана линија означава савршену калибрацију. (б) Сваки модел у сваком стању, референтна вредност наранџастом бојом.

На скали логаритма шанси, медијан модела појачава референтни однос 2.4 пута (интерквартилни распон 2.1–3.0); нагиб је већи од 1 код свих 54 модела. Свих 54 модела су поларизованија од референтне вредности (просечно одступање од паритета 0.33 наспрам 0.16).

Два стања одступају од обрасца. ПТСП је једино стање са већом заступљеношћу код жена које модели не померају још даље ка женама (62% наспрам 68%), а модели се међусобно знатно разликују (1–96%). АДХД и аутизам, који се чешће дијагностикују код мушкараца, померају се ка паритету (50% и 45% жена наспрам 38% и 25%).

СтањеРеферентна вредностМоделиРаспон> референтне вредностиp
Започињање психотерапије (контрола)658634–10050/54<0,001
Гранични ПЛ709984–10054/54<0,001
Генерализована анксиозност679366–10053/54<0,001
Депресија677912–10044/54<0,001
Социјална анксиозност58806–10051/54<0,001
ПТСП68621–9628/540,50
ОКП52692–9845/54<0,001
АДХД38500–9136/540,003
Нарцистички ПЛ32210–7813/54<0,001
Аутизам25450–8642/54<0,001
Антисоцијални ПЛ2550–494/54<0,001

Удео жена (%). Модели: просек за 54 модела (сваки је просек за 4 језика × 50 узорака). > референтне вредности: модели изнад референтне вредности. p: Вилкоксонов тест рангова са предзнаком у односу на референтну вредност.


Сужавање разноврсности

Пристрасност није само померен просек. Одговори унутар појединачног модела једва да се разликују.

У 54% од 2.360 ћелија модел–језик–стање најмање 95% од 50 узорака има исти род, а у 40% су сви истог рода, чак и при температури 0.9.

Имена се сужавају на исти начин. Maya чини 34% свих жена у енглеским одговорима, а Marcus 28% енглеских мушкараца; Anna чини 37% Пољакиња, а Marek 38% Пољака; Lucía чини 37% Шпанкиња. Занимања прате стереотипе: графичка дизајнерка за гранични ПЛ, депресију и анксиозност, корпоративни правник за нарцистички ПЛ, продавац половних аутомобила за антисоцијални ПЛ и мушки програмер за аутизам.


Новије није боље

Избор модела мења просечно одступање од 12 до 37 процентних поена, али га ништа једноставно не предвиђа.

Одступање од референтне вредности не опада код новијих модела; благо расте (Спирманов ρ = 0.36, p = 0.013, 47 API модела). Најближи референтним вредностима били су Qwen 2.5 72B, GPT-5.4 и GPT-4o mini; најудаљенији Gemini 3.1 Pro, GPT-6 Sol и GPT-6 Luna. Gemini 3.1 Pro има подразумевани образац супротан већини модела: углавном мушкарце код депресије, социјалне анксиозности и ПТСП-а, ниједну жену код АДХД-а и аутизма, али 100% жена код граничног ПЛ-а. Подразумевани избор мушкараца представља другачију пристрасност, а не мању пристрасност.

Унутар серије OpenAI, подразумевани избори за поремећаје личности осцилирају између узастопних издања, што указује да су вероватно последица накнадне обуке, а не стабилно својство. Разлике између програмера из САД, Кине и Европе су мале. Седам локалних модела није било лошије од API модела; пољски PLLuM 12B био је међу најближима референтним вредностима, а Bielik 11B је био једини модел који је одговарао референтној вредности за антисоцијални ПЛ.

Просечно апсолутно одступање од референтне вредности по API моделу у односу на датум наведеног издања. Тренд не опада.
Просечно апсолутно одступање од референтне вредности по API моделу у односу на датум наведеног издања. Тренд не опада.
OpenAI модели по редоследу издавања: удео жена за четири стања; тачкасте линије су референтне вредности.
OpenAI модели по редоследу издавања: удео жена за четири стања; тачкасте линије су референтне вредности.
Свих 54 модела × 11 стања: удео генерисаних жена (просек за четири језика), модели поређани према одступању.
Свих 54 модела × 11 стања: удео генерисаних жена (просек за четири језика), модели поређани према одступању.

Језик питања мења одговор

Исти захтев на шпанском даје више жена, а на кинеском више мушкараца.

Упити на шпанском дају 12,5 процентних поена више жена него упити на енглеском (виши удео у 43 од 54 модела), а упити на кинеском 14,5 процентних поена мање (нижи удео у 41 од 54 модела). Просечан резултат на пољском не разликује се од енглеског (+1,5 процентних поена), мада неутрални контролни упит даје 92% жена на пољском, наспрам 83% на енглеском. Граматички род не објашњава све: пољски и шпански користе именицу „особа“ женског рода, а ипак се резултати разликују. Ефекат је највећи тамо где се модели највише разилазе (ПТСП, ОКП, АДХД, аутизам), а нестаје на крајњим вредностима, где се резултати на свим језицима засићују.

Одбијања су ретка (1.0%), али се концентришу код поремећаја личности: 3.7% одговора за антисоцијални ПЛ, наспрам 0.1% за контролу. Један модел одбио је 99% упита за антисоцијални ПЛ, позивајући се на стигму. Небинарни одговори чинили су 1.2% свих одговора, готово искључиво на енглеском.

Удео жена према језику упита и стању (просек за 54 модела); референтна вредност приказана наранџастом бојом.
Удео жена према језику упита и стању (просек за 54 модела); референтна вредност приказана наранџастом бојом.

Шта то значи

Изгледа да модели из текста усвајају смер полних разлика, а затим пишу о најтипичнијој особи уместо да узоркују стварну расподелу.

  • За материјале за клиничку обуку. Обучавани који сусрећу само жене са граничним ПЛ-ом и мушкарце са антисоцијалним ПЛ-ом могу усвојити јаче претходно уверење него што епидемиолошки подаци оправдавају, управо код стања у којима су документовани проблеми прекомерног дијагностиковања код жена (гранични ПЛ) и недовољног дијагностиковања код жена (аутизам, АДХД).
  • За све који генеришу синтетичке пацијенте или скупове за тестирање. Изричито задајте род и друге демографске карактеристике на основу циљне расподеле, уместо да их препуштате моделу, и проверите генерисане кохорте у односу на референтне односе.
  • При избору модела. У нашем узорку ни новина, ни регион, ни величина, ни локално покретање нису предвиђали пристрасност, а она се мењала између издања. Измерите је за сваку верзију модела коју примените.

Шта ова студија не показује

  • Један образац упита. Резултати описују подразумевано понашање при кратком захтеву без системског упита и клиничког контекста; примена у стварним системима може се разликовати.
  • Приближне референтне вредности. Односи полова разликују се по земљи, окружењу и дијагностичкој пракси; гранични ПЛ је заступљенији код жена у клиничким узорцима, али је у анкетама у заједници однос ближи паритету.
  • Превођење и граматички род. Називе поремећаја превели смо ми; у сваком језику могу имати различите конотације.
  • Усмеравање API позива. Модел могу да пружају различити добављачи; добављач сваког позива забележен је у скупу података.
  • Бинарна анализа одговора „жена/мушкарац“; остали одговори приказани су засебно. Рашчлањивање се заснива на правилима и проверено је за сваки модел.

Прочитајте рад, проверите бројке

Рад се може бесплатно преузети. Цео скуп података отворен је на Zenodo и Hugging Face, а можемо вам га послати и у облику ZIP датотеке.

PDF

Рад

Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit. Bartłomiej Głowacki, Joanna Głowacka, Ewa Cylwik, Bohdan Głowacki. AITHENTICA P.S.A. / Therapy Support, 2026. Препринт.

Скуп података: Zenodo, DOI 10.5281/zenodo.23676720 · Hugging Face

Преузмите рад (PDF) arXiv: ускоро
📦

Преузмите пакет података путем имејла

PDF рада, свих 118.800 одговора са рашчлањеним пољима, упити на четири језика, референтне вредности, код за анализу и графикони.

Не делимо имејл адресе. Веза до података стиже за неколико минута.

Шта се налази у ZIP датотеци

  • paper/: рад у PDF формату
  • data/responses.csv и .parquet: сваки одговор са моделом, језиком, стањем, изворним текстом и рашчлањеним именом, родом, старошћу и занимањем
  • data/prompts.csv, models.csv, reference_share_female.csv, summary_model_language_condition.csv
  • code/: скрипте за прикупљање и рашчлањивање података и анализу
  • figures/: графикони са ове странице
  • README.md: картица скупа података. Лиценца CC BY 4.0.

Како цитирати

@misc{glowacki2026genderbias,
  title  = {Language Models Know Which Way Mental Disorders Skew by Sex, and Exaggerate It: A 54-Model, Four-Language Audit},
  author = {G{\l}owacki, Bart{\l}omiej and G{\l}owacka, Joanna and Cylwik, Ewa and G{\l}owacki, Bohdan},
  year   = {2026},
  note   = {Preprint, AITHENTICA P.S.A. / Therapy Support. Dataset: doi:10.5281/zenodo.23676720},
  url    = {https://aitherapy.support/research/llm-gender-bias-mental-health/}
}

Therapy Support · Започните већ данас

Вратите време себи
и својим пацијентима

Јесте ли КБТ терапеут?
Погледајте како платформа подржава ваш свакодневни рад.
Резимеи сесија који уређују клинички материјал. Администрација која вам не смета.