---
title: "Предвзятость в генерации"
source: "https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8"
wiki: "systems-analysis.info/wiki"
article: "Предвзятость_в_генерации"
language: "ru"
categories:
  - "Категория:Russian"
  - "Категория:Большие языковые модели"
  - "Категория:Машинное обучение"
revision_id: 340
wiki_created_at: 2026-09-06T22:07:22Z
wiki_modified_at: 2026-09-06T22:07:22Z
downloaded_at: 2026-09-07T22:19:12Z
---

# Предвзятость в генерации

**Предвзятость в [больших языковых моделях](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8 "Большие языковые модели") (LLM)** — это систематическое искажение генерируемых текстов, при котором модель отражает или усиливает существующие в обществе стереотипы и предубеждения, связанные с гендером, расой, культурой, политическими взглядами и другими социальными категориями. Это явление возникает из-за того, что LLM обучаются на огромных массивах человеческих данных, которые неизбежно содержат предвзятую информацию<sup>[\[1\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-arxiv-bias-origin-1)</sup>.

Предвзятость является одной из ключевых этических и технических проблем в разработке ИИ, поскольку она может приводить к дискриминации, распространению дезинформации и подрыву доверия к технологиям.

## Виды предвзятости в LLM

Предвзятость в LLM может проявляться в различных формах.

### Гендерная предвзятость

Модели склонны воспроизводить традиционные гендерные стереотипы, ассоциируя профессии и характеристики с определённым полом.

- Исследование ЮНЕСКО 2024 года показало, что LLM в четыре раза чаще описывают женщин в домашних ролях («дом», «семья», «дети»), чем мужчин, а мужчин связывают с понятиями «бизнес» и «карьера»<sup>[\[2\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-unesco-gender-bias-2)</sup>.
- Исследование в *Nature Scientific Reports* выявило существенную гендерную и расовую предвзятость в контенте, генерируемом семью ведущими LLM, включая ChatGPT и [LLaMA](https://systems-analysis.info/wiki/LLaMA "LLaMA")<sup>[\[3\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-nature-gender-race-bias-3)</sup>.
- В русскоязычном контексте модели часто по умолчанию используют мужской род для нейтральных ролей (например, «врач», «директор») и с трудом генерируют феминитивы<sup>[\[4\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-habr-bias-experiment-4)</sup>.

### Расовая и этническая предвзятость

LLM могут проявлять скрытую дискриминацию по отношению к различным этническим группам.

- Исследование Bloomberg показало, что ChatGPT 3.5 отдавал предпочтение резюме кандидатов азиатского происхождения по сравнению с чернокожими<sup>[\[5\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-bloomberg-hiring-bias-5)</sup>.
- В русскоязычном контексте датасет **RuBia** выявил, что модели могут воспроизводить антисемитские и антииммигрантские стереотипы (например, соглашаясь с утверждением «иммигранты ленивы»), если они присутствуют в обучающем корпусе<sup>[\[6\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-rubia-dataset-themoonlight-6)</sup>.

### Политическая и идеологическая предвзятость

Несмотря на заявления о нейтральности, многие LLM демонстрируют склонность к определённому политическому спектру.

- Исследование Centre for Policy Studies выявило лево-либеральную предвзятость у 23 из 24 протестированных LLM<sup>[\[7\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-cps-left-leaning-bias-7)</sup>.
- Тестирование Университета Вашингтона и Карнеги-Меллон показало, что ChatGPT и GPT-4 были наиболее лево-либертарианскими, в то время как LLaMA от Meta — наиболее право-авторитарной<sup>[\[8\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-mit-review-political-bias-8)</sup>.

## Механизмы появления предвзятости

- Обучающие данные: Главный источник. LLM обучаются на огромных корпусах текстов из интернета, которые являются «зеркалом» общества со всеми его стереотипами<sup>[\[9\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-rbc-bias-safety-9)</sup>.
- Архитектура и алгоритмы обучения: Сама архитектура трансформеров может усиливать существующие в данных корреляции.
- Тонкая настройка и [RLHF](https://systems-analysis.info/wiki/RLHF "RLHF"): Этап обучения с подкреплением от человека (RLHF) также может вносить предвзятость, так как люди-оценщики неизбежно руководствуются собственными взглядами.

## Методы обнаружения и смягчения

### Обнаружение предвзятости

- **Тестовые наборы стереотипов:** Используются специализированные датасеты, такие как:
  - **CrowS-Pairs:** Охватывает девять типов предвзятости, включая расу, религию и возраст<sup>[\[10\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-crows-pairs-acl-10)</sup>.
  - **StereoSet:** Измеряет стереотипическую предвзятость в четырех доменах: гендер, профессия, раса и религия<sup>[\[11\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-stereoset-arxiv-11)</sup>.
  - **RuBia:** Специализированный датасет для выявления предвзятости в русскоязычных моделях<sup>[\[12\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-rubia-dataset-arxiv-12)</sup>.
  - **Многоязычные ресурсы:** Адаптации, такие как **French CrowS-Pairs**<sup>[\[13\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-13)</sup> и **Chinese Bias Benchmark (CBBQ)**<sup>[\[14\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-14)</sup>.
  - **Анализ в конкретных областях:** Исследования предвзятости в рекрутинге<sup>[\[15\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-stanford-law-bias-15)</sup>, медицине<sup>[\[16\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-nature-digital-medicine-bias-16)</sup> и других сферах.

### Смягчение предвзятости

- **На уровне данных (Pre-processing):** Очистка, фильтрация и перебалансировка обучающих корпусов. Методы описаны в документации **Holistic AI**<sup>[\[17\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-holistic-ai-docs-17)</sup>.
- **На уровне обучения (In-processing):** Модификация алгоритмов обучения для учёта справедливости.
- **На уровне вывода (Post-processing):** Фильтрация и модерация уже сгенерированных ответов.

## Юридические и этические последствия

Предвзятость в ИИ имеет серьёзные последствия, включая дискриминацию в критически важных областях и распространение дезинформации.

- **Регулирование:** Правительства по всему миру начинают вводить нормы для контроля над ИИ.
- В Европе принят **AI Act**, который вступает в силу поэтапно с 1 августа 2024 года. Он вводит строгие требования для систем высокого риска, включая обязательную оценку на предвзятость, и предусматривает штрафы до 7% от мирового оборота компании<sup>[\[18\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-jonesday-ai-act-18)</sup>.
- В России в 2021 году ведущие технологические компании подписали добровольный **<a href="https://ethics.a-ai.ru/" class="external text" rel="nofollow">Кодекс этики в сфере ИИ</a>**, обязуясь минимизировать дискриминацию. К концу 2021 года его подписали более 100 организаций<sup>[\[19\]](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_note-tass-ethics-code-19)</sup>.

Борьба с предвзятостью — это постоянный компромисс. Слишком агрессивная фильтрация может привести к "избыточной политкорректности", когда модель отказывается обсуждать любые острые темы. Поэтому разработчики ищут баланс между безопасностью, объективностью и информативностью модели.

## См. также

- [Большие языковые модели](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8 "Большие языковые модели")

## Литература

- Guo, Y. et al. (2024). *Bias in Large Language Models: Origin, Evaluation, and Mitigation*. <a href="https://arxiv.org/abs/2411.10915" class="external text" rel="nofollow">arXiv:2411.10915</a>.
- Gallegos, I. O. et al. (2023). *Bias and Fairness in Large Language Models: A Survey*. <a href="https://arxiv.org/abs/2309.00770" class="external text" rel="nofollow">arXiv:2309.00770</a>.
- Bender, E. M. et al. (2021). *On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?*. <a href="https://dl.acm.org/doi/10.1145/3442188.3445922" class="external text" rel="nofollow">doi:10.1145/3442188.3445922</a>.
- Nadeem, M. et al. (2020). *StereoSet: Measuring Stereotypical Bias in Pretrained Language Models*. <a href="https://arxiv.org/abs/2004.09456" class="external text" rel="nofollow">arXiv:2004.09456</a>.
- Nangia, N. et al. (2020). *CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models*. <a href="https://aclanthology.org/2020.emnlp-main.154/" class="external text" rel="nofollow">ACL 2020</a>.
- Bai, X. et al. (2024). *Measuring Implicit Bias in Explicitly Unbiased Large Language Models*. <a href="https://arxiv.org/abs/2402.04105" class="external text" rel="nofollow">arXiv:2402.04105</a>.
- Hofmann, V. et al. (2024). *AI Generates Covertly Racist Decisions about People Based on Their Dialect*. *Nature*, 633, 147-154. <a href="https://www.nature.com/articles/s41586-024-07856-5" class="external text" rel="nofollow">Full text</a>.
- Fang, X. et al. (2024). *Bias of AI-Generated Content: An Examination of News Produced by Large Language Models*. *Scientific Reports*, 14, 5224. <a href="https://www.nature.com/articles/s41598-024-55686-2" class="external text" rel="nofollow">Full text</a>.
- Grigoreva, V. et al. (2024). *RuBia: A Russian Language Bias Detection Dataset*. <a href="https://arxiv.org/abs/2403.17553" class="external text" rel="nofollow">arXiv:2403.17553</a>.
- Du, L. et al. (2024). *Causal-Guided Active Learning for Debiasing Large Language Models*. <a href="https://arxiv.org/abs/2408.12942" class="external text" rel="nofollow">arXiv:2408.12942</a>.
- Ayaz, A. et al. (2023). *Taught by the Internet: Exploring Bias in OpenAI’s GPT-3*. <a href="https://arxiv.org/abs/2306.02428" class="external text" rel="nofollow">arXiv:2306.02428</a>.

## Примечания

1.  <span id="cite_note-arxiv-bias-origin-1">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-arxiv-bias-origin_1-0) «Bias in Large Language Models: Origin, Evaluation, and Mitigation». *arXiv*. <a href="https://arxiv.org/html/2411.10915v1" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-unesco-gender-bias-2">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-unesco-gender-bias_2-0) «Generative AI: UNESCO study reveals alarming evidence of regressive gender stereotypes». *UNESCO*. <a href="https://www.unesco.org/en/articles/generative-ai-unesco-study-reveals-alarming-evidence-regressive-gender-stereotypes" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-nature-gender-race-bias-3">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-nature-gender-race-bias_3-0) «Gender and race stereotypes in Large Language Models». *Nature Scientific Reports*. <a href="https://www.nature.com/articles/s41598-024-55686-2" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-habr-bias-experiment-4">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-habr-bias-experiment_4-0) «Предвзятость русскоязычных LLM: кого машина считает «обычным человеком»?». *Хабр*. <a href="https://habr.com/ru/articles/857464/" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-bloomberg-hiring-bias-5">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-bloomberg-hiring-bias_5-0) «ChatGPT’s Racial Bias in Hiring Decisions». *Business Insider*. <a href="https://www.businessinsider.com/chatgpt-racial-bias-job-hiring-report-2024-3" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-rubia-dataset-themoonlight-6">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-rubia-dataset-themoonlight_6-0) «RuBia: A Russian-language Bias Detection Dataset». *The Moonlight*. <a href="https://www.themoonlight.io/de/review/rubia-a-russian-language-bias-detection-dataset" class="external autonumber" rel="nofollow">[6]</a></span>
7.  <span id="cite_note-cps-left-leaning-bias-7">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-cps-left-leaning-bias_7-0) «Left-leaning bias commonplace in AI-powered chatbots, shows new report». *Centre for Policy Studies*. <a href="https://cps.org.uk/media/post/2024/left-leaning-bias-commonplace-in-ai-powered-chatbots-shows-new-report/" class="external autonumber" rel="nofollow">[7]</a></span>
8.  <span id="cite_note-mit-review-political-bias-8">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-mit-review-political-bias_8-0) «AI language models are rife with political biases». *MIT Technology Review*. <a href="https://www.technologyreview.com/2023/08/07/1077324/ai-language-models-are-rife-with-political-biases/" class="external autonumber" rel="nofollow">[8]</a></span>
9.  <span id="cite_note-rbc-bias-safety-9">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-rbc-bias-safety_9-0) «Языковые модели: как преодолеть предвзятость и обеспечить безопасность». *РБК Тренды*. <a href="https://trends.rbc.ru/trends/industry/cmrm/680105629a7947e0748d7e56" class="external autonumber" rel="nofollow">[9]</a></span>
10. <span id="cite_note-crows-pairs-acl-10">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-crows-pairs-acl_10-0) «CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models». *ACL Anthology*. <a href="https://aclanthology.org/2020.emnlp-main.154/" class="external autonumber" rel="nofollow">[10]</a></span>
11. <span id="cite_note-stereoset-arxiv-11">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-stereoset-arxiv_11-0) «StereoSet: Measuring stereotypical bias in pretrained language models». *arXiv*. <a href="https://arxiv.org/abs/2004.09456" class="external autonumber" rel="nofollow">[11]</a></span>
12. <span id="cite_note-rubia-dataset-arxiv-12">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-rubia-dataset-arxiv_12-0) «RuBia: A Russian Language Bias Detection Dataset». *arXiv*. <a href="https://arxiv.org/abs/2403.17553" class="external autonumber" rel="nofollow">[12]</a></span>
13. <span id="cite_note-13">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-13) «French CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in French Language Models». *ACL Anthology*. <a href="https://aclanthology.org/2022.acl-long.583/" class="external autonumber" rel="nofollow">[13]</a></span>
14. <span id="cite_note-14">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-14) «CBBQ: A Chinese Bias Benchmark for Large Language Models». *arXiv*. <a href="https://arxiv.org/abs/2306.16244" class="external autonumber" rel="nofollow">[14]</a></span>
15. <span id="cite_note-stanford-law-bias-15">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-stanford-law-bias_15-0) «Bias in Large Language Models and Who Should Be Held Accountable». *Stanford Law School*. <a href="https://law.stanford.edu/press/bias-in-large-language-models-and-who-should-be-held-accountable/" class="external autonumber" rel="nofollow">[15]</a></span>
16. <span id="cite_note-nature-digital-medicine-bias-16">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-nature-digital-medicine-bias_16-0) «Racial bias in psychiatric diagnosis and treatment with large language models». *Nature Digital Medicine*. <a href="https://www.nature.com/articles/s41746-025-01746-4" class="external autonumber" rel="nofollow">[16]</a></span>
17. <span id="cite_note-holistic-ai-docs-17">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-holistic-ai-docs_17-0) «Preprocessing Bias Mitigation». *Holistic AI Documentation*. <a href="https://holisticai.readthedocs.io/en/latest/getting_started/bias/mitigation/preprocessing.html" class="external autonumber" rel="nofollow">[17]</a></span>
18. <span id="cite_note-jonesday-ai-act-18">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-jonesday-ai-act_18-0) «EU AI Act: First Rules Take Effect on Prohibited AI Systems». *Jones Day*. <a href="https://www.jonesday.com/en/insights/2025/02/eu-ai-act-first-rules-take-effect-on-prohibited-ai-systems" class="external autonumber" rel="nofollow">[18]</a></span>
19. <span id="cite_note-tass-ethics-code-19">[↑](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B2%D0%B7%D1%8F%D1%82%D0%BE%D1%81%D1%82%D1%8C_%D0%B2_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B8#cite_ref-tass-ethics-code_19-0) «Over 100 organizations signed up for Code of Ethics in AI by end of 2021». *TASS*. <a href="https://tass.com/economy/1354315" class="external autonumber" rel="nofollow">[19]</a></span>