BBQ (Bias Benchmark for Question Answering) (BG)

BBQ (Bias Benchmark for Question Answering) — това е набор от данни за оценка на социалните предразсъдъци (bias) в системи от тип въпрос-отговор (QA). Той е разработен от група изследователи на Нюйоркския университет под ръководството на Алиша Париш (Alicia Parrish) и публикуван през 2022 година на конференцията ACL Findings. Целта на BBQ е да установи как големите езикови модели (ГЕМ) и другите QA-модели проявяват стереотипи и предубеждения в отговорите си на въпроси, особено в приложните задачи за отговаряне на въпроси на естествен език. BBQ се превърна в един от най-всеобхватните benchmark-ове за оценка на социалния bias в NLP, обхващащ широк спектър от стереотипи в рамките на девет социални категории.

Този набор от данни допълва предишни работи, като например dataset-а UnQover (2020), който измерваше предубедеността по ограничен брой признаци (пол-професия, националност, етническа принадлежност, религия) и се основаваше на вероятностите на моделите, а не на самите отговори. За разлика от UnQover, BBQ директно анализира съдържанието на отговорите на моделите и техния избор сред предложените опции, което позволява оценяване на предубедеността именно на ниво генерирани резултати.

Авторите на BBQ го позиционират като инструмент за диагностициране на вредни социални стереотипи в моделите и за намаляване на риска от негативното влияние на такива стереотипи върху уязвими групи от населението. Наборът е съсредоточен върху стереотипи, актуални за англоезичната култура на САЩ, и не обхваща всички възможни културни контексти. Въпреки това BBQ постави основите за последващи работи по измерване и смекчаване на социалния bias в NLP и се превърна в ориентир при сравняване на модели по отношение на тяхната етична коректност.

Състав и структура на набора от данни

BBQ съдържа около 58,5 хиляди въпроса и отговора, групирани в специални набори, насочени към разкриване на конкретни стереотипи. Всички примери са ръчно съставени от авторите въз основа на документирани случаи на предубеждения и стереотипи, наносящи вреда на представители на различни социални групи. При създаването на сценариите са използвани данни от научни изследвания, статии в медиите, доклади и други надеждни източници, потвърждаващи съществуването на даден стереотип и вредните му последствия. За всяка ситуация авторите посочват препратка към източник, в който даденият стереотип е описан като негативен или вреден (например научна статия или новинарска бележка).

Социални категории

BBQ обхваща девет основни социално значими категории (в по-голямата си част съответстващи на защитени групи по определението на Комисията за равни възможности при заетостта на САЩ):

• Възраст – предубеждения спрямо възрастови групи (например стереотипът за намаляване на когнитивните способности при по-възрастните хора).
• Увреждания – стереотипи за умствените способности или други качества на хора с увреждания (например представата, че физически ограничените лица са по-малко интелектуално компетентни).
• Полова идентичност – полови стереотипи (например идеята, че „момичетата се справят зле с математиката").
• Националност – национално-етнически предубеждения (например стереотипът за технологична неграмотност на хора с произход от Африка).
• Външен вид – дискриминация въз основа на външния вид, телосложението (например мнението, че хората с затлъстяване са по-малко умни или трудолюбиви).
• Раса/етническа принадлежност – расови стереотипи (например предубеденото свързване на определена раса с престъпност или наркомания).
• Религия – религиозни стереотипи (например представата за евреите като скъперници, за мюсюлманите като склонни към насилие и т.н.).
• Социално-икономически статус – предубеждения спрямо бедните или богатите слоеве на обществото (например убеждението, че хората от бедни семейства ще бъдат лоши родители).
• Сексуална ориентация – хомофобски стереотипи (например фалшивата асоциация на хомосексуалността с ХИВ-инфекция).

Освен тези девет категории, в BBQ са представени две интерсекционални категории (intersectional biases), обединяващи два признака едновременно: (1) пол в съчетание с раса/етничност и (2) социално-икономически статус в съчетание с раса. Тези случаи отчитат стереотипи на пресечната точка на различни групи (например предубеждения конкретно срещу чернокожи жени или срещу определени етноси от нисш социален клас).

Шаблони и генериране на примери

За всяка категория екипът е написал шаблони на сценарии — кратки зарисовки, в които фигурират два персонажа, различаващи се по целевия признак (например млад и възрастен, мъж и жена, богат и беден и т.н.). В шаблона е заложена ситуация, която би могла да потвърди или опровергае известен стереотип. Към всеки сценарий са прикрепени въпроси и варианти за отговор.

Общо са разработени по 25 уникални шаблона за всяка от деветте основни категории, плюс по 25 допълнителни шаблона за категориите раса и пол с използване на реални имена (за да се провери bias на ниво собствени имена). Също така за двете интерсекционални направления са създадени по 25 шаблона. По този начин общият брой на базовите сценарии надхвърля 300.

Всеки шаблон съдържа специални слотове за променливи — названия на групи или описания, — които се подставят в текста (например в шаблона по възраст вместо „_годишен човек" се подставят различни числа, или при външния вид — прилагателни „пълен"/„слаб" и т.н.). Чрез подставяне на различни стойности и разбъркване на реда на споменаване на двете фигури, всеки шаблон се разширява до множество конкретни примери (минимум 8 и до ~200 вариации). По правило от един шаблон се генерират не по-малко от 100 финални въпроса, а в някои случаи — до двеста. В сбор се получава корпус от 58 492 примера (уникални комбинации от сценарий, въпрос и отговор).

Контексти и типове въпроси

Ключова особеност на BBQ е, че всяка ситуация е представена с два варианта на контекст и две формулировки на въпроса, образувайки набор от четири въпроса (така нареченият клъстер от 4). Това е направено, за да се отдели влиянието на липсата на информация от собствените стереотипи на модела. Във всеки квартет:

• Неопределен контекст (under-informative or ambiguous context): текст, в който е описана ситуация с участието на две лица от различни групи, но не се съдържа достатъчно информация, за да се отговори еднозначно на поставения въпрос. Правилният отговор в подобни случаи е винаги вариантът „неизвестно" (т.е. липса на достатъчно данни). Тези примери са необходими, за да се провери дали моделът няма да прави извод, опирайки се на стереотип.
• Еднозначен контекст (disambiguated context): разширен сценарий, в който е добавена уточняваща подробност, позволяваща да се определи кое от двете споменати лица отговаря на въпроса. В този случай единият от двамата персонажи заведомо е правилният отговор (а вариантът „неизвестно" вече е грешен). Еднозначният контекст служи за проверка дали моделът ще успее да преодолее евентуалния си bias и да избере верния отговор, дори ако стереотипът подсказва обратното.
• Негативен въпрос (напр. „Кой от тях не познава добре предмета?", „Кой е извършил престъплението?"). Такъв въпрос в съчетание с неопределен контекст проверява дали моделът е склонен да свързва негативното действие с определена група при липса на факти.
• Ненегативен (контрастен) въпрос (напр. „Кой от тях познава добре предмета?" или „Кой се въздържа от лошата постъпка?"). Ненегативният въпрос е формулиран така, че да не звучи като пряко одобрение на стереотипа, но същевременно да позволява проверка на баланса в отговорите на модела. Сравнението на отговорите на негативните и неутралните версии разкрива систематични отклонения.

Всеки от тези четири примера в клъстера има три варианта за отговор: два конкретни (назоваващи всяка от двете фигуриращи групи) и един вариант, указващ липса на достатъчна информация (обозначен като „Unknown" и еквивалентни изрази). Например в сцена, в която участват условен християнин и мюсюлманин, вариантите за отговор ще бъдат: „християнин", „мюсюлманин" или „неизвестно". При това думата „неизвестно" не е винаги едно и също — използват се 10 синонимни изрази.

Освен това, в всеки шаблон автоматично се сменя редът на споменаване на двете групи. Това е направено за неутрализиране на ефекта на позицията — известен фактор, при който моделите могат по-често да избират първата спомената единица независимо от съдържанието.

Анотиране и проверка на качеството

Всеки пример от BBQ е оценен от краудсорсингови анотатори: не по-малко от 5 независими лица отговаряха на въпросите, като в крайния dataset се включваха само онези примери, по които минимум 4 от 5 анотатори са се съгласили с правилния отговор (чрез гласуване). Ако даден въпрос не преминаваше този праг, целият шаблон биваше преразглеждан и редактиран. Благодарение на този процес човешката точност при BBQ е много висока: отделните анотатори отговаряха правилно на ~95,7% от въпросите, а като се вземе предвид мнозинството от гласовете, точността на златния стандарт достига 99,7%. Коефициентът на съгласие Krippendorff's alpha е 0,883, което указва висока съгласуваност между хората относно правилните отговори. Тези мерки потвърждават, че задачите в BBQ са разбираеми за хората и имат обективно верни отговори; следователно грешките на моделите по тези примери могат основателно да се интерпретират като проявления на bias, а не като неяснота на самите въпроси.

Оценка на предубедеността на моделите

BBQ е разработен за многоаспектна оценка на поведението на моделите в условия, провокиращи социален bias. При тестване QA-моделът получава на входа контекст и въпрос, след което трябва да избере един от трите варианта за отговор. Анализът на резултатите се провежда на две нива:

Случай на неопределен контекст

Измерва се колко често моделът отговаря неправилно на въпросите при липса на необходимата информация, т.е. разчита на стереотип. В идеалния случай моделът трябва да отговори „неизвестно" на всеки въпрос с недостатъчен контекст, но ако е избрал една от групите, това се приема като проекция на заложения стереотип. Честотата на такива грешки и тяхното разпределение по категории дават представа за склонността на модела да възпроизвежда вредни стереотипи.

Случай на информативен контекст

Оценява се колко точно моделът отговаря, когато контекстът съдържа явен правилен отговор. Тук обикновено се изчислява стандартната метрика accuracy (процент правилни отговори) — показва дали моделът се справя с въпросно-отговорната задача по принцип. Специално внимание обаче се обръща на случаите, в които правилният отговор противоречи на стереотипа. Разработчиците на BBQ анализират дали точността на модела ще спадне, ако верният отговор противоречи на утвърден стереотип (и обратно — дали точността ще е по-висока, когато истината съвпада със стереотипното очакване). Такъв ефект би указвал, че дори при наличие на факти моделът може да допуска грешки поради bias.

Bias Score

За количествена оценка на степента на предубеденост се въвежда специална метрика — показател за предубеденост (bias score). В общ вид bias score отразява процента от отговорите на модела (сред неверните или всички, в зависимост от условието), които съвпадат със стереотипа.

• Стойност +100% би означавала, че моделът е избрал стереотипно приписващия негативно качество на целевата група вариант на отговор във всички случаи.
• 0% — никакви прояви на bias (моделът или винаги отговаря правилно/„неизвестно", или греши поравно в двете посоки).
• Отрицателен score (до -100%) — противоположна тенденция, при която моделът винаги отговаря срещу очакването на стереотипа.

Показателите се изчисляват отделно за неопределени и еднозначни контексти, тъй като характерът на грешките в тях е различен.

• За неопределените въпроси bias score се определя от дела на случаите, при които моделът вместо „неизвестно" е избрал конкретен отговор, и при това този отговор е съвпаднал с негативния стереотип. Колкото по-чести са такива отговори, толкова по-висок е положителният score. При това се отчита точността: ако моделът греши поравно и отговаря вярно („неизвестно"), тогава дори при наличие на стереотипни грешки score-ът ще е по-нисък, отколкото при модел, който винаги избира стереотипния отговор. По този начин се наказват и честотата, и увереността на bias-отговорите (за неопределени контексти метриката се мащабира с отчитане на процента правилни отговори „неизвестно").
• За еднозначните въпроси bias score се изчислява малко по-различно, тъй като тук правилният отговор е една от групите. В тези случаи се разглеждат грешните отговори на модела: делът на грешките, при които моделът е избрал не верния вариант, а алтернативния вариант, съвпадащ със стереотипа. С други думи, ако моделът е сгрешил, давайки предпочитание на предубеждението (например не е повярвал на фактите и е отговорил по стереотипа), това увеличава score-а.

Анализът на bias score наред с общата точност позволява детайлно охарактеризиране на поведението на модела при BBQ. Авторите посочват, че еднаква accuracy може да крие различен характер на грешките. По този начин даденият показател разкрива насочеността на грешките и идентифицира тънки случаи, невидими само по точността.

Резултати и установени закономерности

Първоначалното тестване на няколко популярни QA-модела на набора BBQ демонстрира редица отчетливи прояви на bias. В изследването на Parrish и др. (2022) са тествани както големи универсални модели (например UnifiedQA — обобщен модел за QA на базата на T5), така и стандартизирани модели за multiple-choice (напр. RoBERTa с дообучение за QA).

Основни изводи от резултатите на експериментите:

• Силни стереотипни грешки при липса на информация. Във всички тествани системи се наблюдаваше тенденция да се отговаря в духа на стереотипа, когато контекстът не предоставяше необходимите указания. С други думи, моделите често не избираха вариант „неизвестно", а предпочитаха конкретен отговор, съответстващ на едно или друго стереотипно очакване. Например в неопределени въпроси за престъпление без явен виновник моделите нерядко посочваха лица от определена група (съответстваща на предубеждението). Изчисленият bias score за ambiguous контексти се оказа значително по-висок от нула, а понякога се доближаваше до +100% в отделни категории при някои модели. Особено висока склонност към стереотипни отговори показаха моделите в сцени, свързани с външния вид (затлъстяване и др.) — тази категория даде забележимо по-голям bias в сравнение например с раса или сексуална ориентация. Това говори за нееднородност на bias в рамките на модела — едни видове стереотипи са „усвоени" от него по-силно от другите.
• Подобрение при наличие на факти, но запазване на скрит bias. Когато моделите получаваха еднозначен контекст с явно указание за правилния отговор, тяхната точност нарастваше забележимо (в сравнение с ситуацията на неизвестност). Детайлният анализ обаче разкри тънък ефект: точността се оказа неравномерна в зависимост от отношението на правилния отговор към стереотипа. Средно моделите постигаха с 3-3,5 процентни пункта по-висока точност в онези примери, при които правилният отговор съвпадаше с разпространения стереотип, в сравнение с примерите, в които верният отговор на стереотипа противоречеше. С други думи, когато фактите потвърждаваха предубеждението, моделите почти безгрешно даваха отговор; но когато се изискваше да бъде посочен „нетипичен" за стереотипа вариант, вероятността от грешка нарастваше. Тази разлика в производителността, макар и да не е огромна, се проявяваше статистически в много категории. Най-голямото разминаване е фиксирано при въпроси, свързани с полови стереотипи: до 5 процентни пункта разлика. По този начин скритото влияние на bias се проследява: моделите средно работят малко по-слабо „срещу стереотипа".
• Сравнение на категории и шаблони. Изследователите на BBQ анализираха bias score в разбивка по всичките девет категории и установиха, че при неопределени контексти показателят е положителен във всички категории, но неговата величина варира. Както беше споменато, максималните bias са отчетени в категориите физически външен вид, социално-икономически статус и някои интерсекционални. По-„ниски", макар и ненулеви, bias score са характерни за категориите раса/етничност и сексуална ориентация. При еднозначни контексти bias score като цяло е по-близо до нула (тъй като моделът отговаря правилно по-често), но все пак за някои шаблони остава положителен, отразявайки забележим перекос в характера на допуснатите грешки. Например в категорията религия повечето грешки бяха в едната посока — моделите, като правило, при грешка избираха отговор въз основа на предубеждение.

В общи линии BBQ демонстрира, че дори силните съвременни езикови модели очевидно не са свободни от социални предразсъдъци. Те са склонни да възпроизвеждат стереотипи, ако са поставени в условия на неопределеност, и могат да проявяват тънки bias дори при наличие на факти, изискващи противоположен отговор. При това величината на тези ефекти не е еднаква за различните групи: някои стереотипи са „усвоени" от модела по-силно. Авторите на BBQ подчертават, че установените различия, макар и забележими, не са катастрофално големи — bias score на повечето модели не достигат екстремни стойности, а нерядко се намират в диапазона от няколко десетки процента. Въпреки това дори малки систематични отклонения в посока на стереотипите са потенциално опасни при мащабното използване на ГЕМ, поэтому установяването и отстраняването на такива bias е важна задача. BBQ предостави на изследователите ясен и количествено измерим начин за проследяване на напредъка в тази област.

Влияние и по-нататъшни изследвания

Наборът BBQ бързо получи признание като стандартен инструмент за оценка на характеристиките за fairness на езиковите модели. Неговият отворен изходен код и данни са достъпни в хранилището (лиценз CC BY 4.0), което позволи на широката изследователска аудитория да прилага BBQ при разработката и тестването на нови модели. В редица прегледи BBQ се споменава наред с други benchmark-ове (например StereoSet, WinoBias, ToxiGen) като важна крайъгълна точка в изучаването на социалния bias в NLP. След публикуването на BBQ се появиха работи, развиващи неговите идеи и адаптиращи ги към нови условия:

• Разширяване на форматите на въпросите (Open-BBQ). Оригиналният BBQ предлага задачи в multiple-choice формат. През 2024 година беше предложена модификация на BBQ за отворени отговори, включваща задачи за попълване на пропуски и кратък отговорен текст. Тази версия, условно наречена Open-BBQ, позволява оценяване на bias в по-свободни условия на диалог, при които моделът не разполага с фиксирани варианти за отговор. Изследването показа, че ГЕМ при генериране на свободен текст също демонстрират повишен bias срещу редица групи. Авторите на Open-BBQ също така експериментираха с методи за смекчаване на предубедеността, комбинирайки zero-shot и few-shot подсказки и chain-of-thought (поетапни разсъждения). Тези методи позволиха забележимо намаляване на нивото на bias в отговорите. Open-BBQ допълни оригиналния набор, като направи възможно тестването на генеративни модели във формати, по-близки до потребителските заявки.

• Културна адаптация (локализация). Тъй като BBQ е обвързан с обществените реалности на САЩ, изследователите проявиха интерес към адаптацията му за други езици и култури. През 2023 година корейски учени представиха dataset-а KoBBQ (Korean BBQ) — корейски аналог на Bias Benchmark. Те разработиха общ подход за локализация на BBQ: разделиха изходните шаблони на три категории — такива, които могат просто да се преведат, такива, които изискват замяна на групите с местни еквиваленти, и такива, които изобщо не са приложими в корейски контекст. Допълнително KoBBQ въведе 4 нови категории стереотипи, специфични за корейското общество, и премахна редица неподходящи примери. В резултат се получи набор от 268 шаблона и 76 048 примера на корейски език, обхващащ 12 категории социален bias (включително оригиналните и новите). Тестването на мултиезичните модели върху KoBBQ разкри значителни различия в нивото на предубеденост в сравнение с прякото машинно превеждане на оригиналния BBQ на корейски. Това подчертава, че прякото превеждане не е достатъчно — необходими са културно-специфични benchmark-ове, отчитащи уникалните стереотипи и контекста на всяка страна. Работата по KoBBQ демонстрира възможността за мащабиране на методологията на BBQ в глобален мащаб.

BBQ се превърна в неотделима част от изследванията в областта на етичността на изкуствения интелект. Неговото влияние се проследява в появата на нови методики за дебайсиране на моделите, изграждане на по-инклузивни dataset-и и метрики за фин анализ на bias. Изследователите отбелязват, че едно от силните страни на BBQ е широтата на обхвата и щателността на конструкцията на примерите. В отговор на предизвикателствата, очертани от BBQ, напоследък активно се разработват стратегии за намаляване на bias — от филтриране на обучителните данни до специални алгоритми за постобработка и настройка на ГЕМ за справедливи отговори.

В заключение, BBQ (Bias Benchmark for QA) се утвърди като ценен и надежден инструмент за измерване на социалните предразсъдъци в езиковите модели. Той предоставя на изследователската общност стандартен набор от проверки, позволяващ сравняване на модели по отношение на стереотипността и проследяване на напредъка в подобряването на тяхната безпристрастност. BBQ продължава да се разширява и адаптира, отразявайки глобалния интерес към създаването на по-справедливи и безопасни AI системи, свободни от незабележими, но съществени вредни bias.

Препратки

• Оригинална статия BBQ (arXiv)
• Хранилище BBQ в GitHub
• Страница на dataset-а BBQ в Papers With Code
• Статия BBQ в ACL Anthology
• Статия за dataset-а KoBBQ (arXiv)
• Статия за dataset-а Open-BBQ (arXiv)

Литература

• Liang, P. et al. (2022). Holistic Evaluation of Language Models (HELM). arXiv:2211.09110.
• Chang, Y. et al. (2023). A Survey on Evaluation of Large Language Models. arXiv:2307.03109.
• Ni, S. et al. (2025). A Survey on Large Language Model Benchmarks. arXiv:2508.15361.
• Biderman, S. et al. (2024). The Language Model Evaluation Harness (lm-eval): Guidance and Lessons Learned. arXiv:2405.14782.
• Kiela, D. et al. (2021). Dynabench: Rethinking Benchmarking in NLP. arXiv:2104.14337.
• Ma, Z. et al. (2021). Dynaboard: An Evaluation‑As‑A‑Service Platform for Holistic Next‑Generation Benchmarking. arXiv:2106.06052.
• Goel, K. et al. (2021). Robustness Gym: Unifying the NLP Evaluation Landscape. arXiv:2101.04840.
• Xu, C. et al. (2024). Benchmark Data Contamination of Large Language Models: A Survey. arXiv:2406.04244.
• Liu, S. et al. (2025). A Comprehensive Survey on Safety Evaluation of LLMs. arXiv:2506.11094.
• Chiang, W.-L. et al. (2024). Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preference. arXiv:2403.04132.
• Boubdir, M. et al. (2023). Elo Uncovered: Robustness and Best Practices in Language Model Evaluation. arXiv:2311.17295.
• Huang, L. et al. (2023). A Survey on Hallucination in Large Language Models. arXiv:2311.05232.