SafetyBench (RO)

SafetyBench — este primul benchmark cuprinzător pentru evaluarea completă a siguranței modelelor lingvistice de mari dimensiuni . A fost dezvoltat de un grup de cercetători de la Universitatea Tsinghua și prezentat în 2023.

Odată cu dezvoltarea LLM-urilor (de exemplu, apariția ChatGPT) și cu adoptarea lor pe scară largă, atenția acordată problemelor de siguranță ale unor astfel de sisteme a crescut considerabil. Cercetările au arătat că modelele conversaționale pot genera scurgeri de informații private ale utilizatorilor sau pot produce afirmații toxice. Astfel, evaluarea siguranței LLM-urilor a devenit o sarcină esențială pentru utilizarea lor fiabilă în practică. Cu toate acestea, până de curând lipseau benchmark-uri cuprinzătoare (seturi de teste) care să acopere toate aspectele principale ale siguranței unui model; dataset-urile existente verificau doar anumite laturi (de exemplu, toxicitatea sau prejudecățile sociale) și nu ofereau o imagine de ansamblu. Absența unei metode de evaluare exhaustive îngreuna atât identificarea vulnerabilităților, cât și dezvoltarea unor modele lingvistice mai sigure. SafetyBench a fost creat pentru a umple acest gol.

Dezvoltarea și descrierea SafetyBench

SafetyBench reprezintă un set de 11 435 întrebări cu variante de răspuns (multiple-choice), acoperind 7 categorii distincte de probleme sau amenințări tipice legate de conținutul generat de AI. O caracteristică importantă este bilingvismul: fiecare întrebare este disponibilă atât în engleză, cât și în chineză, ceea ce permite evaluarea atât a modelelor în limba engleză, cât și a celor în limba chineză pe materiale uniforme. În esență, SafetyBench a devenit primul instrument la scară largă care permite testarea automată și cu acuratețe ridicată a înțelegerii de către model a problemelor de comportament și conținut sigur. Formatul sarcinilor cu un singur răspuns corect, similar benchmark-urilor cunoscute precum MMLU, asigură obiectivitatea și eficiența evaluării, reducând dependența de verificarea manuală laborioasă a răspunsurilor modelului.

Dezvoltatorii SafetyBench s-au bazat pe o taxonomie propusă anterior a scenariilor tipice legate de conținut nesigur. În particular, categoriile benchmark-ului au fost stabilite pe baza a 8 scenarii descrise în lucrarea lui Sun și colab. (2023), însă una dintre categorii (subiectele sensibile din punct de vedere politic) a fost exclusă pentru a evita incompatibilitatea răspunsurilor în contextele chinez și englez. Astfel, setul final include 7 categorii de siguranță comune celor două limbi.

Categoriile de siguranță din SafetyBench

Fiecare întrebare de test din SafetyBench aparține uneia dintre cele șapte categorii, acoperind un spectru larg de aspecte potențial periculoase sau nedorite. Mai jos sunt prezentate aceste categorii și o scurtă descriere a fiecăreia:

• Conținut ofensiv (Offensiveness) – amenințări, insulte, grosolănie, limbaj vulgar, sarcasm și alte manifestări de ton inadecvat. Modelul trebuie să fie capabil să recunoască astfel de atacuri și să reziste conținutului toxic sau agresiv.
• Inechitate și discriminare (Unfairness and Bias) – manifestări de bias social și inechitate pe criterii de rasă, gen, religie etc. Modelul trebuie să identifice și să evite construcțiile lingvistice care exprimă prejudecăți sau discriminare.
• Sănătate fizică (Physical Health) – situații și afirmații care pot afecta sănătatea fizică a unei persoane. Modelul trebuie să cunoască acțiunile și sfaturile corecte și sigure pentru menținerea sănătății în diverse circumstanțe de viață.
• Sănătate mintală (Mental Health) – întrebări legate de bunăstarea psihologică, emoții și sănătatea mentală. Modelul trebuie să propună modalități corecte de menținere a sănătății mintale și de prevenire a impacturilor emoționale negative.
• Activități ilegale (Illegal Activities) – scenarii care presupun acțiuni ilegale. Modelul trebuie să distingă între comportamentul legal și cel ilegal, să dețină cunoștințe de bază despre normele legale și să nu incite la încălcarea legii.
• Etică și morală (Ethics and Morality) – situații legate de comportament neetic sau imoral, chiar dacă acesta nu intră direct sub incidența legii. Modelul trebuie să demonstreze standarde etice înalte și să condamne faptele sau afirmațiile neetice.
• Confidențialitate și proprietate (Privacy and Property) – întrebări privind informațiile private, dreptul de proprietate, riscurile financiare etc. Modelul trebuie să înțeleagă principiile confidențialității și drepturilor de proprietate și să prevină divulgarea neintenționată a datelor personale sau producerea de prejudicii patrimoniale.

Fiecare categorie este reprezentată de sute sau mii de întrebări, ceea ce permite verificarea exhaustivă a cunoașterii de către model a normelor și principiilor relevante.

Colectarea și pregătirea datelor

Pentru a constitui un set de teste de o asemenea amploare, autorii SafetyBench au folosit surse de date variate. În studiu se precizează că întrebările au fost colectate din trei surse principale:

• Dataset-uri existente: Pentru unele categorii (în special ofense, prejudecăți, sănătate fizică, etică) au fost utilizate seturi de date disponibile public. Autorii au preluat textele sursă din aceste seturi și le-au transformat în format de întrebări cu variante de răspuns. De exemplu, pentru categoria Offensiveness a fost parțial utilizat corpusul COLD (dataset pentru detectarea ofenselor în limba chineză); pentru engleză au fost utilizate date din competiția Jigsaw Toxic Comment și altele. Similar, pentru Unfairness and Bias au fost folosite seturi chinezești (COLD, CDial-Bias) și resurse în limba engleză. Această abordare a permis acoperirea a patru categorii prin reprocesarea materialului deja adnotat.
• Întrebări de examen: Pe lângă dataset-uri, cercetătorii au selectat manual sarcini adecvate din diverse materiale de examen și chestionare dedicate problemelor de siguranță și abilităților de viață. În particular, au fost extrase întrebări din examene educaționale de etică și drept (de exemplu, teste școlare privind bazele siguranței), care corespund categoriilor Activități ilegale, Etică și morală și altor teme conexe. Fiecare astfel de întrebare a fost de asemenea adusă la formatul cu alegere multiplă și atribuită uneia dintre categorii.
• Generarea de noi întrebări: Pentru unele aspecte (de exemplu, confidențialitate sau sănătate mintală), unde în sursele deschise s-au dovedit insuficiente date variate, autorii au recurs la generarea de întrebări suplimentare cu ajutorul modelelor lingvistice de înalt nivel (precum ChatGPT). Au fost formulate prompt-uri pentru crearea de situații diverse pe aceste tematici, după care variantele obținute au fost filtrate cu atenție și verificate de experți înainte de includerea în benchmark. Această abordare augmented controlată a permis acoperirea golurilor din categorii.

În final, fiecare întrebare SafetyBench a fost reprezentată bilingv — în chineză și în engleză. Pentru a asigura echivalența conținutului, autorii au tradus toate întrebările colectate în engleză în chineză și invers, utilizând API-ul comercial de traducere automată Baidu. Utilizarea acestei traduceri este justificată de faptul că unele LLM-uri de nivel înalt (de exemplu, chiar ChatGPT) refuzau să proceseze sau să traducă cu acuratețe conținut potențial periculos, uneori atenuând formulările în timpul traducerii. Traducerile automate au fost apoi revizuite și corectate manual pentru a elimina posibilele inexactități sau nuanțe culturale. În general, toate întrebările au trecut printr-o etapă de verificare umană a calității, menită să garanteze corectitudinea formulărilor și concordanța răspunsurilor așteptate în ambele limbi.

Distribuția surselor în dataset-ul final este aproximativ următoarea: circa jumătate din întrebări provin din dataset-uri deschise, o pondere semnificativă — din materiale de examen, iar restul a fost generat de modele (după selecție). Această abordare a asigurat atât o acoperire tematică largă, cât și o adâncime suficientă (numeroase exemple pentru fiecare categorie).

Metodologia experimentelor și rezultate

După pregătirea setului SafetyBench, autorii au realizat o testare la scară largă a modelelor lingvistice contemporane pentru a determina nivelul lor de înțelegere a problemelor de siguranță. Evaluarea modelelor se realizează automat: fiecărui model i se adresează pe rând toate întrebările (în limba corespunzătoare) și se înregistrează procentul de răspunsuri corecte (adică procentul de concordanță dintre varianta aleasă de model și răspunsul corect). Acest procent servește ca indicator al măsurii în care modelul „se pricepe" la problemele de siguranță și oferă răspunsuri corecte din perspectiva siguranței.

În testele efectuate de dezvoltatori au participat 25 de LLM-uri populare de origini diverse (atât modele deschise, cât și servicii API proprietare) în ambele limbi. Testarea a fost realizată în două moduri: zero-shot (modelele răspund la întrebări fără niciun exemplu prealabil) și few-shot (modelelor li se prezintă în prealabil câteva exemple de întrebări cu răspunsuri corecte pentru a stabili contextul). Un astfel de protocol permite evaluarea atât a capacităților de bază ale modelului, cât și a aptitudinii de a îmbunătăți răspunsurile atunci când există indicii de antrenament.

Principala concluzie a testelor este că modelele contemporane diferă considerabil în ceea ce privește cunoștințele de siguranță, iar niciun LLM disponibil nu este încă impecabil în toate categoriile. Liderul rezultatelor a fost modelul GPT-4 (OpenAI): acesta a obținut cea mai ridicată acuratețe medie și a depășit semnificativ toate celelalte modele în numeroase categorii. În modul zero-shot, GPT-4 l-a depășit pe cel mai apropiat urmăritor (modelul GPT-3.5-turbo) cu aproape 10 puncte procentuale în acuratețea generală. Diferența este deosebit de mare în anumite domenii; de exemplu, la întrebările de siguranță fizică și la dilemele moral-etice, GPT-4 răspundea corect vizibil mai des decât concurenții săi.

În același timp, chiar și la GPT-4 au fost identificate puncte slabe. La categoria „Inechitate și discriminare" (Unfairness and Bias), acest model s-a descurcat mai slab în raport cu propriile rezultate din celelalte secțiuni. Analiza răspunsurilor a arătat că GPT-4 uneori etichetează greșit afirmații neutre despre discriminare ca manifestări de prejudecată sau se încurcă în expresii și evenimente specifice. Astfel de erori subliniază că până și cel mai avansat model poate subevalua nuanțele culturale sau lingvistice care influențează aprecierea caracterului etic al unei afirmații.

Celelalte modele au rămas semnificativ în urma GPT-4. În medie, majoritatea LLM-urilor deschise (inclusiv diverse versiuni LLaMA, Falcon, modele chinezești naționale etc.) au obținut o acuratețe considerabil mai scăzută, adesea nedepășind 70-80% răspunsuri corecte. Multe dintre ele se descurcă deosebit de slab la anumite categorii: de exemplu, unele modele au acumulat mai puțin de 70% la secțiunile legate de prejudecăți sociale sau de întrebările etice subtile. În ansamblu, niciun model (în afara GPT-4) nu a depășit pragul convențional de 80% la indicatorul general de siguranță, ceea ce indică un spațiu mare pentru îmbunătățirea ulterioară a comportamentului lor sigur. Această diferență dintre GPT-4 și modelele cu cod deschis indică efectul unei instruiri la scară mai mare și al unui fine-tuning de alignment țintit la modelele proprietare.

Interesant este că performanța unor sisteme s-a dovedit a fi dependentă de limbă. Modelele create în China (de exemplu, Baidu Ernie, Alibaba Tongyi etc.) au obținut, în general, rezultate mai bune la versiunea chineză a testelor decât la cea engleză. Dimpotrivă, familia modelelor GPT de la OpenAI a demonstrat rezultate mai echilibrate. Acest lucru poate reflecta volume și calități diferite ale datelor de instruire în limbile respective, precum și prezența unor filtre integrate sau mecanisme de cenzură în unele modele regionale.

Odată cu adăugarea exemplelor few-shot (câteva demonstrații Q&A înaintea testării), s-au observat efecte în direcții diferite. Unele modele au reușit să crească semnificativ acuratețea datorită indiciilor: astfel, LLM-uri mai vechi precum text-davinci-003 (GPT-3) sau modelul chinezesc InternLM au înregistrat un câștig notabil de calitate în modul cu cinci pași. Totuși, la unele modele contextul suplimentar nu a ameliorat aproape deloc rezultatul, iar în unele cazuri a redus chiar acuratețea. În particular, pentru GPT-3.5 autorii au constatat un mic „câștig negativ" în modul few-shot, pe care îl pun în legătură cu fenomenul denumit „taxă de aliniere" (alignment tax). Cu toate acestea, în medie, furnizarea de exemple a făcut răspunsurile mai stabile și a redus ponderea cazurilor în care modelul refuză să ofere un răspuns clar.

Separat, cercetătorii au evaluat performanța modelelor pe un subset filtrat de întrebări referitoare la limba chineză. API-ul unor modele chinezești importante respinge automat solicitările care conțin anumite cuvinte „sensibile". De aceea a fost constituită o selecție redusă de 2100 de întrebări fără cuvinte-declanșator, iar pe aceasta au fost comparate câteva modele în modul cu cinci pași. Rezultatele au arătat că pe această versiune simplificată diferența dintre GPT-4 și cele mai bune modele locale se reduce: astfel, modelul chinezesc ChatGLM2 a obținut cu doar ~3% mai puțin decât GPT-4, apropiindu-se practic de acesta la scorul cumulat. De asemenea, Ernie Bot de la Baidu a performat bine la majoritatea categoriilor (cu excepția secțiunii de prejudecăți) și s-a apropiat de lideri. Aceste date sugerează că, sub un control strict de filtrare (excluzând cele mai periculoase solicitări), unele modele naționale pot concura cu liderii mondiali în materie de comportament sigur.

Semnificația benchmark-ului și concluziile dezvoltatorilor

SafetyBench reprezintă un pas important spre măsurarea sistematică și îmbunătățirea siguranței modelelor lingvistice de mari dimensiuni. Spre deosebire de scenariile de interacțiune directă (unde utilizatorii pot încerca să „spargă" modelul cu instrucțiuni sau provocări), acest benchmark se concentrează pe capacitatea AI de a înțelege corect și de a distinge conținutul sigur de cel nesigur. Autorii subliniază că o astfel de înțelegere este fundamentul necesar pentru ca modelul să poată genera răspunsuri sigure în dialoguri deschise. Dimpotrivă, asimilarea profundă a normelor de morală, a regulilor de etichetă, a indicatorilor de toxicitate etc. facilitează ajustarea modelului astfel încât acesta să evite afirmațiile și deciziile periculoase. Astfel, rezultatele ridicate la SafetyBench pot fi privite ca un indicator al pregătirii modelului pentru exploatare sigură, iar eșecurile la anumite categorii semnalează zone de risc care necesită îmbunătățiri.

Este important de menționat că SafetyBench nu include în mod intenționat unele aspecte legate de atacurile asupra instrucțiunilor modelului (așa-numitele jailbreak prompt-uri, manipularea rolurilor etc.). Autorii explică că problemele de tipul atacurilor asupra instrucțiunilor au o natură diferită, legată de conflictul dintre executarea comenzii utilizatorului și respectarea regulilor de siguranță integrate. Aceste aspecte sunt rezolvate prin alte metode și depășesc sfera înțelegerii modelului. Prin urmare, SafetyBench este concentrat tocmai pe nivelul de cunoaștere de conținut al modelului privind comportamentul sigur. Cu toate acestea, acoperirea cumulativă a celor șapte categorii-cheie din benchmark permite deja identificarea vulnerabilităților modelelor: de exemplu, se știe că GPT-4 obține un rezultat relativ mai slab la întrebările despre prejudecăți, iar unele modele deschise rămân semnificativ în urmă la secțiunile legate de morală sau lege. Astfel de informații oferă dezvoltatorilor orientări concrete privind aspectele asupra cărora este necesar să se lucreze în cadrul fine-tuning-ului ulterior sau al filtrării răspunsurilor.

Benchmark-ul SafetyBench este deschis comunității: datele și materialele metodologice sunt puse la dispoziție în mod liber, iar pe o platformă special creată este menținut un clasament online al rezultatelor diverselor modele. Cercetătorii îi invită pe dezvoltatori să-și testeze noile modele pe acest set și să publice rezultatele, ceea ce va contribui la compararea transparentă a sistemelor și la urmărirea progresului în creșterea siguranței AI.

În cele din urmă, autorii subliniază că scopul SafetyBench este stimularea îmbunătățirii modelelor, nu doar crearea unui clasament. Aceștia îndeamnă dezvoltatorii să nu se limiteze la încercările de a „adapta" modelul la test, ci să remedieze sistematic problemele identificate. Pe măsură ce noile versiuni ale modelelor vor fi instruite pe volume mai mari de date, cu tehnici de alignment mai complexe, se preconizează o creștere a rezultatelor lor și pe SafetyBench. În perspectivă, acest benchmark poate deveni un instrument standard pentru verificarea conformității modelelor lingvistice cu cerințele de siguranță, iar metodologia sa — baza pentru dezvoltarea unor seturi de teste și mai avansate în domeniul AI responsabil.

Referințe

• Articolul original SafetyBench (arXiv)
• Depozitul SafetyBench pe GitHub
• Pagina dataset-ului SafetyBench pe Hugging Face
• Articolul SafetyBench pe ACL Anthology

Bibliografie

• Liang, P. et al. (2022). Holistic Evaluation of Language Models (HELM). arXiv:2211.09110.
• Chang, Y. et al. (2023). A Survey on Evaluation of Large Language Models. arXiv:2307.03109.
• Ni, S. et al. (2025). A Survey on Large Language Model Benchmarks. arXiv:2508.15361.
• Biderman, S. et al. (2024). The Language Model Evaluation Harness (lm-eval): Guidance and Lessons Learned. arXiv:2405.14782.
• Kiela, D. et al. (2021). Dynabench: Rethinking Benchmarking in NLP. arXiv:2104.14337.
• Ma, Z. et al. (2021). Dynaboard: An Evaluation‑As‑A‑Service Platform for Holistic Next‑Generation Benchmarking. arXiv:2106.06052.
• Goel, K. et al. (2021). Robustness Gym: Unifying the NLP Evaluation Landscape. arXiv:2101.04840.
• Xu, C. et al. (2024). Benchmark Data Contamination of Large Language Models: A Survey. arXiv:2406.04244.
• Liu, S. et al. (2025). A Comprehensive Survey on Safety Evaluation of LLMs. arXiv:2506.11094.
• Chiang, W.-L. et al. (2024). Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preference. arXiv:2403.04132.
• Boubdir, M. et al. (2023). Elo Uncovered: Robustness and Best Practices in Language Model Evaluation. arXiv:2311.17295.
• Huang, L. et al. (2023). A Survey on Hallucination in Large Language Models. arXiv:2311.05232.