Generation bias (LLM) (EL)

From Systems analysis Wiki
Jump to navigation Jump to search

Προκατάληψη στα μεγάλα γλωσσικά μοντέλα (LLM) — είναι η συστηματική παραμόρφωση των παραγόμενων κειμένων, κατά την οποία το μοντέλο αντικατοπτρίζει ή ενισχύει υφιστάμενα κοινωνικά στερεότυπα και προκαταλήψεις που σχετίζονται με το φύλο, τη φυλή, τον πολιτισμό, τις πολιτικές απόψεις και άλλες κοινωνικές κατηγορίες. Το φαινόμενο αυτό προκύπτει από το γεγονός ότι τα LLM εκπαιδεύονται σε τεράστια σύνολα ανθρώπινων δεδομένων, τα οποία αναπόφευκτα περιέχουν προκατειλημμένες πληροφορίες[1].

Η προκατάληψη αποτελεί ένα από τα βασικά ηθικά και τεχνικά προβλήματα στην ανάπτυξη της ΤΝ, καθώς μπορεί να οδηγήσει σε διακρίσεις, διάδοση παραπληροφόρησης και υπονόμευση της εμπιστοσύνης στις τεχνολογίες.

Είδη προκατάληψης στα LLM

Η προκατάληψη στα LLM μπορεί να εκδηλώνεται με διάφορες μορφές.

Προκατάληψη φύλου

Τα μοντέλα τείνουν να αναπαράγουν παραδοσιακά στερεότυπα φύλου, συσχετίζοντας επαγγέλματα και χαρακτηριστικά με συγκεκριμένο φύλο.

  • Έρευνα της UNESCO το 2024 έδειξε ότι τα LLM περιγράφουν τέσσερις φορές πιο συχνά τις γυναίκες σε οικιακούς ρόλους («σπίτι», «οικογένεια», «παιδιά») σε σχέση με τους άνδρες, ενώ συνδέουν τους άνδρες με τις έννοιες «επιχείρηση» και «καριέρα»[2].
  • Έρευνα στο Nature Scientific Reports αποκάλυψε σημαντική προκατάληψη φύλου και φυλής στο περιεχόμενο που παράγουν επτά κορυφαία LLM, συμπεριλαμβανομένων των ChatGPT και LLaMA[3].
  • Στο ρωσόφωνο πλαίσιο, τα μοντέλα χρησιμοποιούν συχνά από προεπιλογή το αρσενικό γένος για ουδέτερους ρόλους (π.χ. «γιατρός», «διευθυντής») και δυσκολεύονται να παράγουν θηλυκούς τύπους επαγγελματικών τίτλων[4].

Φυλετική και εθνοτική προκατάληψη

Τα LLM μπορεί να εκδηλώνουν κρυφές διακρίσεις έναντι διαφόρων εθνοτικών ομάδων.

  • Έρευνα του Bloomberg έδειξε ότι το ChatGPT 3.5 προτιμούσε βιογραφικά υποψηφίων ασιατικής καταγωγής σε σύγκριση με μαύρους υποψηφίους[5].
  • Στο ρωσόφωνο πλαίσιο, το dataset RuBia αποκάλυψε ότι τα μοντέλα μπορεί να αναπαράγουν αντισημιτικά και αντιμεταναστευτικά στερεότυπα (π.χ. συμφωνώντας με την άποψη «οι μετανάστες είναι τεμπέληδες»), εφόσον αυτά υπάρχουν στο εκπαιδευτικό σώμα κειμένων[6].

Πολιτική και ιδεολογική προκατάληψη

Παρά τους ισχυρισμούς περί ουδετερότητας, πολλά LLM εκδηλώνουν τάση προς ένα συγκεκριμένο πολιτικό φάσμα.

  • Έρευνα του Centre for Policy Studies αποκάλυψε αριστερο-φιλελεύθερη προκατάληψη σε 23 από τα 24 LLM που δοκιμάστηκαν[7].
  • Δοκιμές του Πανεπιστημίου της Ουάσινγκτον και του Carnegie Mellon έδειξαν ότι το ChatGPT και το GPT-4 ήταν τα πιο αριστερο-ελευθεριακά, ενώ το LLaMA της Meta ήταν το πιο δεξιό-αυταρχικό[8].

Μηχανισμοί εμφάνισης προκατάληψης

  • Εκπαιδευτικά δεδομένα: Η κύρια πηγή. Τα LLM εκπαιδεύονται σε τεράστια σώματα κειμένων από το διαδίκτυο, τα οποία αποτελούν «καθρέφτη» της κοινωνίας με όλα τα στερεότυπά της[9].
  • Αρχιτεκτονική και αλγόριθμοι εκπαίδευσης: Η ίδια η αρχιτεκτονική transformer μπορεί να ενισχύει τις υπάρχουσες συσχετίσεις στα δεδομένα.
  • Fine-tuning και RLHF: Το στάδιο Reinforcement Learning από ανθρώπινη ανατροφοδότηση (RLHF) μπορεί επίσης να εισάγει προκατάληψη, καθώς οι ανθρώπινοι αξιολογητές αναπόφευκτα καθοδηγούνται από τις δικές τους απόψεις.

Μέθοδοι εντοπισμού και μετριασμού

Εντοπισμός προκατάληψης

  • Σύνολα δοκιμών στερεοτύπων: Χρησιμοποιούνται εξειδικευμένα dataset, όπως:
    • CrowS-Pairs: Καλύπτει εννέα τύπους προκατάληψης, συμπεριλαμβανομένων φυλής, θρησκείας και ηλικίας[10].
    • StereoSet: Μετρά στερεοτυπική προκατάληψη σε τέσσερις τομείς: φύλο, επάγγελμα, φυλή και θρησκεία[11].
    • RuBia: Εξειδικευμένο dataset για τον εντοπισμό προκατάληψης σε ρωσόφωνα μοντέλα[12].
    • Πολυγλωσσικοί πόροι: Προσαρμογές όπως το French CrowS-Pairs[13] και το Chinese Bias Benchmark (CBBQ)[14].
    • Ανάλυση σε συγκεκριμένους τομείς: Έρευνες προκατάληψης στην πρόσληψη προσωπικού[15], την ιατρική[16] και άλλους τομείς.

Μετριασμός προκατάληψης

  • Σε επίπεδο δεδομένων (Pre-processing): Καθαρισμός, φιλτράρισμα και επαναδιαμόρφωση ισορροπίας των εκπαιδευτικών σωμάτων κειμένων. Οι μέθοδοι περιγράφονται στην τεκμηρίωση της Holistic AI[17].
  • Σε επίπεδο εκπαίδευσης (In-processing): Τροποποίηση των αλγορίθμων εκπαίδευσης για να λαμβάνεται υπόψη η δικαιοσύνη.
  • Σε επίπεδο εξαγωγής αποτελεσμάτων (Post-processing): Φιλτράρισμα και συντονισμός ήδη παραχθέντων απαντήσεων.

Νομικές και ηθικές συνέπειες

Η προκατάληψη στην ΤΝ έχει σοβαρές συνέπειες, συμπεριλαμβανομένων διακρίσεων σε κρίσιμους τομείς και διάδοσης παραπληροφόρησης.

  • Ρύθμιση: Κυβερνήσεις σε όλο τον κόσμο αρχίζουν να εισάγουν κανόνες για τον έλεγχο της ΤΝ.
  • Στην Ευρώπη εγκρίθηκε ο AI Act, ο οποίος τίθεται σε ισχύ σταδιακά από την 1η Αυγούστου 2024. Εισάγει αυστηρές απαιτήσεις για συστήματα υψηλού κινδύνου, συμπεριλαμβανομένης υποχρεωτικής αξιολόγησης για προκαταλήψεις, και προβλέπει πρόστιμα έως 7% του παγκόσμιου κύκλου εργασιών της εταιρείας[18].
  • Στη Ρωσία, το 2021, κορυφαίες τεχνολογικές εταιρείες υπέγραψαν εθελοντικό Κώδικα Δεοντολογίας στον τομέα της ΤΝ, δεσμευόμενες να ελαχιστοποιήσουν τις διακρίσεις. Έως το τέλος του 2021, τον είχαν υπογράψει πάνω από 100 οργανισμοί[19].

Η καταπολέμηση της προκατάληψης αποτελεί διαρκή συμβιβασμό. Η υπερβολικά επιθετική φιλτράρισμα μπορεί να οδηγήσει σε «υπερβολική πολιτική ορθότητα», όταν το μοντέλο αρνείται να συζητήσει οποιοδήποτε ευαίσθητο θέμα. Γι' αυτό οι προγραμματιστές αναζητούν ισορροπία μεταξύ ασφάλειας, αντικειμενικότητας και πληροφοριακής αξίας του μοντέλου.

Βιβλιογραφία

  • Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
  • Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
  • Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. doi:10.1145/3442188.3445922.
  • Nadeem, M. et al. (2020). StereoSet: Measuring Stereotypical Bias in Pretrained Language Models. arXiv:2004.09456.
  • Nangia, N. et al. (2020). CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models. ACL 2020.
  • Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
  • Hofmann, V. et al. (2024). AI Generates Covertly Racist Decisions about People Based on Their Dialect. Nature, 633, 147-154. Full text.
  • Fang, X. et al. (2024). Bias of AI-Generated Content: An Examination of News Produced by Large Language Models. Scientific Reports, 14, 5224. Full text.
  • Grigoreva, V. et al. (2024). RuBia: A Russian Language Bias Detection Dataset. arXiv:2403.17553.
  • Du, L. et al. (2024). Causal-Guided Active Learning for Debiasing Large Language Models. arXiv:2408.12942.
  • Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI's GPT-3. arXiv:2306.02428.

Δείτε επίσης

  • Μεγάλα γλωσσικά μοντέλα

Παραπομπές

  1. ↑ «Bias in Large Language Models: Origin, Evaluation, and Mitigation». arXiv. [1]
  2. ↑ «Generative AI: UNESCO study reveals alarming evidence of regressive gender stereotypes». UNESCO. [2]
  3. ↑ «Gender and race stereotypes in Large Language Models». Nature Scientific Reports. [3]
  4. ↑ «Предвзятость русскоязычных LLM: кого машина считает «обычным человеком»?». Хабр. [4]
  5. ↑ «ChatGPT’s Racial Bias in Hiring Decisions». Business Insider. [5]
  6. ↑ «RuBia: A Russian-language Bias Detection Dataset». The Moonlight. [6]
  7. ↑ «Left-leaning bias commonplace in AI-powered chatbots, shows new report». Centre for Policy Studies. [7]
  8. ↑ «AI language models are rife with political biases». MIT Technology Review. [8]
  9. ↑ «Языковые модели: как преодолеть предвзятость и обеспечить безопасность». РБК Тренды. [9]
  10. ↑ «CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models». ACL Anthology. [10]
  11. ↑ «StereoSet: Measuring stereotypical bias in pretrained language models». arXiv. [11]
  12. ↑ «RuBia: A Russian Language Bias Detection Dataset». arXiv. [12]
  13. ↑ «French CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in French Language Models». ACL Anthology. [13]
  14. ↑ «CBBQ: A Chinese Bias Benchmark for Large Language Models». arXiv. [14]
  15. ↑ «Bias in Large Language Models and Who Should Be Held Accountable». Stanford Law School. [15]
  16. ↑ «Racial bias in psychiatric diagnosis and treatment with large language models». Nature Digital Medicine. [16]
  17. ↑ «Preprocessing Bias Mitigation». Holistic AI Documentation. [17]
  18. ↑ «EU AI Act: First Rules Take Effect on Prohibited AI Systems». Jones Day. [18]
  19. ↑ «Over 100 organizations signed up for Code of Ethics in AI by end of 2021». TASS. [19]
Retrieved from "https://systems-analysis.info/int/index.php?title=Generation_bias_(LLM)_(EL)&oldid=2608"