Generation bias (LLM) (ID)

From Systems analysis Wiki
Jump to navigation Jump to search

Praduga dalam model bahasa besar (LLM) — adalah distorsi sistematis pada teks yang dihasilkan, di mana model mencerminkan atau memperkuat stereotip dan prasangka yang ada di masyarakat, terkait dengan gender, ras, budaya, pandangan politik, dan kategori sosial lainnya. Fenomena ini muncul karena LLM dilatih pada kumpulan data manusia yang sangat besar, yang secara tak terhindarkan mengandung informasi yang bersifat bias[1].

Praduga merupakan salah satu masalah etis dan teknis utama dalam pengembangan AI, karena dapat menyebabkan diskriminasi, penyebaran disinformasi, dan merusak kepercayaan terhadap teknologi.

Jenis-jenis Praduga dalam LLM

Praduga dalam LLM dapat muncul dalam berbagai bentuk.

Praduga Gender

Model cenderung mereproduksi stereotip gender tradisional, mengasosiasikan profesi dan karakteristik dengan jenis kelamin tertentu.

  • Penelitian UNESCO tahun 2024 menunjukkan bahwa LLM empat kali lebih sering menggambarkan perempuan dalam peran domestik («rumah», «keluarga», «anak-anak») dibandingkan laki-laki, sementara laki-laki dikaitkan dengan konsep «bisnis» dan «karier»[2].
  • Penelitian dalam Nature Scientific Reports mengungkapkan praduga gender dan ras yang signifikan dalam konten yang dihasilkan oleh tujuh LLM terkemuka, termasuk ChatGPT dan LLaMA[3].
  • Dalam konteks berbahasa Rusia, model sering kali secara default menggunakan bentuk maskulin untuk peran netral (misalnya, «dokter», «direktur») dan kesulitan menghasilkan bentuk feminin[4].

Praduga Rasial dan Etnis

LLM dapat menunjukkan diskriminasi tersembunyi terhadap berbagai kelompok etnis.

  • Penelitian Bloomberg menunjukkan bahwa ChatGPT 3.5 lebih menyukai resume kandidat keturunan Asia dibandingkan kandidat berkulit hitam[5].
  • Dalam konteks berbahasa Rusia, dataset RuBia mengungkapkan bahwa model dapat mereproduksi stereotip antisemit dan anti-imigran (misalnya, menyetujui pernyataan «imigran itu malas»), jika stereotip tersebut hadir dalam korpus pelatihan[6].

Praduga Politik dan Ideologis

Meskipun mengklaim netralitas, banyak LLM menunjukkan kecenderungan ke spektrum politik tertentu.

  • Penelitian Centre for Policy Studies mengidentifikasi praduga kiri-liberal pada 23 dari 24 LLM yang diuji[7].
  • Pengujian oleh Universitas Washington dan Carnegie Mellon menunjukkan bahwa ChatGPT dan GPT-4 adalah yang paling kiri-libertarian, sementara LLaMA dari Meta adalah yang paling kanan-otoriter[8].

Mekanisme Kemunculan Praduga

  • Data pelatihan: Sumber utama. LLM dilatih pada korpus teks yang sangat besar dari internet, yang merupakan «cermin» masyarakat dengan segala stereotipnya[9].
  • Arsitektur dan algoritma pelatihan: Arsitektur transformer itu sendiri dapat memperkuat korelasi yang ada dalam data.
  • Fine-tuning dan RLHF: Tahap Reinforcement Learning from Human Feedback (RLHF) juga dapat memasukkan praduga, karena para penilai manusia secara tak terhindarkan dipandu oleh pandangan mereka sendiri.

Metode Deteksi dan Mitigasi

Deteksi Praduga

  • Dataset uji stereotip: Digunakan dataset khusus, seperti:
    • CrowS-Pairs: Mencakup sembilan jenis praduga, termasuk ras, agama, dan usia[10].
    • StereoSet: Mengukur praduga stereotip dalam empat domain: gender, profesi, ras, dan agama[11].
    • RuBia: Dataset khusus untuk mengidentifikasi praduga dalam model berbahasa Rusia[12].
    • Sumber daya multibahasa: Adaptasi seperti French CrowS-Pairs[13] dan Chinese Bias Benchmark (CBBQ)[14].
    • Analisis di bidang tertentu: Penelitian praduga dalam rekrutmen[15], kedokteran[16], dan bidang lainnya.

Mitigasi Praduga

  • Pada tingkat data (Pre-processing): Pembersihan, penyaringan, dan penyeimbangan ulang korpus pelatihan. Metode dijelaskan dalam dokumentasi Holistic AI[17].
  • Pada tingkat pelatihan (In-processing): Modifikasi algoritma pelatihan untuk memperhitungkan keadilan.
  • Pada tingkat inferensi (Post-processing): Penyaringan dan moderasi jawaban yang telah dihasilkan.

Konsekuensi Hukum dan Etis

Praduga dalam AI memiliki konsekuensi serius, termasuk diskriminasi di bidang-bidang kritis dan penyebaran disinformasi.

  • Regulasi: Pemerintah di seluruh dunia mulai memperkenalkan norma untuk mengendalikan AI.
  • Di Eropa telah disahkan AI Act, yang mulai berlaku secara bertahap sejak 1 Agustus 2024. Peraturan ini memperkenalkan persyaratan ketat untuk sistem berisiko tinggi, termasuk penilaian praduga yang wajib, dan mengatur denda hingga 7% dari omzet global perusahaan[18].
  • Di Rusia pada tahun 2021, perusahaan-perusahaan teknologi terkemuka menandatangani Kode Etik di Bidang AI secara sukarela, dengan komitmen untuk meminimalkan diskriminasi. Pada akhir tahun 2021, lebih dari 100 organisasi telah menandatanganinya[19].

Pemberantasan praduga adalah kompromi yang berkelanjutan. Penyaringan yang terlalu agresif dapat menyebabkan «kelebihan politik yang benar», ketika model menolak untuk mendiskusikan topik-topik sensitif apa pun. Oleh karena itu, para pengembang mencari keseimbangan antara keamanan, objektivitas, dan informatifitas model.

Literatur

  • Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
  • Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
  • Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. doi:10.1145/3442188.3445922.
  • Nadeem, M. et al. (2020). StereoSet: Measuring Stereotypical Bias in Pretrained Language Models. arXiv:2004.09456.
  • Nangia, N. et al. (2020). CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models. ACL 2020.
  • Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
  • Hofmann, V. et al. (2024). AI Generates Covertly Racist Decisions about People Based on Their Dialect. Nature, 633, 147-154. Full text.
  • Fang, X. et al. (2024). Bias of AI-Generated Content: An Examination of News Produced by Large Language Models. Scientific Reports, 14, 5224. Full text.
  • Grigoreva, V. et al. (2024). RuBia: A Russian Language Bias Detection Dataset. arXiv:2403.17553.
  • Du, L. et al. (2024). Causal-Guided Active Learning for Debiasing Large Language Models. arXiv:2408.12942.
  • Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI's GPT-3. arXiv:2306.02428.

Lihat Juga

  • Model bahasa besar

Catatan

  1. ↑ «Bias in Large Language Models: Origin, Evaluation, and Mitigation». arXiv. [1]
  2. ↑ «Generative AI: UNESCO study reveals alarming evidence of regressive gender stereotypes». UNESCO. [2]
  3. ↑ «Gender and race stereotypes in Large Language Models». Nature Scientific Reports. [3]
  4. ↑ «Предвзятость русскоязычных LLM: кого машина считает «обычным человеком»?». Хабр. [4]
  5. ↑ «ChatGPT’s Racial Bias in Hiring Decisions». Business Insider. [5]
  6. ↑ «RuBia: A Russian-language Bias Detection Dataset». The Moonlight. [6]
  7. ↑ «Left-leaning bias commonplace in AI-powered chatbots, shows new report». Centre for Policy Studies. [7]
  8. ↑ «AI language models are rife with political biases». MIT Technology Review. [8]
  9. ↑ «Языковые модели: как преодолеть предвзятость и обеспечить безопасность». РБК Тренды. [9]
  10. ↑ «CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models». ACL Anthology. [10]
  11. ↑ «StereoSet: Measuring stereotypical bias in pretrained language models». arXiv. [11]
  12. ↑ «RuBia: A Russian Language Bias Detection Dataset». arXiv. [12]
  13. ↑ «French CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in French Language Models». ACL Anthology. [13]
  14. ↑ «CBBQ: A Chinese Bias Benchmark for Large Language Models». arXiv. [14]
  15. ↑ «Bias in Large Language Models and Who Should Be Held Accountable». Stanford Law School. [15]
  16. ↑ «Racial bias in psychiatric diagnosis and treatment with large language models». Nature Digital Medicine. [16]
  17. ↑ «Preprocessing Bias Mitigation». Holistic AI Documentation. [17]
  18. ↑ «EU AI Act: First Rules Take Effect on Prohibited AI Systems». Jones Day. [18]
  19. ↑ «Over 100 organizations signed up for Code of Ethics in AI by end of 2021». TASS. [19]
Retrieved from "https://systems-analysis.info/int/index.php?title=Generation_bias_(LLM)_(ID)&oldid=2613"