Bias in large language models — ความเอนเอียงและอคติใน LLM

ความเอนเอียงในโมเดลภาษาขนาดใหญ่ (อังกฤษ: bias in large language models) — คือการเบี่ยงเบนอย่างเป็นระบบในการทำงานของโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งนำไปสู่การสร้างคำตอบที่สะท้อนความเป็นจริงอย่างไม่ยุติธรรมหรือไม่ถูกต้อง และทำซ้ำรวมถึงขยายภาพจำที่มีอยู่ในสังคม ต่างจากข้อผิดพลาดแบบสุ่ม ความเอนเอียงมีลักษณะเป็นรูปแบบที่แน่นอนและเกิดจากลักษณะเฉพาะของข้อมูลการฝึกและอัลกอริทึม LLM อาจทำซ้ำภาพจำเกี่ยวกับเพศ เชื้อชาติ และลักษณะอื่น ๆ ซึ่งถือเป็นปัญหาร้ายแรงโดยเฉพาะในด้านที่มีความรับผิดชอบสูง เช่น การแพทย์ นิติศาสตร์ และการเงิน

แหล่งที่มาของความเอนเอียง

ความเอนเอียงใน LLM เกิดจากแหล่งที่มาหลักสองประการ ได้แก่ ข้อมูลที่มีความเอนเอียงและลักษณะเฉพาะของอัลกอริทึม

ข้อมูลการฝึกที่มีความเอนเอียง

สาเหตุหลักของการเกิดความเอนเอียงคือข้อมูลการฝึกที่สะท้อนความเบี่ยงเบนทางประวัติศาสตร์ สังคม และวัฒนธรรมที่มีอยู่ในโลก LLM ได้รับการฝึกบนคลังข้อความขนาดใหญ่จากอินเทอร์เน็ต หนังสือ และแหล่งข้อมูลอื่น ๆ ที่มนุษย์สร้างขึ้น และเป็นผลให้สืบทอดภาพจำทั้งหมดที่มีอยู่ในนั้น

• การแทนที่ไม่สมดุล: หากกลุ่มประชากรบางกลุ่มมีการแทนที่ไม่เพียงพอในข้อมูล (เช่น ชนกลุ่มน้อยทางชาติพันธุ์ ผู้หญิงในอาชีพบางประเภท) โมเดลจะสร้างภาพแทนที่บิดเบือนเกี่ยวกับพวกเขา ตัวอย่างเช่น LLM มักเชื่อมโยงคำว่า "แพทย์" กับเพศชาย และ "พยาบาล" กับเพศหญิง ซึ่งเป็นการทำซ้ำภาพจำทางเพศที่มีมาในประวัติศาสตร์
• ความเบี่ยงเบนทางประวัติศาสตร์และวัฒนธรรม: ข้อมูลมักสะท้อนมุมมองทางวัฒนธรรมที่ครอบงำและอคติทางประวัติศาสตร์ โมเดลที่ฝึกบนข้อความดังกล่าวจะทำซ้ำมุมมองเหล่านั้น โดยละเลยมุมมองทางเลือก

การขยายเชิงอัลกอริทึม

สถาปัตยกรรมและอัลกอริทึมการฝึกของ LLM ไม่เพียงแต่ทำซ้ำ แต่ยังอาจขยายความเบี่ยงเบนที่มีอยู่ในข้อมูลอีกด้วย LLM สมัยใหม่ส่วนใหญ่อิงบน transformer และทำนายคำถัดไปโดยอาศัยรูปแบบทางสถิติ ซึ่งทำให้โมเดลโน้มเอียงไปสู่รูปแบบที่พบบ่อยที่สุด อันนำไปสู่การตอกย้ำและขยายความคิดเห็นและภาพจำที่ครอบงำ ขณะที่กรณีที่พบได้น้อยและผิดปกติจะถูกละเลย กลไกนี้อาจเปลี่ยนความเบี่ยงเบนเล็กน้อยในข้อมูลให้กลายเป็นความเอนเอียงที่ชัดเจนในคำตอบของโมเดล

ประเภทของอคติและตัวอย่าง

อคติทางสังคมและประชากรศาสตร์

นี่คือประเภทความเอนเอียงที่ได้รับการศึกษามากที่สุด ซึ่งครอบคลุมภาพจำที่เกี่ยวข้องกับเพศ เชื้อชาติ อายุ ศาสนา และลักษณะทางสังคมอื่น ๆ

• ภาพจำทางเพศ: LLM มักเชื่อมโยงอาชีพและคุณสมบัติบางอย่างกับเพศใดเพศหนึ่งโดยเฉพาะ ตัวอย่างเช่น เมื่อถูกถามเกี่ยวกับ "ผู้นำที่เข้มแข็ง" โมเดลมีแนวโน้มจะสร้างคำอธิบายที่เป็นผู้ชายมากกว่า
• ภาพจำทางเชื้อชาติและชาติพันธุ์: โมเดลอาจทำซ้ำภาพจำเชิงลบเกี่ยวกับกลุ่มชาติพันธุ์ต่าง ๆ การวิจัยแสดงให้เห็นว่าอัลกอริทึมการกลั่นกรองที่ใช้ LLM อาจประเมินข้อความในภาษาพูดแบบแอฟริกัน-อเมริกัน (AAVE) อย่างเข้มงวดกว่า โดยเข้าใจผิดว่ามีความก้าวร้าวมากกว่า
• ความเอนเอียงแบบกลุ่ม ("พวกเรา กับ พวกเขา"): การศึกษาในปี 2024 แสดงให้เห็นว่า LLM แสดงความเอนเอียงแบบกลุ่มอย่างชัดเจน เมื่อได้รับ prompt ที่เชื่อมโยงกับกลุ่มใดกลุ่มหนึ่ง ("พวกเรา...") โมเดลมีแนวโน้มพูดถึงกลุ่มนั้นในแง่ดีและพูดถึง "คนนอก" อย่างดูถูก

ความบิดเบือนเชิงโครงสร้างและเชิงรับรู้

ความบิดเบือนเหล่านี้เกี่ยวข้องกับลักษณะเฉพาะของสถาปัตยกรรมและการประมวลผลข้อมูล

• ความเอนเอียงตามตำแหน่ง: การวิจัยจากสถาบันเทคโนโลยีแมสซาชูเซตส์ (MIT) พบว่าโมเดลให้น้ำหนักข้อมูลจากส่วนต้นและส่วนท้ายของเอกสารมากกว่าสัดส่วนที่ควร และมักจะ "พลาด" รายละเอียดจากส่วนกลาง ซึ่งอาจส่งผลต่อความแม่นยำในการทำงานกับข้อความยาว
• แนวโน้มสู่ค่าเฉลี่ย: ในฐานะโมเดลเชิงความน่าจะเป็น LLM มีแนวโน้มสร้างคำตอบที่พบบ่อยที่สุด (ค่าเฉลี่ย) ซึ่งนำไปสู่การละเลยข้อเท็จจริงที่พบได้น้อยแต่สำคัญ ข้อยกเว้น และความคิดเห็นของกลุ่มน้อย
• เอฟเฟกต์การยืนยัน: LLM อาจแสดงแนวโน้มทำซ้ำรูปแบบเชิงตรรกะที่มีอยู่ในข้อมูลการฝึก แม้ว่าจะมีอคติแฝงอยู่ และละเลยข้อมูลที่ขัดแย้งกัน

ตัวอย่างจากภาคปฏิบัติ

การวิจัยของธนาคารโลกพบว่าเมื่อวิเคราะห์บทสัมภาษณ์ผู้ลี้ภัย LLM บิดเบือนความหมายของคำพูดอย่างเป็นระบบตามต้นกำเนิดและเพศของผู้พูด โมเดลตีความคำปรารถนาของพ่อแม่ผู้ลี้ภัยที่ต้องการให้บุตรหลานประสบความสำเร็จอย่างผิดพลาด ซึ่งน่าจะเป็นเพราะขาดการเล่าเรื่องในลักษณะนี้ในข้อมูลการฝึกที่ประกอบด้วยข้อความจาก "ผู้เขียนผิวขาวชนชั้นกลาง" เป็นส่วนใหญ่

ความเสี่ยงและผลที่ตามมา

• การเพิ่มพูนการเลือกปฏิบัติ: ในด้านต่าง ๆ เช่น การจ้างงาน การให้สินเชื่อ และนิติศาสตร์ LLM ที่มีความเอนเอียงอาจตัดสินใจเชิงเลือกปฏิบัติ ซึ่งขยายความไม่เท่าเทียมทางสังคม
• การแพร่กระจายภาพจำ: การใช้ LLM อย่างแพร่หลายในเครื่องมือค้นหาและแชทบอทอาจนำไปสู่การเผยแพร่และทำให้ภาพจำที่เป็นอันตรายกลายเป็นเรื่องปกติ
• การบ่อนทำลายความเชื่อมั่นต่อเทคโนโลยี: หากผู้ใช้พบกับความเอนเอียงอย่างเป็นระบบ ย่อมบ่อนทำลายความเชื่อมั่นต่อเทคโนโลยีปัญญาประดิษฐ์โดยรวม
• การสร้างฟองสบู่ข้อมูล: อัลกอริทึมอาจจัดรูปแบบผลลัพธ์ให้สอดคล้องกับมุมมองที่คาดว่าผู้ใช้มี ซึ่งสนับสนุน echo chambers และทำให้ความคิดเห็นของกลุ่มน้อยถูกกีดกันออกไป

วิธีการตรวจจับและลดความเอนเอียง

เพื่อต่อสู้กับความบิดเบือน นักวิจัยและนักพัฒนาใช้แนวทางที่ครอบคลุม โดยทำงานในสามระดับ ได้แก่ ข้อมูล โมเดล และการประมวลผลภายหลัง

การแทรกแซงในระดับข้อมูล

นี่คือแนวทางที่เป็นพื้นฐานมากที่สุด ซึ่งประกอบด้วย:

• การทำความสะอาดและการปรับสมดุล: การลบเนื้อหาที่เป็นพิษและมีความเอนเอียงออกจากข้อมูลการฝึก
• การเพิ่มข้อมูล (Data Augmentation): การเพิ่มตัวอย่างของกลุ่มที่มีการแทนที่ไม่เพียงพอเพื่อปรับสัดส่วน

การปรับเปลี่ยนในระดับโมเดล

แนวทางนี้มุ่งเน้นการเปลี่ยนแปลงอัลกอริทึมการฝึกเอง:

• ข้อจำกัดด้านความเป็นธรรม: ข้อจำกัดพิเศษถูกนำเข้าสู่ฟังก์ชันการสูญเสีย ซึ่ง "ลงโทษ" โมเดลสำหรับการแสดงความเอนเอียงบางประเภท
• การเปลี่ยนแปลงสถาปัตยกรรม: มีการศึกษาแนวทางการเปลี่ยนแปลงกลไก attention หรือการเพิ่มโมดูลควบคุมที่ติดตามและแก้ไขความสัมพันธ์ที่มีความเอนเอียง

การประมวลผลผลลัพธ์ภายหลัง

วิธีนี้ถูกนำมาใช้ในขั้นตอนการสร้างคำตอบ:

• การกรองและการแก้ไข: อัลกอริทึมพิเศษวิเคราะห์ข้อความที่สร้างขึ้นและลดความรุนแรงหรือลบถ้อยคำที่อาจเป็นการเลือกปฏิบัติ
• การ fine-tuning เพิ่มเติมด้วย Reinforcement Learning จากมนุษย์ (RLHF): โมเดลได้รับการ fine-tuning โดยเฉพาะเพื่อให้คำตอบที่เป็นกลางและปลอดภัยมากขึ้นโดยอิงจากการประเมินที่มนุษย์ให้ไว้

แม้จะมีความก้าวหน้าอย่างมีนัยสำคัญ แต่ยังไม่สามารถขจัดความเอนเอียงออกจาก LLM ได้อย่างสมบูรณ์ ซึ่งยังคงเป็นหนึ่งในพื้นที่วิจัยสำคัญที่มุ่งสร้างระบบ AI ที่เป็นธรรมและเชื่อถือได้มากขึ้น

ลิงก์

• Generative language models exhibit social identity biases — การวิจัยใน Nature Computational Science
• Unpacking the bias of large language models — บทความจาก MIT News

วรรณกรรม

• Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
• Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
• Wu, X. et al. (2025). On the Emergence of Position Bias in Transformers. arXiv:2502.01951.
• Hu, T. et al. (2024). Generative Language Models Exhibit Social Identity Biases. Nature Computational Science, 5, 65-75. Full text.
• Sheng, E. et al. (2019). The Woman Worked as a Babysitter: On Biases in Language Generation. In EMNLP-2019. PDF.
• Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In ACM FAccT 2021. DOI:10.1145/3442188.3445922.
• Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
• Ma, C. et al. (2024). Debiasing Large Language Models with Structured Knowledge. In Findings of ACL 2024, pp. 10274-10287. [7].
• Mohammadi, B. (2024). Creativity Has Left the Chat: The Price of Debiasing Language Models. arXiv:2406.05587.
• Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI's GPT-3. arXiv:2306.02428.
• Benedetto, L. & Stella, M. (2023). Cognitive Network Science Reveals Bias in GPT-3, GPT-3.5-Turbo, and GPT-4 Mirroring Math Anxiety in High-School Students. Applied Sciences, 13(3). Open access.