LLM hallucinations — ภาพหลอนและคำตอบที่ไม่ถูกต้องของ LLM

From Systems analysis Wiki
Jump to navigation Jump to search

ภาพหลอน (อังกฤษ: hallucination) ในบริบทของโมเดลภาษาขนาดใหญ่ (LLM) คือปรากฏการณ์ที่โมเดลสร้างคำตอบที่ดูน่าเชื่อถือ (plausible) อย่างมั่นใจ แต่ในความเป็นจริงแล้วไม่ตรงกับความจริง ไม่สอดคล้องกับบริบทที่ให้ไว้ หรือมีความขัดแย้งภายใน[1][2] โมเดล «แต่งขึ้น» ซึ่งได้แก่ ข้อเท็จจริง รายละเอียด หรือข้อสรุปเชิงตรรกะที่ไม่มีอยู่ในข้อมูลต้นฉบับ

สิ่งสำคัญที่ต้องเน้นคือ ภาพหลอนไม่ใช่ความผิดพลาดหรือบั๊กในความหมายดั้งเดิม โมเดลทำงานตามที่ออกแบบไว้ นั่นคือ คาดเดาการต่อข้อความที่มีความน่าจะเป็นสูงสุดโดยอิงจาก pattern ที่ดึงมาจากข้อมูลการฝึก และไม่มีกลไกตรวจสอบความจริงในตัว[3] ภาพหลอนแตกต่างจากข้อผิดพลาดทั่วไปตรงที่เป็นข้อมูลเท็จที่นำเสนออย่างมั่นใจ มักรวมถึงข้อเท็จจริง อ้างอิง หรือเหตุการณ์ที่ไม่มีอยู่จริง[4] ปรากฏการณ์นี้มีความสำคัญมากจนในปี 2023 พจนานุกรมเคมบริดจ์ได้เพิ่มความหมายใหม่ของคำว่า «hallucination» ที่เกี่ยวข้องกับปัญญาประดิษฐ์[5]

คำจำกัดความและการจำแนกประเภทของภาพหลอน

แม้จะมีการใช้คำศัพท์ต่าง ๆ (เช่น «การสร้างความจำเท็จ», «การแต่งขึ้น») ภาพหลอนใน LLM สามารถแบ่งออกเป็นสองหมวดใหญ่ ได้แก่ หมวดที่เกี่ยวกับความถูกต้องเชิงข้อเท็จจริง และหมวดที่เกี่ยวกับความซื่อสัตย์ต่อแหล่งที่มา (ความสอดคล้องเชิงบริบท)[6]

ภาพหลอนเชิงข้อเท็จจริง

คือกรณีที่โมเดลนำเสนอข้อมูลที่ผิดพลาดทางข้อเท็จจริงเกี่ยวกับโลกแห่งความเป็นจริง โมเดลยืนยัน «ข้อเท็จจริง» ที่เป็นเท็จว่าเป็นความจริง[1]

  • ตัวอย่าง: «Charles Lindbergh เป็นมนุษย์คนแรกที่เหยียบพื้นผิวดวงจันทร์» — เป็นข้อเท็จจริงที่แต่งขึ้นทั้งหมด
  • การอ้างอิงและลิงก์ปลอม: โมเดลอาจแต่งการอ้างอิงถึงบทความทางวิทยาศาสตร์หรือกฎหมายที่ไม่มีอยู่จริง โดยเลียนแบบรูปแบบของการอ้างอิงที่แท้จริง[2] สิ่งนี้บั่นทอนความน่าเชื่อถือของโมเดล โดยเฉพาะในแอปพลิเคชันที่ต้องการความแม่นยำ (การศึกษา ข่าว การให้คำปรึกษา)[7]

ข้อผิดพลาดเชิงตรรกะ

โมเดลเกิดความไม่สอดคล้องหรือข้อผิดพลาดในการให้เหตุผล ข้อเท็จจริงแต่ละอย่างในคำตอบอาจถูกต้อง แต่ข้อสรุปไม่สมเหตุสมผลหรือขัดแย้งกับตรรกะพื้นฐาน[2] สิ่งนี้มักเกิดขึ้นในการให้เหตุผลที่ซับซ้อนหรืองานด้านคณิตศาสตร์และเหตุและผล ซึ่งโมเดลทำงานด้วยความสัมพันธ์เชิงความน่าจะเป็นของคำ ไม่ใช่ตรรกะเชิงรูปแบบ[2][2]

  • ตัวอย่าง: «เนื่องจากนกบินได้ นักบินอวกาศจึงไม่รู้สึกถึงแรงโน้มถ่วง» — ข้อความดูสอดคล้องกัน แต่ผิดทางตรรกะ

ภาพหลอนเชิงบริบท

คำตอบของโมเดลไม่สอดคล้องกับบริบทหรือคำสั่งที่ให้ไว้ โมเดล «หลุดออก» จากบริบท โดยเพิ่มข้อมูลที่ไม่จำเป็นหรือละเลยข้อมูลที่ต้องการ[1]

  • การละเมิดคำสั่ง: เมื่อได้รับคำขอ «แปลข้อความเป็นภาษาสเปน» โมเดลตอบกลับเป็นภาษาอังกฤษ[1]
  • ข้อมูลที่ไม่ได้มาจากแหล่งที่มา: ในงานสรุปความ โมเดล «เพิ่ม» ข้อเท็จจริงที่ไม่มีอยู่ในเอกสารต้นฉบับ หรือบิดเบือนข้อมูล[1]
  • การผสมปนบริบท: กลางคำตอบ โมเดลเริ่มพูดถึงหัวข้อจากด้านอื่นอย่างกะทันหัน ตัวอย่างเช่น เมื่อถามเกี่ยวกับกรรมาธิการ NBA Adam Silver โมเดลอาจสลับไปพูดถึงผู้ดำรงตำแหน่งก่อนหน้าคือ David Stern โดยผสมบริบทสองแบบเข้าด้วยกัน[6]

ความไม่สอดคล้องภายใน

เป็นรูปแบบหนึ่งของภาพหลอนที่โมเดลขัดแย้งกับตัวเองภายในคำตอบเดียวหรือชุดคำตอบ[6] ในงานวิจัยหนึ่งพบว่า ChatGPT มีอัตราความขัดแย้งกับตัวเองในคำตอบประมาณ 14%[6][6]

  • ตัวอย่าง: «บริษัท X ก่อตั้งในปี 1990... และอีกไม่กี่ประโยคถัดมา ...บริษัท X ที่ก่อตั้งในปี 2000...»

ภาพหลอนในโค้ด

LLM ที่ฝึกบนโค้ดอาจสร้างชิ้นส่วนที่ถูกต้องทางไวยากรณ์แต่ใช้งานไม่ได้จริง โดยใช้ฟังก์ชัน ไลบรารี หรือพารามิเตอร์ที่ไม่มีอยู่จริง[2] ตัวอย่างเช่น โมเดลอาจสร้าง `import quantum` ใน Python ทั้งที่ไม่มีโมดูลมาตรฐานดังกล่าว ในปี 2024 มีการเสนอคำว่า «code hallucination» และสร้าง benchmark ชื่อ CodeMirage เพื่อจัดระบบปัญหานี้[8]

สาเหตุของการเกิดปรากฏการณ์

ปรากฏการณ์ภาพหลอนเกิดจากปัจจัยหลายอย่างรวมกัน ตั้งแต่สถาปัตยกรรมของโมเดลไปจนถึงคุณภาพของข้อมูล

  • สถาปัตยกรรมและหลักการฝึก: LLM ส่วนใหญ่ (เช่น GPT) เป็น autoregressive transformer ที่ฝึกให้คาดเดา token ถัดไป เป้าหมายของมันคือการเพิ่มความน่าจะเป็นของข้อความ ไม่ใช่การตรวจสอบความจริงของข้อความ[2] โมเดลไม่แยกแยะข้อเท็จจริงและเรื่องสมมติในข้อมูลการฝึก โดยรับรู้ทุกอย่างเป็น pattern ของข้อความ[2]
  • คุณภาพของข้อมูลการฝึก: LLM ได้รับการฝึกบนคลังข้อความขนาดใหญ่จากอินเทอร์เน็ต ซึ่งมีข้อมูลที่ไม่ถูกต้อง ความเชื่อผิด ๆ และข้อมูลที่ล้าสมัยจำนวนมาก[1] โมเดลจดจำและทำซ้ำข้อผิดพลาดเหล่านี้ นอกจากนี้ knowledge cutoff ซึ่งเป็นขีดจำกัดเวลาที่โมเดลมีข้อมูลก็มีความสำคัญเช่นกัน
  • วิธีการสร้างข้อความ: ลักษณะสุ่มของการสร้างข้อความ (การสุ่มตัวอย่างด้วย temperature) ทำให้โมเดลสร้างคำตอบที่ «สร้างสรรค์» มากขึ้น แต่มีความแม่นยำน้อยลง ความยาวบริบทที่จำกัดอาจทำให้โมเดล «ลืม» รายละเอียดในช่วงต้นของการสนทนาและเริ่มขัดแย้งกับตัวเอง[6]

วิธีการประเมินและวัดผล

สำหรับการตรวจจับและวัดภาพหลอน จะใช้ metric อัตโนมัติ การประเมินโดยมนุษย์ และ benchmark เฉพาะทาง

  • Metric อัตโนมัติ: รวมถึงวิธีการที่ LLM อีกตัวทำหน้าที่เป็น «ผู้ตัดสิน» (LLM-as-a-judge) เพื่อประเมินความถูกต้องของคำตอบ[9] หรือการวิเคราะห์ entropy (ความไม่มั่นใจ) ของโมเดลระหว่างการสร้างข้อความ[10]
  • การบันทึกโดยมนุษย์: ถือเป็น «มาตรฐานทองคำ» ผู้เชี่ยวชาญหรือผู้ประเมินแบบ crowd ประเมินคำตอบด้วยตนเองและทำเครื่องหมายข้อผิดพลาด วิธีนี้ใช้ในการฝึกโมเดลด้วย RLHF[11]
  • Benchmark และการทดสอบความเครียด: มีการสร้าง dataset เฉพาะ เช่น TruthfulQA ที่มีคำถามซึ่งกระตุ้นให้โมเดลทำซ้ำความเชื่อผิด ๆ ที่แพร่หลาย[12] นอกจากนี้ยังมีลีดเดอร์บอร์ด เช่น Hugging Face Hallucination Leaderboard ที่เปรียบเทียบโมเดลตามระดับภาพหลอน[13]

วิธีการลดและป้องกัน

  • Retrieval-Augmented Generation (RAG): เป็นวิธีการที่ประสบความสำเร็จมากที่สุด ซึ่ง «ผูก» โมเดลเข้ากับความรู้จากภายนอก ก่อนสร้างคำตอบ โมเดลจะรับข้อมูลที่เกี่ยวข้องจาก database ระบบค้นหา หรือ API ซึ่งช่วยให้โมเดลอ้างอิงคำตอบจากข้อมูลที่ตรวจสอบแล้ว แทนที่จะคาดเดา[2]
  • Chain-of-Thought และการตรวจสอบตนเอง: โมเดลสร้างการให้เหตุผลทีละขั้นตอนก่อนให้คำตอบสุดท้าย ซึ่งเพิ่มความแม่นยำ ในวิธีการขั้นสูงกว่า เช่น Self-Verification โมเดลสร้างคำตอบร่างก่อน แล้วได้รับมอบหมายให้ตรวจสอบและแก้ไขคำตอบนั้น[14]
  • กฎและตัวกรองในตัว: โมเดลได้รับการฝึกให้ปฏิเสธการตอบหากไม่มั่นใจ ตัวอย่างเช่น โมเดล Claude จาก Anthropic ยึดถือหลักการ «ความซื่อสัตย์» และมักตอบว่า «ฉันไม่ทราบแน่ชัด...» แทนที่จะแต่งข้อเท็จจริงขึ้นมา[11]
  • การรวมเข้ากับเครื่องมือภายนอก: โมเดลอย่าง Gemini สามารถระบุได้โดยอัตโนมัติเมื่อต้องการเครื่องมือภายนอก (เช่น เครื่องคิดเลขสำหรับการคำนวณ หรือการค้นหาสำหรับข่าวล่าสุด) และใช้เครื่องมือนั้น ซึ่งช่วยลดปริมาณภาพหลอนได้อย่างมีนัยสำคัญ[11]

ความเสี่ยงและผลที่ตามมา

  • ความเสี่ยงทางกฎหมายและชื่อเสียง: ในด้านกฎหมาย ภาพหลอนอาจมีผลที่ร้ายแรง คดีที่รู้จักกันอย่างกว้างขวางคือ Mata v. Avianca (2023) ซึ่งทนายความใช้ ChatGPT เพื่อค้นหาบรรทัดฐานทางกฎหมาย และ ChatGPT ได้แต่งคดีที่ไม่มีอยู่จริงขึ้นมาหลายคดี ทนายความถูกปรับ และเหตุการณ์นี้กลายเป็นบทเรียนเกี่ยวกับความไม่ยอมรับการไว้วางใจ AI โดยไม่ตรวจสอบ[1]
  • การแพร่กระจายของข้อมูลเท็จ: ในระดับสังคม LLM อาจทวีปัญหาข่าวปลอม เป็นที่รู้จักกรณีของโมเดล Galactica จาก Meta ที่สร้างขึ้นเพื่อช่วยนักวิทยาศาสตร์ แต่เริ่มสร้างข้อความเทียมวิทยาศาสตร์พร้อมการทดลองและการอ้างอิงที่แต่งขึ้น หลังจากนั้นสามวัน การเข้าถึงโมเดลแบบสาธารณะก็ถูกปิด[15]
  • การตัดสินใจที่ผิดพลาด: ผู้ใช้ โดยเฉพาะผู้ที่ไม่มีประสบการณ์ มีแนวโน้มที่จะไว้วางใจคำตอบของ AI ที่แสดงอย่างมั่นใจ ซึ่งอาจนำไปสู่การตัดสินใจที่ผิดพลาดในด้านการเงิน การแพทย์ และสาขาที่สำคัญอื่น ๆ[7]

ตัวอย่างจากการปฏิบัติ

  • กรณี Air Canada (2023): แชทบอทของสายการบินแต่งนโยบายการคืนตั๋วที่ไม่มีอยู่จริงขึ้นมา เมื่อลูกค้าต้องการให้นำนโยบายนั้นมาใช้ บริษัทปฏิเสธ ศาลขนส่งของแคนาดาสั่งให้ Air Canada รับผิดชอบต่อข้อมูลที่แชทบอทให้ไว้และชดเชยความเสียหายให้กับลูกค้า[9]
  • คดีหมิ่นประมาทต่อ OpenAI (2023): พิธีกรวิทยุ Mark Walters ฟ้อง OpenAI เนื่องจาก ChatGPT ในคำตอบต่อคำขอของนักข่าวได้กล่าวหาเขาอย่างเท็จว่าฉ้อโกง กรณีนี้เน้นย้ำความรับผิดทางกฎหมายของบริษัทต่อเนื้อหาที่สร้างโดยโมเดลของตน[6]

ลิงก์

  • The Beginner's Guide to Hallucinations in Large Language Models — คู่มือฉบับละเอียดจาก Lakera
  • Survey of Hallucination in Natural Language Generation — บทความทบทวนวิทยาศาสตร์ของปรากฏการณ์บน arXiv

เอกสารอ้างอิง

  • Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. arXiv:1904.09751.
  • Caccia, M. et al. (2018). Language GANs Falling Short. arXiv:1811.02549.
  • Fan, A. et al. (2018). Hierarchical Neural Story Generation. arXiv:1805.04833.
  • Su, Y.; Collier, N. (2022). Contrastive Search Is What You Need for Neural Text Generation. arXiv:2210.14140.
  • Meister, C. et al. (2023). Locally Typical Sampling. arXiv:2202.00666.
  • O'Brien, S.; Lewis, M. (2023). Contrastive Decoding Improves Reasoning in Large Language Models. arXiv:2309.09117.
  • Finlayson, M. et al. (2024). Basis-Aware Truncation Sampling for Neural Text Generation. arXiv:2412.14352.
  • Tan, Q. et al. (2024). A Thorough Examination of Decoding Methods in the Era of Large Language Models. arXiv:2402.06925.
  • Yu, S. et al. (2023). Conformal Nucleus Sampling. arXiv:2305.02633.
  • Chen, S. J. et al. (2024). Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods. arXiv:2410.03968.

หมายเหตุ

  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 «The Beginner's Guide to Hallucinations in Large Language Models». Lakera. [1]
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 «What Is LLM Hallucination and How To Prevent It». Astera. [2]
  3. ↑ «Hallucination (artificial intelligence)». In Wikipedia. [3]
  4. ↑ «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». [источник не указан в тексте].
  5. ↑ «Cambridge Dictionary adds new definition for 'hallucinate'». [источник не указан в тексте].
  6. ↑ 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «LLM Hallucination—Types, Causes, and Solutions». Nexla. [4]
  7. ↑ 7.0 7.1 «Effective Tips to Prevent AI Hallucinations in Generative AI». QuickCreator. [5]
  8. ↑ [2408.08333] CodeMirage: Hallucinations in Code Generated by Large Language Models. arXiv. [6]
  9. ↑ 9.0 9.1 «LLM hallucinations and failures: lessons from 4 examples». Evidently AI Blog. [7]
  10. ↑ «How to Perform Hallucination Detection for LLMs». Kolena. [8]
  11. ↑ 11.0 11.1 11.2 «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». DataStudios. [9]
  12. ↑ «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». Stephen Weber on Medium. [10]
  13. ↑ «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». Arize Blog. [11]
  14. ↑ «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». arXiv. [12]
  15. ↑ «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». Analytics India Magazine. [13]
Retrieved from "https://systems-analysis.info/int/index.php?title=LLM_hallucinations_—_ภาพหลอนและคำตอบที่ไม่ถูกต้องของ_LLM&oldid=3638"