LLM Halüsinasyonları

From Systems analysis Wiki
Jump to navigation Jump to search

Halüsinasyon (İng. hallucination), büyük dil modelleri (LLM) bağlamında; modelin gerçekte doğru olmayan, sağlanan bağlamla örtüşmeyen ya da kendi içinde çelişkili olan yanıtları güvenle ve makul (plausible) görünecek biçimde üretmesi olgusudur[1][2]. Model, kaynak verilerde bulunmayan olguları, ayrıntıları veya mantıksal sonuçları "uydurur".

Halüsinasyonun geleneksel anlamda bir arıza ya da hata olmadığını vurgulamak gerekir. Model, tasarlandığı şekilde çalışmaktadır: eğitim verilerinden çıkardığı kalıplara dayanarak metnin en olası devamını tahmin eder. Modelin yerleşik bir doğrulama mekanizması yoktur[3]. Halüsinasyonlar basit hatalardan şu yönüyle ayrılır: var olmayan olgular, kaynaklar veya olaylar da dahil olmak üzere, güvenli bir üslupla sunulan ancak yanlış bilgilerdir[4]. Bu olgu o denli önem kazandı ki 2023 yılında Cambridge Sözlüğü, "hallucination" terimine yapay zekâyla ilgili yeni bir anlam ekledi[5].

Halüsinasyonların Tanımı ve Sınıflandırması

Farklı terimler kullanılsa da (örneğin "konfabülasyon", "uydurma") LLM'lerdeki halüsinasyonlar iki ana kategoriye ayrılabilir: olgusal doğrulukla ilgili olanlar ve kaynağa sadakatle (bağlamsal tutarlılık) ilgili olanlar[6].

Olgusal Halüsinasyonlar

Bu durumda model, gerçek dünyayla ilgili olgusal açıdan yanlış bilgiler sunar. Model, yanlış bir "gerçeği" doğruymuş gibi ifade eder[1].

  • Örnek: "Charles Lindbergh, Ay yüzeyine ayak basan ilk insandır" — tamamen uydurulmuş bir olgudur.
  • Sahte alıntılar ve kaynaklar: Model, var olmayan bir bilimsel çalışmaya ya da yasaya gerçek bir kaynak formatını taklit ederek atıfta bulunabilir[2]. Bu durum, özellikle doğruluğun kritik önem taşıdığı uygulamalarda (eğitim, habercilik, danışmanlık) modellere duyulan güveni sarsmaktadır[7].

Mantıksal Hatalar

Model, akıl yürütmede tutarsızlıklara ya da hatalara düşer. Yanıttaki tek tek olgular doğru olabilir; ancak çıkarılan sonuç mantıksız ya da temel mantıkla çelişkilidir[2]. Bu durum, özellikle karmaşık akıl yürütme gerektiren görevlerde veya matematik ve nedensellik içeren problemlerde sıklıkla karşılaşılır; zira model, biçimsel mantık yerine sözcükler arasındaki olasılıksal ilişkilerle işlem yapar[2][2].

  • Örnek: "Kuşlar uçtuğu için astronotlar yer çekimi hissetmez" — metin akıcı görünmektedir ancak mantıksal açıdan yanlıştır.

Bağlamsal Halüsinasyonlar

Modelin yanıtı, sağlanan bağlama veya talimata uymaz. Model bağlamın "dışına çıkarak" gereksiz bilgiler ekler ya da gerekli bilgileri görmezden gelir[1].

  • Talimat ihlali: "Metni İspanyolcaya çevir" isteğine karşılık model İngilizce yanıt verir[1].
  • Kaynaktan olmayan bilgiler: Özetleme görevinde model, orijinal belgede bulunmayan olgular "ekler" ya da var olanları çarpıtır[1].
  • Bağlam karışması: Yanıtın ortasında model aniden farklı bir konuya geçer. Örneğin NBA Komiseri Adam Silver hakkındaki bir soruya yanıt verirken model, iki farklı bağlamı birbiriyle karıştırarak selefi David Stern'e geçiş yapabilir[6].

Tutarsızlık

Modelin tek bir yanıt içinde veya bir dizi yanıt boyunca kendi kendisiyle çelişmesi biçiminde ortaya çıkan bir halüsinasyon türüdür[6]. Bir araştırmada ChatGPT'nin yanıtlarındaki kendi kendine çelişki oranının yaklaşık %14 olduğu tespit edilmiştir[6][6].

  • Örnek: "X Şirketi 1990 yılında kuruldu... birkaç cümle sonra ...2000 yılında kurulan X Şirketi..."

Koddaki Halüsinasyonlar

Kod üzerinde eğitilmiş LLM'ler, sözdizimsel olarak doğru ancak çalışmayan parçacıklar üretebilir; var olmayan işlevler, kütüphaneler veya parametreler kullanabilir[2]. Örneğin model, Python'da böyle bir standart modül bulunmamasına karşın `import quantum` üretebilir. 2024 yılında "code hallucination" terimi önerilmiş ve bu sorunu sistematik biçimde ele almak için CodeMirage benchmark'ı oluşturulmuştur[8].

Ortaya Çıkış Nedenleri

Halüsinasyon olgusu, model mimarisinden veri kalitesine kadar uzanan bir dizi etkenin bileşiminden kaynaklanmaktadır.

  • Mimari ve eğitim ilkesi: LLM'lerin büyük çoğunluğu (örneğin GPT), bir sonraki token'ı tahmin etmek üzere eğitilmiş otoregressif transformer'lardır. Amaçları, önermelerin doğruluğunu denetlemek değil, metnin olasılığını en üst düzeye çıkarmaktır[2]. Model, eğitim verilerindeki olgu ile kurguyu birbirinden ayırt etmez; hepsini metin kalıpları olarak algılar[2].
  • Eğitim verilerinin kalitesi: LLM'ler, pek çok yanlışlık, efsane ve güncelliğini yitirmiş bilgi barındıran devasa İnternet metin kümeleri üzerinde eğitilir[1]. Model bu hataları öğrenir ve yeniden üretir. Ayrıca modelin bilgi sahibi olduğu zamansal sınırı ifade eden knowledge cutoff da önemli bir etkendir.
  • Metin üretme biçimi: Üretimin stokastik niteliği (sıcaklıkla örnekleme), modelin daha "yaratıcı" ancak daha az doğru yanıtlar oluşturmasına olanak tanır. Bağlam uzunluğunun sınırlı olması, modelin diyaloğun önceki ayrıntılarını "unutmasına" ve kendi kendisiyle çelişmeye başlamasına yol açabilir[6].

Değerlendirme ve Ölçüm Yöntemleri

Halüsinasyonları tespit etmek ve ölçmek için otomatik metrikler, insan değerlendirmesi ve özelleştirilmiş benchmark'lar kullanılmaktadır.

  • Otomatik metrikler: Yanıtın doğruluğunu değerlendirmek amacıyla başka bir LLM'nin "yargıç" rolüne sokulduğu yaklaşımları (LLM-as-a-judge)[9] ya da üretim sırasında modelin entropi (belirsizlik) analizini[10] kapsar.
  • İnsan anotasyonu: "Altın standart" olarak kabul edilir. Uzmanlar veya kalabalık kaynaklı değerlendiriciler yanıtları elle inceleyerek hataları işaretler. Bu yöntem, RLHF ile model eğitiminde kullanılmaktadır[11].
  • Benchmark'lar ve stres testleri: Modeli yaygın efsaneleri yeniden üretmeye yönelten sorular içeren TruthfulQA gibi özel veri kümeleri oluşturulmuştur[12]. Modellerin halüsinasyon düzeyleri açısından karşılaştırıldığı Hugging Face Hallucination Leaderboard gibi liderlik tabloları da mevcuttur[13].

Azaltma ve Önleme Yöntemleri

  • Retrieval-Augmented Generation (RAG): Modeli harici bilgi kaynaklarına "bağlayan" en başarılı yaklaşımdır. Yanıt üretilmeden önce model, bir veri tabanından, arama motorundan veya API'dan ilgili bilgileri alır. Bu sayede model, tahminde bulunmak yerine doğrulanmış verileri temel alarak yanıt oluşturabilir[2].
  • Chain-of-Thought (Düşünce Zinciri) ve öz-doğrulama: Model, nihai yanıtı vermeden önce adım adım akıl yürütme üretir; bu da doğruluğu artırır. Self-Verification gibi daha gelişmiş yöntemlerde model önce taslak bir yanıt oluşturur, ardından onu doğrulama ve düzeltme görevi alır[14].
  • Yerleşik kurallar ve filtreler: Modeller, emin olmadıklarında yanıt vermekten kaçınacak şekilde eğitilir. Örneğin Anthropic'in Claude modelleri "doğruluk" ilkesine uyar ve gerçekleri uydurmak yerine çoğunlukla "Bunu kesin olarak bilmiyorum..." şeklinde yanıt verir[11].
  • Harici araçlarla entegrasyon: Gemini gibi modeller, harici bir araca ne zaman ihtiyaç duyduklarını (örneğin hesaplamalar için hesap makinesi ya da güncel haberler için arama) otomatik olarak algılayabilir ve bu aracı kullanabilir; bu da halüsinasyon sayısını önemli ölçüde azaltır[11].

Riskler ve Sonuçlar

  • Hukuki ve itibar riskleri: Hukuk alanında halüsinasyonlar ciddi sonuçlar doğurabilir. Mata v. Avianca (2023) davası geniş çevrelerce bilinmektedir: bir avukat, içtihat araştırması için ChatGPT'yi kullanmış ve model var olmayan birkaç dava uydurmuştur. Avukatlar para cezasıyla cezalandırılmış; bu olay, doğrulama yapılmadan yapay zekâya güvenilmesinin kabul edilemezliğine dair bir ders niteliği kazanmıştır[1].
  • Dezenformasyon yayılımı: Toplumsal ölçekte LLM'ler, sahte haber sorununu derinleştirebilir. Meta'nın bilim insanlarına yardımcı olmak amacıyla geliştirdiği Galactica modeli, uydurma deneyler ve kaynaklar içeren sözde bilimsel metinler üretmeye başlamıştır. Modelin kamuya açık erişimi üç gün içinde kapatılmıştır[15].
  • Hatalı karar alma: Özellikle deneyimsiz kullanıcılar, yapay zekânın güvenle dile getirdiği yanıtlara güvenme eğilimindedir; bu durum finans, tıp ve diğer kritik alanlarda yanlış kararlar alınmasına yol açabilir[7].

Uygulamadan Örnekler

  • Air Canada Davası (2023): Havayolunun sohbet botu, var olmayan bir bilet iade politikası uydurdu. Müşteri bu politikanın uygulanmasını talep ettiğinde şirket bunu reddetti. Kanada Ulaşım Mahkemesi, Air Canada'nın sohbet botunun verdiği bilgilerden sorumlu olduğuna ve müşterinin zararını tazmin etmesi gerektiğine hükmetti[9].
  • OpenAI'ya Karşı Karalama Davası (2023): Radyo sunucusu Mark Walters, ChatGPT'nin bir gazetecinin sorusuna verdiği yanıtta kendisini yanlış biçimde dolandırıcılıkla suçladığı gerekçesiyle OpenAI'ya dava açtı. Bu olay, şirketlerin modelleri tarafından üretilen içerikten hukuki sorumluluğunu gündeme taşıdı[6].

Dış bağlantılar

  • The Beginner's Guide to Hallucinations in Large Language Models — Lakera'dan ayrıntılı rehber
  • Survey of Hallucination in Natural Language Generation — arXiv'de olgunun bilimsel incelemesi

Kaynakça

  • Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. arXiv:1904.09751.
  • Caccia, M. et al. (2018). Language GANs Falling Short. arXiv:1811.02549.
  • Fan, A. et al. (2018). Hierarchical Neural Story Generation. arXiv:1805.04833.
  • Su, Y.; Collier, N. (2022). Contrastive Search Is What You Need for Neural Text Generation. arXiv:2210.14140.
  • Meister, C. et al. (2023). Locally Typical Sampling. arXiv:2202.00666.
  • O'Brien, S.; Lewis, M. (2023). Contrastive Decoding Improves Reasoning in Large Language Models. arXiv:2309.09117.
  • Finlayson, M. et al. (2024). Basis-Aware Truncation Sampling for Neural Text Generation. arXiv:2412.14352.
  • Tan, Q. et al. (2024). A Thorough Examination of Decoding Methods in the Era of Large Language Models. arXiv:2402.06925.
  • Yu, S. et al. (2023). Conformal Nucleus Sampling. arXiv:2305.02633.
  • Chen, S. J. et al. (2024). Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods. arXiv:2410.03968.

Notlar

  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 «The Beginner's Guide to Hallucinations in Large Language Models». Lakera. [1]
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 «What Is LLM Hallucination and How To Prevent It». Astera. [2]
  3. ↑ «Hallucination (artificial intelligence)». In Wikipedia. [3]
  4. ↑ «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». [источник не указан в тексте].
  5. ↑ «Cambridge Dictionary adds new definition for 'hallucinate'». [источник не указан в тексте].
  6. ↑ 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «LLM Hallucination—Types, Causes, and Solutions». Nexla. [4]
  7. ↑ 7.0 7.1 «Effective Tips to Prevent AI Hallucinations in Generative AI». QuickCreator. [5]
  8. ↑ [2408.08333] CodeMirage: Hallucinations in Code Generated by Large Language Models. arXiv. [6]
  9. ↑ 9.0 9.1 «LLM hallucinations and failures: lessons from 4 examples». Evidently AI Blog. [7]
  10. ↑ «How to Perform Hallucination Detection for LLMs». Kolena. [8]
  11. ↑ 11.0 11.1 11.2 «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». DataStudios. [9]
  12. ↑ «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». Stephen Weber on Medium. [10]
  13. ↑ «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». Arize Blog. [11]
  14. ↑ «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». arXiv. [12]
  15. ↑ «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». Analytics India Magazine. [13]
Retrieved from "https://systems-analysis.info/int/index.php?title=LLM_Halüsinasyonları&oldid=3578"