Hallucinaties en incorrecte antwoorden van LLM

From Systems analysis Wiki
Jump to navigation Jump to search

Hallucinatie (Engels: hallucination) in de context van grote taalmodellen (LLM) is een verschijnsel waarbij het model vol vertrouwen een ogenschijnlijk aannemelijk (plausible) antwoord genereert dat in werkelijkheid niet klopt, niet overeenkomt met de aangeboden context, of intern tegenstrijdig is[1][2]. Het model «verzint» feiten, details of logische conclusies die niet in de brongegevens aanwezig zijn.

Het is belangrijk op te merken dat een hallucinatie geen storing of bug is in de traditionele betekenis. Het model werkt precies zoals het is ontworpen: het voorspelt de meest waarschijnlijke voortzetting van een tekst op basis van patronen die uit trainingsdata zijn geëxtraheerd. Het beschikt over geen ingebouwd mechanisme voor waarheidsveri­ficatie[3]. Hallucinaties onderscheiden zich van gewone fouten doordat het gaat om vol overtuiging gepresenteerde, maar onjuiste informatie, die vaak niet-bestaande feiten, bronverwijzingen of gebeurtenissen bevat[4]. Dit verschijnsel is zo significant geworden dat het Cambridge Dictionary in 2023 een nieuwe betekenis van de term «hallucination» heeft toegevoegd, betrekking hebbend op kunstmatige intelligentie[5].

Definities en classificatie van hallucinaties

Hoewel verschillende termen worden gebruikt (zoals «confabulatie», «verzinsel»), kunnen hallucinaties in LLM worden onderverdeeld in twee brede categorieën: die verband houden met feitelijke betrouwbaarheid en die verband houden met trouwheid aan de bron (contextuele consistentie)[6].

Feitelijke hallucinaties

Dit betreft het geval waarbij het model feitelijk onjuiste informatie over de werkelijke wereld geeft. Het model presenteert een valse «feit» als waarheid[1].

  • Voorbeeld: «Charles Lindbergh was de eerste mens die voet zette op de maan» — een volledig verzonnen feit.
  • Valse citaten en bronverwijzingen: Het model kan een verwijzing naar een niet-bestaand wetenschappelijk artikel of wet verzinnen, waarbij het de opmaak van een echte verwijzing nabootst[2]. Dit ondermijnt het vertrouwen in modellen, met name in toepassingen waar nauwkeurigheid vereist is (onderwijs, nieuws, consultancy)[7].

Logische fouten

Het model maakt een inconsistentie of fout in zijn redenering. Afzonderlijke feiten in het antwoord kunnen juist zijn, maar de conclusie is onlogisch of strijdig met de elementaire logica[2]. Dit komt vaak voor bij complexe redeneringen of opgaven op het gebied van wiskunde en causaliteit, waarbij het model werkt met probabilistische woordverbanden in plaats van formele logica[2][2].

  • Voorbeeld: «Omdat vogels vliegen, ervaren astronauten geen zwaartekracht» — de tekst lijkt samenhangend, maar is logisch onjuist.

Contextuele hallucinaties

Het antwoord van het model stemt niet overeen met de aangeboden context of instructie. Het model «valt uit de context», voegt overbodige informatie toe of negeert relevante informatie[1].

  • Schending van de instructie: Op het verzoek «vertaal de tekst naar het Spaans» antwoordt het model in het Engels[1].
  • Informatie buiten de bron: Bij een samenvattingstaak «voegt» het model feiten toe die niet in het oorspronkelijke document aanwezig zijn, of verdraait het ze[1].
  • Vermenging van contexten: Midden in een antwoord begint het model plotseling over iets uit een ander domein. Zo kan het model bij een vraag over NBA-commissaris Adam Silver overschakelen naar zijn voorganger David Stern, waardoor twee verschillende contexten worden vermengd[6].

Inconsistentie

Een variant van hallucinatie waarbij het model zichzelf tegenspreekt binnen één antwoord of een reeks antwoorden[6]. In één onderzoek werd vastgesteld dat het percentage zelf-tegenstrijdige antwoorden bij ChatGPT ongeveer 14% bedraagt[6][6].

  • Voorbeeld: «Bedrijf X werd opgericht in 1990... en enkele zinnen later ...Bedrijf X, opgericht in 2000...»

Hallucinaties in code

LLM die getraind zijn op code, kunnen syntactisch correcte maar niet-werkende fragmenten genereren, waarbij gebruik wordt gemaakt van niet-bestaande functies, bibliotheken of parameters[2]. Het model kan bijvoorbeeld `import quantum` in Python genereren, terwijl een dergelijke standaardmodule niet bestaat. In 2024 werd de term «code hallucination» voorgesteld en werd de benchmark CodeMirage ontwikkeld om dit probleem systematisch in kaart te brengen[8].

Oorzaken van het verschijnsel

Het verschijnsel van hallucinaties wordt veroorzaakt door een combinatie van factoren, van de architectuur van het model tot de kwaliteit van de data.

  • Architectuur en trainingsbeginsel: De meeste LLM (zoals GPT) zijn autoregressieve transformers die getraind zijn om het volgende token te voorspellen. Hun doel is het maximaliseren van de aannemelijkheid van tekst, niet het verifiëren van de waarheid van uitspraken[2]. Het model maakt geen onderscheid tussen feiten en fictie in de trainingsdata en beschouwt alles als tekstpatronen[2].
  • Kwaliteit van de trainingsdata: LLM worden getraind op enorme tekstcorpora van het internet, die talrijke onnauwkeurigheden, mythes en verouderde informatie bevatten[1]. Het model memoriseert en reproduceert deze fouten. Ook de knowledge cutoff — de tijdsgrens tot wanneer het model over informatie beschikt — speelt hierbij een belangrijke rol.
  • Wijze van tekstgeneratie: Het stochastische karakter van de generatie (sampling met temperatuur) stelt het model in staat meer «creatieve», maar minder nauwkeurige antwoorden te produceren. De beperkte contextlengte kan ertoe leiden dat het model vroege details uit de dialoog «vergeet» en zichzelf begint tegen te spreken[6].

Methoden voor evaluatie en meting

Voor het opsporen en meten van hallucinaties worden automatische metrieken, menselijke beoordeling en gespecialiseerde benchmarks toegepast.

  • Automatische metrieken: Hieronder vallen benaderingen waarbij een andere LLM fungeert als «rechter» (LLM-as-a-judge) om de correctheid van een antwoord te beoordelen[9], of analyse van de entropie (onzekerheid) van het model tijdens de generatie[10].
  • Menselijke annotatie: Wordt beschouwd als de «gouden standaard». Experts of crowd-assessors beoordelen antwoorden handmatig en markeren fouten. Deze methode wordt gebruikt bij het trainen van modellen met behulp van RLHF[11].
  • Benchmarks en stresstests: Er zijn speciale datasets ontwikkeld, zoals TruthfulQA, dat vragen bevat die het model uitlokken tot het reproduceren van veelvoorkomende mythes[12]. Er bestaan ook leaderboards, zoals het Hugging Face Hallucination Leaderboard, waar modellen worden vergeleken op het niveau van hallucinaties[13].

Methoden voor beperking en preventie

  • Retrieval-Augmented Generation (RAG): De meest succesvolle aanpak, die het model «koppelt» aan externe kennis. Vóór het genereren van een antwoord ontvangt het model relevante informatie uit een database, zoekmachine of API. Hierdoor kan het model zijn antwoord baseren op geverifieerde gegevens in plaats van op gissingen[2].
  • Redeneerketens (Chain-of-Thought) en zelfcontrole: Het model genereert eerst een stapsgewijze redenering voordat het een definitief antwoord geeft, wat de nauwkeurigheid verhoogt. Bij meer geavanceerde methoden, zoals Self-Verification, genereert het model een conceptantwoord en krijgt vervolgens de opdracht dit te controleren en te corrigeren[14].
  • Ingebouwde regels en filters: Modellen worden getraind om een antwoord te weigeren wanneer ze niet zeker zijn. Zo volgen de Claude-modellen van Anthropic het principe van «eerlijkheid» en antwoorden ze vaak met «Ik weet dit niet zeker...», in plaats van feiten te verzinnen[11].
  • Integratie met externe tools: Modellen zoals Gemini kunnen automatisch herkennen wanneer ze een extern hulpmiddel nodig hebben (zoals een rekenmachine voor berekeningen of een zoekopdracht voor recent nieuws) en dit inzetten, wat het aantal hallucinaties aanzienlijk vermindert[11].

Risico's en gevolgen

  • Juridische en reputatierisico's: In de juridische sfeer kunnen hallucinaties ernstige gevolgen hebben. Veel bekendheid verwierf de zaak Mata v. Avianca (2023), waarbij een advocaat ChatGPT gebruikte om juridische precedenten op te zoeken, waarna het model meerdere niet-bestaande zaken verzon. De advocaten werden beboet en het incident werd een les over de ontoelaatbaarheid van blind vertrouwen in AI zonder verificatie[1].
  • Verspreiding van desinformatie: Op maatschappelijke schaal kunnen LLM het probleem van nepnieuws versterken. Bekend is het geval met het model Galactica van Meta, dat was ontwikkeld om wetenschappers te ondersteunen, maar pseudowetenschappelijke teksten begon te genereren met verzonnen experimenten en bronverwijzingen. Na drie dagen werd de publieke toegang tot het model gesloten[15].
  • Onjuiste besluitvorming: Gebruikers, met name onervaren gebruikers, zijn geneigd vol vertrouwen geformuleerde AI-antwoorden te vertrouwen, wat kan leiden tot verkeerde beslissingen op het gebied van financiën, gezondheidszorg en andere kritieke gebieden[7].

Praktijkvoorbeelden

  • De zaak Air Canada (2023): De chatbot van de luchtvaartmaatschappij verzond een niet-bestaand terugbetalingsbeleid voor tickets. Toen een klant vroeg dit toe te passen, weigerde het bedrijf. Het Canadese transporttribunaal verplichtte Air Canada verantwoordelijkheid te dragen voor de informatie die haar chatbot had verstrekt en de klant schadeloos te stellen[9].
  • Aanklacht wegens smaad tegen OpenAI (2023): Radio-presentator Mark Walters spande een rechtszaak aan tegen OpenAI omdat ChatGPT hem in een antwoord op een verzoek van een journalist vals had beschuldigd van fraude. Dit geval benadrukte de juridische verantwoordelijkheid van bedrijven voor inhoud die door hun modellen wordt gegenereerd[6].

Verwijzingen

  • The Beginner's Guide to Hallucinations in Large Language Models — uitgebreide gids van Lakera
  • Survey of Hallucination in Natural Language Generation — wetenschappelijk overzicht van het verschijnsel op arXiv

Literatuur

  • Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. arXiv:1904.09751.
  • Caccia, M. et al. (2018). Language GANs Falling Short. arXiv:1811.02549.
  • Fan, A. et al. (2018). Hierarchical Neural Story Generation. arXiv:1805.04833.
  • Su, Y.; Collier, N. (2022). Contrastive Search Is What You Need for Neural Text Generation. arXiv:2210.14140.
  • Meister, C. et al. (2023). Locally Typical Sampling. arXiv:2202.00666.
  • O'Brien, S.; Lewis, M. (2023). Contrastive Decoding Improves Reasoning in Large Language Models. arXiv:2309.09117.
  • Finlayson, M. et al. (2024). Basis-Aware Truncation Sampling for Neural Text Generation. arXiv:2412.14352.
  • Tan, Q. et al. (2024). A Thorough Examination of Decoding Methods in the Era of Large Language Models. arXiv:2402.06925.
  • Yu, S. et al. (2023). Conformal Nucleus Sampling. arXiv:2305.02633.
  • Chen, S. J. et al. (2024). Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods. arXiv:2410.03968.

Noten

  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 «The Beginner's Guide to Hallucinations in Large Language Models». Lakera. [1]
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 «What Is LLM Hallucination and How To Prevent It». Astera. [2]
  3. ↑ «Hallucination (artificial intelligence)». In Wikipedia. [3]
  4. ↑ «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». [источник не указан в тексте].
  5. ↑ «Cambridge Dictionary adds new definition for 'hallucinate'». [источник не указан в тексте].
  6. ↑ 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «LLM Hallucination—Types, Causes, and Solutions». Nexla. [4]
  7. ↑ 7.0 7.1 «Effective Tips to Prevent AI Hallucinations in Generative AI». QuickCreator. [5]
  8. ↑ [2408.08333] CodeMirage: Hallucinations in Code Generated by Large Language Models. arXiv. [6]
  9. ↑ 9.0 9.1 «LLM hallucinations and failures: lessons from 4 examples». Evidently AI Blog. [7]
  10. ↑ «How to Perform Hallucination Detection for LLMs». Kolena. [8]
  11. ↑ 11.0 11.1 11.2 «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». DataStudios. [9]
  12. ↑ «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». Stephen Weber on Medium. [10]
  13. ↑ «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». Arize Blog. [11]
  14. ↑ «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». arXiv. [12]
  15. ↑ «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». Analytics India Magazine. [13]
Retrieved from "https://systems-analysis.info/int/index.php?title=Hallucinaties_en_incorrecte_antwoorden_van_LLM&oldid=2818"