Chain-of-Verification (NL)

Chain-of-Verification (CoVe) — dit is een methode die werd voorgesteld om het aantal hallucinaties (het genereren van feitelijk onjuiste maar plausibele antwoorden) in grote taalmodellen (LLM) te verminderen. De aanpak, ontwikkeld door een onderzoeksgroep van Meta AI onder leiding van Shehzaad Dhuliawala en gepresenteerd in het artikel «Chain-of-Verification Reduces Hallucination in Large Language Models» (2023), behoort tot de klasse van methoden voor zelfcontrole en zelfcorrectie (self-verification) van LLM. Het kernidee van CoVe is de stapsgewijze verificatie van een gegenereerd antwoord door het model zelf, zonder gebruik te maken van externe bronnen. Dit moedigt het systeem aan om meer «redenerende» inspanning te steken in de zelfreflectie over het antwoord en het corrigeren van eigen fouten, voordat het antwoord aan de gebruiker wordt gepresenteerd.

Achtergrond: hallucinaties in taalmodellen

Grote taalmodellen (LLM) lijden regelmatig aan het fenomeen van «hallucinaties» – het genereren van antwoorden die plausibel lijken maar feitelijk onjuist zijn. Dit probleem wordt breed erkend als onopgelost binnen het vakgebied NLP: zelfs moderne modellen kunnen met grote zekerheid onjuiste informatie verstrekken en gebruikers daarmee misleiden. Zo kan een model overtuigend een niet-bestaand feit «verzinnen» of biografische gegevens van een bekende persoon verwarren. Omdat dergelijke feitelijke fouten moeilijk te detecteren zijn zonder gedetailleerde verificatie, ontwikkelen onderzoekers actief methoden om het aantal hallucinaties in de antwoorden van LLM te verminderen.

Stappen van de CoVe-methode

De Chain-of-Verification-methode wordt uitgevoerd via vier opeenvolgende stappen:

1. Generatie van het basisantwoord. Het model genereert zonder speciale instructies een initieel antwoord op de oorspronkelijke vraag (de basishypothese van het antwoord). Dit conceptantwoord dient als vertrekpunt en kan hallucinaties bevatten die in de volgende stappen ontdekt moeten worden.
2. Planning van verificatievragen. Op basis van de oorspronkelijke vraag en het gegenereerde antwoord formuleert het model een lijst met verduidelijkende vragen die de feitelijke juistheid van de beweringen uit het basisantwoord toetsen. Deze verification questions zijn gericht op de kernfeiten van het antwoord en helpen mogelijke fouten of onnauwkeurigheden aan het licht te brengen.
3. Uitvoering van de verificatie. Vervolgens beantwoordt het model achtereenvolgens en onafhankelijk elk van de geformuleerde verificatievragen, waarbij het probeert niet te steunen op het oorspronkelijke antwoord om vooringenomenheid te vermijden. De verkregen antwoorden worden vergeleken met het oorspronkelijke antwoord om tegenstrijdigheden of fouten op te sporen: zo worden de delen van het oorspronkelijke antwoord geïdentificeerd die niet door feiten worden ondersteund.
4. Vorming van het definitieve antwoord. Ten slotte genereert het model op basis van de gevonden discrepanties een gecorrigeerd definitief antwoord. In dit antwoord worden aanpassingen aangebracht op basis van de verificatieresultaten, waardoor de feitelijke nauwkeurigheid toeneemt en de kans op hallucinaties afneemt.

Elk van deze fasen wordt uitgevoerd met behulp van aanvullende verzoeken aan hetzelfde LLM, maar met verschillende instructies. Dat wil zeggen dat het model afwisselend de rol vervult van beantwoorder, vervolgens controleur (stelt vragen en beantwoordt ze), en redacteur van de uiteindelijke uitvoer.

Varianten van de verificatie-implementatie

De auteurs van de methode hebben verschillende modi voor de implementatie van de verificatiestap uitgeprobeerd, die zich onderscheiden door de manier waarop verificatievragen worden gesteld en beantwoord:

• Gecombineerde aanpak (Joint). Het model genereert zowel de verificatievragen als de antwoorden daarop binnen één enkel verzoek. Deze variant is minder wenselijk, omdat het model bij directe beantwoording feiten kan hallucineren en fouten uit het oorspronkelijke antwoord kan herhalen door vertekening.
• Tweestapsbenadering (2-Step). Verificatievragen worden eerst gegenereerd via een afzonderlijk verzoek, waarna het model in een volgend verzoek de gevormde lijst vragen beantwoordt. Het scheiden van de fasen helpt de invloed van het oorspronkelijke antwoord bij het genereren van vragen te vermijden.
• Afzonderlijke verificatie (Factored). Het model beantwoordt elke verificatievraag afzonderlijk, via meerdere opeenvolgende verzoeken (één per vraag). Deze aanpak voorkomt eenvoudig kopiëren van fragmenten uit het oorspronkelijke antwoord: de antwoorden op de verificatievragen worden autonoom geformuleerd, waardoor het risico op herhaling van de oorspronkelijke hallucinatie vermindert. Een nadeel is de toegenomen rekenkundige kosten, aangezien het aantal verzoeken evenredig groeit met het aantal vragen.
• Afzonderlijke verificatie met herziening (Factored + Revise). Na het ontvangen van antwoorden op alle verificatievragen voert het model een aanvullende vergelijkings- en revisiefase uit. Via een afzonderlijk verzoek vergelijkt het de verkregen feiten met het oorspronkelijke antwoord en markeert het expliciet de discrepanties, waarna het een definitief antwoord met correcties genereert. Deze extra stap dwingt het systeem de afwijkingen nauwkeuriger te analyseren en de gecorrigeerde informatie in de uiteindelijke uitvoer te integreren.

Experimentele resultaten

De Chain-of-Verification-methode werd getest op een reeks taken die gevoelig zijn voor de feitelijke nauwkeurigheid van antwoorden. Hieronder vielen: vragen over het opsommen van feiten uit een kennisbank (lijsten uit Wikidata en Wikipedia-categorieën), vragen met meerdere antwoorden uit verschillende tekstdelen (MultiSpanQA), en taken voor het genereren van uitgebreide tekst (zoals biografieën).

De resultaten toonden een aanzienlijke vermindering van hallucinaties over alle typen taken bij gebruik van CoVe, vergeleken met de oorspronkelijke modellen zonder zelfcontrole. Bijzonder effectief bleek de variant factored + revise – afzonderlijke verificatie met een definitieve feitencontrole. Deze aanpak leverde de beste nauwkeurigheidsscores op: zo verhoogde de toepassing van CoVe op het model LLaMA-65B (een LLM met 65 miljard parameters) bij de taak van biografische tekstgeneratie de feitelijke metriek FactScore van ~63,7 naar ~71,4 punten. De verhoging van de FactScore geeft aan dat de uiteindelijke antwoorden meer geverifieerde feiten en minder verzonnen informatie bevatten.

Bovendien slaagde het LLM met de toegevoegde verificatieketen erin zelfs enkele krachtigere of speciaal uitgeruste systemen te overtreffen. Zo behaalde LLAMA-65B met CoVe een hogere FactScore dan ChatGPT (het model van OpenAI) en overtrof het Perplexity.ai — een model aangevuld met internetzoekopdrachten voor feitelijke ondersteuning van antwoorden. Dit is opmerkelijk, omdat Perplexity externe bronnen gebruikt om informatie op te zoeken, terwijl CoVe kwaliteitsverbetering bereikt door uitsluitend te steunen op de interne redeneer- en zelfcontrolecapaciteiten van het model zelf. Weliswaar behoudt een retrieval-systeem zoals Perplexity nog steeds een voordeel bij zeer zeldzame feiten (wanneer specifieke kennis vereist is), maar bij de meeste vragen gaf CoVe nauwkeurigere antwoorden.

Beperkingen en vooruitzichten

Opgemerkt moet worden dat hoewel Chain-of-Verification het aandeel hallucinaties merkbaar vermindert, de methode ze niet volledig kan elimineren. Het model kan nog steeds fouten maken als de verificatievragen een bepaald onjuist detail niet hebben gedekt, of als het LLM het juiste feit simpelweg niet kent. Bovendien verhoogt CoVe de rekenkundige belasting: voor één gebruikersverzoek moeten meerdere opeenvolgende modelaanroepen worden uitgevoerd (generatie van het antwoord, generatie van vragen, beantwoording daarvan, definitieve samenstelling), terwijl een gewoon model in één stap antwoordt. Desalniettemin tonen de auteurs aan dat de totale kosten van CoVe vergelijkbaar zijn met andere meerstaps-aanpakken voor hallucinatiedetectie en dat het een praktische oplossing blijft.

In hun artikel wezen de onderzoekers van Meta AI op mogelijke richtingen voor verbetering van de methode. Een voor de hand liggend pad is CoVe combineren met het gebruik van externe hulpmiddelen, door bijvoorbeeld een internetzoekmodule of kennisbanken te koppelen tijdens de verificatiefase. Dit zou het mogelijk maken betrouwbare informatie van buiten te betrekken en feiten uit het oorspronkelijke antwoord nog betrouwbaarder te bevestigen of te weerleggen. Chain-of-Verification dient daarmee als een stap naar meer verantwoorde en nauwkeurige AI-systemen: het toont aan dat door een model te dwingen zijn eigen antwoord kritisch te herzien, de kwaliteit ervan aanzienlijk kan worden verbeterd en de verspreiding van verzonnen feiten in de gegenereerde tekst kan worden verminderd.

Verwijzingen

• Origineel artikel «Chain-of-Verification Reduces Hallucination in Large Language Models» op arXiv
• Artikel «Chain-of-Verification Reduces Hallucination in Large Language Models» in ACL Anthology
• Chain of Verification (CoVe) — Understanding & Implementation — artikel op Medium

Literatuur

• Dhuliawala, S. et al. (2023). Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv:2309.11495.
• Manakul, P. et al. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. arXiv:2303.08896.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Ling, Z. et al. (2023). Deductive Verification of Chain-of-Thought Reasoning. arXiv:2306.03872.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.