Chain-of-Verification (HU)

Chain-of-Verification (CoVe) — egy olyan módszer, amelyet a hallucinációk (faktikusan helytelen, de hihetőnek tűnő válaszok generálása) számának csökkentésére javasoltak nagy nyelvi modellekben (LLM). A megközelítést a Meta AI kutatócsoportja dolgozta ki Shehzaad Dhuliawala vezetésével, és a „Chain-of-Verification Reduces Hallucination in Large Language Models" (2023) című munkában mutatták be; az LLM önellenőrzési és önkorrekciós (self-verification) módszereinek osztályába tartozik. A CoVe alapgondolata az, hogy a generált választ maga a modell ellenőrzi lépésről lépésre, külső források bevonása nélkül. Ez arra ösztönzi a rendszert, hogy több „ésszerű" erőfeszítést fordítson a válasz önvizsgálatára és saját hibáinak kijavítására, mielőtt a választ a felhasználónak bemutatja.

Háttér: hallucinációk a nyelvi modellekben

A nagy nyelvi modellek (LLM) gyakran szenvednek a „hallucinációk" jelenségétől – olyan válaszokat generálnak, amelyek hihetőnek tűnnek, de faktikusan helytelenek. Ez a probléma az NLP területén széles körben elismert megoldatlan kérdés: még a modern modellek is nagy magabiztossággal közölhetnek hamis információkat, félrevezetve a felhasználókat. Például egy modell meggyőzően „kitalálhat" egy nem létező tényt, vagy összekeverheti egy ismert személy életrajzi adatait. Mivel az ilyen faktikus hibákat részletes ellenőrzés nélkül nehéz észrevenni, a kutatók aktívan fejlesztenek módszereket az LLM válaszaiban előforduló hallucinációk számának csökkentésére.

A CoVe módszer lépései

A Chain-of-Verification módszer négy egymást követő lépésen keresztül valósul meg:

1. Alapválasz generálása. A modell különleges utasítások nélkül létrehozza az eredeti kérdésre adott kezdeti választ (a válasz alaphipotézise). Ez a tervezett válasz kiindulópontként szolgál, és tartalmazhat hallucinációkat, amelyeket a következő lépésekben kell felderíteni.
2. Ellenőrző kérdések tervezése. Az eredeti kérdés és a generált válasz alapján a modell pontosító kérdések listáját fogalmazza meg, amelyek az alapválasz állításainak faktikus helyességét ellenőrzik. Ezek a verification questions a válasz kulcstényeire irányulnak, és segítenek feltárni az esetleges hibákat vagy pontatlanságokat.
3. Az ellenőrzés végrehajtása (verifikáció). Ezt követően a modell sorban és egymástól függetlenül válaszol minden egyes megfogalmazott ellenőrző kérdésre, igyekezvén nem támaszkodni az eredeti válaszra az elfogultság elkerülése érdekében. A kapott válaszokat összehasonlítják az eredeti válasszal, hogy ellentmondásokat vagy hibákat tárjanak fel: így azonosítják az eredeti válasz azon részeit, amelyeket a tények nem támasztanak alá.
4. A végleges válasz kialakítása. Végül a feltárt eltérések alapján a modell generál egy javított, végleges választ. Ebbe a válaszba az ellenőrzés eredményeinek figyelembevételével korrekciókat illesztenek be, ami növeli faktikus pontosságát és csökkenti a hallucinációk valószínűségét.

Ezeket a lépéseket mindegyikét ugyanannak az LLM-nek küldött további lekérdezésekkel hajtják végre, de eltérő utasításokkal. Vagyis a modell felváltva tölt be válaszadói, majd ellenőrzői (kérdéseket tesz fel és megválaszolja azokat), és végül a végleges kimenet szerkesztőjének szerepét.

Az ellenőrzés megvalósítási változatai

A módszer szerzői az ellenőrzési lépés megvalósítására több módot is kipróbáltak, amelyek abban különböznek egymástól, hogyan teszik fel és válaszolják meg az ellenőrző kérdéseket:

• Összevont megközelítés (Joint). A modell egyetlen lekérdezés keretében generálja mind az ellenőrző kérdéseket, mind a rájuk adott válaszokat. Ez a változat kevésbé előnyös, mivel a modell, amely azonnal válaszol, hallucináálhatja a tényeket és megismételheti az eredeti válasz hibáit az eltolódás miatt.
• Kétlépéses megközelítés (2-Step). Az ellenőrző kérdéseket először egy külön lekérdezéssel generálják, majd egy következő lekérdezésben a modell megválaszolja a kialakított kérdéslistát. A lépések szétválasztása segít elkerülni az eredeti válasz hatását a kérdések generálásakor.
• Különálló ellenőrzés (Factored). A modell külön-külön válaszol minden egyes ellenőrző kérdésre, több egymást követő lekérdezés segítségével (kérdésenként egy). Ez a megközelítés megakadályozza az eredeti válasz részeinek egyszerű kimásolását: az ellenőrző kérdésekre adott válaszok autonóm módon fogalmazódnak meg, ami csökkenti az eredeti hallucináció megismétlésének kockázatát. Hátránya a megnövekedett számítási költség, mivel a lekérdezések száma arányosan nő a kérdések számával.
• Különálló ellenőrzés felülvizsgálattal (Factored + Revise). Miután az összes ellenőrző kérdésre megérkezett a válasz, a modell elvégez egy további összehasonlítási és revíziós lépést. Egy külön lekérdezés segítségével összehangolja a kapott tényeket az eredeti válasszal, és kifejezetten jelöli az eltéréseket, majd javításokkal generálja a végleges választ. Ez a kiegészítő lépés arra készteti a rendszert, hogy alaposabban elemezze az eltéréseket, és integrálja a javított információkat a végső kimenetbe.

Kísérleti eredmények

A Chain-of-Verification módszert számos, a válaszok faktikus pontossága szempontjából érzékeny feladaton tesztelték. Ezek közé tartoztak: tudásbázis-alapú tényfelsoroló kérdések (Wikidata-listák és Wikipedia-kategóriák), több szövegrészből adódó, több választ igénylő kérdések (MultiSpanQA), valamint részletes szöveg generálásának feladatai (például életrajzok).

Az eredmények azt mutatták, hogy a CoVe alkalmazásával az önellenőrzés nélküli eredeti modellekhez képest jelentősen csökkent a hallucinációk száma minden feladattípusnál. Különösen hatékonynak bizonyult a factored + revise változat – a különálló ellenőrzés a tények végső összevetésével. Ez a megközelítés adta a legjobb pontossági mutatókat: például életrajzi szöveg generálásának feladatában a CoVe alkalmazása a LLaMA-65B modellre (65 milliárd paraméteres LLM) a FactScore faktológiai mérőszámát ~63,7-ről ~71,4 pontra növelte. A FactScore növekedése azt jelzi, hogy a végleges válaszok több ellenőrzött tényt és kevesebb kitalált információt tartalmaztak.

Sőt, a verifikációs láncot alkalmazó LLM képes volt felülmúlni még néhány erősebb vagy speciálisan felszerelt rendszert is. Így a CoVe-val kiegészített LLaMA-65B magasabb FactScore-t ért el, mint a ChatGPT (az OpenAI modellje), és megelőzte a Perplexity.ai-t — egy olyan modellt, amelyet internetes kereséssel egészítettek ki a válaszok faktikus alátámasztása érdekében. Ez figyelemre méltó, mivel a Perplexity külső forrásokat használ az információkereséshez, míg a CoVe a minőség javítását kizárólag a modell belső következtetési és önellenőrzési képességeire támaszkodva éri el. Igaz, a legritkább tényeknél (ahol specifikus tudásra van szükség) a Perplexityhez hasonló retrieval-rendszer még mindig előnnyel rendelkezik, azonban a legtöbb kérdésnél a CoVe pontosabb válaszokat adott.

Korlátok és kilátások

Megjegyzendő, hogy bár a Chain-of-Verification észrevehetően csökkenti a hallucinációk arányát, teljes mértékben nem képes kiküszöbölni azokat. A modell továbbra is elkövethet hibákat, ha az ellenőrző kérdések nem fedtek le valamely helytelen részletet, vagy ha maga az LLM nem ismeri a helyes tényt. Emellett a CoVe növeli a számítási terhelést: egyetlen felhasználói lekérdezéshez több egymást követő modellhívást kell elvégezni (válasz generálása, kérdések generálása, megválaszolásuk, végső összeállítás), míg egy szokásos modell egyetlen lépésben válaszol. Mindazonáltal a szerzők megmutatják, hogy az összesített költségek tekintetében a CoVe összehasonlítható más, többlépéses hallucinációfelderítési megközelítésekkel, és praktikus megoldásnak tekinthető.

A Meta AI kutatói munkájukban a módszer lehetséges fejlesztési irányait is megjelölték. Az egyik kézenfekvő út a CoVe kombinálása külső eszközök használatával, például egy internetes keresési modul vagy tudásbázisok csatlakoztatása a verifikációs lépés során. Ez lehetővé tenné megbízható információk megszerzését külső forrásokból, és még megbízhatóbban lehetne megerősíteni vagy cáfolni az eredeti válasz tényeit. Így a Chain-of-Verification lépést jelent a felelősebb és pontosabb AI-rendszerek felé: megmutatja, hogy ha rákényszerítjük a modellt saját válaszának kritikus felülvizsgálatára, akkor annak minősége lényegesen javítható, és a generált szövegben a kitalált tények terjesztése csökkenthető.

Hivatkozások

• Az eredeti „Chain-of-Verification Reduces Hallucination in Large Language Models" cikk az arXiv-on
• A „Chain-of-Verification Reduces Hallucination in Large Language Models" cikk az ACL Anthology-ban
• Chain of Verification (CoVe) — Understanding & Implementation — cikk a Mediumon

Irodalom

• Dhuliawala, S. et al. (2023). Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv:2309.11495.
• Manakul, P. et al. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. arXiv:2303.08896.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Ling, Z. et al. (2023). Deductive Verification of Chain-of-Thought Reasoning. arXiv:2306.03872.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.