Chain-of-Verification (TL)

Chain-of-Verification (CoVe) — ito ay isang pamamaraan na iminungkahi upang mabawasan ang bilang ng mga halusinasyon (paglikha ng mga factually na maling ngunit kapani-paniwalang sagot) sa malalaking language model (LLM). Ang diskarteng ito, na binuo ng isang grupo ng mga mananaliksik mula sa Meta AI sa ilalim ng pamumuno ni Shehzaad Dhuliawala at ipinakita sa papel na «Chain-of-Verification Reduces Hallucination in Large Language Models» (2023), ay kabilang sa klase ng mga pamamaraan ng self-verification at self-correction ng LLM. Ang pangunahing ideya ng CoVe ay ang sunud-sunod na pagsusuri ng nabuong sagot ng mismong modelo nang hindi gumagamit ng mga panlabas na pinagkukunan. Hinihikayat nito ang sistema na maglaan ng mas maraming «makatwirang» pagsisikap sa sariling pagsusuri ng sagot at pagwawasto ng sariling mga pagkakamali bago ipakita ang sagot sa gumagamit.

Konteksto: mga halusinasyon sa mga language model

Ang malalaking language model (LLM) ay madalas na nagdurusa sa penomenon ng «mga halusinasyon» — paglikha ng mga sagot na mukhang kapani-paniwala ngunit factually na mali. Ang problemang ito ay malawak na kinikilala bilang hindi pa nalulutas sa larangan ng NLP: maging ang mga makabagong modelo ay maaaring magbigay ng maling impormasyon nang may mataas na kumpiyansa, na inililigaw ang mga gumagamit. Halimbawa, ang modelo ay maaaring mapaniwalaang «mag-imbento» ng isang hindi umiiral na katotohanan o malito ang mga biographical na datos ng isang kilalang personalidad. Dahil ang mga ganitong factual na pagkakamali ay mahirap matuklasan nang walang detalyadong pagsusuri, aktibo ang mga mananaliksik sa pagbuo ng mga pamamaraan upang mabawasan ang bilang ng mga halusinasyon sa mga sagot ng LLM.

Mga yugto ng pamamaraang CoVe

Ang pamamaraang Chain-of-Verification ay isinasagawa sa pamamagitan ng apat na sunud-sunod na hakbang:

1. Paglikha ng pangunahing sagot. Ang modelo, nang walang espesyal na mga tagubilin, ay lumilikha ng paunang sagot sa orihinal na kahilingan (pangunahing hypothesis ng sagot). Ang draft na sagot na ito ay nagsisilbing panimulang punto at maaaring maglaman ng mga halusinasyon na dapat matukoy sa mga susunod na hakbang.
2. Pagpaplano ng mga verification question. Gamit ang orihinal na tanong at ang nabuong sagot, ang modelo ay bumubuo ng listahan ng mga katanungang nagpapatunay sa factual na kawastuhan ng mga pahayag mula sa pangunahing sagot. Ang mga verification question na ito ay nakatuon sa mga pangunahing katotohanan ng sagot at tumutulong na matukoy ang mga posibleng pagkakamali o hindi tumpak na impormasyon.
3. Pagsasagawa ng pagsusuri (verification). Pagkatapos, ang modelo ay sunud-sunod at independiyenteng sumasagot sa bawat isa sa mga nabuong verification question, na sinisikap na hindi umasa sa paunang sagot upang maiwasan ang pagkiling. Ang mga nakuhang sagot ay inihahambing sa orihinal na sagot upang matukoy ang mga kontradiksyon o pagkakamali: sa ganitong paraan, natutukoy ang mga bahagi ng orihinal na sagot na hindi sinusuportahan ng mga katotohanan.
4. Pagbuo ng panghuling sagot. Sa wakas, batay sa mga natuklasang pagkakaiba, ang modelo ay lumilikha ng isang binagong panghuling sagot. Ang mga pagwawasto ay ginagawa sa sagot na isinasaalang-alang ang mga resulta ng pagsusuri, na nagpapataas ng factual na katumpakan nito at nagbabawas ng posibilidad ng mga halusinasyon.

Ang bawat isa sa mga yugtong ito ay isinasagawa sa pamamagitan ng mga karagdagang kahilingan sa parehong LLM, ngunit may iba't ibang mga tagubilin. Ibig sabihin, ang modelo ay pabago-bagong gumaganap bilang sumasagot, pagkatapos bilang tagasuri (nagtatanong at sumasagot sa mga tanong), at bilang editor ng panghuling output.

Mga variant ng pagpapatupad ng pagsusuri

Sinubukan ng mga may-akda ng pamamaraan ang ilang mga mode ng pagpapatupad ng hakbang ng verification, na nag-iiba ayon sa paraan ng pagtatanong at pagtanggap ng mga sagot sa mga verification question:

• Pinagsanib na diskarte (Joint). Ang modelo ay lumilikha ng parehong mga verification question at ng mga sagot sa mga ito sa loob ng isang kahilingan. Ang variant na ito ay hindi masyadong kanais-nais, dahil ang modelo, habang sumasagot agad, ay maaaring mag-halusinasyon ng mga katotohanan at ulitin ang mga pagkakamali ng orihinal na sagot dahil sa pagkiling.
• Dalawang-hakbang na diskarte (2-Step). Ang mga verification question ay unang nililikha ng isang hiwalay na kahilingan, at pagkatapos sa susunod na kahilingan ang modelo ay sumasagot sa nabuong listahan ng mga tanong. Ang paghihiwalay ng mga yugto ay tumutulong na maiwasan ang impluwensya ng orihinal na sagot sa paglikha ng mga tanong.
• Hiwalay na pagsusuri (Factored). Ang modelo ay sumasagot nang hiwalay sa bawat verification question, gamit ang ilang sunud-sunod na kahilingan (isa para sa bawat tanong). Ang diskarteng ito ay pumipigil sa simpleng kopyahin-i-paste ng mga fragment ng orihinal na sagot: ang mga sagot sa mga verification question ay binubuo nang awtonomiya, na nagbabawas ng panganib ng pag-ulit ng orihinal na halusinasyon. Ang kawalan ay ang pagtaas ng computational na gastos, dahil ang bilang ng mga kahilingan ay lumalaki nang katimbang sa bilang ng mga tanong.
• Hiwalay na pagsusuri na may rebisyon (Factored + Revise). Pagkatapos matanggap ang mga sagot sa lahat ng verification question, ang modelo ay nagsasagawa ng karagdagang yugto ng paghahambing at rebisyon. Sa pamamagitan ng isang hiwalay na kahilingan, inihahambing nito ang mga natuklasang katotohanan sa orihinal na sagot at malinaw na tinutukoy ang mga hindi pagkakatugma, pagkatapos ay lumilikha ng panghuling sagot na may mga pagwawasto. Ang karagdagang hakbang na ito ay pinipilit ang sistema na mas maingat na suriin ang mga pagkakaiba at isama ang mga naitamang impormasyon sa panghuling output.

Mga resulta ng eksperimento

Ang pamamaraang Chain-of-Verification ay sinubukan sa ilang mga gawain na sensitibo sa factual na katumpakan ng mga sagot. Kasama sa mga ito ang: mga tanong sa pagbibilang ng mga katotohanan ayon sa knowledge base (mga listahan mula sa Wikidata at mga kategorya ng Wikipedia), mga tanong na may maraming sagot mula sa iba't ibang bahagi ng teksto (MultiSpanQA), pati na rin ang mga gawain ng paglikha ng detalyadong teksto (halimbawa, mga talambuhay).

Ipinakita ng mga resulta ang makabuluhang pagbaba ng mga halusinasyon sa lahat ng uri ng mga gawain kapag ginamit ang CoVe kumpara sa mga orihinal na modelo nang walang self-verification. Ang variant na factored + revise — hiwalay na pagsusuri na may panghuling paghahambing ng mga katotohanan — ay naging pinaka-epektibo. Ang diskarteng ito ay nagbigay ng pinakamataas na mga tagapagpahiwatig ng katumpakan: halimbawa, sa gawain ng paglikha ng biographical na teksto, ang paggamit ng CoVe sa modelo na LLaMA-65B (isang 65-bilyong LLM) ay nagpataas ng factual na sukatan nito na FactScore mula ~63.7 hanggang ~71.4 puntos. Ang pagtaas ng FactScore ay nagpapahiwatig na ang mga panghuling sagot ay naglaman ng mas maraming napatunayan na mga katotohanan at mas kaunting mga kathang-isip na impormasyon.

Higit pa rito, ang LLM na may konektadong chain ng verification ay nagawa ring malampasan ang ilang mas malakas o espesyal na nilagyan ng kagamitan na mga sistema. Kaya, ang LLaMA-65B na may CoVe ay nagpakita ng mas mataas na FactScore kaysa sa ChatGPT (modelo ng OpenAI) at nalampasan ang Perplexity.ai — isang modelo na pinahusay ng internet search para sa factual na suporta ng mga sagot. Ito ay kapansin-pansin, dahil gumagamit ang Perplexity ng mga panlabas na pinagkukunan upang maghanap ng impormasyon, samantalang ang CoVe ay nakakamit ng pagpapabuti ng kalidad sa pamamagitan lamang ng panloob na kakayahan ng mismong modelo sa pangangatwiran at self-verification. Totoo, sa pinakamasamang mga katotohanan (kapag kinakailangan ang espesipikong kaalaman) ang retrieval-system tulad ng Perplexity ay nagtataglay pa rin ng kalamangan, ngunit sa karamihan ng mga tanong ang CoVe ay nagbigay ng mas tumpak na mga sagot.

Mga limitasyon at pananaw

Dapat pansinin na bagaman ang Chain-of-Verification ay kapansin-pansing nagpapababa ng bahagdan ng mga halusinasyon, hindi ganap na maaalis ng pamamaraang ito ang mga ito. Ang modelo ay maaari pa ring gumawa ng mga pagkakamali kung ang mga verification question ay hindi sumasaklaw sa isang maling detalye o kung hindi alam ng LLM mismo ang tamang katotohanan. Bukod dito, pinapataas ng CoVe ang computational na pagkarga: para sa isang kahilingan ng gumagamit, kinakailangang magsagawa ng ilang sunud-sunod na pagtawag sa modelo (paglikha ng sagot, paglikha ng mga tanong, pagsagot sa mga ito, panghuling pagtitipon), samantalang ang karaniwang modelo ay sumasagot sa isang hakbang. Gayunpaman, ipinakita ng mga may-akda na sa kabuuang gastos, ang CoVe ay maihahambing sa iba pang maraming-yugtong mga diskarte sa pagtuklas ng mga halusinasyon at nananatiling isang praktikal na solusyon.

Sa kanilang trabaho, itinuro ng mga mananaliksik ng Meta AI ang mga posibleng direksyon para sa pagpapabuti ng pamamaraan. Ang isa sa mga maliwanag na landas ay ang pagsasama ng CoVe sa paggamit ng mga panlabas na kagamitan, halimbawa ang pagkonekta ng isang module ng internet search o knowledge base sa yugto ng verification. Magbibigay-daan ito na makakuha ng maaasahang impormasyon mula sa labas at mas maaasahang kumpirmahin o pabulaanan ang mga katotohanan mula sa orihinal na sagot. Sa ganitong paraan, ang Chain-of-Verification ay nagsisilbing isang hakbang tungo sa mas responsable at tumpak na mga AI system: ipinapakita nito na sa pamamagitan ng pagpipilit sa modelo na kritikal na suriin muli ang sarili nitong sagot, maaaring makabuluhang mapabuti ang kalidad nito at mabawasan ang pagpapakalat ng mga kathang-isip na katotohanan sa nabuong teksto.

Mga sanggunian

• Orihinal na papel na «Chain-of-Verification Reduces Hallucination in Large Language Models» sa arXiv
• Papel na «Chain-of-Verification Reduces Hallucination in Large Language Models» sa ACL Anthology
• Chain of Verification (CoVe) — Understanding & Implementation — artikulo sa Medium

Panitikan

• Dhuliawala, S. et al. (2023). Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv:2309.11495.
• Manakul, P. et al. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. arXiv:2303.08896.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Ling, Z. et al. (2023). Deductive Verification of Chain-of-Thought Reasoning. arXiv:2306.03872.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.