Chain-of-Verification (HI)

From Systems analysis Wiki
Jump to navigation Jump to search

Chain-of-Verification (CoVe) — यह एक ऐसी विधि है जिसे बड़े भाषा मॉडलों (LLM) में हैलुसिनेशन (तथ्यात्मक रूप से गलत किन्तु प्रशंसनीय उत्तरों की उत्पत्ति) की संख्या कम करने के लिए प्रस्तावित किया गया है[1]। यह दृष्टिकोण Meta AI के शोधकर्ताओं के एक समूह द्वारा शेहज़ाद धुलियावाला (Shehzaad Dhuliawala) के नेतृत्व में विकसित किया गया और «Chain-of-Verification Reduces Hallucination in Large Language Models» (2023) शोधपत्र में प्रस्तुत किया गया। यह LLM की स्व-सत्यापन और स्व-सुधार (self-verification) विधियों के वर्ग से संबंधित है[2]। CoVe का मूल विचार यह है कि मॉडल बाहरी स्रोतों की सहायता के बिना, चरणबद्ध तरीके से स्वयं उत्पन्न उत्तर की जाँच करे[2]। यह प्रणाली को उत्तर की आत्म-समीक्षा और अपनी गलतियों को सुधारने में अधिक «विवेकपूर्ण» प्रयास करने के लिए प्रेरित करता है, इससे पहले कि उत्तर उपयोगकर्ता के समक्ष प्रस्तुत किया जाए[2]।

भाषा मॉडलों में हैलुसिनेशन की पृष्ठभूमि

बड़े भाषा मॉडल (LLM) अक्सर «हैलुसिनेशन» की समस्या से ग्रस्त होते हैं — ऐसे उत्तर उत्पन्न करते हैं जो प्रशंसनीय लगते हैं किन्तु तथ्यात्मक रूप से गलत होते हैं[3]। यह समस्या NLP के क्षेत्र में व्यापक रूप से अनसुलझी मानी जाती है: आधुनिक मॉडल भी उच्च आत्मविश्वास के साथ गलत जानकारी प्रदान कर सकते हैं, जिससे उपयोगकर्ता भ्रमित होते हैं[1]। उदाहरण के लिए, मॉडल किसी काल्पनिक तथ्य को विश्वासपूर्वक «गढ़» सकता है या किसी प्रसिद्ध व्यक्ति की जीवनी संबंधी जानकारी को उलट-पुलट कर सकता है। चूँकि ऐसी तथ्यात्मक त्रुटियाँ विस्तृत जाँच के बिना पहचानना कठिन होती हैं, इसलिए शोधकर्ता LLM के उत्तरों में हैलुसिनेशन की संख्या कम करने की विधियाँ सक्रिय रूप से विकसित कर रहे हैं।

CoVe विधि के चरण

Chain-of-Verification विधि चार अनुक्रमिक चरणों के माध्यम से कार्यान्वित होती है[2][2]:

  1. आधारभूत उत्तर की उत्पत्ति। मॉडल विशेष निर्देशों के बिना मूल प्रश्न का प्रारंभिक उत्तर उत्पन्न करता है (उत्तर की आधारभूत परिकल्पना)[3]। यह मसौदा उत्तर प्रारंभिक बिंदु के रूप में कार्य करता है और इसमें हैलुसिनेशन हो सकते हैं जिन्हें अगले चरणों में खोजा जाना है।
  2. सत्यापन प्रश्नों की योजना। मूल प्रश्न और उत्पन्न उत्तर को ध्यान में रखते हुए, मॉडल स्पष्टीकरण प्रश्नों की एक सूची तैयार करता है जो आधारभूत उत्तर के कथनों की तथ्यात्मक सत्यता की जाँच करते हैं[3]। ये verification questions उत्तर के प्रमुख तथ्यों पर केंद्रित होते हैं और संभावित त्रुटियों या अशुद्धियों को उजागर करने में सहायता करते हैं।
  3. सत्यापन का निष्पादन (verification)। इसके बाद मॉडल क्रमशः और स्वतंत्र रूप से प्रत्येक सत्यापन प्रश्न का उत्तर देता है, और पूर्वाग्रह से बचने के लिए प्रारंभिक उत्तर पर निर्भर न रहने का प्रयास करता है[3]। प्राप्त उत्तरों की तुलना मूल उत्तर से विरोधाभासों या त्रुटियों का पता लगाने के लिए की जाती है: इस प्रकार मूल उत्तर के वे भाग पहचाने जाते हैं जो तथ्यों से समर्थित नहीं हैं।
  4. अंतिम उत्तर का निर्माण। अंत में, पाई गई विसंगतियों के आधार पर मॉडल एक संशोधित अंतिम उत्तर उत्पन्न करता है[3]। इस उत्तर में सत्यापन के परिणामों को ध्यान में रखते हुए सुधार किए जाते हैं, जिससे इसकी तथ्यात्मक सटीकता बढ़ती है और हैलुसिनेशन की संभावना कम होती है।

इनमें से प्रत्येक चरण उसी LLM को अतिरिक्त प्रश्नों के माध्यम से, किन्तु भिन्न निर्देशों के साथ, संचालित करके निष्पादित किया जाता है[2]। अर्थात्, मॉडल बारी-बारी से उत्तरदाता की भूमिका में, फिर सत्यापनकर्ता (प्रश्न पूछता है और उनका उत्तर देता है) की भूमिका में, और अंतिम आउटपुट के संपादक की भूमिका में कार्य करता है।

सत्यापन के कार्यान्वयन के प्रकार

विधि के लेखकों ने सत्यापन चरण के कार्यान्वयन के कई तरीके आज़माए, जो सत्यापन प्रश्नों को पूछने और उनके उत्तर प्राप्त करने के तरीके में भिन्न हैं[2]:

  • संयुक्त दृष्टिकोण (Joint)। मॉडल एकल प्रश्न के भीतर ही सत्यापन प्रश्न और उनके उत्तर दोनों उत्पन्न करता है। यह विकल्प कम अनुकूल है, क्योंकि तत्काल उत्तर देते समय मॉडल तथ्यों को हैलुसिनेट कर सकता है और पूर्वाग्रह के कारण मूल उत्तर की त्रुटियाँ दोहरा सकता है[3]।
  • द्वि-चरणीय दृष्टिकोण (2-Step)। सत्यापन प्रश्न पहले एक अलग प्रश्न द्वारा उत्पन्न किए जाते हैं, और फिर अगले प्रश्न में मॉडल तैयार प्रश्नों की सूची का उत्तर देता है[3]। चरणों का विभाजन प्रश्न उत्पन्न करते समय मूल उत्तर के प्रभाव से बचने में सहायता करता है।
  • पृथक सत्यापन (Factored)। मॉडल प्रत्येक सत्यापन प्रश्न का उत्तर अलग-अलग देता है, कई क्रमिक प्रश्नों का उपयोग करते हुए (प्रति प्रश्न एक)[3]। यह दृष्टिकोण मूल उत्तर के अंशों की सरल प्रतिलिपि को रोकता है: सत्यापन प्रश्नों के उत्तर स्वायत्त रूप से तैयार किए जाते हैं, जिससे मूल हैलुसिनेशन की पुनरावृत्ति का जोखिम कम होता है। इसका नुकसान यह है कि प्रश्नों की संख्या के अनुपात में प्रश्नों की संख्या बढ़ने से कम्प्यूटेशनल लागत बढ़ जाती है।
  • पुनरीक्षण सहित पृथक सत्यापन (Factored + Revise)। सभी सत्यापन प्रश्नों के उत्तर प्राप्त करने के बाद मॉडल एक अतिरिक्त तुलना और संशोधन चरण निष्पादित करता है। एक अलग प्रश्न के माध्यम से यह प्राप्त तथ्यों की मूल उत्तर से तुलना करता है और स्पष्ट रूप से असंगतियों को चिह्नित करता है, जिसके बाद सुधारों सहित अंतिम उत्तर उत्पन्न करता है[3]। यह अतिरिक्त चरण प्रणाली को विसंगतियों का अधिक ध्यानपूर्वक विश्लेषण करने और अंतिम आउटपुट में सुधरी हुई जानकारी को एकीकृत करने के लिए बाध्य करता है।

प्रायोगिक परिणाम

Chain-of-Verification विधि को उत्तरों की तथ्यात्मक सटीकता के प्रति संवेदनशील कई कार्यों पर परीक्षित किया गया[1]। इनमें शामिल थे: ज्ञान आधार पर आधारित तथ्यों की सूची संबंधी प्रश्न (Wikidata और Wikipedia श्रेणियों की सूचियाँ), पाठ के विभिन्न भागों से अनेक उत्तरों वाले प्रश्न (MultiSpanQA), और विस्तृत पाठ उत्पन्न करने के कार्य (जैसे जीवनी)[1]।

परिणामों ने दिखाया कि स्व-सत्यापन रहित मूल मॉडलों की तुलना में CoVe का उपयोग करने पर सभी प्रकार के कार्यों में हैलुसिनेशन में उल्लेखनीय कमी आई[1]। factored + revise का प्रकार — अंतिम तथ्य-जाँच के साथ पृथक सत्यापन — विशेष रूप से प्रभावी रहा। इस दृष्टिकोण ने सटीकता के सर्वोत्तम संकेतक दिए: उदाहरण के लिए, जीवनी पाठ उत्पन्न करने के कार्य में LLaMA-65B मॉडल (65-अरब पैरामीटर वाला LLM) पर CoVe लागू करने से इसकी तथ्यात्मक मापक FactScore ~63.7 से बढ़कर ~71.4 अंक हो गई[2]। FactScore में वृद्धि यह दर्शाती है कि अंतिम उत्तरों में अधिक सत्यापित तथ्य और कम काल्पनिक जानकारी शामिल हुई।

इसके अतिरिक्त, सत्यापन श्रृंखला से युक्त LLM कुछ अधिक शक्तिशाली या विशेष रूप से सुसज्जित प्रणालियों को भी पीछे छोड़ने में सफल रही। उदाहरण के लिए, CoVe सहित LLAMA-65B ने ChatGPT (OpenAI का मॉडल) की तुलना में अधिक FactScore प्राप्त किया और Perplexity.ai — एक ऐसे मॉडल जो उत्तरों की तथ्यात्मक सहायता के लिए इंटरनेट खोज से संपन्न है — को भी पीछे छोड़ दिया[2]। यह उल्लेखनीय है, क्योंकि Perplexity जानकारी खोजने के लिए बाहरी स्रोतों का उपयोग करता है, जबकि CoVe केवल मॉडल की आंतरिक तर्क और स्व-सत्यापन क्षमताओं पर निर्भर रहकर गुणवत्ता में सुधार करता है[2]। हालाँकि, सबसे दुर्लभ तथ्यों पर (जब विशिष्ट ज्ञान की आवश्यकता हो) Perplexity जैसी retrieval-प्रणाली अभी भी अपनी बढ़त बनाए रखती है, किन्तु अधिकांश प्रश्नों पर CoVe ने अधिक सटीक उत्तर दिए[2]।

सीमाएँ और संभावनाएँ

यह उल्लेखनीय है कि Chain-of-Verification हैलुसिनेशन के अनुपात को उल्लेखनीय रूप से कम करती है, किन्तु इस विधि से उन्हें पूरी तरह समाप्त करना संभव नहीं है। यदि सत्यापन प्रश्नों ने किसी गलत विवरण को नहीं पकड़ा, या यदि LLM को स्वयं सही तथ्य की जानकारी नहीं है, तो मॉडल अभी भी त्रुटियाँ कर सकता है। इसके अलावा, CoVe कम्प्यूटेशनल भार बढ़ाती है: एकल उपयोगकर्ता प्रश्न के लिए मॉडल को कई क्रमिक अनुरोध निष्पादित करने पड़ते हैं (उत्तर उत्पन्न करना, प्रश्न उत्पन्न करना, उनके उत्तर देना, अंतिम संकलन), जबकि सामान्य मॉडल एक ही चरण में उत्तर देता है[2]। फिर भी, लेखक दिखाते हैं कि कुल लागत के संदर्भ में CoVe, हैलुसिनेशन पहचानने के अन्य बहु-चरणीय दृष्टिकोणों के समकक्ष है और एक व्यावहारिक समाधान बना रहता है[2]।

Meta AI के शोधकर्ताओं ने अपने शोधपत्र में विधि के सुधार की संभावित दिशाएँ बताई हैं। एक स्पष्ट मार्ग है — CoVe को बाहरी उपकरणों के उपयोग के साथ संयोजित करना, उदाहरण के लिए सत्यापन चरण में इंटरनेट खोज या ज्ञान आधार मॉड्यूल को जोड़ना[2]। इससे बाहर से विश्वसनीय जानकारी प्राप्त करना और मूल उत्तर के तथ्यों की और भी विश्वसनीय रूप से पुष्टि या खंडन करना संभव होगा। इस प्रकार, Chain-of-Verification अधिक जिम्मेदार और सटीक AI-प्रणालियों की दिशा में एक कदम है: यह प्रदर्शित करता है कि मॉडल को अपने स्वयं के उत्तर की आलोचनात्मक समीक्षा करने पर बाध्य करके, उसकी गुणवत्ता में उल्लेखनीय सुधार और उत्पन्न पाठ में काल्पनिक तथ्यों के प्रसार को कम किया जा सकता है[2]।

सन्दर्भ

  • arXiv पर मूल लेख «Chain-of-Verification Reduces Hallucination in Large Language Models»
  • ACL Anthology में लेख «Chain-of-Verification Reduces Hallucination in Large Language Models»
  • Chain of Verification (CoVe) — Understanding & Implementation — Medium पर लेख

साहित्य

  • Dhuliawala, S. et al. (2023). Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv:2309.11495.
  • Manakul, P. et al. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. arXiv:2303.08896.
  • Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.
  • Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
  • Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
  • Ling, Z. et al. (2023). Deductive Verification of Chain-of-Thought Reasoning. arXiv:2306.03872.
  • Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
  • Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
  • Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
  • Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  • Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.

टिप्पणियाँ

  1. ↑ 1.0 1.1 1.2 1.3 1.4 Dhuliawala, Shehzaad et al. «Chain-of-Verification Reduces Hallucination in Large Language Models». arXiv. [१]
  2. ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 Dhuliawala, Shehzaad et al. «Chain-of-Verification Reduces Hallucination in Large Language Models». ACL Anthology. [२]
  3. ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 3.8 chowdhury, sourajit roy. «Chain of Verification (CoVe) — Understanding & Implementation». Medium. [३]
Retrieved from "https://systems-analysis.info/int/index.php?title=Chain-of-Verification_(HI)&oldid=876"