Graph of Thoughts (HI)

From Systems analysis Wiki
Jump to navigation Jump to search

Graph-of-Thoughts (GoT) — यह बड़े भाषा मॉडलों (LLM, Large Language Models) के साथ कार्य करने के क्षेत्र में एक अवधारणा है, जो मॉडल की तर्क-प्रक्रिया को परस्पर संबद्ध «विचारों» (समाधान के मध्यवर्ती चरण) के मनमाने ग्राफ के रूप में प्रस्तुत करने का प्रस्ताव करती है[1]। यह दृष्टिकोण ETH Zurich के Maciej Besta के नेतृत्व में शोधकर्ताओं के एक समूह द्वारा प्रस्तावित किया गया था और 2024 में AAAI सम्मेलन में प्रकाशित हुआ[2]। Graph-of-Thoughts का उद्देश्य Chain-of-Thought (विचारों की शृंखला) और Tree-of-Thoughts (विचारों का वृक्ष) जैसी मौजूदा योजनाओं की सीमाओं से परे prompt engineering (अनुरोध विकास) की संभावनाओं का विस्तार करना है[1]। उनके विपरीत, GoT दृष्टिकोण मॉडल द्वारा उत्पन्न किसी भी तर्क-खंड (विचार) को किसी भी अन्य से संदर्भित करने की अनुमति देता है, जिससे विचारों का एक नेटवर्क बनता है न कि कोई कठोर रैखिक या वृक्षाकार संरचना[3]। लेखकों के अनुसार, यह मानवीय चिंतन की जटिल, अरैखिक प्रकृति को अधिक सटीक रूप से दर्शाता है और संभावित रूप से LLM के तर्क-तंत्र को मानव मस्तिष्क (उसके आवर्ती तंत्रिका संबंधों सहित) की कार्यप्रणाली के निकट लाता है[1][1]।

Graph-of-Thoughts एक अनुरोध निर्माण विधि (prompting framework) है, अर्थात इसके लिए मॉडल के अतिरिक्त प्रशिक्षण या fine-tuning की आवश्यकता नहीं होती — इसके बजाय यह LLM के साथ संवाद को एक विशेष तरीके से व्यवस्थित करता है, मॉडल को ग्राफ की योजना के अनुसार जुड़े चरणों-«विचारों» की एक श्रृंखला के माध्यम से निर्देशित करता है[1]। यह संरचना तर्क की विभिन्न शाखाओं को संयोजित और पुनः उपयोग करने की अनुमति देती है: उदाहरण के लिए, मॉडल समानांतर में कई परिकल्पनाओं या कार्य के भागों पर विचार कर सकता है, और फिर उनमें से सबसे सफल को एक एकल समाधान में एकत्रित कर सकता है[1]। विश्वकोशीय शैली में, Graph-of-Thoughts को LLM के साथ संरचित तर्क की पूर्व रणनीतियों के सामान्यीकरण के रूप में परिभाषित किया जा सकता है, जो एक जटिल अनुरोध के भीतर विचार प्रक्रियाओं को व्यवस्थित करने में अधिकतम लचीलापन प्रदान करता है[1]।

Chain-of-Thought और Tree-of-Thoughts - पूर्वापेक्षाएँ

Graph-of-Thoughts की विधि भाषा मॉडलों के साथ कार्य करते समय स्पष्ट तर्क संरचना का उपयोग करने वाले पूर्व दृष्टिकोणों से विकसित हुई। मूल दृष्टिकोण है Chain-of-Thought (CoT) – «विचारों की शृंखला»। CoT विधि में उपयोगकर्ता को मॉडल के अनुरोध में न केवल कार्य की शर्त, बल्कि उत्तर की ओर ले जाने वाले मध्यवर्ती तर्क चरणों को भी शामिल करने का प्रस्ताव किया जाता है[1]। अध्ययनों से पता चला है कि सामग्री प्रस्तुत करने का यह तरीका LLM की जटिल कार्यों — जैसे गणितीय या तार्किक पहेलियाँ — को हल करने की क्षमता में उल्लेखनीय सुधार करता है, और यह मॉडल के मापदंडों में कोई बदलाव किए बिना होता है[1]। वास्तव में, CoT मॉडल को किसी जटिल समस्या को चरणबद्ध तरीके से सरल चरणों में विभाजित करने के लिए प्रेरित करता है, जो विचारों के अनुक्रमिक प्रवाह का अनुकरण करता है।

इस विचार का विकास Self-Consistency तकनीक थी: एक शृंखला के बजाय कई स्वतंत्र शृंखलाएँ उत्पन्न की जाती हैं, जिसके बाद उनमें से सबसे ठोस का चयन किया जाता है[1]। यह मॉडल को समाधान के विभिन्न दृष्टिकोणों पर विचार करने की अनुमति देता है और एकमात्र गलत तर्क रेखा का अनुसरण करने के कारण गलत उत्तर प्राप्त होने का जोखिम कम करता है। फिर भी, CoT की कई शृंखलाएँ भी «विचारों को संयोजित करने» का अवसर नहीं देतीं: प्रत्येक शृंखला अलग-थलग विचारी जाती है, और मॉडल केवल सर्वोत्तम का चयन करता है, उनकी सामग्री को संयोजित किए बिना।

इस सीमा को दूर करने के लिए Tree-of-Thoughts (ToT) – «विचारों का वृक्ष» की योजना प्रस्तावित की गई[1]। ToT में तर्क प्रक्रिया एक वृक्ष के रूप में व्यवस्थित होती है: प्रत्येक बिंदु पर मॉडल विचार के विकास (शाखाकरण) के कई विकल्प उत्पन्न कर सकता है, जिसके बाद इन मध्यवर्ती अवस्थाओं का मूल्यांकन किया जाता है और आगे विस्तार के लिए सबसे आशाजनक का चयन किया जाता है[1]। वृक्ष खोज (उदाहरण के लिए, चौड़ाई-प्रथम — BFS, या गहराई-प्रथम — DFS) और नोड्स पर वापस जाकर किसी अन्य शाखा को विकसित करने की क्षमता का उपयोग करते हुए, Tree-of-Thoughts भाषा मॉडल को रैखिक CoT की तुलना में जटिल समस्याओं को हल करने का अधिक शक्तिशाली तंत्र प्रदान करता है[1]। नई संभावनाएँ उत्पन्न होती हैं, जैसे वापसी और पुनर्विचार: यदि एक शाखा गतिरोध की ओर ले जाती है, तो पिछले नोड पर वापस जाकर कोई अन्य पथ आजमाया जा सकता है[1]। इस पद्धति ने तार्किक और खोज कार्यों में अपनी प्रभावशीलता सिद्ध की है, जहाँ विकल्पों की जाँच और योजना बनाना बड़ी भूमिका निभाते हैं।

हालांकि, विचारों का वृक्ष कठोर प्रतिबंध भी लगाता है: प्रत्येक विचार (वृक्ष का नोड) केवल एक शाखा से संबंधित होता है, अंतःक्रिया केवल मूल और पुत्र नोड्स के बीच होती है, और अलग-अलग शाखाएँ एक-दूसरे के साथ विलीन या सूचना का आदान-प्रदान नहीं कर सकतीं[3]। दूसरे शब्दों में, एक ही समाधान के भीतर विभिन्न परिकल्पनाओं के बीच विचारों का परस्पर आदान-प्रदान (cross-pollination) कठिन है: वृक्ष की शाखाएँ स्वतंत्र रूप से विकसित होती हैं और केवल जड़ में एकत्रित होती हैं, जब सर्वोत्तम तर्क शृंखला का चयन किया जाता है[3]। वास्तविक रचनात्मक या विश्लेषणात्मक चिंतन में, व्यक्ति अक्सर पहले से विचारे गए विचार पर वापस लौटता है और उसे तर्क की किसी अन्य शाखा के साथ संयोजित करता है। विचारों का ऐसा परस्पर मिश्रण वृक्ष संरचना की सीमाओं से परे है[1]।

इन अवलोकनों ने शोधकर्ताओं को एक अधिक लचीली संरचना — ग्राफ — के बारे में सोचने पर प्रेरित किया, जहाँ विचारों के बीच संबंध असीमित हों और एक जटिल नेटवर्क बना सकें। जैसा कि 2024 के एक विश्लेषणात्मक समीक्षा में उल्लेख किया गया है, विचारों की शृंखलाओं, वृक्षों और ग्राफों का उद्भव एक नए वर्ग के तरीकों के जन्म को दर्शाता है जो तर्क प्रक्रिया के स्पष्ट संरचनाकरण के माध्यम से LLM की क्षमताओं को महत्वपूर्ण रूप से बढ़ाने में सक्षम हैं[4]। विशेष रूप से, संरचित संकेतों ने गणितीय समस्याओं और तार्किक पहेलियों के समाधान से लेकर योजना और यहाँ तक कि रचनात्मक लेखन तक — कई क्षेत्रों में LLM के परिणामों में उल्लेखनीय सुधार करना संभव बनाया[4]। इसी सामान्य पृष्ठभूमि पर Graph-of-Thoughts की योजना संरचित prompting विधियों के विकास में अगले कदम के रूप में उभरी।

Graph-of-Thoughts की अवधारणा: विचारों की ग्राफ संरचना

Graph-of-Thoughts भाषा मॉडल द्वारा कार्यों के निष्पादन की प्रक्रिया को एक मनमाने निर्देशित ग्राफ के रूप में प्रस्तुत करने का प्रस्ताव करता है। औपचारिक रूप से, GoT में विचारों का ग्राफ शीर्षों (विचारों) और किनारों (विचारों के बीच निर्भरताओं) का एक समुच्चय है[1]। ग्राफ का एक शीर्ष मॉडल का एक अलग विचार होता है — इस शब्द से तात्पर्य कार्य के संदर्भ पर निर्भर किसी भी सार्थक इकाई से है: यह कोई अलग कथन, समाधान का चरण, पाठ का अंश, अनुच्छेद, कोड का ब्लॉक आदि हो सकता है, जो मॉडल द्वारा अनुरोध के जवाब में तैयार किया गया हो[1][1]। शीर्षों के बीच का किनारा यह दर्शाता है कि एक विचार दूसरे को उत्पन्न करने में उपयोग किया गया — अर्थात संकेत में स्पष्ट रूप से निर्दिष्ट है कि मॉडल को नया परिणाम प्राप्त करने के लिए किसी विशेष पूर्व परिणाम पर निर्भर होना चाहिए[1]। इस प्रकार, किनारे निर्भरताओं को रिकॉर्ड करते हैं: वर्तमान तर्क चरण किन पहले से प्राप्त डेटा पर निर्भर करता है।

GoT का सरल संरचनाओं से सबसे महत्वपूर्ण अंतर — विचारों के एकत्रीकरण और विलयन की संभावना है। ग्राफ में यह अनुमति है कि एक शीर्ष (नए विचार) के कई पूर्ववर्ती हो सकते हैं[1]। यह उस स्थिति से मेल खाता है जब दो या अधिक अलग तर्क शृंखलाएँ एकत्रित होती हैं: मॉडल को एक साथ कई पहले से उत्पन्न अंशों को इनपुट के रूप में प्राप्त होते हैं और उनके आधार पर एक संश्लेषित निष्कर्ष तैयार करता है[1]। उदाहरण के लिए, किसी समस्या को हल करते समय, मॉडल समानांतर में दो परिकल्पनाओं पर विचार कर सकता है, और फिर एक नया विचार बना सकता है जो दोनों परिकल्पनाओं के सकारात्मक पहलुओं को जोड़ता है और उनकी कमियों को दूर करता है[1][1]। एकत्रीकरण की ऐसी क्रियाएँ वृक्षाकार योजना (जहाँ प्रत्येक नोड का केवल एक मूल होता है) के भीतर असंभव थीं, लेकिन ग्राफ में स्वाभाविक रूप से कार्यान्वित होती हैं[1]। विचारों के विलयन के अलावा, ग्राफ प्रतिक्रिया पाश (feedback loops) का परिचय भी देता है: सिद्धांत रूप में, GoT की संरचना चक्रों को निषिद्ध नहीं करती, अर्थात मॉडल किसी परिणाम को बार-बार प्रसंस्करण या परिशोधन के लिए तर्क के पहले के चरण में वापस कर सकता है[1]। लेखक इसे मस्तिष्क के तंत्रिका नेटवर्क में आवर्ती संबंधों की उपमा से जोड़ते हैं, जहाँ न्यूरॉन्स के एक समूह का आउटपुट पिछली परतों पर वापस प्रभाव डाल सकता है, जिससे विचार के बंद लूप बनते हैं[1]।

व्यावहारिक रूप से Graph-of-Thoughts को लागू करने के लिए मॉडल के साथ संवाद के विशेष संगठन की आवश्यकता होती है। शोधकर्ताओं ने GoT के लिए एक मॉड्यूलर आर्किटेक्चरल फ्रेमवर्क विकसित किया है[1]। इसमें निम्नलिखित घटक प्रतिष्ठित हैं: (1) अलग-अलग चरणों (विचारों) पर सूक्ष्म नियंत्रण — «नियंत्रक» विचारों के उत्पादन के क्रम और तर्क का प्रबंधन करता है; (2) संकेतों का गतिशील गठन — प्रत्येक चरण के लिए एक विशेष मॉड्यूल वर्तमान संदर्भ और ग्राफ के चयनित शीर्षों (पूर्ववर्तियों) के आधार पर prompt बनाता है; (3) मॉडल के उत्तरों का पार्सिंग और मूल्यांकन — LLM से प्राप्त अंशों का विश्लेषण किया जाता है और कार्य की गुणवत्ता, उपयोगिता या मानदंडों के अनुपालन के लिए मूल्यांकन किया जाता है[5]। GoT की आर्किटेक्चर इस प्रकार तर्क ग्राफ को संवादात्मक तरीके से बनाने की अनुमति देती है: प्रत्येक चरण के बाद यह निर्णय लिया जाता है कि कौन से नए शीर्ष जोड़ने हैं, उन्हें पिछले से कैसे जोड़ना है, कौन सी शाखाएँ जारी करनी हैं या जोड़नी हैं। मॉड्यूलरता की बदौलत, ऐसे फ्रेमवर्क को «विचार रूपांतरणों» के नए प्रकारों (उदाहरण के लिए, ग्राफ के साथ विशेष ऑपरेशन) से विस्तारित किया जा सकता है और विभिन्न मॉडलों के लिए अनुकूलित किया जा सकता है (लेखकों ने GPT-3.5, GPT-4, LLAMA 2 और अन्य LLM परिवारों के साथ GoT का सफलतापूर्वक परीक्षण किया)[1]। एक महत्वपूर्ण विशेषता यह है कि GoT को स्वयं भाषा मॉडल के मापदंडों में बदलाव की आवश्यकता नहीं है — सभी सुधार अनुरोधों के अधिक बुद्धिमान निर्माण और उत्तरों के प्रसंस्करण के माध्यम से प्राप्त होते हैं[1]। इसका अर्थ है कि मौजूदा शक्तिशाली LLM का उपयोग «जैसे हैं» वैसे किया जा सकता है, और Graph-of-Thoughts उनके संचालन का प्रबंधन करने वाले एक ऊपरी स्तर की भूमिका निभाता है।

यह ध्यान देने योग्य है कि Graph-of-Thought शब्द एक अन्य, स्वतंत्र विकास में भी प्रकट हुआ, जो Besta और उनके सहयोगियों के दृष्टिकोण से भिन्न है। 2023 में Yao Yao और सह-लेखकों ने LLM में reasoning को बेहतर बनाने की एक पद्धति प्रस्तावित की, जिसमें विचारों के ग्राफ के एक अतिरिक्त encoder मॉड्यूल का उपयोग किया जाता है, जिसके लिए मॉडल के अतिरिक्त प्रशिक्षण की आवश्यकता थी[6]। «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models» शीर्षक वाला उनका कार्य एक द्विस्तरीय आर्किटेक्चर का वर्णन करता है: पहले परस्पर संबद्ध मध्यवर्ती कथनों का एक ग्राफ तैयार किया जाता है, फिर इसे एक विशेष encoder द्वारा रूपांतरित किया जाता है और gated fusion तंत्र के माध्यम से मॉडल में एकीकृत किया जाता है[6]। प्रशिक्षण के साथ इस हाइब्रिड दृष्टिकोण ने कार्यों में कुछ सटीकता वृद्धि दिखाई — उदाहरण के लिए, मल्टीमॉडल प्रश्न ScienceQA के सेट पर T5-base मॉडल का उपयोग करने पर सटीकता 85.2% से बढ़कर 87.6% हो गई[6]। हालांकि, यह दृष्टिकोण, नाम में समानता के बावजूद, मौलिक रूप से भिन्न है: इसके लिए मॉडल के परिवर्तन (fine-tuning) की आवश्यकता होती है और यह prompt engineering की योजना नहीं है। मूल GoT दृष्टिकोण के लेखक (AAAI 2024) स्पष्ट रूप से इंगित करते हैं कि वे अपने कार्य में Yao et al. के उस मॉडल पर विचार नहीं करते, क्योंकि वे LLM मापदंडों को अद्यतन किए बिना विधियों पर ध्यान केंद्रित करते हैं[1]। इस प्रकार, इस समीक्षा के संदर्भ में Graph-of-Thoughts विशेष रूप से संकेत स्तर का फ्रेमवर्क है, न कि तंत्रिका नेटवर्क की आर्किटेक्चर में संशोधन।

अनुप्रयोग और परिणाम

GoT के लेखकों ने कई कार्यों पर इसके लाभों का प्रदर्शन किया जिन्हें एक सीधे संकेत (input-output prompting) या यहाँ तक कि विचारों की शृंखला के साथ हल करना कठिन है। ऐसे कार्यों की एक विशेषता यह है कि उन्हें कई भागों (उप-कार्यों) में विभाजित किया जा सकता है, इन भागों को अलग-अलग हल किया जा सकता है, और फिर आंशिक परिणामों से पूर्ण उत्तर संश्लेषित किया जा सकता है[1]। विचारे गए उदाहरणों में: अक्रमबद्ध सूची की छँटाई, पाठ में मुख्य शब्दों की गिनती (उदाहरण के लिए, दस्तावेज़ सारांश के लिए), समुच्चयों पर संक्रियाएँ (सूचियों का मेल, प्रतिच्छेदन आदि), साथ ही पाठ दस्तावेज़ों का विलय (कई स्रोतों से जानकारी का संयोजन)[1]। इन सभी मामलों में Graph-of-Thoughts स्वाभाविक रूप से कार्य को विघटित करने की अनुमति देता है। उदाहरण के लिए, छँटाई के लिए सूची को भागों में विभाजित किया जाता है, प्रत्येक भाग को विचारों की एक स्वतंत्र शाखा के रूप में अलग से छाँटा जाता है, जिसके बाद परिणाम एकत्रित किए जाते हैं (merge sort जैसे एल्गोरिदम का अनुकरण करते हुए); या पाठों का विश्लेषण करते समय मॉडल समानांतर में विभिन्न दस्तावेज़ों से जानकारी निकाल सकता है, और फिर इसे एक साथ जोड़ सकता है।

प्रयोगात्मक परिणाम GoT योजना की प्रभावशीलता की पुष्टि करते हैं। Besta और सहयोगियों की रिपोर्ट के अनुसार, छँटाई कार्य में विचारों के ग्राफ ने पूर्व दृष्टिकोणों की तुलना में समाधान की गुणवत्ता में उल्लेखनीय वृद्धि की[1]। इस प्रकार, GoT का उपयोग करते समय छँटाई की सटीकता सरल विचारों की शृंखला CoT की तुलना में 70% अधिक और विचारों के वृक्ष ToT की तुलना में 62% अधिक निकली[1]। साथ ही विधि कम्प्यूटेशनल संसाधनों के व्यय को कम करती है: मॉडल तक पहुँचों की संख्या (और तदनुसार, अनुरोधों की tokenized मात्रा) उसी कार्य के लिए Tree-of-Thoughts की तुलना में 31% कम हुई[1]। इसका अर्थ है कि तर्क का ग्राफ संगठन न केवल अंतिम परिणाम में सुधार लाया, बल्कि मध्यवर्ती निष्कर्षों के बुद्धिमान संयोजन के माध्यम से अनावश्यक गणनाओं से बचकर समाधान को अधिक किफायती बनाया। इसी तरह के लाभ अन्य परीक्षण कार्यों पर भी प्राप्त हुए, विशेष रूप से वहाँ जहाँ विविध जानकारी को एकत्रित करने की आवश्यकता होती है। शोधकर्ता नोट करते हैं कि GoT विशेष रूप से संयोजक कार्यों के लिए सबसे प्रभावी है जिनमें कई तत्व होते हैं: «Graph-of-Thoughts विशेष रूप से उन कार्यों के लिए उपयुक्त है जो स्वाभाविक रूप से छोटे उप-कार्यों में विघटित होते हैं, जिन्हें अलग से हल किया जाता है और फिर परिणाम एकत्रित किए जाते हैं»[1]। ऐसे मामलों में विचारों का ग्राफ समस्या के सभी पहलुओं को समेटने और एकल तर्क रेखा का अनुसरण करने की तुलना में अधिक पूर्ण प्रकृति का समाधान संश्लेषित करने में सक्षम है।

यह समझने के लिए कि एक तरीके से संकेत बनाना दूसरे से क्यों बेहतर है, 2024 के कार्य में एक विशेष मीट्रिक प्रस्तावित की गई — «विचार का आयतन» (volume of a thought)[1]। आयतन को ग्राफ के प्रत्येक अलग विचार (शीर्ष) के लिए उन अन्य विचारों की संख्या के रूप में परिभाषित किया गया है जिनसे निर्देशित किनारों द्वारा दिए गए शीर्ष तक पहुँचा जा सकता है (सरल शब्दों में, कितने मध्यवर्ती चरणों का वह अपनी जानकारी का ऋणी है)[1]। Chain-of-Thought में कोई भी विचार केवल एक पूर्ववर्ती पर निर्भर करता है, इसलिए उसका आयतन 1 के बराबर होता है (रैखिक शृंखला)। विचारों के वृक्ष में आयतन अधिक हो सकता है, लेकिन फिर भी एकल शाखा की संरचना द्वारा सीमित होता है। ग्राफ में, एकत्रीकरण की बदौलत, एक अलग शीर्ष एक साथ कई अन्य का योगदान संचित कर सकता है — उसका «आयतन» काफी अधिक होता है[1]। यह दिखाया गया है कि GoT अंतिम निष्कर्षों को पूर्ववर्ती विचारों के बहुत अधिक आयतन पर आधारित करने की अनुमति देता है, उनकी सामग्री को एकत्रित करते हुए। यह तथ्य समाधान स्थान के अधिक गहरे охват को दर्शाता है और सरल योजनाओं पर ग्राफ तर्क के लाभों की मात्रात्मक व्याख्या के रूप में कार्य करता है।

तुलना और महत्व

Graph-of-Thoughts आज LLM के लिए संरचित prompting का सबसे सामान्यीकृत रूप प्रस्तुत करता है। विभिन्न योजनाओं (CoT, स्व-संगतता के साथ CoT, ToT और GoT) की तुलना तालिकाओं में यह रेखांकित किया गया है कि केवल GoT विचार प्रक्रिया की मनमानी टोपोलॉजी का समर्थन करता है[1]। इसमें सभी पूर्व दृष्टिकोणों की संभावनाएँ शामिल हैं: यह एकल शृंखला के रूप में, शाखाओं वाले वृक्ष के रूप में, और कई शृंखलाओं के संयोजन के रूप में भी कार्य कर सकता है, यदि यह कार्य को हल करने के लिए उपयुक्त हो[1]। मुख्य बात — चरणों के बीच संबंध पर कोई कठोर प्रतिबंध नहीं है, जो सैद्धांतिक रूप से तर्क रणनीतियों की संभावित स्थान को अधिकतम व्यापक बनाता है[1]।

यह समझना महत्वपूर्ण है कि GoT की लचीलापन बड़ी नियंत्रण जटिलता की कीमत पर आती है। विचारों के ग्राफ को लागू करने के लिए एक बाह्य ऑर्केस्ट्रेटर एल्गोरिदम की आवश्यकता होती है जो यह तय करेगा कि कब और कौन से विचार उत्पन्न करने हैं, उनमें से किसे चुनना या संयोजित करना है, प्रक्रिया को कब रोकना और उत्तर देना है। सरल CoT में ऐसे निर्णय लेने की आवश्यकता नहीं होती — मॉडल स्वयं अंत तक रैखिक तर्क उत्पन्न करता है। ToT में प्रबंधन का एक भाग वृक्ष खोज एल्गोरिदम पर पड़ता है (उदाहरण के लिए, विकास के लिए नोड का चयन)। GoT में स्वतंत्रता की डिग्री अधिक है, और विधि की प्रभावशीलता मध्यवर्ती परिणामों का मूल्यांकन करने वाले अनुमानों की गुणवत्ता और प्रत्येक चरण में संकेतों के सही निर्माण पर निर्भर करती है[1]। इस प्रकार, Graph-of-Thoughts को केवल एक अनुरोध प्रारूप के रूप में नहीं, बल्कि LLM के साथ बातचीत की प्रक्रिया पर आरोपित एक तर्क संरचना के रूप में देखा जा सकता है — एक प्रकार की गतिशील योजना जिसके अनुसार मॉडल कार्य हल करता है, और उपयोगकर्ता (या नियंत्रक प्रोग्राम) इस प्रक्रिया का मार्गदर्शन करता है।

Graph-of-Thoughts का उद्भव बड़े भाषा मॉडलों के कार्य को अधिक व्याख्या योग्य और प्रबंधनीय बनाने की आकांक्षा को दर्शाता है। समाधान की संरचना को स्पष्ट रूप से निर्धारित करके, शोधकर्ता न केवल बेहतर गुणवत्ता प्राप्त करते हैं, बल्कि यह विश्लेषण करने का अवसर भी पाते हैं कि मॉडल किसी निश्चित निष्कर्ष पर कैसे पहुँचा। यह NLP में दृष्टिकोणों को एल्गोरिदमिक खोज और योजना के शास्त्रीय तरीकों के करीब लाता है, लेकिन अब चरणों का निष्पादन एक तंत्रिका नेटवर्क मॉडल पर सौंपा गया है। कई विशेषज्ञ संरचित संकेतों (विचारों की शृंखलाओं, वृक्षों, ग्राफों) को एक आशाजनक दिशा के रूप में देखते हैं जो गहरे मॉडलों में «काले बक्से» की सीमाओं को पार कर सकती है और जटिल कार्यों पर उनके संचालन की विश्वसनीयता बढ़ा सकती है[4][4]।

Graph-of-Thoughts की पद्धति सक्रिय रूप से विकसित होती रहती है। GoT को लागू करने के लिए कोड और उदाहरण लेखकों ने खुले रूप में उपलब्ध कराए[1], जिससे समुदाय को नए दृष्टिकोण के साथ प्रयोग करने का अवसर मिला। विस्तार भी सामने आ रहे हैं: उदाहरण के लिए, विचारों के ग्राफ के मल्टीमॉडल संस्करण, पाठ को चित्रों और अन्य प्रकार के डेटा के साथ संयोजित करते हुए[3][3], साथ ही GoT के विचारों को सीधे मॉडल आर्किटेक्चर में एकीकृत करने के प्रयास (जैसा कि उल्लिखित Yao et al., 2023 के कार्य में)। 2025 में Chain-of-Thought, Tree-of-Thoughts और Graph-of-Thoughts विधियों का एक विस्तृत समीक्षा-वर्गीकरण प्रकाशित हुआ, जो संचित ज्ञान को व्यवस्थित करता है और ऐसे दृष्टिकोणों के सैद्धांतिक आधारों का वर्णन करता है[4][4]। यह सब LLM की चिंतन प्रक्रिया के संरचित प्रबंधन में वैज्ञानिक समुदाय की बड़ी रुचि की बात करता है। Graph-of-Thoughts ने खुद को जटिल कार्यों को हल करने के लिए एक प्रभावी उपकरण के रूप में स्थापित किया है और संभवतः AI समाधानों के क्षेत्र में आगे के नवाचारों का आधार बनेगा, जो बड़े भाषा मॉडलों की शक्ति को शास्त्रीय एल्गोरिदम की पारदर्शिता और तर्क के साथ जोड़ते हैं।

संदर्भ

  • arXiv पर मूल लेख «Graph of Thoughts: Solving Elaborate Problems with Large Language Models»
  • मूल लेख का HTML संस्करण
  • arXiv पर समीक्षा «Demystifying Chains, Trees, and Graphs of Thoughts»
  • arXiv पर लेख «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models»
  • Multimodal Graph-of-Thoughts — Deepgram का लेख
  • LLMs Graph of Thoughts Framework — Medium पर लेख

साहित्य

  • Besta, M. et al. (2024). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
  • Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
  • Yao, Y. et al. (2023). Beyond Chain-of-Thought: Effective Graph-of-Thought Reasoning in Language Models. arXiv:2305.16582.
  • Wei, J. et al. (2022). Chain of Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
  • Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  • Wei, J. et al. (2024). Demystifying Chains, Trees, and Graphs of Thoughts. arXiv:2401.14295.
  • Huang, S. et al. (2023). Language Is Not All You Need: Aligning Perception with Language Models (Kosmos-1). arXiv:2302.14045.
  • Mitra, C. et al. (2024). Compositional Chain-of-Thought Prompting for Large Multimodal Models. In CVPR 2024. PDF.
  • Zheng, G. et al. (2023). DDCoT: Duty-Distinct Chain-of-Thought Prompting for Multimodal Reasoning in Language Models. arXiv:2310.16436.
  • Mu, J. et al. (2023). Learning to Compress Prompts with Gist Tokens. arXiv:2304.08467.

टिप्पणियाँ

  1. ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 1.14 1.15 1.16 1.17 1.18 1.19 1.20 1.21 1.22 1.23 1.24 1.25 1.26 1.27 1.28 1.29 1.30 1.31 1.32 1.33 1.34 1.35 1.36 1.37 1.38 1.39 1.40 1.41 1.42 1.43 Besta, Maciej et al. «Graph of Thoughts: Solving Elaborate Problems with Large Language Models». ar5iv.labs.arxiv.org. [१]
  2. ↑ Besta, Maciej et al. «Graph of Thoughts: Solving Elaborate Problems with Large Language Models». arXiv. [२]
  3. ↑ 3.0 3.1 3.2 3.3 3.4 Grygiel, Jacek. «Multimodal Graph-of-Thoughts: How Text, Images, and Graphs Lead to Better Reasoning». Deepgram. [३]
  4. ↑ 4.0 4.1 4.2 4.3 4.4 4.5 Wei, Jason et al. «Demystifying Chains, Trees, and Graphs of Thoughts». arXiv. [४]
  5. ↑ Wo, Jacek. «LLMs Graph of Thoughts Framework. Case study». Medium. [५]
  6. ↑ 6.0 6.1 6.2 Yao, Yuqing et al. «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models». arXiv. [६]
Retrieved from "https://systems-analysis.info/int/index.php?title=Graph_of_Thoughts_(HI)&oldid=2757"