Multi-Agent Debate (HI)

बहु-एजेंट वाद-विवाद (अंग्रेज़ी: multi-agent debate) – बड़े भाषा मॉडलों (LLM) के क्षेत्र में एक ऐसा दृष्टिकोण है, जिसमें कई परस्पर क्रियाशील एजेंट (भाषा मॉडल के उदाहरण) किसी दी गई समस्या के समाधान पर मिलकर विचार-विमर्श करते हैं, तर्कों और उत्तर-प्रयासों का आदान-प्रदान करते हैं। इस प्रक्रिया का उद्देश्य — पूछे गए प्रश्न का सबसे सटीक और सुप्रमाणित उत्तर सामूहिक रूप से तैयार करना है। यह दृष्टिकोण «मनों के समाज» की अवधारणा पर आधारित है, जहाँ विभिन्न मॉडल एक-दूसरे के निष्कर्षों की जाँच करते और उन्हें पूरक बनाते हैं। शोध से पता चला है कि बहु-एजेंट चर्चा एकल विधि से उत्तर उत्पन्न करने की तुलना में उत्तरों की सटीकता और विश्वसनीयता को उल्लेखनीय रूप से बढ़ाती है: एजेंटों के वाद-विवाद के बाद प्राप्त अंतिम उत्तर सामान्यतः अधिक तथ्यात्मक रूप से प्रामाणिक होता है और तर्क-आधारित कार्यों में बेहतर प्रदर्शन करता है। विशेष रूप से, इस रणनीति के उपयोग से भ्रम (असत्य «तथ्यों») की संख्या में कमी और जटिल परीक्षण कार्यों में सफलता में वृद्धि देखी गई है।

कई AI को वाद-विवाद के लिए आमंत्रित करने का विचार कृत्रिम बुद्धिमत्ता सुरक्षा पर किए गए शोध कार्यों से उत्पन्न हुआ। वर्ष 2018 में OpenAI के शोधकर्ताओं के एक समूह (G. Irving, P. Christiano, D. Amodei) ने AI safety via debate की अवधारणा प्रस्तावित की – प्रतिस्पर्धात्मक वाद-विवाद के माध्यम से एजेंटों को प्रशिक्षित करना, जिसमें दो मॉडल-प्रतिद्वंद्वी बारी-बारी से संक्षिप्त तर्क प्रस्तुत करते हैं, और एक मानव-न्यायाधीश यह तय करता है कि किसने अधिक सत्य और उपयोगी जानकारी प्रस्तुत की। यह माना गया था कि इष्टतम रणनीति के साथ ऐसे वाद-विवाद AI को अत्यंत जटिल प्रश्नों का उत्तर देने में सक्षम बनाएंगे, जिसके लिए न्यायाधीश से केवल तर्कों की विश्वसनीयता का मूल्यांकन अपेक्षित होगा। अगले वर्षों में, जैसे-जैसे शक्तिशाली LLM सामने आए, मॉडलों के बीच वाद-विवाद का सिद्धांत स्वयं मॉडलों की उत्तर गुणवत्ता में सुधार के लिए प्रत्यक्ष रूप से लागू होने लगा – अब अनिवार्य मानव भागीदारी के बिना, बल्कि सर्वोत्तम समाधान के स्वचालित चयन के साथ। आधुनिक बहु-एजेंट LLM प्रणालियाँ प्रतियों या विभिन्न मॉडलों के बीच संवाद का उपयोग करती हैं, ताकि वे एक-दूसरे की गलतियाँ सुधार सकें और मिलकर अधिक सुप्रमाणित परिणाम पर पहुँच सकें।

बहु-एजेंट चर्चा की प्रक्रिया

बहु-एजेंट वाद-विवाद के परिदृश्य में कई मॉडल-एजेंट एक साथ एक ही कार्य पर काम करते हैं। सामान्यतः, पहले प्रत्येक एजेंट को मूल प्रश्न या कार्य प्रदान किया जाता है, जिसके बाद प्रत्येक एजेंट स्वतंत्र रूप से अपना उत्तर तैयार करता है। इसके बाद एजेंटों के बीच संचार के कई दौर होते हैं: प्रत्येक दौर में सभी प्रतिभागी अपने वर्तमान समाधानों का आदान-प्रदान करते हैं, और प्रत्येक एजेंट को अन्य के उत्तर अतिरिक्त संदर्भ के रूप में प्राप्त होते हैं, जिसके आधार पर वह अगले दौर में अपने उत्तर को परिष्कृत या बेहतर बनाता है। यह चक्र कई पुनरावृत्तियों तक जारी रहता है (सामान्यतः दौरों की एक निश्चित संख्या निर्धारित होती है या स्पष्ट सहमति प्राप्त होने तक), जिसके बाद प्रक्रिया रुक जाती है और अंतिम उत्तर प्रदान किया जाता है। वाद-विवाद मानवीय चर्चा का अनुकरण करता है, जिससे मॉडल एक-दूसरे के उत्तरों की आलोचना कर सकते हैं और समाधान की गुणवत्ता बढ़ाने के लिए अपनी तर्क-क्षमताओं को संयुक्त कर सकते हैं। उदाहरण के लिए, Yilun Du और उनके सहयोगियों (MIT और Google Brain) ने प्रयोगों में भाषा मॉडल के 3 उदाहरणों का उपयोग किया, जिन्होंने 2 दौरों में समस्या पर चर्चा की (अधिक दौर समय और गणना लागत के कारण सीमित किए गए); यह दिखाया गया कि इस सीमित संवाद के बाद भी अंतिम उत्तर उल्लेखनीय रूप से बेहतर हुए, और एजेंटों या दौरों की संख्या बढ़ाने पर सटीकता बढ़ती रही (हालांकि घटते प्रतिफल के साथ)।

बहु-एजेंट वाद-विवाद की प्रक्रिया पूरी तरह से पहले से प्रशिक्षित मॉडलों के बीच संवाद आयोजित करने के लिए विशेष prompt के माध्यम से inference चरण में कार्यान्वित होती है। इसका अर्थ है कि इस पद्धति के लिए स्वयं LLM को fine-tuning की आवश्यकता नहीं है और इसे «ब्लैक बॉक्स» पर भी लागू किया जा सकता है — बस मॉडलों के टेक्स्ट जनरेशन तक पहुँच और पूर्व-निर्धारित टेम्पलेट के अनुसार उनके संचार के समन्वय की आवश्यकता है।

कई दौरों के बाद अंतिम उत्तर निर्धारित करने के लिए विभिन्न दृष्टिकोण उपयोग किए जाते हैं। सबसे सरल तंत्रों में से एक है मतदान: अंत में एजेंट स्वतंत्र रूप से अपने अंतिम समाधान प्रस्तावित कर सकते हैं, जिसके बाद बहुमत द्वारा समर्थित विकल्प चुना जाता है (या, उदाहरण के लिए, सबसे अधिक बार आने वाला उत्तर)। एक अन्य दृष्टिकोण — सर्वसम्मति की मांग करना, अर्थात तब तक चर्चा जारी रखना जब तक सभी मॉडल एक समान उत्तर पर न पहुँच जाएं। अंततः, एक अलग न्यायाधीश-एजेंट का उपयोग किया जा सकता है: या तो उत्तरों का मूल्यांकन करने के लिए प्रशिक्षित एक अलग नेटवर्क, या एजेंटों में से एक जिसे मध्यस्थ की भूमिका दी जाती है। न्यायाधीश चर्चा के दौरान निगरानी करता है और चुनता है कि किसका तर्क सबसे अधिक ठोस या सही था। निर्णय तंत्र का चुनाव प्रणाली की विशेषताओं को प्रभावित करता है: मतदान या सर्वसम्मति लागू करना आसान है, लेकिन समूह की गलतियों को दर्ज कर सकती है, जबकि न्यायाधीश-मूल्यांकनकर्ता (विशेष रूप से सही उत्तर पहचानने के लिए प्रशिक्षित) सैद्धांतिक रूप से एजेंटों के बीच विरोधाभास होने पर भी सही समाधान निकाल सकता है। हालांकि न्यायाधीश दृष्टिकोण में भी कठिनाइयाँ हैं — उदाहरण के लिए, यदि न्यायाधीश की भूमिका वही मॉडल निभाती है जो प्रतिभागी हैं, तो वह अनजाने में किसी एजेंट की परिचित तर्क-शैली के पक्ष में झुक सकती है।

एजेंट संरचना और संचार के प्रकार

LLM के साथ बहु-एजेंट प्रणालियाँ एजेंटों की संरचना और परस्पर क्रिया की विधि में भिन्न हो सकती हैं। एकरूप संरचना का अर्थ है कि सभी एजेंट एक ही मॉडल की प्रतियाँ हैं (या समान स्तर के मॉडल), जबकि विषमांगी संरचना में विभिन्न प्रकार या आकार के मॉडल शामिल होते हैं। एकरूप स्थिति में सभी प्रतिभागियों की तुलनीय क्षमताएं होती हैं, और उनके मतभेद केवल स्टोकास्टिक उत्तर-जनरेशन या अलग-अलग प्रारंभिक स्थितियों (जैसे prompt में अंतर) के कारण उत्पन्न होंगे। विषमांगी दृष्टिकोण में शक्तिशाली और कमजोर मॉडलों को एक साथ उपयोग किया जा सकता है, जो संभावित रूप से एक एजेंट को दूसरे की कमियों की भरपाई करने देता है। इस प्रकार, शोध दर्शाते हैं कि विभिन्न LLM की परस्पर क्रिया से कमजोर मॉडल मजबूत मॉडलों से प्रतिक्रिया प्राप्त करके अपने समाधान सुधारते हैं। एक उल्लेखनीय उदाहरण — एक गणितीय पाठ-समस्या हल करने में ChatGPT (GPT-4) और Google Bard के बीच संयुक्त वाद-विवाद: इन दोनों मॉडलों में से प्रत्येक ने अलग-अलग गलत उत्तर दिया, लेकिन चर्चा की प्रक्रिया में वे एक-दूसरे को गलतियाँ बताने में सफल रहे और अंततः प्रत्येक की ताकत का उपयोग करते हुए सही समाधान पर सहमत हुए। वहीं विषमांगिता जोखिम भी लाती है: क्षमताओं में अत्यधिक असंतुलन एक मॉडल के वर्चस्व का कारण बन सकता है, और यदि अधिकांश एजेंटों में कोई सामान्य भ्रांति या गलत bias हो, तो वाद-विवाद शीघ्र एक समान किंतु गलत उत्तर पर केंद्रित हो सकता है — यह घटना «इको चेंबर» प्रभाव के नाम से जानी जाती है। सैद्धांतिक विश्लेषण (Estornell & Liu, NeurIPS 2024) से पता चला कि अत्यधिक समान मॉडलों के साथ वाद-विवाद स्थैतिक गतिशीलता में क्षीण हो सकता है, जब सभी प्रतिभागी बहुमत की राय दोहराते हैं, भले ही वह उनके डेटा में सामान्य गलती पर आधारित हो। इसलिए विषमांगी प्रणालियों में एजेंटों का सावधानीपूर्वक चयन महत्वपूर्ण है — उदाहरण के लिए, तुलनीय ज्ञान स्तर वाले मॉडल चुने जाते हैं ताकि कोई एक प्रभुत्व न जमाए और शेष को भ्रमित न करे।

एक अन्य पहलू — एजेंटों के बीच संचार संरचना है। बुनियादी कार्यान्वयनों में पूर्ण-संयोजन टोपोलॉजी का उपयोग होता है: प्रत्येक दौर में प्रत्येक एजेंट को सभी अन्य के उत्तर प्राप्त होते हैं। यह «सभी-से-सभी» आदान-प्रदान उपलब्ध जानकारी को अधिकतम करता है, लेकिन महत्वपूर्ण लागत उत्पन्न करता है — संदर्भ की मात्रा एजेंटों की संख्या के अनुपात में बढ़ती है, जिससे गणना भारी हो जाती है। विकल्प है विरल टोपोलॉजी, जो यह सीमित करती है कि प्रत्येक एजेंट किसके साथ सीधे डेटा साझा करे। उदाहरण के लिए, एजेंटों को एक ग्राफ-नेटवर्क (वृत्त, पेड़ आदि) के रूप में व्यवस्थित किया जा सकता है, जहाँ प्रत्येक को केवल अपने पड़ोसियों के उत्तर मिलते हैं। Google की एक शोध (Li et al., 2024) ने पाया कि एजेंट नेटवर्क की संयोजकता सीमित करने से पूर्णतः संयुक्त चर्चा की तुलना में गुणवत्ता में बिना गिरावट के, और कभी-कभी सुधार के साथ, जनरेशन लागत में उल्लेखनीय कमी आ सकती है। GPT-3.5 और Mistral मॉडलों के साथ प्रयोगों में विरल «पड़ोसी» चर्चा योजना ने कार्यों (गणित सहित) में समान या उच्च सटीकता दी, जबकि प्रति चरण औसत संदर्भ token की संख्या एक परिमाण तक घट गई। यह परिणाम बताता है कि अत्यधिक संदेश आदान-प्रदान हमेशा आवश्यक नहीं होता — एजेंटों के बीच प्रमुख परस्पर क्रियाओं को सही तरीके से व्यवस्थित करना पर्याप्त है ताकि वे कम लागत पर सही समाधान पर पहुँचें।

टोपोलॉजी के अलावा, वाद-विवाद के विभिन्न प्रारूप संभव हैं। उदाहरण के लिए, कुछ एजेंटों को अलग-अलग भूमिकाएं सौंपी जा सकती हैं: कुछ «विचार-जनक» की भूमिका में, अन्य «आलोचक» या समाधान «परीक्षक» की भूमिका में। यह भूमिका-आधारित दृष्टिकोण श्रम-विभाजन का अनुकरण करता है, जहाँ प्रत्येक एजेंट एक विशिष्ट कार्य में विशेषज्ञ होता है (उदाहरण के लिए, एक परिकल्पना प्रस्तावित करता है, दूसरा तथ्यों की जाँच करता है, तीसरा तार्किक संगति का मूल्यांकन करता है)। एक अन्य विकल्प — क्रमिक चर्चा (round-robin): एजेंट एक साथ नहीं, बल्कि सख्त क्रम से बारी-बारी बोलते हैं, निश्चित क्रम में वक्ता और प्रतिक्रियाकर्ता की भूमिका बदलते हुए। यह औपचारिक वाद-विवाद जैसा है, जहाँ नियमों के अनुसार प्रतिभागियों को बोलने का अवसर दिया जाता है, जो सभी एजेंटों की समान भागीदारी सुनिश्चित कर सकता है। एक और दृष्टिकोण — असहमति का गतिशील नियमन: प्रणाली प्रत्येक दौर में एजेंटों के उत्तरों के बीच असहमति के स्तर को विशेष रूप से बढ़ा या घटा सकती है। उदाहरण के लिए, प्रारंभिक चरणों में उत्तरों को अधिकतम रूप से भिन्न होने के लिए प्रोत्साहित किया जा सकता है (विभिन्न परिकल्पनाओं को कवर करने के लिए), और जैसे-जैसे अंतिम चरण नजदीक आए, वे एकत्रित हों। ऐसा तंत्र Chang (2024) के शोध में समयपूर्व सहमति रोकने के लिए प्रस्तावित किया गया: यह एजेंटों के बीच मध्यम स्तर के विरोधाभास बनाए रखता है, नए तर्कों के उद्भव और गहन चर्चा को प्रोत्साहित करता है।

दृष्टिकोण के लाभ और प्रभावशीलता

बहु-एजेंट वाद-विवाद ने जटिल कार्यों में भाषा मॉडलों की परिणामशीलता बढ़ाने की क्षमता के कारण ध्यान आकर्षित किया है। 2023-2024 के अनेक स्वतंत्र शोधों ने पुष्टि की है कि परस्पर क्रियाशील LLM का समूह उसी कार्य पर एकल मॉडल की उत्तर गुणवत्ता को पार कर सकता है। विशेष रूप से, जटिल तर्क-आधारित क्षेत्रों में सुधार दिखाया गया है: गणितीय गणनाओं से लेकर प्रोग्रामिंग और पाठ सारांशीकरण तक। इस प्रकार, Yin et al. (2023), Chan et al. (2023), Chen et al. (2024) और अन्य ने नोट किया कि बहु-एजेंट प्रणालियाँ अंकगणितीय कार्यों, कोड जनरेशन और यहाँ तक कि दस्तावेज़ों के संक्षिप्त सारांश बनाने में एकल LLM को स्पष्ट रूप से पीछे छोड़ देती हैं। कारण है — दृष्टिकोणों की विविधता: प्रत्येक एजेंट वे विवरण या गलतियाँ देख सकता है जो अन्य चूक गए, और सहयोगियों को प्रतिक्रिया दे सकता है। पारस्परिक आलोचना और विभिन्न परिकल्पनाओं के आदान-प्रदान से कार्य की अधिक व्यापक समीक्षा होती है, जिससे अंतिम उत्तर अधिक सटीक और विश्वसनीय बनता है।

उदाहरण के लिए, MIT और Google Brain के Yilun Du के नेतृत्व में शोधकर्ताओं ने ICML 2024 में «Improving factuality and reasoning in language models through multiagent debate» प्रस्तुत किया, जिसमें तीन मॉडल उदाहरणों के बीच वाद-विवाद जोड़ने पर समाधान गुणवत्ता में उल्लेखनीय सुधार प्रदर्शित किया गया। उनके परिणामों के अनुसार, बहु-एजेंट चर्चा प्रक्रिया ने उसी मॉडल के सामान्य एकल उपयोग की तुलना में कई कार्यों में उच्च प्रदर्शन प्राप्त किया: गणितीय और रणनीतिक कार्यों को हल करने की सटीकता बढ़ी, और तथ्यात्मक त्रुटियों की संख्या घटी। विशेष रूप से, बहु-एजेंट दृष्टिकोण ने गणितीय तर्क, तथ्य-जाँच और यहाँ तक कि रणनीतिक नियोजन की आवश्यकता वाले कार्यों में मॉडल के परिणाम सुधारे। लेखक नोट करते हैं कि «इस बहु-दौर चर्चा के बाद उत्पन्न अंतिम उत्तर तथ्यात्मक रूप से अधिक सही और तर्क कार्यों में अधिक सफल दोनों निकलता है»। नीचे एक चित्रण है जो एकल मॉडल और बहु-एजेंट वाद-विवाद के उपयोग से विभिन्न कार्यों में सटीकता की तुलना करता है।

एकल उत्तर-जनरेशन (नीला रंग) और बहु-एजेंट वाद-विवाद मोड (लाल रंग) के लिए कई कार्यों पर सटीकता की तुलना। बहु-एजेंट दृष्टिकोण (multi-agent debate) विभिन्न क्षेत्रों में उच्च सटीकता दर्शाता है, जिसमें तथ्यात्मक प्रश्न (जीवनियाँ), MMLU ज्ञान परीक्षण, शतरंज चालों की सटीकता जाँच, अंकगणितीय व्यंजकों का समाधान, स्कूल स्तरीय गणित पाठ-समस्याएं (GSM8K) और इष्टतम शतरंज चाल खोजना शामिल हैं। ग्राफ के डेटा के अनुसार, वाद-विवाद विशेष रूप से जटिल रणनीतिक कार्यों (जैसे शतरंज में इष्टतम चाल खोजना) में मॉडल की क्षमताओं को बढ़ाता है और गणितीय गणनाओं तथा तथ्य-ज्ञान प्रश्नों में त्रुटियों का अनुपात उल्लेखनीय रूप से कम करता है।

बहु-एजेंट दृष्टिकोण का एक अन्य लाभ — मॉडल के एकल self-control की सीमाओं को पार करना। एकल LLM अक्सर self-reflection (आत्म-चिंतन) तकनीक का उपयोग करते हैं, जब मॉडल स्वयं ही अपने प्रारंभिक उत्तर का मूल्यांकन और सुधार करता है। हालांकि यह पाया गया कि ऐसी विधि «degeneration-of-thought» — विचार-क्षरण की समस्या के प्रति संवेदनशील है: यदि मॉडल ने प्रारंभिक उत्तर में विश्वास कर लिया, तो आत्म-जाँच के दौरान वह मौलिक रूप से नए विचार उत्पन्न नहीं करता, भले ही मूल समाधान गलत हो। दूसरे शब्दों में, मॉडल अपने पहले सोचे गए समाधान पर अटका रहता है, विकल्पों को अस्वीकार करता है। बहु-एजेंट वाद-विवाद इस प्रभाव को दूर करने में मदद करता है: कई समकक्ष एजेंट प्रारंभ में अलग-अलग परिकल्पनाएं प्रस्तावित कर सकते हैं और फिर एक-दूसरे के तर्कों को क्रमिक रूप से चुनौती दे सकते हैं, जो अपारंपरिक विचारों की खोज को प्रोत्साहित करता है। Tian Liang और सहयोगियों (EMNLP 2024) ने अपनी बहु-एजेंट योजना को MAD (Multi-Agent Debate) नाम दिया और दिखाया कि यह वास्तव में मॉडलों में विचलनकारी (विविध) सोच को प्रोत्साहित करती है और गहन समस्या-समाधान की आवश्यकता वाले कार्यों में परिणाम सुधारती है। उनके कार्यान्वयन में कई एजेंट «आँख के बदले आँख» के सिद्धांत पर बहस करते हैं (प्रत्येक बारी-बारी दूसरे के तर्कों का विरोध करता है), और प्रक्रिया के ऊपर एक सहायक न्यायाधीश होता है जो चर्चा का प्रबंधन करता है और अंतिम निर्णय चुनता है। Liang et al. के प्रयोगों ने जटिल परीक्षण सेटों पर इस दृष्टिकोण की प्रभावशीलता प्रदर्शित की — सामान्य-बोध अनुवाद (छिपी सामान्य समझ को ध्यान में रखते हुए वाक्यों का अनुवाद) और प्रतिसहज-बोध अंकगणित (पहली नजर में अतार्किक शर्तों वाली गणित की पहेलियाँ) के कार्यों में बहु-एजेंट चर्चा ने मानक विधियों की तुलना में अधिक सटीक उत्तर दिए। विश्लेषण ने यह भी पाया कि सर्वोत्तम परिणाम के लिए वाद-विवाद को अनुकूली रूप से रोका जाना चाहिए, इसे अत्यधिक लंबा नहीं होने देना चाहिए, और एजेंटों के बीच केवल मध्यम स्तर का संघर्ष बनाए रखना चाहिए — अत्यधिक आक्रामक या इसके विपरीत अत्यधिक सहमत व्यवहार दोनों परिणाम बिगाड़ते हैं।

बहु-एजेंट दृष्टिकोण न केवल विशिष्ट प्रश्नोत्तर कार्यों के लिए उपयोगी साबित हुआ। इसका उपयोग अन्य क्षेत्रों में भी होता है, उदाहरण के लिए मॉडलों के अधिक सुरक्षित और संरेखित व्यवहार के लिए। कुछ शोध एजेंटों के वाद-विवाद को मॉडरेशन और नियम-निर्माण कार्यों में उपयोग करते हैं: कई LLM मिलकर चर्चा कर सकते हैं कि कोई दिया गया उत्तर नैतिक मानदंडों के अनुसार स्वीकार्य है या नहीं, जिससे Reinforcement Learning में एक-दूसरे को feedback मिलती है। यह नोट किया गया है कि वाद-विवाद अधिक सूक्ष्म और सुप्रमाणित मूल्यांकन संकेत उत्पन्न कर सकता है जो मॉडलों को सुरक्षा और उपयोगिता के लिए समायोजित करने में सहायता करते हैं। बहु-मॉडल कार्यों को विस्तारित करने के प्रयास भी किए गए — उदाहरण के लिए, जब कुछ एजेंट किसी चित्र का वर्णन करते हैं और अन्य वर्णन की चित्र से संगति जाँचते हैं। Google (2024) के एक शोध में ऐसे विस्तार की सफलता दिखाई गई: बहु-मॉडल दृष्टिकोण ने순 पाठ-आधारित और बहु-मॉडल छवि समझ दोनों कार्यों में परिणाम सुधारे, «मनों के समाज» की सार्वभौमिकता प्रदर्शित करते हुए। रोचक बात यह है कि वाद-विवाद के भीतर परस्पर क्रिया कमजोर मॉडलों के स्तर को बढ़ा सकती है, जैसा पहले उल्लेख किया गया। उदाहरण के लिए, जब विभिन्न शक्ति के LLM एक साझा चर्चा में भाग लेते हैं, तो «कमजोर मॉडल धीरे-धीरे मजबूत होते हैं, मजबूत मॉडलों से सफल रणनीतियाँ अपनाकर»। इस प्रकार, बहु-एजेंट प्रणाली न केवल निर्धारित कार्य हल करती है, बल्कि मॉडलों के एक-दूसरे से सामूहिक शिक्षण के एक प्रकार के तंत्र के रूप में भी कार्य करती है।

सीमाएं और खुली समस्याएं

महत्वपूर्ण लाभों के बावजूद, बहु-एजेंट वाद-विवाद कई कठिनाइयों और सीमाओं का सामना करता है। एक प्रमुख समस्या है इस दृष्टिकोण की उच्च संसाधन-आवश्यकता। चर्चा आयोजित करने के लिए बड़े मॉडलों में टेक्स्ट जनरेशन को बार-बार आमंत्रित करना पड़ता है: यदि n एजेंट T दौरों में भाग लेते हैं, तो LLM के कुल कॉल्स एकल उत्तर की तुलना में n x T गुना बढ़ जाते हैं। इसके अलावा, प्रत्येक दौर में मॉडल को संदर्भ के रूप में न केवल मूल प्रश्न बल्कि पिछले सभी दौरों की प्रतिकृतियाँ (सभी एजेंटों के उत्तर) भी संसाधित करनी होती हैं। इस प्रकार, एजेंटों और दौरों की संख्या बढ़ने के साथ संदर्भ इनपुट की मात्रा तेजी से बढ़ती है, जिससे context explosion प्रभाव उत्पन्न होता है — संदर्भ विंडो भर जाती है और प्रसंस्करण लागत बढ़ती है। प्रयोगों में दर्ज किया गया कि 2-3 चर्चा दौर जोड़ने से भी संदर्भ token की कुल संख्या में उल्लेखनीय वृद्धि होती है जो मॉडल को पढ़नी पड़ती है, और फलस्वरूप प्रतिक्रिया समय भी। सैद्धांतिक रूप से पुनरावृत्तियों की संख्या बढ़ाने पर समाधान की गुणवत्ता सुधरती है, लेकिन व्यावहारिक रूप से अनेक शोध कई दौरों के बाद घटते प्रतिफल की ओर ध्यान दिलाते हैं: प्रायः अधिकतम प्रभाव दूसरे-तीसरे दौर में प्राप्त होता है, जिसके बाद आगे की चर्चाएं एक ही तर्कों की पुनरावृत्ति या संदर्भ अधिभार के कारण सटीकता में गिरावट का कारण बन सकती हैं। उदाहरण के लिए, Xi et al. (2023) ने केवल दूसरे दौर तक सटीकता में वृद्धि दिखाई, फिर गिरावट, इसी तरह Liu और Li with colleagues (2024) ने ~4 दौरों पर गुणवत्ता के शीर्ष की सूचना दी, जिसके बाद अतिरिक्त चक्र केवल बाधा डालते हैं। इस प्रकार, वाद-विवाद की इष्टतम अवधि निर्धारित करना एक जटिल कार्य है: बहुत संक्षिप्त चर्चा सामूहिक बुद्धिमत्ता की पूरी क्षमता नहीं दर्शा सकती, और बहुत लंबी — सूचना-शोर और संदर्भ-अधिभार उत्पन्न कर सकती है।

एक और समस्या — गलत उत्तर पर समूह-सहमति का जोखिम। यदि सभी एजेंटों के पास समान अनुभव है और वे किसी तथ्य के बारे में गलत तरीके से आश्वस्त हैं, तो वे एक-दूसरे की भ्रांति को मजबूत कर सकते हैं। इको चेंबर प्रभाव होता है: वाद-विवाद के दौरान मॉडल सर्वसम्मति पर पहुँचते हैं, लेकिन इसलिए नहीं कि उन्होंने सत्य खोजा, बल्कि प्रारंभिक सामान्य bias की पुष्टि के परिणामस्वरूप। सैद्धांतिक परिणाम (Estornell & Liu, 2024) संकेत देते हैं कि समान मॉडलों के साथ वाद-विवाद नए विचारों के बिना बहुमत की राय को दोहराते हुए ठहराव में बदल सकता है। विशेष रूप से खतरनाक स्थिति वह है जब यह बहुमत किसी सामान्य गलती साझा करता है, जो उदाहरण के लिए प्रशिक्षण डेटा में निहित है — तब पूरी चर्चा का परिणाम गलत होगा। इस समस्या से निपटने के लिए विशेष हस्तक्षेप विधियां (diversity-pruning) प्रस्तावित हैं: प्रत्येक दौर में एल्गोरिदमिक रूप से अत्यधिक समान उत्तरों को काट दिया जाता है, एजेंटों को अधिकतम सूचना entropy के साथ विभिन्न विकल्प उत्पन्न करने के लिए प्रोत्साहित करते हुए। इससे यह संभावना कम होती है कि सभी उत्तर एक ही गलती के रूपांतर होंगे। एक अन्य तकनीक — भ्रांतियों का पता लगाना और खंडन (misconception refutation): प्रणाली एजेंटों की सामान्य धारणाओं को स्वचालित रूप से पहचानने और उनमें से उन पर लक्षित रूप से प्रश्नचिह्न लगाने का प्रयास करती है जो गलत हो सकती हैं। Estornell & Liu के शोध में तीन ऐसे हस्तक्षेपों का सेट प्रस्तावित किया गया — उपरोक्त के अलावा, quality-pruning (प्रत्येक चरण पर सबसे प्रासंगिक और उच्च-गुणवत्ता वाले तर्कों का चयन) भी — और यह दिखाया गया कि उनका संयोजन वाद-विवाद की प्रभावशीलता को उल्लेखनीय रूप से बढ़ाता है और इको चेंबर की प्रवृत्ति को रोकता है।

अंत में, यह ध्यान देना आवश्यक है कि बहु-एजेंट चर्चाओं की स्थिरता और पूर्वानुमानशीलता अभी भी आदर्श से दूर है। कुछ प्रयोगों में वाद-विवाद अस्थिर परिणाम देता था — एक ही चर्चा के अलग-अलग प्रयोग भिन्न उत्तरों पर पहुँच सकते थे, या फिर सामूहिक उत्तर वाद-विवाद के बिना एकल मॉडल से भी बदतर निकला। Wang et al. (2024) और Smit et al. (2023) ने स्वतंत्र रूप से ऐसे मामले नोट किए जब एजेंट जोड़ने से प्रदर्शन बिगड़ा, जो उपयोगी आलोचना और विनाशकारी विवाद के बीच की पतली रेखा की ओर संकेत करता है। उन परिस्थितियों की पहचान करना जिनमें बहु-एजेंट दृष्टिकोण निश्चित रूप से उपयोगी हो, शोध का विषय बना हुआ है। खुले प्रश्न हैं: यह स्वचालित रूप से कैसे तय करें कि वाद-विवाद कब रोकना है और उत्तर दर्ज करना है, ताकि लाभ न खोया जाए और अंतहीन विवाद में न पड़ा जाए, और सामूहिक निर्णय किस प्रकार लिया जाए — मतदान, सर्वसम्मति या बाहरी न्यायाधीश के माध्यम से — जो विभिन्न प्रकार के कार्यों के लिए सबसे विश्वसनीय हो। बहु-एजेंट प्रणालियों की सुरक्षा और नियंत्रणीयता की समस्या भी तीव्र है: यह सुनिश्चित करना आवश्यक है कि एजेंट मिलकर अवांछनीय या हानिकारक सामग्री उत्पन्न न करें और एक-दूसरे की हानिकारक प्रवृत्तियों को न बढ़ाएं। ये प्रश्न, विशेष रूप से सुरक्षा और मापनीयता से संबंधित, वर्तमान और जटिल माने गए हैं। आधुनिक समीक्षाएं नोट करती हैं कि चर्चाओं के लिए विश्वसनीय रोक-नियमों के विकास, एजेंटों और दौरों की संख्या बढ़ने पर दृष्टिकोण की मापनीयता के मूल्यांकन, और सामूहिक रूप से प्राप्त उत्तर की विश्वसनीयता और सत्यता की गारंटी देने वाली विधियों के कार्यान्वयन पर समर्पित आगे के शोध की आवश्यकता है। इन चुनौतियों का समाधान बहु-एजेंट वाद-विवाद को अधिक स्मार्ट और सुरक्षित कृत्रिम बुद्धिमत्ता प्रणालियाँ बनाने के लिए एक और भी शक्तिशाली और सार्वभौमिक उपकरण में बदल देगा।

संदर्भ

• Improving Factuality and Reasoning in Language Models with Multiagent Debate — परियोजना पृष्ठ
• AI safety via debate — OpenAI का मूल लेख
• Improving Multi-Agent Debate with Sparse Communication Topology — संचार अनुकूलन पर लेख
• Literature Review Of Multi-Agent Debate For Problem-Solving — साहित्य समीक्षा
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate — MAD पर लेख
• Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions — NeurIPS 2024 लेख

साहित्य

• Irving, G. et al. (2018). AI Safety via Debate. arXiv:1805.00899.
• Du, Y. et al. (2023). Improving Factuality and Reasoning in Language Models through Multiagent Debate. arXiv:2305.14325.
• Liang, T. et al. (2023). Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate. arXiv:2305.19118.
• Li, Y. et al. (2024). Improving Multi-Agent Debate with Sparse Communication Topology. arXiv:2406.11776.
• Guo, T. et al. (2024). Large Language Model based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Estornell, A.; Liu, Y. (2024). Multi-LLM Debate: Framework, Principals, and Interventions. NeurIPS 2024.
• Eo, S. et al. (2025). Debate Only When Necessary: Adaptive Multiagent Collaboration for Efficient LLM Reasoning. arXiv:2504.05047.
• Tillmann, A. (2025). Literature Review Of Multi-Agent Debate For Problem-Solving. arXiv:2506.00066.
• Cui, Y. et al. (2025). Efficient Leave-One-Out Approximation in LLM Multi-Agent Debate Based on Introspection. arXiv:2505.22192.
• La Malfa, E. et al. (2025). Large Language Models Miss the Multi-Agent Mark. arXiv:2505.21298.