Multi-Agent Debate (UR)

کثیر الوکیل مباحثہ (انگریزی: multi-agent debate) – بڑے زبانی نمونوں (LLM) کے شعبے میں ایک ایسا طریقہ کار ہے جس میں متعدد تعامل کرنے والے وکلاء (زبانی نمونوں کی مثالیں) مل کر کسی دیے گئے مسئلے کے حل پر بحث کرتے ہیں، دلائل اور جواب کی کوششوں کا تبادلہ کرتے ہیں۔ اس عمل کا مقصد یہ ہے کہ اجتماعی طور پر پوچھے گئے سوال کا سب سے درست اور مدلل جواب تیار کیا جائے۔ یہ طریقہ «عقلوں کی معاشرت» کے تصور پر مبنی ہے، جہاں مختلف نمونے ایک دوسرے کے نتائج کو جانچتے اور مکمل کرتے ہیں۔ تحقیقات سے ثابت ہوا ہے کہ کثیر الوکیل بحث سے جوابات کی درستگی اور قابلِ اعتماد ہونے میں نمایاں بہتری آتی ہے بہ نسبت ایک ہی طریقے سے جواب تیار کرنے کے: وکلاء کے مباحثے کے بعد حاصل ہونے والا حتمی جواب عموماً حقائق کے اعتبار سے زیادہ درست اور استدلال پر مبنی کاموں میں بہتر کارکردگی دکھاتا ہے۔ خاص طور پر، اس حکمت عملی کے استعمال سے ہیلوسینیشنز (غیر موجود «حقائق») کی تعداد میں کمی اور مشکل آزمائشی سوالات میں کامیابی میں اضافہ دیکھا گیا ہے۔

متعدد AI کو مباحثے کے لیے استعمال کرنے کا خیال مصنوعی ذہانت کی حفاظت سے متعلق تحقیق سے پیدا ہوا۔ 2018 میں OpenAI کے محققین کے ایک گروہ (G. Irving، P. Christiano، D. Amodei) نے AI safety via debate کا تصور پیش کیا – یعنی مقابلہ جاتی مباحثوں کے ذریعے وکلاء کو تربیت دینا، جس میں دو ماڈل حریف باری باری مختصر دلائل پیش کرتے ہیں اور ایک انسانی منصف فیصلہ کرتا ہے کہ کس نے زیادہ سچی اور مفید معلومات پیش کی۔ یہ فرض کیا گیا تھا کہ بہترین حکمت عملی کے ساتھ اس طرح کے مباحثے AI کو انتہائی پیچیدہ سوالات کا جواب دینے کے قابل بنائیں گے، جس میں منصف سے صرف دلائل کی صداقت کا جائزہ لینے کا تقاضا کیا جائے گا۔ اگلے برسوں میں، طاقتور LLM کی آمد کے ساتھ، ماڈلوں کے درمیان مباحثے کا اصول براہِ راست ماڈلوں کے جوابات کا معیار بہتر بنانے کے لیے استعمال ہونے لگا – اب انسانی شرکت کی لازمی ضرورت کے بغیر، بلکہ بہترین حل کے خودکار انتخاب کے ساتھ۔ جدید کثیر الوکیل LLM نظام ایک دوسرے کی غلطیاں درست کرنے اور مل کر زیادہ مدلل نتیجے پر پہنچنے کے لیے نقلوں یا مختلف ماڈلوں کے درمیان مکالمے کا استعمال کرتے ہیں۔

کثیر الوکیل بحث کا طریقہ کار

کثیر الوکیل مباحثے کے منظرنامے میں کئی ماڈل وکیل ایک کام پر بیک وقت کام کرتے ہیں۔ عام طور پر پہلے ہر وکیل کو ابتدائی سوال یا کام فراہم کیا جاتا ہے، جس کے بعد ہر وکیل آزادانہ طور پر اپنا جواب تیار کرتا ہے۔ پھر وکلاء کے درمیان رابطے کے کئی دورانیے آتے ہیں: ہر دورانیے میں تمام شرکاء اپنے موجودہ حل کا تبادلہ کرتے ہیں، اور ہر وکیل دوسروں کے جوابات کو اضافی سیاق و سباق کے طور پر حاصل کرتا ہے، جس کی بنیاد پر وہ اگلے دورانیے میں اپنا جواب بہتر یا درست کرتا ہے۔ یہ چکر کئی بار دہرایا جاتا ہے (عموماً دوروں کی تعداد مقرر ہوتی ہے یا واضح اتفاق رائے حاصل ہونے تک)، جس کے بعد عمل رک جاتا ہے اور حتمی جواب پیش کیا جاتا ہے۔ مباحثہ انسانی تبادلہ خیال کی نقل کرتا ہے، ماڈلوں کو ایک دوسرے کے جوابات پر تنقید کرنے اور اپنی استدلال کی صلاحیتوں کو یکجا کر کے حل کا معیار بلند کرنے کا موقع دیتا ہے۔ مثال کے طور پر، Yilun Du اور ان کے ساتھیوں (MIT اور Google Brain) نے تجربات میں زبانی ماڈل کے 3 نمونے استعمال کیے جنہوں نے 2 دوروں میں مسئلے پر بحث کی (وقت اور حسابات کے اخراجات کی وجہ سے زیادہ دور محدود کیے گئے)؛ یہ ظاہر کیا گیا کہ اس محدود مکالمے کے باوجود بھی حتمی جوابات نمایاں طور پر بہتر ہوئے، اور وکلاء یا دوروں کی تعداد بڑھانے پر درستگی مسلسل بڑھتی رہی (اگرچہ کم ہوتے ہوئے فائدے کے ساتھ)۔

کثیر الوکیل مباحثے کا طریقہ کار مکمل طور پر inference کے مرحلے میں خصوصی prompts کی مدد سے پہلے سے تربیت یافتہ ماڈلوں کے درمیان مکالمے کو منظم کرکے عمل میں لایا جاتا ہے۔ اس کا مطلب یہ ہے کہ اس طریقے کے لیے خود LLM کی fine-tuning کی ضرورت نہیں اور اسے «بلیک باکس» پر بھی لاگو کیا جا سکتا ہے – بس ماڈلوں کی متن تیار کرنے کی صلاحیت تک رسائی اور ایک پہلے سے طے شدہ خاکے کے مطابق ان کے تعامل کو ہم آہنگ کرنا کافی ہے۔

کئی دوروں کے بعد حتمی جواب کا تعین کرنے کے لیے مختلف طریقے استعمال کیے جاتے ہیں۔ سادہ ترین طریقوں میں سے ایک ووٹنگ ہے: وکیل آخر میں آزادانہ طور پر اپنے حتمی حل تجویز کر سکتے ہیں، جس کے بعد اکثریت کی حمایت یافتہ یا سب سے زیادہ بار آنے والا جواب منتخب کیا جاتا ہے۔ دوسرا طریقہ اتفاق رائے کا تقاضا کرنا ہے، یعنی بحث اس وقت تک جاری رکھنا جب تک تمام ماڈل ایک ہی جواب پر نہ آ جائیں۔ آخر میں، ایک الگ فیصل وکیل بھی شامل کیا جا سکتا ہے: یا تو ایک الگ نیورل نیٹ ورک جو جوابات کی جانچ کرتا ہو، یا وکلاء میں سے ایک جسے ثالث کا کردار سونپا گیا ہو۔ فیصل بحث کے دوران نگرانی کرتا ہے اور فیصلہ کرتا ہے کہ کس کا دلیل سب سے زیادہ قائل کن یا درست رہا۔ فیصلہ سازی کے طریقے کا انتخاب نظام کی خصوصیات پر اثر ڈالتا ہے: ووٹنگ یا اتفاق رائے نافذ کرنا آسان ہے لیکن اجتماعی غلطیوں کو مستحکم کر سکتا ہے، جبکہ ایک جانچنے والا فیصل (خاص طور پر جسے درست جواب کی شناخت کے لیے تربیت دی گئی ہو) نظری طور پر وکلاء کے درمیان تضادات کے باوجود صحیح حل نکال سکتا ہے۔ تاہم فیصل کے طریقے میں بھی مشکلات ہیں – مثلاً اگر فیصل کا کردار وہی ماڈل ادا کرے جو شرکاء کے طور پر شامل ہو، تو وہ لاشعوری طور پر کسی ایک وکیل کے مانوس استدلال کی طرف جھک سکتا ہے۔

وکلاء کی ترتیب اور رابطے کی اقسام

LLM کے ساتھ کثیر الوکیل نظام وکلاء کی ساخت اور ان کے تعامل کے طریقے کے اعتبار سے مختلف ہو سکتے ہیں۔ یکساں ترتیب میں تمام وکیل ایک ہی ماڈل کی نقلیں ہوتے ہیں (یا ملتے جلتے درجے کے ماڈل)، جبکہ غیر یکساں ترتیب میں مختلف قسم یا حجم کے ماڈل شامل ہوتے ہیں۔ یکساں صورت میں تمام شرکاء کی صلاحیتیں ملتی جلتی ہوتی ہیں اور ان کے اختلافات صرف جواب کی تصادفی پیداوار یا ابتدائی شرائط میں فرق (مثلاً prompts میں فرق) کی وجہ سے ہوں گے۔ غیر یکساں طریقے میں ایک ہی وقت میں طاقتور اور کمزور ماڈلوں کو شامل کیا جا سکتا ہے، جس سے ممکنہ طور پر کچھ وکیل دوسروں کی خامیوں کی تلافی کر سکتے ہیں۔ چنانچہ تحقیق سے پتہ چلتا ہے کہ مختلف LLM کے تعامل کا نتیجہ یہ ہوتا ہے کہ کمزور ماڈل طاقتور ماڈلوں سے feedback حاصل کرکے اپنے حل بہتر بناتے ہیں۔ ایک قابلِ ذکر مثال ChatGPT (GPT-4) اور Google Bard زبانی ماڈلوں کے درمیان ریاضی کے متنی مسئلے کو حل کرنے کے لیے مشترکہ مباحثہ ہے: یہ دونوں ماڈل الگ الگ غلط جواب دیتے رہے، لیکن بحث کے دوران انہوں نے ایک دوسرے کی غلطیاں نشاندہی کرتے ہوئے آخر میں ہر ایک کی خوبیوں کو استعمال کرتے ہوئے درست حل پر اتفاق کیا۔ ساتھ ہی، غیر یکساں ہونے میں خطرات بھی ہیں: صلاحیتوں میں بہت زیادہ عدم توازن ایک ماڈل کے غلبے کا سبب بن سکتا ہے، اور اگر اکثر وکلاء میں کوئی مشترکہ غلط فہمی یا bias ہو تو مباحثہ جلدی ایک متفقہ لیکن غلط جواب تک پہنچ سکتا ہے – یہ ظاہرہ «گونج خانہ» کا اثر کہلاتا ہے۔ نظری تجزیے (Estornell & Liu، NeurIPS 2024) سے ظاہر ہوا کہ انتہائی ملتے جلتے ماڈلوں کے ساتھ مباحثہ ساکن حرکیات میں جم سکتا ہے، جہاں تمام شرکاء اکثریت کی رائے دہراتے ہیں، چاہے وہ ان کے ڈیٹا میں مشترکہ غلطی پر مبنی ہو۔ اس لیے غیر یکساں نظاموں میں وکلاء کا محتاط انتخاب اہم ہے – مثلاً ملتے جلتے سطح کے علم والے ماڈل منتخب کیے جاتے ہیں تاکہ کوئی بھی غالب نہ ہو اور باقیوں کو گمراہ نہ کرے۔

ایک اور پہلو وکلاء کے درمیان رابطے کی ساخت ہے۔ بنیادی نفاذات میں مکمل طور پر جڑی ہوئی ٹوپولوجی کا استعمال ہوتا ہے: ہر دورانیے میں ہر وکیل باقی سب کے جوابات حاصل کرتا ہے۔ اس «ہر-سے-ہر» تبادلے سے دستیاب معلومات زیادہ سے زیادہ ہوتی ہیں، لیکن اس سے کافی اخراجات پیدا ہوتے ہیں – سیاق و سباق کا حجم وکلاء کی تعداد کے تناسب سے بڑھتا ہے، جس سے حسابات بھاری ہو جاتے ہیں۔ ایک متبادل کم گنجان ٹوپولوجی ہے، جو یہ محدود کرتی ہے کہ ہر وکیل براہِ راست کس کے ساتھ ڈیٹا کا تبادلہ کرتا ہے۔ مثلاً، وکلاء کو ایک گراف-نیٹ ورک (حلقہ، درخت وغیرہ) کی شکل میں ترتیب دیا جا سکتا ہے، جہاں ہر ایک صرف اپنے پڑوسیوں کے جوابات حاصل کرتا ہے۔ Google کی تحقیق (Li et al.، 2024) سے ظاہر ہوا کہ وکلاء کے نیٹ ورک کی رابطہ کاری کو محدود کرنے سے پیداواری اخراجات نمایاں طور پر کم ہو سکتے ہیں بغیر معیار میں کمی کے، بلکہ کبھی کبھی مکمل طور پر جڑی ہوئی بحث کی نسبت بہتر نتائج کے ساتھ۔ GPT-3.5 اور Mistral ماڈلوں کے ساتھ تجربات میں «پڑوسی» بحثوں کی کم گنجان اسکیم نے کاموں میں (بشمول ریاضی کے) اتنی ہی یا اس سے زیادہ درستگی دی، ساتھ ہی ہر مرحلے پر سیاق و سباق کے token کی اوسط تعداد میں ایک درجہ کمی آئی۔ یہ نتیجہ اشارہ کرتا ہے کہ پیغامات کا بہت زیادہ تبادلہ ہمیشہ ضروری نہیں – وکلاء کے درمیان اہم تعاملات کو درست طریقے سے منظم کرنا کافی ہے تاکہ وہ کم اخراجات کے ساتھ درست حل تک پہنچ سکیں۔

ٹوپولوجی کے علاوہ، مباحثے کے مختلف فارمیٹ بھی ممکن ہیں۔ مثلاً، کچھ وکلاء کو مختلف کردار سونپے جا سکتے ہیں: کچھ «خیالات کے پیدا کرنے والے» کے طور پر، دوسرے «ناقدین» یا «حل کی جانچ کرنے والوں» کے طور پر۔ اس کردار پر مبنی طریقے کا مقصد محنت کی تقسیم کی نقل کرنا ہے، جہاں ہر وکیل کسی خاص کام میں مہارت رکھتا ہو (مثلاً، ایک فرضیہ پیش کرتا ہے، دوسرا حقائق جانچتا ہے، تیسرا منطقی ہم آہنگی کا جائزہ لیتا ہے)۔ ایک اور متبادل باری باری بحث (round-robin) ہے: وکیل بیک وقت نہیں بلکہ ایک مقررہ ترتیب میں باری باری بولنے اور جواب دینے کا کردار بدلتے ہوئے بولتے ہیں۔ یہ رسمی مباحثوں سے ملتا جلتا ہے جہاں شرکاء کو ضوابط کے مطابق موقع دیا جاتا ہے، جو تمام وکلاء کی یکساں شرکت یقینی بنا سکتا ہے۔ ایک اور طریقہ اختلاف کا متحرک ضابطہ ہے: نظام ہر دورانیے میں وکلاء کے جوابات کے درمیان اختلاف کی سطح کو جان بوجھ کر بڑھا یا گھٹا سکتا ہے۔ مثلاً، ابتدائی مراحل میں جوابات کا زیادہ سے زیادہ مختلف ہونا (مختلف فرضیوں کا احاطہ کرنے کے لیے) اور اختتام کے قریب آنے پر ان کا قریب آنا ممکن ہے۔ اس طرح کا طریقہ کار Chang (2024) کے کام میں قبل از وقت اتفاق رائے سے بچنے کے لیے تجویز کیا گیا ہے: یہ وکلاء کے درمیان معتدل سطح کا تضاد برقرار رکھتا ہے، نئے دلائل کے ظہور اور گہری بحث کو تحریک دیتا ہے۔

طریقے کے فوائد اور کارکردگی

کثیر الوکیل مباحثوں نے پیچیدہ کاموں پر زبانی ماڈلوں کی کارکردگی بڑھانے کی صلاحیت کی وجہ سے توجہ حاصل کی ہے۔ 2023-2024 کی آزادانہ تحقیقات کی ایک پوری سیریز نے اس بات کی تصدیق کی کہ تعامل کرنے والے LLM کا ایک گروہ اسی کام پر اکیلے ماڈل کو جواب کے معیار میں پیچھے چھوڑ سکتا ہے۔ خاص طور پر، ان شعبوں میں بہتری دیکھی گئی جن میں پیچیدہ استدلال درکار ہو: ریاضی کے حسابات سے لے کر پروگرامنگ اور متن کی خلاصہ نویسی تک۔ چنانچہ Yin اور ساتھی (2023)، Chan اور ساتھی (2023)، Chen اور ساتھی (2024) اور دیگر نوٹ کرتے ہیں کہ کثیر الوکیل نظام حسابی سوالات، کوڈ تیار کرنے اور حتی کہ دستاویزات کے خلاصے بنانے میں اکیلے LLM کو یقین کے ساتھ پیچھے چھوڑتے ہیں۔ اس کی وجہ نقطہ نظر کا تنوع ہے: ہر وکیل وہ تفصیلات یا غلطیاں پکڑ سکتا ہے جو دوسروں سے چھوٹ گئی ہوں، اور ساتھیوں کو feedback فراہم کر سکتا ہے۔ باہمی تنقید اور مختلف فرضیوں کا تبادلہ کام کے زیادہ ہمہ جہت جائزے کا باعث بنتا ہے، جس کی وجہ سے حتمی جواب زیادہ درست اور قابلِ اعتماد نکلتا ہے۔

مثلاً، MIT اور Google Brain کے Yilun Du کی سربراہی میں محققین نے ICML 2024 میں «Improving factuality and reasoning in language models through multiagent debate» پیش کیا، جس میں ماڈل کے تین نمونوں کے درمیان مباحثہ شامل کرنے پر حل کے معیار میں نمایاں بہتری ظاہر کی گئی۔ ان کے نتائج کے مطابق، کثیر الوکیل بحث کے طریقہ کار سے اسی ماڈل کے عام اکیلے استعمال کی نسبت کئی کاموں میں بہتر نتائج حاصل ہوئے: ریاضی اور حکمت عملی کے سوالات حل کرنے کی درستگی بڑھی اور حقیقی غلطیوں کی تعداد گھٹی۔ خاص طور پر، کثیر الوکیل طریقے نے ریاضی کے استدلال، حقائق کی جانچ اور حتی کہ حکمت عملی کی منصوبہ بندی کے لیے درکار کاموں میں ماڈل کے نتائج بہتر کیے۔ مصنفین نوٹ کرتے ہیں کہ «اس کثیر دورانیہ بحث کے بعد حاصل ہونے والا حتمی جواب حقائق کے اعتبار سے زیادہ درست اور استدلال کے کاموں میں زیادہ کامیاب دونوں ہوتا ہے»۔ ذیل میں ایک تصویر دکھائی گئی ہے جو اکیلے اور کثیر الوکیل مباحثے کے ساتھ مختلف کاموں میں ماڈل کی درستگی کا موازنہ کرتی ہے۔

مختلف کاموں میں اکیلی پیداوار (نیلا رنگ) اور کثیر الوکیل مباحثے کے موڈ (سرخ رنگ) کی درستگی کا موازنہ۔ کثیر الوکیل طریقہ (multi-agent debate) مختلف شعبوں میں زیادہ درستگی ظاہر کرتا ہے، بشمول حقیقت پر مبنی سوالات (سوانح عمری)، علمی ٹیسٹ MMLU، شطرنج کی چالوں کی درستگی کی جانچ، حسابی مسائل کا حل، اسکول کی سطح کے ریاضی کے مسائل (GSM8K) اور بہترین شطرنج کی چال تلاش کرنا۔ گراف کے اعداد و شمار کے مطابق، مباحثہ خاص طور پر پیچیدہ حکمت عملی کے کاموں میں ماڈل کی صلاحیتوں کو تقویت دیتا ہے (مثلاً شطرنج میں بہترین چال تلاش کرنا) اور ریاضی کے حسابات اور حقائق سے متعلق سوالات میں غلطیوں کی شرح نمایاں طور پر کم کرتا ہے۔

کثیر الوکیل طریقے کا ایک اور فائدہ ماڈل کی اکیلی خود نگرانی کی حدود پر قابو پانا ہے۔ اکیلے LLM اکثر self-reflection (خود انعکاس) کی تکنیک استعمال کرتے ہیں، جب ماڈل خود اپنے ابتدائی جواب کا جائزہ لیتا ہے اور اسے درست کرتا ہے۔ تاہم یہ دریافت کیا گیا کہ اس طریقے میں «degeneration-of-thought» – فکر کے انحطاط کا مسئلہ ہوتا ہے: اگر ماڈل ابتدائی جواب پر یقین کر لے، تو خود جانچ کے وقت وہ اصولی طور پر کوئی نئے خیالات پیدا نہیں کرتا، چاہے ابتدائی حل غلط ہی کیوں نہ ہو۔ دوسرے الفاظ میں، ماڈل اپنے پہلے تیار کردہ حل میں پھنسنے اور متبادل کو مسترد کرنے کا رجحان رکھتا ہے۔ کثیر الوکیل مباحثے اس اثر کو ختم کرنے میں مدد کرتے ہیں: کئی برابر کے وکیل ابتدا میں مختلف فرضیے پیش کر سکتے ہیں اور پھر مسلسل ایک دوسرے کے دلائل کو چیلنج کر سکتے ہیں، جو غیر روایتی سوچ کے لیے تحریک دیتا ہے۔ Tian Liang اور ساتھیوں (EMNLP 2024) نے اپنے کثیر الوکیل خاکے کو MAD (Multi-Agent Debate) کا نام دیا اور ظاہر کیا کہ یہ واقعی ماڈلوں کی divergent (متنوع) سوچ کو ترغیب دیتا ہے اور گہری پروسیسنگ کی ضرورت والے کاموں میں نتائج بہتر کرتا ہے۔ ان کے نفاذ میں کئی وکیل «آنکھ کے بدلے آنکھ» کے اصول پر بحث کرتے ہیں (ہر ایک باری باری دوسرے کے دلائل کی مخالفت کرتا ہے)، اور عمل کے اوپر ایک معاون فیصل ہوتا ہے جو بحث کا انتظام کرتا ہے اور حتمی فیصلہ منتخب کرتا ہے۔ Liang اور ساتھیوں کے تجربات نے مشکل آزمائشی مجموعوں پر اس طریقے کی کارکردگی ظاہر کی – عقلِ عام ترجمے (ضمنی عقلِ عام کو مدنظر رکھتے ہوئے جملوں کا ترجمہ) اور ضدِ بدیہی حساب (بظاہر غیر منطقی شرائط کے ساتھ ریاضی کی پہیلیاں) میں کثیر الوکیل بحث نے معیاری طریقوں سے زیادہ درست جوابات دیے۔ تجزیے سے یہ بھی ظاہر ہوا کہ بہترین نتائج کے لیے مباحثوں کو لچک کے ساتھ روکنا چاہیے، انہیں بہت طویل نہ ہونے دیتے ہوئے، اور وکلاء کے درمیان صرف معتدل سطح کا تنازعہ برقرار رکھنا چاہیے – بہت جارحانہ یا اس کے برعکس بہت اتفاقی رویہ نتائج کو خراب کرتا ہے۔

کثیر الوکیل طریقہ نہ صرف سوال و جواب کے مخصوص کاموں میں مفید ثابت ہوا۔ یہ دیگر شعبوں میں بھی اطلاق پاتا ہے، مثلاً ماڈلوں کے محفوظ اور ہم آہنگ رویے کے لیے۔ کچھ تحقیقات وکلاء کے مباحثوں کو اعتدال اور قوانین وضع کرنے کے کاموں میں استعمال کرتی ہیں: کئی LLM بحث کر سکتے ہیں کہ آیا کوئی جواب اخلاقی معیارات کے اعتبار سے قابلِ قبول ہے، اور اس طرح reinforcement learning میں ایک دوسرے کو feedback فراہم کرتے ہیں۔ نوٹ کیا گیا ہے کہ مباحثے زیادہ نازک اور مدلل تشخیصی اشارے پیدا کر سکتے ہیں جو حفاظت اور افادیت کے لیے ماڈلوں کو fine-tune کرنے میں مدد دیتے ہیں۔ ملٹی موڈل کاموں تک پھیلاؤ کی کوششیں بھی کی گئی ہیں – مثلاً جب کچھ وکیل تصویر کی وضاحت کریں اور دوسرے وضاحت کی تصویر سے مطابقت جانچیں۔ Google کی کام (2024) میں اس طرح کی توسیع کی کامیابی ظاہر کی گئی: ملٹی موڈل طریقے نے خالص متنی اور ملٹی موڈل تصویر سمجھنے دونوں کاموں میں نتائج بہتر کیے، «عقلوں کی معاشرت» کی عالمگیریت کا مظاہرہ کیا۔ دلچسپ بات یہ ہے کہ مباحثے کے دوران تعامل کمزور ماڈلوں کی سطح بھی بلند کر سکتا ہے، جیسا کہ پہلے ذکر کیا گیا۔ مثلاً، جب مختلف طاقت کے LLM مشترکہ بحث میں حصہ لیتے ہیں، تو «کمزور ماڈل آہستہ آہستہ مضبوط ہوتے ہیں، طاقتور ماڈلوں سے کامیاب حکمت عملیاں سیکھتے ہوئے»۔ اس طرح کثیر الوکیل نظام نہ صرف پیش کردہ کام حل کرتا ہے، بلکہ ماڈلوں کے ایک دوسرے سے اجتماعی سیکھنے کے ایک خاص طریقہ کار کے طور پر بھی کام کرتا ہے۔

حدود اور کھلے مسائل

نمایاں فوائد کے باوجود، کثیر الوکیل مباحثے کئی مشکلات اور حدود کا سامنا کرتے ہیں۔ اہم ترین مسائل میں سے ایک اس طریقے کی زیادہ وسائل طلبی ہے۔ بحث کو منظم کرنے کے لیے بڑے ماڈلوں سے متعدد بار متن تیار کروانا ضروری ہے: اگر n وکیل T دوروں میں شریک ہوں تو LLM سے درخواستوں کی کل تعداد ایک جواب کی نسبت n x T گنا بڑھ جاتی ہے۔ مزید برآں، ہر دورانیے میں ماڈل کو نہ صرف اصل سوال بلکہ پچھلے تمام دوروں کی گفتگو (تمام وکلاء کے جوابات) بھی سیاق و سباق کے طور پر پروسیس کرنی ہوتی ہے۔ اس طرح، وکلاء اور دوروں کی تعداد بڑھنے کے ساتھ سیاق و سباق کے ان پٹ کا حجم تیزی سے بڑھتا ہے، جس سے context explosion کا اثر پیدا ہوتا ہے – سیاق و سباق کی کھڑکی بھر جاتی ہے اور پروسیسنگ کے اخراجات بڑھ جاتے ہیں۔ تجربات میں دیکھا گیا ہے کہ صرف 2-3 بحثی دوروں کا اضافہ بھی token کی سیاق و سباق کی کل تعداد کو نمایاں طور پر بڑھاتا ہے جو ماڈل کو پڑھنی ہوتی ہے، اور اس کے ساتھ جواب دینے کا وقت بھی۔ نظری طور پر حل کا معیار دوروں کی تعداد بڑھانے پر بہتر ہوتا ہے، لیکن عملی طور پر کئی کام چند دوروں کے بعد گھٹتی ہوئی واپسی کی اطلاع دیتے ہیں: اکثر زیادہ سے زیادہ اثر دوسرے تیسرے دورانیے میں حاصل ہو جاتا ہے، جس کے بعد مزید بحث سے دلائل کی تکرار یا سیاق و سباق کے سیر ہو جانے کی وجہ سے درستگی میں کمی بھی آ سکتی ہے۔ مثلاً، Xi اور ساتھیوں (2023) نے درستگی میں اضافہ صرف دوسرے دورانیے تک پایا، پھر کمی، اسی طرح Liu اور Li اور ساتھیوں (2024) نے تقریباً 4 دوروں میں معیار کے عروج کی اطلاع دی، جس کے بعد اضافی چکر صرف خلل ڈالتے ہیں۔ اس طرح، مباحثے کی بہترین مدت کا تعین آسان کام نہیں ہے: بہت مختصر بحث اجتماعی عقل کی پوری صلاحیت نہیں کھول سکتی، جبکہ بہت طویل بحث معلوماتی شور اور سیاق و سباق کی زیادتی پیدا کر سکتی ہے۔

ایک اور مسئلہ غلط جواب پر اجتماعی اتفاق رائے کے خطرات ہیں۔ اگر تمام وکلاء ملتا جلتا تجربہ رکھتے ہوں اور کسی حقیقت پر غلطی سے یقین رکھتے ہوں، تو وہ ایک دوسرے کی غلط فہمی کو مزید تقویت دے سکتے ہیں۔ گونج خانے کا اثر پیدا ہوتا ہے: مباحثے کے دوران ماڈل اتفاق رائے تک پہنچتے ہیں، لیکن اس لیے نہیں کہ انہوں نے سچائی پائی، بلکہ ابتدائی مشترکہ bias کی تصدیق کی وجہ سے۔ نظری نتائج (Estornell & Liu، 2024) اشارہ کرتے ہیں کہ یکساں ماڈلوں کے ساتھ مباحثے جمود میں لڑھک سکتے ہیں، بغیر کسی نئے خیال کے اکثریت کی رائے کو دہراتے رہتے ہیں۔ خاص طور پر خطرناک صورت وہ ہے جب یہ اکثریت کوئی مشترکہ غلطی رکھتی ہو، جو مثلاً تربیتی ڈیٹا میں موجود ہو – تو پوری بحث کا نتیجہ غلط نکلے گا۔ اس مسئلے پر قابو پانے کے لیے خصوصی مداخلت کے طریقے (diversity-pruning) تجویز کیے گئے ہیں: ہر دورانیے میں الگورتھمی طور پر بہت ملتے جلتے جوابات کو ہٹا دیا جاتا ہے، جس سے وکلاء کو زیادہ سے زیادہ معلوماتی entropy کے ساتھ مختلف متبادل پیدا کرنے کی ترغیب ملتی ہے۔ اس سے امکان کم ہو جاتا ہے کہ تمام جوابات ایک ہی غلطی کی تبدیلیاں ہوں۔ ایک اور تکنیک غلط فہمیوں کی شناخت اور تردید (misconception refutation) ہے: نظام وکلاء کے مشترکہ مفروضات کو خود بخود پہچاننے اور ان میں سے جو غلط ہو سکتے ہیں انہیں چیلنج کرنے کی کوشش کرتا ہے۔ Estornell & Liu کے کام میں ایسی تین مداخلتوں کا مجموعہ تجویز کیا گیا ہے – مذکورہ کے علاوہ quality-pruning (ہر مرحلے پر سب سے متعلقہ اور معیاری دلائل کا انتخاب) بھی شامل ہے – اور ظاہر کیا گیا کہ ان کا مجموعہ مباحثے کی کارکردگی نمایاں طور پر بڑھاتا ہے اور گونج خانے کے رجحان کو روکتا ہے۔

آخر میں یہ نوٹ کرنا ضروری ہے کہ کثیر الوکیل بحثوں کی استحکام اور پیش گوئی کی قابلیت ابھی مثالی سے دور ہے۔ کچھ تجربات میں مباحثے غیر مستحکم نتائج کی طرف لے گئے – ایک ہی بحث کی مختلف باریاں مختلف جوابوں پر ختم ہو سکتی ہیں، یا مجموعی جواب مباحثے کے بغیر اکیلے ماڈل سے بھی بدتر نکلتا۔ Wang اور ساتھیوں (2024) اور Smit اور ساتھیوں (2023) نے آزادانہ طور پر ایسے واقعات نوٹ کیے جب وکلاء کا اضافہ کارکردگی کو خراب کرتا تھا، جو مفید تنقید اور تخریبی تنازعوں کے درمیان نازک حد کی طرف اشارہ کرتا ہے۔ ان شرائط کی نشاندہی جن میں کثیر الوکیل طریقہ یقینی طور پر مفید ہو، تحقیق کا موضوع بنی ہوئی ہے۔ کھلے سوالات یہ ہیں: مباحثے کو کب روکنا اور جواب محفوظ کرنا ہے اس کا خودکار فیصلہ کیسے کیا جائے تاکہ فائدہ نہ کھویا جائے اور لامتناہی تنازعے میں نہ پھنسا جائے، اور مختلف قسم کے کاموں کے لیے اجتماعی فیصلہ سازی – خواہ ووٹنگ، اتفاق رائے یا بیرونی فیصل کے ذریعے – کیسے سب سے قابلِ اعتماد طریقے سے کی جائے۔ کثیر الوکیل نظاموں کی حفاظت اور قابلیتِ کنٹرول کا مسئلہ بھی اشد ضروری ہے: یہ یقینی بنانا ضروری ہے کہ وکیل مل کر ناپسندیدہ یا زہریلا مواد پیدا نہ کریں اور ایک دوسرے کے نقصاندہ رجحانات کو نہ بڑھائیں۔ یہ سوالات، خاص طور پر حفاظت اور پیمانہ کاری سے متعلق، موجودہ اور پیچیدہ تسلیم کیے گئے ہیں۔ جدید جائزے نوٹ کرتے ہیں کہ بحثوں کے لیے قابلِ اعتماد روکنے کے قوانین وضع کرنے، وکلاء اور دوروں کی تعداد بڑھانے پر طریقے کی پیمانہ کاری کا جائزہ لینے، اور اجتماعی طور پر حاصل کیے گئے جواب کی قابلِ اعتمادی اور صحت کی ضمانت دینے کے طریقے لاگو کرنے کے لیے مزید تحقیق کی ضرورت ہے۔ ان مسائل کا حل کثیر الوکیل مباحثوں کو زیادہ طاقتور اور عالمگیر آلے میں بدلنے کی اجازت دے گا تاکہ زیادہ ذہین اور محفوظ مصنوعی ذہانت کے نظام تشکیل دیے جا سکیں۔

حوالہ جات

• Improving Factuality and Reasoning in Language Models with Multiagent Debate — منصوبے کا صفحہ
• AI safety via debate — OpenAI کا اصل مضمون
• Improving Multi-Agent Debate with Sparse Communication Topology — رابطہ کاری کی اصلاح پر مضمون
• Literature Review Of Multi-Agent Debate For Problem-Solving — ادبیات کا جائزہ
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate — MAD پر مضمون
• Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions — NeurIPS 2024 مضمون

کتابیات

• Irving, G. et al. (2018). AI Safety via Debate. arXiv:1805.00899.
• Du, Y. et al. (2023). Improving Factuality and Reasoning in Language Models through Multiagent Debate. arXiv:2305.14325.
• Liang, T. et al. (2023). Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate. arXiv:2305.19118.
• Li, Y. et al. (2024). Improving Multi-Agent Debate with Sparse Communication Topology. arXiv:2406.11776.
• Guo, T. et al. (2024). Large Language Model based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Estornell, A.; Liu, Y. (2024). Multi-LLM Debate: Framework, Principals, and Interventions. NeurIPS 2024.
• Eo, S. et al. (2025). Debate Only When Necessary: Adaptive Multiagent Collaboration for Efficient LLM Reasoning. arXiv:2504.05047.
• Tillmann, A. (2025). Literature Review Of Multi-Agent Debate For Problem-Solving. arXiv:2506.00066.
• Cui, Y. et al. (2025). Efficient Leave-One-Out Approximation in LLM Multi-Agent Debate Based on Introspection. arXiv:2505.22192.
• La Malfa, E. et al. (2025). Large Language Models Miss the Multi-Agent Mark. arXiv:2505.21298.