Multi-agent prompting (FA)

From Systems analysis Wiki
Jump to navigation Jump to search

پرامپت‌دهی چندعاملی (به انگلیسی: multi-agent prompting) روشی در مهندسی prompt و سیستم‌های هوش مصنوعی است که در آن چندین عامل خودمختار مبتنی بر مدل‌های زبانی بزرگ (LLM) برای حل وظایف پیچیده از طریق تبادل ساختاریافتۀ دستورالعمل‌ها و پاسخ‌ها با یکدیگر تعامل می‌کنند[1].

به بیان دیگر، یک سیستم چندعاملی از چندین LLM-agent تشکیل شده که به‌صورت مشترک روی درخواست پیچیدۀ کاربر کار می‌کنند و مراحل استدلال (subtasks) را میان عامل‌هایی با «نقش‌ها» و شایستگی‌های مختلف توزیع می‌کنند. هدف اصلی این رویکرد، غلبه بر محدودیت‌های یک مدل منفرد در وظایف دشوار از طریق حل جمعی است. استفاده از چندین عامل تعامل‌گر برای بهبود کیفیت استدلال، دقت واقعی و اطمینان‌پذیری پاسخ طراحی شده است[2]. ویژگی مهم این رویکرد، دستورالعمل‌محوری دقیق است: به هر LLM نقش یا وظیفه‌ای مشخص در چارچوب طرح کلی حل مسئله اختصاص می‌یابد.

روش‌ها و الگوهای معماری

پژوهشگران چندین طرح پرامپت‌دهی چندعاملی پیشنهاد داده‌اند که از نظر ماهیت تعامل عامل‌ها و نقش‌هایشان با یکدیگر تفاوت دارند.

مدل‌سازی تخصصی نقش‌محور

یک یا چند عامل به‌عنوان متخصصان حوزه‌ای با تخصص محدود تعیین می‌شوند. برای مثال، در یک گروه چندعاملی، عامل‌های مختلف می‌توانند نمایندۀ حوزه‌های دانشی متفاوت (فیزیکدان، شیمیدان، زیست‌شناس) یا مراحل مختلف حل مسئله (برنامه‌ریز، مجری، منتقد) باشند[1]. این رویکرد امکان پیاده‌سازی مؤثر few-shot prompting را فراهم می‌کند، جایی که هر عامل-متخصص نمونه‌های نمایشی در حوزۀ خود دریافت می‌کند و عملکرد کلی را بهبود می‌بخشد.

خودتصحیحی و نقد (Self-reflection)

یک عامل می‌تواند نقش «منتقد» را ایفا کند یا بر راه‌حل‌های عامل دیگر یا پاسخ‌های قبلی خود تأمل کند. راهبرد self-reflection یا self-refinement از این قرار است که LLM ابتدا پاسخی تولید می‌کند، سپس همان مدل یا مدل دیگری آن پاسخ را تحلیل و خطاها را تصحیح می‌کند[1]. این امر امکان بهبود تکراری نتیجۀ نهایی را فراهم می‌سازد.

مناظره میان عامل‌ها

گونۀ رقابتی پرامپت‌دهی چندعاملی است که سازماندهی بحث یا مجادله میان چندین LLM را در بر می‌گیرد. در طرح LLM-Debate، دو یا چند عامل دربارۀ پاسخ درست یک مسئله (مثلاً ریاضی) بحث می‌کنند و استدلال‌های یکدیگر را نقد می‌کنند[3]. این قالب مناظره‌ای توانایی مدل در استدلال منطقی را بهبود می‌بخشد و دقت واقعی پاسخ‌ها را در مقایسه با حل انفرادی افزایش می‌دهد.

برنامه‌ریزی و تجزیۀ وظایف

یک عامل نقش برنامه‌ریز را ایفا می‌کند و درخواست پیچیده را به دنباله‌ای از گام‌ها یا زیروظایف تقسیم می‌کند که سپس توسط خودش یا عامل‌های دیگر حل می‌شوند. روش‌هایی مانند ReAct و Reflexion این اصل برنامه‌ریزی تکراری با بازخورد را پیاده‌سازی می‌کنند. LLM ابتدا طرح حل را تولید می‌کند، پیش از اینکه به اجرای آن بپردازد، که این امر در مقابله با زنجیره‌های استدلالی طولانی کمک می‌کند[1].

همکاری چندشخصیتی

به‌جای مدل‌های متفاوت، می‌توان از یک LLM یکسان استفاده کرد و آن را وادار کرد تا چندین عامل با تنظیمات شخصیتی یا دیدگاه‌های متفاوت را «بازی» کند. در رویکرد multi-persona self-collaboration، یک مدل در جریان گفتگو به‌تدریج چندین نقش را بر عهده می‌گیرد و گویی با خودش بحث می‌کند. اگرچه پژوهش‌ها نشان می‌دهند عامل‌های مستقل جداگانه کارایی بالاتری دارند، این روش امکان شبیه‌سازی یک تیم متخصص درون یک LLM را فراهم می‌کند[1].

کاربردها و نتایج

رویکرد پرامپت‌دهی چندعاملی اثربخشی خود را در حوزه‌هایی نشان داده که LLM‌های منفرد پیش از این با دشواری‌هایی مواجه بودند.

استدلال ریاضی و منطقی

استفاده از چندین عامل دقت را در وظایفی که نیازمند استنتاج چندمرحله‌ای هستند (حساب پیچیده، اثبات‌های ریاضی، معماهای منطقی) به‌طور قابل توجهی افزایش می‌دهد. در پژوهش Du et al. (2023)، رویکرد چندعاملی «مناظره‌ای» نتیجه را در مقایسه با عامل منفرد بهبود بخشید. تحلیل نشان داد که با افزایش تعداد عامل‌های شرکت‌کننده در بحث، دقت پاسخ افزایش می‌یابد[3].

مسائل علمی و فنی

برای مشکلات موضوعی پیچیده (فیزیک، شیمی)، روش CoMM (Collaborative Multi-Agent, Multi-Reasoning-Path Prompting) پیشنهاد شده است که در آن چندین LLM-agent با نقش‌های متفاوت (متخصصان) راهبردهای استدلالی متنوعی را به‌صورت موازی به‌کار می‌گیرند. در آزمون‌های مربوط به مسائل فیزیک سطح دانشگاهی، CoMM به‌طور قابل ملاحظه‌ای رویکردهای پایه مانند chain-of-thought را پشت سر گذاشت و خطاهای کمتری در فرمول‌ها و محاسبات داشت[1].

تولید و اشکال‌زدایی کد

در حوزۀ برنامه‌نویسی، سیستم‌های چندعاملی برای بهبود کیفیت کد و کاهش تعداد خطاها به‌کار می‌روند. سیستم PromptV از چندین عامل برای نوشتن، بررسی و تصحیح متوالی کد Verilog استفاده می‌کند. توزیع نقش‌ها (تولید، بازبینی، آزمایش) توانایی مدل در شناسایی و رفع خطاها را بهبود بخشید و در نتیجه نسبت راه‌حل‌هایی که با موفقیت کامپایل شدند در یکی از benchmark‌ها به 96.5% رسید[4].

جستجو و تحلیل اطلاعات

سیستم‌های چندعاملی به‌ویژه برای درخواست‌های باز و کم‌ساختار مفید هستند. شرکت Anthropic یک حالت چندعاملی برای مدل Claude طراحی کرده که برای پژوهش وب در نظر گرفته شده است. در این سیستم، عامل اصلی درخواست را تحلیل می‌کند و چندین عامل-زیروظیفۀ موازی ایجاد می‌کند که هر کدام جستجو را در جنبه‌های مختلف موضوع انجام می‌دهند. این معماری در مقایسه با یک مدل Claude منفرد، 90% بهتر با سؤالات جستجوی پیچیده کنار می‌آمد[2].

طبقه‌بندی متن و وظایف NLP

برای وظایف NLP، پرامپت‌دهی اصول‌محور (Principle-Based Prompting) توسعه یافته است. در این روش، LLM-agentها ابتدا مجموعه‌ای از «اصول» (قواعد حل) تولید می‌کنند، سپس عامل نهایی‌کننده بهترین‌های آن‌ها را انتخاب می‌کند و بر اساس آن‌ها، عامل دیگری طبقه‌بندی را انجام می‌دهد. این رویکرد معیار macro-F1 را 1.5 تا 19% در مقایسه با روش‌های پایه افزایش داد و از نظر کیفیت به آموزش کلاسیک بر اساس نمونه (few-shot) نزدیک شد[5].

محدودیت‌ها و مشکلات

پیچیدگی محاسباتی و هزینه‌ها

عیب اصلی، افزایش شدید بار محاسباتی است. هر عامل به جلسۀ تولید جداگانه‌ای نیاز دارد که منجر به مصرف قابل توجه token و منابع می‌شود. بر اساس داده‌های Anthropic، سیستم آن‌ها به‌طور میانگین 4 برابر بیشتر token در هر گفتگو مصرف می‌کند و در برخی موارد تا 15 برابر بیشتر[2]. این امر استفاده از این رویکرد را تنها برای وظایف با ارزش بالا توجیه‌پذیر می‌سازد.

پیچیدگی طراحی و هماهنگی

برای عملکرد موفق، تنظیم مهندسی دقیق prompt‌ها لازم است: باید نقش هر عامل، قالب تبادل پیام‌ها و معیارهای توقف به‌روشنی تعریف شوند. در غیر این صورت، عامل‌ها ممکن است کارها را تکرار کنند، در جستجوی بی‌پایان گرفتار شوند یا زیروظایف بی‌فایده ایجاد کنند[2].

امنیت و اطمینان‌پذیری

بردارهای حملۀ جدیدی پدیدار شده‌اند. پژوهشگران پدیدۀ Prompt Infection (آلودگی prompt) را نشان داده‌اند که در آن یک قطعۀ دستورالعمل مخرب از یک عامل به عامل دیگر منتقل می‌شود و مانند ویروس در سراسر زنجیرۀ استدلال گسترش می‌یابد. این حملۀ LLM-to-LLM آسیب‌پذیری سیستم‌های چندعاملی را در برابر تزریق‌های پنهان و دستکاری‌ها نشان می‌دهد که توسعۀ اقدامات حفاظتی ویژه، مانند برچسب‌گذاری خروجی هر عامل (LLM Tagging)، را ضروری می‌سازد[6].

پیوندها

  • «How we built our multi-agent research system» — تحلیل تفصیلی از Anthropic
  • «More Agents Is All You Need» — مقالۀ علمی دربارۀ اثربخشی مجموعه‌های عاملی

منابع

  • Chen, P. et al. (2024). CoMM: Collaborative Multi-Agent, Multi-Reasoning-Path Prompting for Complex Problem Solving. arXiv:2404.17729.
  • Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
  • Mi, Y. et al. (2024). PromptV: Leveraging LLM-Powered Multi-Agent Prompting for High-Quality Verilog Generation. arXiv:2412.11014.
  • Wei, P. et al. (2024). Don't Just Demo, Teach Me the Principles: A Principle-Based Multi-Agent Prompting Strategy for Text Classification. arXiv:2502.07165.
  • Lee, D.; Tiwari, A. (2024). Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems. arXiv:2410.07283.
  • Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
  • Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155.
  • Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
  • Li, G. et al. (2024). Multi-LLM Debate: Framework, Principles, and Interventions. PDF.
  • Du, N. et al. (2023). Improving Factuality and Reasoning in Language Models through Multi-Agent Debate. arXiv:2305.14325.

یادداشت‌ها

  1. 1.0 1.1 1.2 1.3 1.4 1.5 Chen, Y. et al. «CoMM: Collaborative Multi-Agent, Multi-Reasoning-Path Prompting for Complex Problem Solving». arXiv, 2024. [۱]
  2. 2.0 2.1 2.2 2.3 «How we built our multi-agent research system». Anthropic. [۲]
  3. 3.0 3.1 Li, G. et al. «More Agents Is All You Need». arXiv, 2024. [۳]
  4. Mi, Y. et al. «PromptV: Leveraging LLM-powered Multi-Agent Prompting for High-quality Verilog Generation». ResearchGate, 2024. [۴]
  5. Wei, J. et al. «Don't Just Demo, Teach Me the Principles: A Principle-Based Multi-Agent Prompting Strategy for Text Classification». arXiv, 2024. [۵]
  6. Lee, K. & Tiwari, A. «Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems». OpenReview, 2024. [۶]