Multi-agent prompting (CS)

Multiagentní prompting (angl. multi-agent prompting) — je metoda v oblasti prompt inženýrství a systémů umělé inteligence, při níž několik autonomních agentů založených na velkých jazykových modelech (LLM) vzájemně spolupracuje za účelem řešení složitých úloh prostřednictvím strukturované výměny instrukcí a odpovědí.

Jinými slovy, multiagentní systém se skládá z několika LLM agentů, kteří společně pracují na složitém požadavku uživatele a rozdělují fáze uvažování (subtasks) mezi agenty s různými „rolemi" a kompetencemi. Hlavním cílem tohoto přístupu je překonat omezení jednotlivého modelu při náročných úlohách prostřednictvím kolektivního řešení. Použití několika vzájemně spolupracujících agentů má zvýšit kvalitu uvažování, faktickou přesnost a spolehlivost odpovědi. Důležitou vlastností je přísná instruktivnost: každému LLM je přidělena určitá role nebo úkol v rámci celkového schématu řešení.

Metody a architektonické vzory

Výzkumníci navrhli řadu schémat multiagentního promptingu, které se liší povahou interakce agentů a jejich rolemi.

Rolové expertní modelování

Jeden nebo více agentů je určeno jako doménoví experti s úzkou specializací. Například v multiagentní skupině mohou různí agenti zastupovat různé oblasti znalostí (fyzik, chemik, biolog) nebo různé fáze řešení úlohy (plánovač, vykonavatel, kritik). Tento přístup umožňuje efektivní few-shot prompting, při němž každý agent-expert získává demonstrační příklady ze své oblasti, čímž se zlepšuje celkový výkon.

Samooprava a kritika (Self-reflection)

Agent může vystupovat v roli „kritika" nebo reflektovat řešení jiného agenta či vlastní předchozí odpovědi. Strategie self-reflection nebo self-refinement spočívá v tom, že LLM nejprve vygeneruje odpověď a poté stejný nebo jiný model tuto odpověď analyzuje a opravuje chyby v ní. To umožňuje iterativně zlepšovat výsledný výstup.

Debaty mezi agenty

Konkurenční varianta multiagentního promptingu, která spočívá v organizaci diskuse nebo sporu mezi několika LLM. Ve schématu LLM-Debate dva nebo více agentů debatují o správné odpovědi na úlohu (například matematickou) a kritizují navzájem své argumenty. Tento debatní formát zlepšuje schopnost modelu logicky uvažovat a zvyšuje faktickou přesnost odpovědí ve srovnání s jednotlivým řešením.

Plánování a dekompozice úloh

Jeden agent plní funkci plánovače, který složitý požadavek rozděluje na posloupnost kroků nebo dílčích úloh, jež jsou následně řešeny jím samým nebo jinými agenty. Metody jako ReAct a Reflexion realizují podobný princip iterativního plánování se zpětnou vazbou. LLM nejprve generuje plán řešení, než přistoupí k jeho realizaci, což pomáhá zvládat dlouhé řetězce uvažování.

Vícepersonální spolupráce

Místo různých modelů lze použít jeden a tentýž LLM a přimět jej, aby „hrál" několik agentů s různými personálními nastaveními nebo úhly pohledu. V přístupu multi-persona self-collaboration jeden model v průběhu dialogu postupně přijímá několik rolí a vede diskusi jakoby sám se sebou. Ačkoliv výzkumy ukazují, že samostatní nezávislí agenti zajišťují vyšší efektivitu, tato metoda umožňuje simulovat tým expertů uvnitř jednoho LLM.

Využití a výsledky

Přístup multiagentního promptingu prokázal svou účinnost v řadě oblastí, kde se jednotlivé LLM dříve potýkaly s obtížemi.

Matematické a logické uvažování

Použití více agentů výrazně zvyšuje přesnost u úloh vyžadujících víceúrovňový odvod (složitá aritmetika, matematické důkazy, logické hádanky). V práci Du et al. (2023) multiagentní „debatní" přístup zlepšil výsledek ve srovnání s jednotlivým agentem. Analýza ukázala, že s rostoucím počtem agentů zapojených do diskuse přesnost odpovědi roste.

Vědecké a technické úlohy

Pro složité odborné problémy (fyzika, chemie) byla navržena metoda CoMM (Collaborative Multi-Agent, Multi-Reasoning-Path Prompting), při níž několik LLM agentů s různými rolemi (experti) paralelně uplatňují různé strategie uvažování. Při testech na úlohách z fyziky na vysokoškolské úrovni CoMM výrazně překonal základní přístupy jako chain-of-thought, přičemž docházelo k méně chybám ve vzorcích a výpočtech.

Generování a ladění kódu

V oblasti programování jsou multiagentní systémy využívány ke zvýšení kvality kódu a snížení počtu chyb. Systém PromptV používá několik agentů pro postupné psaní, kontrolu a opravy kódu v jazyce Verilog. Rozdělení rolí (generování, revize, testování) zlepšilo schopnost modelu odhalovat a opravovat chyby, v důsledku čehož podíl úspěšně kompilovaných řešení vzrostl na 96,5 % na jednom z benchmarků.

Vyhledávání a analýza informací

Multiagentní systémy jsou zvláště užitečné pro otevřené, špatně strukturované dotazy. Společnost Anthropic vyvinula multiagentní režim pro model Claude určený pro webový výzkum. V tomto systému vedoucí agent analyzuje dotaz a vytváří několik paralelních agentů-dílčích úloh, z nichž každý provádí vyhledávání různých aspektů tématu. Tato architektura si poradila se složitými vyhledávacími dotazy o 90 % lépe ve srovnání s jedním modelem Claude.

Klasifikace textu a NLP úlohy

Pro NLP úlohy byl vyvinut principiálně orientovaný prompting (Principle-Based Prompting). V této metodice LLM agenti nejprve generují sadu „principů" (pravidel řešení), poté finalizující agent vybere ty nejlepší, na jejichž základě jiný agent provede klasifikaci. Tento přístup zvýšil metriku macro-F1 o 1,5–19 % ve srovnání se základními metodami, čímž se kvalitou přiblížil klasickému učení na příkladech (few-shot).

Omezení a problémy

Výpočetní složitost a náklady

Hlavní nevýhodou je výrazně vzrostlá výpočetní zátěž. Každý agent vyžaduje vlastní generační relaci, což vede ke značné spotřebě tokenů a zdrojů. Podle údajů Anthropic jejich systém spotřebovává v průměru 4× více tokenů na jeden dialog, v některých případech až 15×. To činí využití tohoto přístupu opodstatněným pouze pro úlohy s vysokou hodnotou.

Složitost návrhu a koordinace

Pro úspěšný provoz je nutné pečlivé inženýrské nastavení promptů: je třeba přesně definovat roli každého agenta, formát výměny zpráv a kritéria ukončení. V opačném případě mohou agenti duplicitně vykonávat práci, upadat do nekonečného vyhledávání nebo vytvářet zbytečné dílčí úlohy.

Bezpečnost a spolehlivost

Objevují se nové vektory útoků. Výzkumníci demonstrovali jev Prompt Infection (nakažení promptu), kdy škodlivý fragment instrukce od jednoho agenta se přenáší na jiného a šíří se celým řetězcem uvažování jako virus. Takový útok LLM-to-LLM odhaluje zranitelnost multiagentních systémů vůči skrytým injekcím a manipulacím, což vyžaduje vývoj zvláštních ochranných opatření, například označování výstupu každého agenta (LLM Tagging).

Odkazy

• «How we built our multi-agent research system» — podrobný rozbor od Anthropic
• «More Agents Is All You Need» — vědecký článek o efektivitě ansámblů agentů

Literatura

• Chen, P. et al. (2024). CoMM: Collaborative Multi-Agent, Multi-Reasoning-Path Prompting for Complex Problem Solving. arXiv:2404.17729.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Mi, Y. et al. (2024). PromptV: Leveraging LLM-Powered Multi-Agent Prompting for High-Quality Verilog Generation. arXiv:2412.11014.
• Wei, P. et al. (2024). Don't Just Demo, Teach Me the Principles: A Principle-Based Multi-Agent Prompting Strategy for Text Classification. arXiv:2502.07165.
• Lee, D.; Tiwari, A. (2024). Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems. arXiv:2410.07283.
• Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
• Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Li, G. et al. (2024). Multi-LLM Debate: Framework, Principles, and Interventions. PDF.
• Du, N. et al. (2023). Improving Factuality and Reasoning in Language Models through Multi-Agent Debate. arXiv:2305.14325.