Multi-agent prompting (RO)

Prompting multi-agent (engl. multi-agent prompting) — este o metodă în ingineria prompturilor și în sistemele de inteligență artificială, prin care mai mulți agenți autonomi bazați pe modele lingvistice mari (LLM) interacționează între ei pentru a rezolva sarcini complexe printr-un schimb structurat de instrucțiuni și răspunsuri.

Cu alte cuvinte, un sistem multi-agent este format din mai mulți agenți LLM care lucrează împreună la o solicitare complexă a utilizatorului, distribuind etapele de raționament (subtasks) între agenți cu „roluri" și competențe diferite. Scopul principal al acestei abordări este de a depăși limitările unui model individual în sarcini complexe prin rezolvare colectivă. Utilizarea mai multor agenți care interacționează urmărește să îmbunătățească calitatea raționamentului, acuratețea factuală și fiabilitatea răspunsului. O caracteristică importantă este caracterul strict instructiv: fiecărui LLM îi este atribuită un rol sau o sarcină specifică în cadrul schemei generale de soluționare.

Metode și tipare arhitecturale

Cercetătorii au propus o serie de scheme de prompting multi-agent, care diferă prin natura interacțiunii dintre agenți și prin rolurile acestora.

Modelare prin experți cu roluri

Unul sau mai mulți agenți sunt desemnați ca experți de domeniu cu specializare îngustă. De exemplu, într-un grup multi-agent, diferiți agenți pot reprezenta domenii diferite de cunoaștere (fizician, chimist, biolog) sau etape diferite ale rezolvării sarcinii (planificator, executant, critic). Această abordare permite implementarea eficientă a prompting-ului few-shot, în care fiecare agent-expert primește exemple-demonstrații din domeniul său, îmbunătățind performanța generală.

Autocorectare și critică (Self-reflection)

Agentul poate acționa în rolul unui „critic" sau poate reflecta asupra soluțiilor altui agent ori asupra propriilor răspunsuri anterioare. Strategia self-reflection sau self-refinement constă în faptul că LLM generează mai întâi un răspuns, iar apoi același model sau altul analizează și corectează erorile din acel răspuns. Aceasta permite îmbunătățirea iterativă a rezultatului final.

Dezbateri între agenți

O variantă competitivă a prompting-ului multi-agent, care constă în organizarea unei discuții sau dispute între mai multe LLM-uri. În schema LLM-Debate, doi sau mai mulți agenți dezbat răspunsul corect la o sarcină (de exemplu, matematică) și critică argumentele celorlalți. Acest format de dezbatere îmbunătățește capacitatea modelului de raționament logic și crește acuratețea factuală a răspunsurilor față de soluția individuală.

Planificare și descompunere a sarcinilor

Un agent îndeplinește funcția de planificator, împărțind solicitarea complexă într-o secvență de pași sau subsarcini, care sunt apoi rezolvate de el însuși sau de alți agenți. Metodologiile precum ReAct și Reflexion implementează un astfel de principiu de planificare iterativă cu feedback. LLM generează mai întâi un plan de soluționare înainte de a trece la execuția acestuia, ceea ce ajută la gestionarea lanțurilor lungi de raționament.

Colaborare multi-personală

În loc de modele diferite, se poate folosi același LLM, determinându-l să „interpreteze" mai mulți agenți cu configurații personale sau puncte de vedere diferite. În abordarea multi-persona self-collaboration, un singur model preia pe rând mai multe roluri în cursul dialogului și poartă o discuție parcă cu sine însuși. Deși cercetările arată că agenții independenți separați oferă o eficiență mai mare, această metodă permite simularea unei echipe de experți în interiorul unui singur LLM.

Aplicații și rezultate

Abordarea prompting-ului multi-agent și-a demonstrat eficiența în mai multe domenii în care LLM-urile individuale se confruntau anterior cu dificultăți.

Raționament matematic și logic

Utilizarea mai multor agenți îmbunătățește semnificativ acuratețea la sarcinile care necesită inferențe în mai mulți pași (aritmetică complexă, demonstrații matematice, puzzle-uri logice). În lucrarea Du et al. (2023), abordarea „dezbaterii" multi-agent a îmbunătățit rezultatul față de agentul individual. Analiza a arătat că, pe măsură ce numărul de agenți participanți la discuție crește, acuratețea răspunsului sporește.

Sarcini științifice și tehnice

Pentru probleme complexe de domeniu (fizică, chimie) a fost propusă metoda CoMM (Collaborative Multi-Agent, Multi-Reasoning-Path Prompting), în care mai mulți agenți LLM cu roluri diferite (experți) aplică în paralel strategii diferite de raționament. În testele pe sarcini de fizică de nivel universitar, CoMM a depășit semnificativ abordările de bază precum chain-of-thought, comițând mai puține erori în formule și calcule.

Generarea și depanarea codului

În domeniul programării, sistemele multi-agent sunt utilizate pentru îmbunătățirea calității codului și reducerea numărului de erori. Sistemul PromptV utilizează mai mulți agenți pentru scrierea, verificarea și corectarea secvențială a codului Verilog. Distribuirea rolurilor (generare, revizuire, testare) a îmbunătățit capacitatea modelului de a detecta și corecta erorile, rezultând o rată de soluții care se compilează cu succes de 96,5% pe unul dintre benchmark-uri.

Căutarea și analiza informațiilor

Sistemele multi-agent sunt deosebit de utile pentru interogări deschise, slab structurate. Compania Anthropic a dezvoltat un mod multi-agent pentru modelul Claude, destinat cercetărilor web. În acest sistem, agentul principal analizează solicitarea și generează mai mulți agenți paraleli pentru subsarcini, fiecare efectuând căutări pe diferite aspecte ale subiectului. O astfel de arhitectură a gestionat cu 90% mai eficient întrebările de căutare complexe față de un singur model Claude.

Clasificarea textului și sarcinile NLP

Pentru sarcinile NLP a fost elaborat prompting-ul orientat pe principii (Principle-Based Prompting). În această metodologie, agenții LLM generează mai întâi un set de „principii" (reguli de soluționare), iar apoi un agent finalizator selectează cele mai bune dintre ele, pe baza cărora un alt agent efectuează clasificarea. Această abordare a îmbunătățit metrica macro-F1 cu 1,5–19% față de metodele de bază, apropiindu-se ca performanță de antrenarea clasică pe exemple (few-shot).

Limitări și probleme

Complexitate computațională și costuri

Principalul dezavantaj este creșterea bruscă a sarcinii computaționale. Fiecare agent necesită propria sesiune de generare, ceea ce duce la un consum semnificativ de token-uri și resurse. Potrivit datelor Anthropic, sistemul lor consumă în medie de 4 ori mai multe token-uri per conversație, iar în unele cazuri — de până la 15 ori mai multe. Aceasta face ca aplicarea abordării să fie justificată doar pentru sarcini de valoare ridicată.

Complexitatea proiectării și coordonării

Pentru funcționarea cu succes este necesară o inginerie atentă a prompturilor: trebuie definite clar rolul fiecărui agent, formatul schimbului de mesaje și criteriile de oprire. În caz contrar, agenții pot duplica munca, pot intra în căutări infinite sau pot crea subsarcini inutile.

Securitate și fiabilitate

Apar noi vectori de atac. Cercetătorii au demonstrat fenomenul Prompt Infection (infectarea promptului), când un fragment malițios de instrucțiune de la un agent se transmite altuia, propagându-se de-a lungul întregului lanț de raționament precum un virus. Un astfel de atac LLM-to-LLM evidențiază vulnerabilitatea sistemelor multi-agent la injecții ascunse și manipulări, ceea ce impune dezvoltarea unor măsuri speciale de protecție, de exemplu marcarea outputului fiecărui agent (LLM Tagging).

Referințe

• «How we built our multi-agent research system» — analiză detaliată de la Anthropic
• «More Agents Is All You Need» — articol științific despre eficiența ansamblurilor de agenți

Bibliografie

• Chen, P. et al. (2024). CoMM: Collaborative Multi-Agent, Multi-Reasoning-Path Prompting for Complex Problem Solving. arXiv:2404.17729.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Mi, Y. et al. (2024). PromptV: Leveraging LLM-Powered Multi-Agent Prompting for High-Quality Verilog Generation. arXiv:2412.11014.
• Wei, P. et al. (2024). Don't Just Demo, Teach Me the Principles: A Principle-Based Multi-Agent Prompting Strategy for Text Classification. arXiv:2502.07165.
• Lee, D.; Tiwari, A. (2024). Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems. arXiv:2410.07283.
• Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
• Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Li, G. et al. (2024). Multi-LLM Debate: Framework, Principles, and Interventions. PDF.
• Du, N. et al. (2023). Improving Factuality and Reasoning in Language Models through Multi-Agent Debate. arXiv:2305.14325.