Multi-agent prompting (TL)

Multi-agent prompting (Ingles: multi-agent prompting) — ito ay isang pamamaraan sa prompt engineering at mga sistema ng artificial intelligence, kung saan ang ilang autonomous na ahente batay sa malalaking language model (LLM) ay nakikipag-ugnayan sa isa't isa upang malutas ang mga kumplikadong gawain sa pamamagitan ng istirukturarang pagpapalitan ng mga instruksyon at tugon.

Sa ibang salita, ang isang multi-agent na sistema ay binubuo ng ilang LLM-ahente na nagtutulungan sa isang kumplikadong kahilingan ng gumagamit, ibinahagi ang mga yugto ng pangangatuwiran (subtasks) sa pagitan ng mga ahente na may iba't ibang "papel" at kakayahan. Ang pangunahing layunin ng pamamaraang ito ay malampasan ang mga limitasyon ng isang solong modelo sa mahahirap na gawain sa pamamagitan ng kolektibong paglutas. Ang paggamit ng ilang nakikipag-ugnayan na ahente ay nilalayon na mapabuti ang kalidad ng pangangatuwiran, katumpakan ng mga katotohanan, at pagiging maaasahan ng sagot. Ang isang mahalagang katangian ay ang mahigpit na pagbibigay ng instruksyon: ang bawat LLM ay itinalaga ng isang tiyak na papel o gawain sa loob ng pangkalahatang balangkas ng paglutas.

Mga Pamamaraan at Arkitekturang Pattern

Iminungkahi ng mga mananaliksik ang ilang mga iskema ng multi-agent prompting, na naiiba sa likas ng pakikipag-ugnayan ng mga ahente at sa kanilang mga papel.

Pagmomodelo ng Papel ng Eksperto

Ang isa o ilang ahente ay itinatalaga bilang mga domain expert na may makitid na espesyalisasyon. Halimbawa, sa isang multi-agent na grupo, maaaring kumatawan ang iba't ibang ahente sa iba't ibang larangan ng kaalaman (pisiko, kimiko, biologo) o sa iba't ibang yugto ng paglutas ng problema (tagaplano, tagapagsagawa, kritiko). Ang pamamaraang ito ay nagbibigay-daan sa epektibong few-shot prompting, kung saan ang bawat ahente-eksperto ay tumatanggap ng mga halimbawa-demonstrasyon sa sarili nitong larangan, na nagpapabuti ng pangkalahatang pagganap.

Sariling Pagwawasto at Pagpuna (Self-reflection)

Ang isang ahente ay maaaring gumanap bilang isang "kritiko" o mag-reflect sa mga solusyon ng ibang ahente o sa sarili nitong mga nakaraang sagot. Ang estratehiya ng self-reflection o self-refinement ay binubuo ng: unang bumubuo ang LLM ng sagot, at pagkatapos ay sinusuri at inaayos ng parehong modelo o ng ibang modelo ang mga pagkakamali sa sagot na iyon. Nagbibigay-daan ito na paulit-ulit na mapabuti ang panghuling resulta.

Debate sa Pagitan ng mga Ahente

Isang mapagkumpitensyang variant ng multi-agent prompting, na kumakatawan sa organisasyon ng diskusyon o debate sa pagitan ng ilang LLM. Sa iskema ng LLM-Debate, dalawa o higit pang mga ahente ang nagtatalo tungkol sa tamang sagot sa isang gawain (halimbawa, matematikal) at pinupuna ang mga argumento ng isa't isa. Ang format ng debate na ito ay nagpapabuti ng kakayahan ng modelo sa lohikal na pangangatuwiran at nagpapataas ng katumpakan ng mga katotohanang sagot kumpara sa isang solong solusyon.

Pagpaplano at Dekomposisyon ng mga Gawain

Isang ahente ang gumaganap bilang tagaplano, hinahati ang isang kumplikadong kahilingan sa isang pagkakasunud-sunod ng mga hakbang o subtask, na pagkatapos ay nireresulba ng mismong ahente o ng iba pang mga ahente. Ang mga pamamaraan tulad ng ReAct at Reflexion ay nagpapatupad ng katulad na prinsipyo ng iterative na pagpaplano na may feedback. Unang bumubuo ang LLM ng plano ng solusyon bago magsimulang ipatupad ito, na nakakatulong sa pagharap sa mahabang mga kadena ng pangangatuwiran.

Multi-persona na Pakikipagtulungan

Sa halip na iba't ibang modelo, maaaring gumamit ng iisang LLM, na pinapaglaruan nito ang ilang ahente na may iba't ibang personal na setting o pananaw. Sa pamamaraang multi-persona self-collaboration, ang isang modelo sa kurso ng diyalogo ay sunud-sunod na tumatanggap ng ilang papel at nagtatalo na parang sa kanyang sarili. Bagaman ipinapakita ng pananaliksik na ang magkahiwalay na independyenteng mga ahente ay nagbibigay ng mas mataas na kahusayan, ang pamamaraang ito ay nagpapahintulot na tularan ang isang koponan ng mga eksperto sa loob ng isang LLM.

Aplikasyon at mga Resulta

Ipinakita ng pamamaraan ng multi-agent prompting ang bisa nito sa ilang larangan kung saan ang mga solong LLM ay dati nang nakakaranas ng mga kahirapan.

Matematikal at Lohikal na Pangangatuwiran

Ang paggamit ng ilang ahente ay kapansin-pansing nagpapataas ng katumpakan sa mga gawaing nangangailangan ng multi-step na paghinuha (kumplikadong aritmetika, mga matematikal na patunay, mga lohikal na palaisipan). Sa pag-aaral ni Du et al. (2023), ang multi-agent na "debate" na pamamaraan ay nagpabuti ng resulta kumpara sa isang solong ahente. Ipinakita ng pagsusuri na habang dumadami ang bilang ng mga ahenteng kalahok sa diskusyon, tumataas ang katumpakan ng sagot.

Siyentipiko at Teknikal na mga Gawain

Para sa mga kumplikadong paksa (pisika, kimika), iminungkahi ang pamamaraang CoMM (Collaborative Multi-Agent, Multi-Reasoning-Path Prompting), kung saan ang ilang LLM-ahente na may iba't ibang papel (mga eksperto) ay nag-aaplay ng iba't ibang estratehiya ng pangangatuwiran nang sabay-sabay. Sa mga pagsubok sa mga gawaing pisika sa antas ng kolehiyo, kapansin-pansing nalampasan ng CoMM ang mga pangunahing pamamaraan tulad ng chain-of-thought, na nakakagawa ng mas kaunting pagkakamali sa mga pormula at kalkulasyon.

Pagbuo at Pag-debug ng Code

Sa larangan ng programming, ginagamit ang mga multi-agent na sistema upang mapabuti ang kalidad ng code at mabawasan ang bilang ng mga pagkakamali. Ginagamit ng sistema ng PromptV ang ilang ahente para sa sunud-sunod na pagsulat, pagsusuri, at pagwawasto ng Verilog code. Ang pamamahagi ng mga papel (pagbuo, pagsusuri, pagsubok) ay nagpabuti ng kakayahan ng modelo na matuklasan at maitama ang mga pagkakamali, na nagresulta sa pagtaas ng proporsyon ng mga matagumpay na nag-compile na solusyon hanggang 96.5% sa isa sa mga benchmark.

Paghahanap at Pagsusuri ng Impormasyon

Ang mga multi-agent na sistema ay partikular na kapaki-pakinabang para sa mga bukas at hindi maayos na nakastrukturarang kahilingan. Binuo ng Anthropic ang isang multi-agent na mode para sa modelong Claude, na idinisenyo para sa web research. Sa sistemang ito, ang nangunguna na ahente ay sinusuri ang kahilingan at nagbubunga ng ilang parallel na ahente ng subtask, na ang bawat isa ay nagsasagawa ng paghahanap sa iba't ibang aspeto ng paksa. Ang arkitekturang ito ay 90% mas epektibo sa pagharap sa mga kumplikadong tanong sa paghahanap kumpara sa isang solong modelong Claude.

Klasipikasyon ng Teksto at mga NLP na Gawain

Para sa mga NLP na gawain, binuo ang prinsipyo-orientadong prompting (Principle-Based Prompting). Sa pamamaraang ito, ang mga LLM-ahente ay unang bumubuo ng isang hanay ng mga "prinsipyo" (mga patakaran ng solusyon), at pagkatapos ay ang panghuling ahente ay pumipili ng pinakamahusay sa kanila, batay sa kung saan ang ibang ahente ay nagsasagawa ng klasipikasyon. Ang pamamaraang ito ay nagpataas ng sukatan ng macro-F1 ng 1.5–19% kumpara sa mga pangunahing pamamaraan, na naglapit sa kalidad sa klasikal na pagsasanay sa mga halimbawa (few-shot).

Mga Limitasyon at Problema

Computational na Kumplikado at mga Gastos

Ang pangunahing kawalan ay ang lubhang tumaas na computational na karga. Ang bawat ahente ay nangangailangan ng sariling sesyon ng pagbuo, na humahantong sa malaking paggastos ng mga token at mapagkukunan. Ayon sa datos ng Anthropic, ang kanilang sistema ay gumagamit ng average na 4 beses na mas maraming token bawat diyalogo, at sa ilang mga kaso — hanggang 15 beses na mas marami. Ginagawa nitong makatwiran ang paggamit ng pamamaraan para lamang sa mga gawaing may mataas na halaga.

Kumplikado ng Disenyo at Koordinasyon

Para sa matagumpay na operasyon, kinakailangan ang maingat na inhinyeryang pag-aayos ng mga prompt: kinakailangang malinaw na matukoy ang papel ng bawat ahente, ang format ng pagpapalitan ng mensahe, at ang mga pamantayan sa pagtigil. Kung hindi, maaaring doblehin ng mga ahente ang trabaho, pumasok sa walang katapusang paghahanap, o lumikha ng walang silbing mga subtask.

Kaligtasan at Pagiging Maaasahan

Lumilitaw ang mga bagong vector ng pag-atake. Ipinakita ng mga mananaliksik ang kababalaghang Prompt Infection (impeksyon ng prompt), kung saan ang isang mapanganib na fragment ng instruksyon mula sa isang ahente ay nailipat sa isa pa, na kumakalat sa buong kadena ng pangangatuwiran, tulad ng virus. Ang pag-atake na LLM-to-LLM na ito ay nagpapakita ng kahinaan ng mga multi-agent na sistema sa mga nakatagong iniksyon at manipulasyon, na nangangailangan ng pagbuo ng mga espesyal na hakbang sa proteksyon, halimbawa, paglalagay ng marka sa output ng bawat ahente (LLM Tagging).

Mga Sanggunian

• «How we built our multi-agent research system» — detalyadong pagsusuri mula sa Anthropic
• «More Agents Is All You Need» — siyentipikong artikulo tungkol sa kahusayan ng mga ensemble ng ahente

Panitikan

• Chen, P. et al. (2024). CoMM: Collaborative Multi-Agent, Multi-Reasoning-Path Prompting for Complex Problem Solving. arXiv:2404.17729.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Mi, Y. et al. (2024). PromptV: Leveraging LLM-Powered Multi-Agent Prompting for High-Quality Verilog Generation. arXiv:2412.11014.
• Wei, P. et al. (2024). Don't Just Demo, Teach Me the Principles: A Principle-Based Multi-Agent Prompting Strategy for Text Classification. arXiv:2502.07165.
• Lee, D.; Tiwari, A. (2024). Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems. arXiv:2410.07283.
• Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
• Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Li, G. et al. (2024). Multi-LLM Debate: Framework, Principles, and Interventions. PDF.
• Du, N. et al. (2023). Improving Factuality and Reasoning in Language Models through Multi-Agent Debate. arXiv:2305.14325.