Multi-Agent Debate (TL)

Maramihang Ahenteng Debate (Ingles: multi-agent debate) – isang diskarte sa larangan ng malalaking language model (LLM), kung saan ang ilang nakikipag-ugnayan na ahente (mga kopya ng language model) ay magkasamang tinatalakay ang solusyon sa isang naibigay na gawain, nagpapalitan ng mga argumento at mga pagtatangkang sumagot. Ang layunin ng prosesong ito ay kolektibong makabuo ng pinaka-tama at pinaka-makatuwirang sagot sa ibinigay na tanong. Ang diskarte ay batay sa ideya ng "lipunan ng mga isip", kung saan ang iba't ibang modelo ay sinusuri at sinusupleman ang mga konklusyon ng isa't isa. Ipinakita ng mga pananaliksik na ang maramihang-ahenteng talakayan ay nagbibigay-daan na malaki ang pagpapabuti ng katumpakan at pagiging maaasahan ng mga sagot kumpara sa pagbuo ng sagot gamit ang isang pamamaraan: ang panghuling sagot na nakuha pagkatapos ng debate ng mga ahente ay karaniwang mas tumpak sa mga katotohanan at mas mahusay sa mga gawaing nangangailangan ng pangangatwiran. Sa partikular, makikita ang pagbaba ng bilang ng mga hallucination (mga kathang-isip na "katotohanan") at pagtaas ng tagumpay sa mga mahirap na gawaing pagsubok kapag ginamit ang estratehiyang ito.

Ang ideya ng pag-aanyaya sa ilang AI para mag-debate ay nagmula sa mga gawa sa kaligtasan ng artificial intelligence. Noong 2018, isang grupo ng mga mananaliksik ng OpenAI (G. Irving, P. Christiano, D. Amodei) ang nagmungkahi ng konsepto ng AI safety via debate – ang pagsasanay ng mga ahente sa pamamagitan ng mapagkumpitensyang debate, kung saan ang dalawang modelo-kalaban ay naghahalili ng maikling argumento, at isang tao-hukom ang nagpapasya kung sino sa kanila ang nagpresenta ng mas totoong at kapaki-pakinabang na impormasyon. Ipinagpalagay na sa pinakamainam na estratehiya, ang ganitong debate ay magbibigay-daan sa AI na sumagot sa labis na mahirap na mga tanong, nangangailangan lamang ng hukom na suriin ang pagiging kapani-paniwala ng mga argumento. Sa mga sumunod na taon, habang lumilitaw ang mga makapangyarihang LLM, ang prinsipyo ng debate sa pagitan ng mga modelo ay nagsimulang gamitin nang direkta para mapabuti ang kalidad ng mga sagot ng mismong mga modelo – nang wala na ang obligadong pakikilahok ng tao, ngunit may awtomatikong pagpili ng pinakamainam na solusyon. Ang mga modernong maramihang-ahenteng LLM-sistema ay gumagamit ng dayalogo sa pagitan ng mga kopya o iba't ibang modelo upang itama ang mga pagkakamali ng isa't isa at magkasamang makamit ang mas makatuwirang resulta.

Proseso ng Maramihang-Ahenteng Talakayan

Sa sitwasyon ng maramihang-ahenteng debate, ang ilang modelo-ahente ay magkasamang nagtatrabaho sa iisang gawain. Kadalasan, sa simula bawat ahente ay binibigyan ng orihinal na tanong o gawain, pagkatapos ang bawat ahente ay nagsasariling bumubuo ng sariling sagot. Pagkatapos ay may serye ng mga ikot ng komunikasyon sa pagitan ng mga ahente: sa bawat ikot ang lahat ng kalahok ay nagpapalitan ng kanilang kasalukuyang mga solusyon, at ang bawat ahente ay tumatanggap ng mga sagot ng iba bilang karagdagang konteksto, batay sa kung saan inililinis o pinapabuti niya ang kanyang sagot sa susunod na ikot. Ang ganitong siklo ay nagpapatuloy ng ilang ulit (karaniwang may nakatakdang bilang ng mga ikot o hanggang sa maabot ang malinaw na kasunduan), pagkatapos ay titigil ang proseso at maglalabas ng panghuling sagot. Ginagaya ng debate ang talakayan ng tao, na nagbibigay-daan sa mga modelo na punahin ang mga sagot ng isa't isa at pagsamahin ang kanilang mga kakayahan sa pangangatwiran upang mapabuti ang kalidad ng solusyon. Halimbawa, si Yilun Du at mga kasamahan (MIT at Google Brain) sa mga eksperimento ay gumamit ng 3 kopya ng language model na tinatalakay ang problema sa loob ng 2 ikot (ang mas maraming ikot ay nililimitahan dahil sa gastos ng oras at pagkalkula); ipinakita na kahit sa ganitong limitadong diyalogo, ang mga panghuling sagot ay kapansin-pansing bumuti, at sa pagtaas ng bilang ng mga ahente o ikot ang katumpakan ay patuloy na lumaki (bagaman may bumabawas na kita).

Ang proseso ng maramihang-ahenteng debate ay ganap na isinasagawa sa yugto ng inference sa tulong ng mga espesyal na prompt para sa pag-oorganisa ng diyalogo sa pagitan ng mga naitrenong modelo. Nangangahulugan ito na ang pamamaraan ay hindi nangangailangan ng karagdagang pagsasanay ng mismong LLM at maaaring ilapat kahit sa mga "black box" – sapat na magkaroon ng access sa pagbuo ng teksto ng mga modelo at i-coordinate ang kanilang komunikasyon ayon sa isang paunang itinakdang template.

Para sa pagtukoy ng panghuling sagot pagkatapos ng ilang ikot, gumagamit ng iba't ibang diskarte. Isa sa pinakasimpleng mekanismo ay ang pagboto: ang mga ahente ay maaaring sa katapusan ay independyenteng mag-alok ng kanilang mga panghuling solusyon, pagkatapos ay pinipili ang bersyon na sinusuportahan ng karamihan sa kanila (o halimbawa, ang pinaka-madalas na lumilitaw na sagot). Ang isa pang diskarte ay ang pag-aatas ng konsensus, iyon ay, ipagpatuloy ang talakayan hanggang sa lahat ng mga modelo ay makarating sa parehong sagot. Sa wakas, maaaring isangkot ang isang hiwalay na ahente-hukom: alinman sa isang hiwalay na neural network na sinanay upang suriin ang mga sagot, o isa sa mga ahente na binibigyan ng tungkulin ng arbiter. Ang hukom ay nagmamasid sa takbo ng talakayan at pumipili kung ang argumento ng sino ang naging pinaka-nakakumbinsi o tama. Ang pagpili ng mekanismo ng paggawa ng desisyon ay nakaka-apekto sa mga katangian ng sistema: ang pagboto o konsensus ay madaling ipatupad, ngunit maaaring i-lock ang mga pagkakamali ng grupo, samantalang ang tagasubok-hukom (lalo na ang sinanay upang matukoy ang tamang sagot) ay teorya'y may kakayahang matukoy ang tamang solusyon kahit may mga kontradiksyon sa pagitan ng mga ahente. Gayunpaman, ang diskarte ng hukom ay may mga kahirapan din – halimbawa, kung ang parehong modelo ang gumaganap bilang hukom at kalahok, maaari nitong hindi sinasadyang ikiling pabor sa pamilyar na estilo ng argumento ng isa sa mga ahente.

Mga Variant ng Pagsasaayos ng Ahente at Komunikasyon

Ang mga maramihang-ahenteng sistema na may LLM ay maaaring mag-iba ayon sa komposisyon at paraan ng pakikipag-ugnayan ng mga ahente. Ang homogenous na pagsasaayos ay nagpapahiwatig na ang lahat ng ahente ay mga kopya ng parehong modelo (o mga modelo ng katulad na antas), habang ang heterogenous ay nagsasama ng iba't ibang uri o sukat ng mga modelo. Sa homogenous na kaso, ang lahat ng kalahok ay may maihahambing na mga kakayahan, at ang kanilang mga pagtatalo ay magmumula lamang sa stochastic na pagbuo ng mga sagot o iba't ibang panimulang kondisyon (halimbawa, mga pagkakaiba sa mga prompt). Sa heterogenous na diskarte, maaaring sabay na gamitin ang makapangyarihan at mahinang mga modelo, na potensyal na nagbibigay-daan sa ilang ahente na mabayaran ang mga kakulangan ng iba. Kaya, ipinakita ng mga pananaliksik na ang pakikipag-ugnayan ng iba't ibang LLM ay humahantong sa mga mas mahinang modelo na nagpapabuti ng kanilang mga solusyon sa pamamagitan ng pagtanggap ng feedback mula sa mas malakas na mga modelo. Isang kapansin-pansing halimbawa — ang magkasamang debate sa pagitan ng mga language model na ChatGPT (GPT-4) at Google Bard sa paglutas ng isang mathematical na tekstong gawain: ang bawat isa sa mga modelong ito na nag-iisa ay nagbigay ng maling sagot, ngunit sa proseso ng talakayan sila ay nagawa na ituro sa isa't isa ang mga pagkakamali at sa huli ay napagkasunduan ang tamang solusyon, gamit ang mga kalakasan ng bawat isa. Sa kabilang banda, ang heterogeneity ay nagdadala rin ng mga panganib: ang malaking kawalan ng balanse sa mga kakayahan ay maaaring humantong sa dominasyon ng isang modelo, at kung ang karamihan sa mga ahente ay may karaniwang maling paniniwala o maling bias, ang debate ay maaaring mabilis na magkaisa sa iisang, ngunit maling sagot — isang penomenon na tinatawag na epekto ng "echo chamber". Ipinakita ng teoretikal na pagsusuri (Estornell & Liu, NeurIPS 2024) na sa napaka-katulad na mga modelo, ang debate ay maaaring lumabas sa static na dinamika, kapag ang lahat ng kalahok ay paulit-ulit na nagpapahayag ng opinyon ng karamihan, kahit ito ay batay sa karaniwang pagkakamali sa kanilang datos. Kaya naman, sa mga heterogenous na sistema, mahalaga ang maingat na pagpili ng mga ahente — halimbawa, pinipili ang mga modelo na may maihahambing na antas ng kaalaman, upang walang isa ang mangibabaw o maliligaw ang iba.

Isa pa ring aspeto — ang istruktura ng komunikasyon sa pagitan ng mga ahente. Sa mga pangunahing implementasyon, ginagamit ang fully-connected na topolohiya ng komunikasyon: sa bawat ikot, ang bawat ahente ay tumatanggap ng mga sagot ng lahat ng iba. Ang ganitong "lahat-sa-lahat" na palitan ay nagpapalaki ng available na impormasyon, ngunit nagdudulot ng malaking gastos — ang dami ng konteksto ay lumalaki nang proporsyonal sa bilang ng mga ahente, na nagpapabigat ng mga kalkulasyon. Ang alternatibo ay ang sparse na topolohiya, na naglilimita kung sino ang direktang nakikipagpalitan ng datos ang bawat ahente. Halimbawa, ang mga ahente ay maaaring iayos sa anyo ng graph-network (bilog, puno atbp.), kung saan ang bawat isa ay tumatanggap ng mga sagot lamang mula sa kanyang mga kapitbahay. Ang pananaliksik ng Google (Li et al., 2024) ay natuklasan na ang paglilimita ng connectivity ng network ng mga ahente ay maaaring malaki ang pagbaba ng gastos sa pagbuo nang walang pagkasama, at minsan ay may pagpapabuti pa ng kalidad ng solusyon kumpara sa ganap na nakakonektang talakayan. Sa mga eksperimento gamit ang mga modelo ng GPT-3.5 at Mistral, ang sparse na scheme ng "kapitbahay" na talakayan ay nagbigay ng parehong o mas mataas na katumpakan sa mga gawain (kabilang ang matematika), habang binabawasan ang average na bilang ng mga token ng konteksto sa bawat hakbang ng isang order ng magnitude. Ang resultang ito ay nagpapahiwatig na ang labis na pagpapalitan ng mensahe ay hindi palaging kinakailangan – sapat na itakda nang tama ang mga pangunahing pakikipag-ugnayan sa pagitan ng mga ahente upang makarating sila sa tamang solusyon nang may mas mababang gastos.

Bukod sa topolohiya, posible rin ang iba't ibang mga format ng pagdadaos ng debate. Halimbawa, maaaring italaga sa ilang ahente ang iba't ibang mga papel: ang ilan ay gumaganap bilang "tagalikha ng mga ideya", ang iba ay bilang "mga kritiko" o "tagasuri" ng mga solusyon. Ang ganitong role-based na diskarte ay naglalayong tularan ang pagbabahagi ng trabaho, kung saan ang bawat ahente ay nag-iespesyalisa sa isang tiyak na gawain (halimbawa, isa ang nagmumungkahi ng hypothesis, ang ikalawa ay nag-verify ng mga katotohanan, ang ikatlo ay nagsusuri ng lohikal na konsistensya). Ang isa pang pagpipilian — ang paulit-ulit na talakayan (round-robin): ang mga ahente ay nagsasalita nang hindi sabay-sabay, kundi sunud-sunod, nagpapalit sa papel ng tagapagsalita at tagaresponsa sa isang nakatakdang pagkakasunod. Ito ay katulad ng mga pormal na debate, kung saan ang salita ay ibinibigay sa mga kalahok ayon sa regulasyon, na maaaring matiyak ang pantay na pakikilahok ng lahat ng ahente. Isa pa ring diskarte — ang dynamic na regulasyon ng hindi-pagkakaayon: ang sistema ay maaaring espesyal na nagpapalaki o nagpapababa ng antas ng hindi-pagkakasundo sa pagitan ng mga sagot ng mga ahente sa bawat ikot. Halimbawa, maaaring hikayatin na sa mga unang yugto ang mga sagot ay magkalayo nang husto (para masakop ang iba't ibang hypothesis), habang habang papalapit sa katapusan ay nagkakalapit. Ang ganitong mekanismo ay iminungkahi sa gawa ni Chang (2024) para maiwasan ang maagang pagkakasundo: pinapanatili nito ang katamtamang antas ng kontradiksyon sa pagitan ng mga ahente, na nagpapasigla sa paglitaw ng mga bagong argumento at mas malalim na talakayan.

Mga Pakinabang at Bisa ng Diskarte

Ang maramihang-ahenteng debate ay nakakuha ng pansin dahil sa kakayahang mapabuti ang resulta ng mga language model sa mga mahirap na gawain. Ang isang bilang ng mga independyenteng pananaliksik para sa 2023-2024 ay nagpapatunay na ang isang grupo ng nakikipag-ugnayan na LLM ay maaaring malagpasan sa kalidad ng sagot ang isang indibidwal na modelo, habang nagtatrabaho sa parehong gawain. Sa partikular, ipinakita ang mga pagpapabuti sa mga domain na nangangailangan ng kumplikadong pangangatwiran: mula sa mathematical na pagkalkula hanggang sa programming at pabuod ng teksto. Kaya, sina Yin at mga co-author (2023), Chan at mga co-author (2023), Chen at mga co-author (2024) at iba pa ay nagtatala na ang mga maramihang-ahenteng sistema ay tiwala na nananalo sa mga indibidwal na LLM sa arithmetic na mga gawain, pagbuo ng code at kahit sa paggawa ng mga buod ng mga dokumento. Ang dahilan — ang pagkakaiba-iba ng mga pananaw: ang bawat ahente ay maaaring mapansin ang mga detalye o pagkakamali na hindi napansin ng iba, at magbigay ng feedback sa mga katrabaho. Ang mutual na pagpuna at pagpapalitan ng iba't ibang hypothesis ay humahantong sa mas komprehensibong pagsasaalang-alang ng gawain, dahil dito ang panghuling sagot ay nagiging mas tumpak at maaasahan.

Halimbawa, ang mga mananaliksik mula sa MIT at Google Brain sa pamumuno ni Yilun Du ay nagpresenta sa ICML 2024 ng gawa na "Improving factuality and reasoning in language models through multiagent debate", kung saan ipinakita ang malaking pagpapabuti ng kalidad ng mga solusyon kapag nagdagdag ng debate sa pagitan ng tatlong kopya ng modelo. Ayon sa kanilang mga resulta, ang proseso ng maramihang-ahenteng talakayan ay nagbigay ng mas mataas na tagapagpahiwatig sa ilang mga gawain kumpara sa karaniwang indibidwal na paggamit ng parehong modelo: ang katumpakan ng paglutas ng mathematical at estratehikong mga gawain ay tumaas, at ang bilang ng mga faktwal na pagkakamali ay bumaba. Sa partikular, ang maramihang-ahenteng diskarte ay nagpabuti ng mga resulta ng modelo sa mga pagsubok sa mathematical na pangangatwiran, pag-verify ng mga katotohanan at kahit sa mga gawaing nangangailangan ng estratehikong pagpaplano. Itinatala ng mga may-akda na "ang panghuling sagot na nalikha pagkatapos ng ganitong maraming-ikot na talakayan ay parehong mas tumpak sa mga katotohanan at mas matagumpay sa paglutas ng mga gawaing pangangatwiran". Sa ibaba ay isang ilustrasyon na naghahambing ng katumpakan ng pagganap ng iba't ibang gawain ng modelo nang mag-isa at gamit ang maramihang-ahenteng debate.

Paghahambing ng katumpakan sa ilang gawain para sa single-user na pagbuo (asul) at para sa mode ng maramihang-ahenteng debate (pula). Ang maramihang-ahenteng diskarte (multi-agent debate) ay nagpapakita ng mas mataas na katumpakan sa iba't ibang domain, kabilang ang mga faktwal na tanong (talambuhay), knowledge test na MMLU, pag-verify ng kawastuhan ng mga chess move, paglutas ng arithmetic na ekspresyon, mga textual na mathematical na gawain sa antas ng paaralan (GSM8K) at paghahanap ng pinakamainam na chess move. Ayon sa datos ng graph, ang debate ay partikular na nagpapalakas ng mga kakayahan ng modelo sa mga kumplikadong estratehikong gawain (halimbawa, paghahanap ng pinakamainam na hakbang sa chess) at kapansin-pansing binabawasan ang bahagi ng mga pagkakamali sa mathematical na pagkalkula at mga tanong sa kaalaman ng mga katotohanan.

Isa pang kalamangan ng maramihang-ahenteng diskarte — ang pagtagumpayan ng mga limitasyon ng indibidwal na self-control ng modelo. Ang mga indibidwal na LLM ay madalas na gumagamit ng teknik ng self-reflection (sariling pagmuni-muni), kapag ang modelo mismo ay sinusuri at itinatama ang sariling unang sagot. Gayunpaman, natuklasan na ang ganitong pamamaraan ay madaling kapitan ng problemang "degeneration-of-thought" — pagkasira ng pag-iisip: kung ang modelo ay naniwala sa orihinal na sagot, sa self-verification hindi ito bumubuo ng mga pundamental na bagong ideya, kahit mali ang orihinal na solusyon. Sa madaling salita, ang modelo ay may hilig na mabaling sa unang solusyon na naisip nito, tinatanggihan ang mga alternatibo. Tinutulungan ng maramihang-ahenteng debate na alisin ang epektong ito: ang ilang pantay na ahente ay maaaring sa simula ay mag-alok ng iba't ibang hypothesis at pagkatapos ay sunud-sunod na magtalo ng mga argumento ng isa't isa, na nagpapasigla sa paghahanap ng hindi-karaniwang paraan ng pag-iisip. Tinawag ni Tian Liang at mga kasamahan (EMNLP 2024) ang kanilang maramihang-ahenteng scheme na MAD (Multi-Agent Debate) at ipinakita na ito ay tunay na nagtataguyod ng divergent (iba't iba) na pag-iisip ng mga modelo at nagpapabuti ng mga resulta sa mga gawaing nangangailangan ng malalim na pagsusuri ng problema. Sa kanilang implementasyon, ang ilang ahente ay nagtatalo ayon sa prinsipyong "mata sa mata" (ang bawat isa ay sunud-sunod na tumutuligsa sa mga argumento ng isa pa), at sa itaas ng proseso ay may auxiliary na hukom na namamahala sa talakayan at pumipili ng panghuling solusyon. Ang mga eksperimento ni Liang at mga co-author ay nagpakita ng bisa ng diskarteng ito sa mga mahirap na test set — sa mga gawain ng commonsense translation (pagsasalin ng mga pangungusap na isinasaalang-alang ang nakatagong common sense) at sa counter-intuitive arithmetic (mga mathematical na puzzle na may halos hindi lohikal na mga kondisyon) ang maramihang-ahenteng talakayan ay nagbigay ng mas tamang mga sagot kaysa sa mga karaniwang pamamaraan. Natuklasan din ng pagsusuri na para sa pinakamainam na resulta, ang debate ay dapat ihinto nang adaptive, nang hindi humahantong sa labis na haba, at panatilihin lamang ang katamtamang antas ng salungatan sa pagitan ng mga ahente — ang labis na agresibong o, sa kabaligtaran, labis na magkakatugmang pag-uugali ay nagpapalala ng mga resulta.

Ang maramihang-ahenteng diskarte ay naging kapaki-pakinabang hindi lamang para sa mga karaniwang gawain ng tanong-sagot. Nagagamit ito sa iba pang mga larangan, halimbawa, para sa mas ligtas at magkakaayon na pag-uugali ng mga modelo. Ang ilang mga pananaliksik ay gumagamit ng debate ng mga ahente sa mga gawain ng moderation at pagbuo ng mga panuntunan: ang ilang LLM ay maaaring talakayin kung ang isang ibinigay na sagot ay katanggap-tanggap ayon sa mga etikal na pamantayan, sa gayon ay nagbibigay ng feedback sa isa't isa sa panahon ng reinforcement learning. Napansin na ang debate ay maaaring makabuo ng mas detalyado at mas nakatuwirang mga signal ng pagtatasa, na tumutulong sa pag-tune ng mga modelo para sa kaligtasan at kapaki-pakinabang. Mayroon ding mga pagtatangkang palawakin ang multimodal na mga gawain – halimbawa, kapag ang ilang ahente ay naglalarawan ng isang larawan, at ang iba ay sinusuri ang pagsusabay ng paglalarawan sa larawan. Sa gawa ng Google (2024) ipinakita ang tagumpay ng ganitong pagpapalawak: ang multimodal na diskarte ay nagpabuti ng mga resulta kapwa sa purong textual na mga gawain at sa multimodal na pag-unawa ng mga larawan, na nagpapakita ng versatility ng "lipunan ng mga isip". Kapansin-pansin, ang pakikipag-ugnayan sa loob ng debate ay maaaring magpataas ng antas ng mas mahinang mga modelo, gaya ng nabanggit dati. Halimbawa, kapag ang iba't ibang kapangyarihang LLM ay nakikilahok sa isang karaniwang talakayan, ang "mga mas mahinang modelo ay unti-unting lumakas, pinagtitibay ang matagumpay na mga estratehiya ng mas malakas na mga modelo". Kaya naman, ang maramihang-ahenteng sistema ay hindi lamang nalulutas ng itinakdang gawain, kundi nagsisilbi ring uri ng mekanismo ng kolektibong pagkatuto ng mga modelo mula sa isa't isa.

Mga Limitasyon at Bukas na Problema

Kabaligtaran ng mga makabuluhang kalamangan, ang maramihang-ahenteng debate ay nahaharap sa ilang mga kahirapan at limitasyon. Isa sa mga pangunahing ay ang mataas na resource-intensiveness ng ganitong diskarte. Para sa pag-oorganisa ng talakayan, kinakailangan na maraming beses na tawagan ang pagbuo ng teksto ng malalaking modelo: kung n na mga ahente ang nakikilahok sa T na ikot, ang kabuuang bilang ng mga tawag sa LLM ay lumalaki ng n x T na beses kumpara sa isang sagot. Higit pa rito, sa bawat ikot ang modelo ay dapat iproseso bilang konteksto hindi lamang ang orihinal na tanong, kundi pati na rin ang lahat ng replika mula sa mga nakaraang ikot (mga sagot ng lahat ng ahente). Kaya naman, sa pagtaas ng bilang ng mga ahente at ikot, ang dami ng contextual input ay lumalaki nang exponentially, na humahantong sa epekto ng context explosion — overflow ng context window at pagtaas ng gastos sa pagproseso. Sa mga eksperimento ay naitala na ang pagdaragdag kahit ng 2-3 ikot ng talakayan ay malaki ang pagpapalaki sa kabuuang bilang ng mga token ng konteksto na kailangang basahin ng modelo, at samakatuwid, ang oras ng sagot. Teorya'y ang kalidad ng solusyon ay nagpapabuti sa pagtaas ng bilang ng mga ulit, ngunit sa praktika maraming gawa ang nagtatala ng bumabawas na kita pagkatapos ng ilang ikot: madalas ang pinakamataas na epekto ay naabot sa ikalawa o ikatlong ikot, pagkatapos ng mga ito ang karagdagang mga talakayan ay maaaring humantong sa pag-uulit ng parehong mga argumento o kahit sa pagbaba ng katumpakan dahil sa oversaturation ng konteksto. Halimbawa, ipinakita ni He at mga co-author (2023) ang paglago ng katumpakan hanggang sa ika-2 ikot ng debate lamang, at pagkatapos ay pagbaba, katulad nito sina Liu at Li na may mga kasamahan (2024) ay nag-uulat ng peak ng kalidad sa ~4 na ikot, pagkatapos ng mga ito ang mga karagdagang siklo ay nagagambala lamang. Kaya naman, ang pagtukoy ng pinakamainam na tagal ng debate — ay isang hindi simpleng gawain: ang masyadong maikling talakayan ay maaaring hindi mabunyag ang buong potensyal ng kolektibong isip, at ang masyadong mahaba — ay maaaring magdulot ng informational noise at overload ng konteksto.

Isa pang problema — ang mga panganib ng pangkatang kasunduan sa maling sagot. Kung ang lahat ng ahente ay may katulad na karanasan at maling nagtitiwala sa ilang katotohanan, maaari nilang palakasin ang ilusyon ng isa't isa. Nagaganap ang epekto ng echo chamber: sa kurso ng debate ang mga modelo ay nakakamit ng konsensus, ngunit hindi dahil nahanap nila ang katotohanan, kundi bilang resulta ng pagpapatunay ng orihinal na karaniwang bias. Ang mga teoretikal na resulta (Estornell & Liu, 2024) ay nagpapahiwatig na sa magkaparehong mga modelo ang debate ay maaaring gumuho sa stagnasyon, umuulit ng opinyon ng karamihan nang walang mga bagong ideya. Lalo itong mapanganib kapag ang karamihanng ito ay nagbabahagi ng karaniwang pagkakamali na naka-embed, halimbawa, sa mga datos ng pagsasanay — sa kasong iyon ang kinalabasan ng buong talakayan ay magiging mali. Para mapagtagumpayan ang problemang ito, iminumungkahi ang espesyal na mga paraan ng interbensyon (diversity-pruning): sa bawat ikot ang mga masyadong magkaparehong sagot ay algorithmically na tinatanggal, na hinihikayat ang mga ahente na bumuo ng iba't ibang opsyon na may pinakamataas na informational entropy. Binabawasan nito ang posibilidad na ang lahat ng sagot ay magiging mga bersyon ng parehong pagkakamali. Ang isa pang teknik — ang pagtuklas at pagbabago ng mga maling paniniwala (misconception refutation): ang sistema ay nagtatangkang awtomatikong matukoy ang mga karaniwang pagpapalagay ng mga ahente at sadyang hinihinamon ang mga maaaring mali. Sa gawa ni Estornell & Liu iminungkahi ang isang hanay ng tatlong ganitong interbensyon — bukod sa nabanggit, pati na rin ang quality-pruning (pagpili ng pinaka-relevant at mataas na kalidad na mga argumento sa bawat hakbang) – at ipinakita na ang kanilang kumbinasyon ay kapansin-pansing nagpapataas ng bisa ng debate at pinipigilan ang hilig sa echo chamber.

Sa wakas, dapat tandaan na ang katatagan at predictability ng maramihang-ahenteng mga talakayan ay malayo pa rin sa perpekto. Sa ilang mga eksperimento ang debate ay humantong sa hindi matatag na mga resulta — ang iba't ibang pagpapatakbo ng parehong talakayan ay maaaring magkaisa sa iba't ibang sagot, o ang pinagsama-samang sagot ay lumabas na mas masama kaysa sa isang indibidwal na modelo nang walang debate. Sina Wang at mga co-author (2024) at Smit at mga co-author (2023) ay independyenteng nagtatala ng mga kaso kapag ang pagdaragdag ng mga ahente ay nagpalala ng performance, na nagpapahiwatig ng manipis na hangganan sa pagitan ng kapaki-pakinabang na pagpuna at mapanirang mga argumento. Ang pagtukoy ng mga kondisyon kung saan ang maramihang-ahenteng diskarte ay garantisadong kapaki-pakinabang ay nananatiling paksa ng pananaliksik. Mga bukas na tanong: paano awtomatikong magpasya kung kailan ihihinto ang debate at i-record ang sagot upang hindi mapalampas ang kalamangan at hindi maligaw sa walang katapusang argumento, at paano kolektibong gumawa ng desisyon — sa pamamagitan ng pagboto, konsensus o sa tulong ng panlabas na hukom — ang pinaka-maaasahan para sa iba't ibang uri ng mga gawain. Matunog din ang problema ng kaligtasan at kontrolabilidad ng mga maramihang-ahenteng sistema: kailangang matiyak na ang mga ahente ay hindi magkasamang bumubuo ng hindi kanais-nais o toxic na nilalaman at hindi nagpapalaki ng mga mapaminsalang hilig ng isa't isa. Ang mga katanungang ito, lalo na tungkol sa kaligtasan at scalability, ay kinikilalang napapanahon at kumplikado. Ang mga modernong pagsusuri ay nagtatala na ang karagdagang pananaliksik ay kinakailangan, nakatuon sa pagbuo ng maaasahang mga tuntunin ng pagtihaya ng mga talakayan, pagtatasa ng scalability ng diskarte kapag nagdaragdag ng mga ahente at ikot, at pagpapatupad ng mga pamamaraan na nagga-garantiya ng pagiging maaasahan at katapatan ng kolektibong nakuhang sagot. Ang paglutas ng mga gawaing ito ay magbibigay-daan sa paggawa ng maramihang-ahenteng debate sa isang mas makapangyarihan at universal na tool para sa paglikha ng mas matalino at ligtas na mga sistema ng artificial intelligence.

Mga Sanggunian

• Improving Factuality and Reasoning in Language Models with Multiagent Debate — pahina ng proyekto
• AI safety via debate — orihinal na artikulo ng OpenAI
• Improving Multi-Agent Debate with Sparse Communication Topology — artikulo tungkol sa pag-optimize ng komunikasyon
• Literature Review Of Multi-Agent Debate For Problem-Solving — pagsusuri ng literatura
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate — artikulo tungkol sa MAD
• Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions — artikulo ng NeurIPS 2024

Literatura

• Irving, G. et al. (2018). AI Safety via Debate. arXiv:1805.00899.
• Du, Y. et al. (2023). Improving Factuality and Reasoning in Language Models through Multiagent Debate. arXiv:2305.14325.
• Liang, T. et al. (2023). Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate. arXiv:2305.19118.
• Li, Y. et al. (2024). Improving Multi-Agent Debate with Sparse Communication Topology. arXiv:2406.11776.
• Guo, T. et al. (2024). Large Language Model based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Estornell, A.; Liu, Y. (2024). Multi-LLM Debate: Framework, Principals, and Interventions. NeurIPS 2024.
• Eo, S. et al. (2025). Debate Only When Necessary: Adaptive Multiagent Collaboration for Efficient LLM Reasoning. arXiv:2504.05047.
• Tillmann, A. (2025). Literature Review Of Multi-Agent Debate For Problem-Solving. arXiv:2506.00066.
• Cui, Y. et al. (2025). Efficient Leave-One-Out Approximation in LLM Multi-Agent Debate Based on Introspection. arXiv:2505.22192.
• La Malfa, E. et al. (2025). Large Language Models Miss the Multi-Agent Mark. arXiv:2505.21298.