Stochastic parrot (TL)

Estokastikong Loro (Ingles: Stochastic parrot) — isang metapor na ginagamit sa larangan ng artipisyal na katalinuhan upang ilarawan ang malalaking language model (LLM) bilang mga sistema na kayang pagsamahin ang mga linggwistikong anyo nang may istatistikal na kapanipaniwalaan, ngunit walang tunay na pag-unawa sa kanilang kahulugan.

Ang termino ay ipinakilala noong Marso 2021 sa isang siyentipikong artikulo na pinamagatang «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?», na inilathala sa kumperensya ng FAccT. Ang mga may-akda ay sina Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, at Margaret Mitchell.

Kahulugan at Konsepto

Ayon sa mga may-akda ng artikulo, ang estokastikong loro ay kumakatawan sa «isang sistema para sa magulo-gulong pagsasama ng mga pagkakasunud-sunod ng linggwistikong anyo na nakita sa napakaraming datos ng pagsasanay nito, batay sa probabilistikong impormasyon kung paano sila pinagsama, ngunit nang walang anumang kaugnayan sa kahulugan».

Ang termino ay binubuo ng dalawang bahagi:

• Estokastiko — mula sa sinaunang Griyegong στοχαστικός («batay sa hula»), sa modernong matematika ay tumutukoy sa isang proseso na tinutukoy ng random na distribusyon ng probabilidad.
• Loro — sanggunian sa kakayahan ng mga loro na gayahin ang pagsasalita ng tao nang hindi naiintindihan ang kahulugan nito.

Ipinagtitibay ng konsepto na ang mga LLM, na sinanay upang hulaan ang susunod na salita sa isang pagkakasunud-sunod, ay sa esensya ay mga kumplikadong sistema ng auto-completion na nagmamanipula ng mga simbolo nang walang access sa kanilang kahulugan.

Mga Pangunahing Argumento ng Artikulong «On the Dangers of Stochastic Parrots»

Sa gawain ay natukoy ang apat na pangunahing kategorya ng mga panganib na kaugnay ng pagbuo ng labis na malalaking language model.

1. Mga Dataset na Hindi Maaaring Ganap na Makilala

Ang mga LLM ay sinasamahan ng napakalaki at hindi naanotahang mga dataset na nakolekta mula sa internet (halimbawa, Common Crawl). Ang ganitong mga dataset ay hindi maiiwasang naglalaman ng mga pagkiling, nakakalason na wika, at hegemonikong pananaw na nakapipinsala sa mga mahihinang grupo. Halimbawa, ang nilalaman sa internet ay hindi proporsyonong kinakatawan ng mga puting lalaki mula sa mga maunlad na bansa (67% ng mga gumagamit ng Reddit sa Estados Unidos ay lalaki).

2. Kawalan ng Tunay na Pag-unawa sa Wika

Itinatag ng mga may-akda na ang mga LLM ay walang tunay na pag-unawa sa wika. Binabanggit nila ang teorya na ang wika ay isang sistema ng mga palatandaan, kung saan ang anyo (salita) ay hindi mapaghihiwalay na nauugnay sa kahulugan (senso). Ang mga datos ng pagsasanay para sa mga LLM ay naglalaman lamang ng anyo, na pinagkaitan ang modelo ng access sa kahulugan. Kaya naman ang mga LLM ay ginagaya lamang ang makabuluhang pagsasalita.

3. Sintetikong Teksto at Potensyal na Pinsala

Dahil ang mga LLM ay gumagawa ng gramatikalmente tama at kapani-paniwalang teksto, ang mga tao ay may tendensyang mag-ugnay ng kahulugan dito at magtiwala rito. Lumilikha ito ng panganib ng pagkalat ng maling impormasyon, mapoot na wika, at panloloko. Habang nagiging mas perpekto ang paggaya, mas mataas ang panganib na maaaring malabis ng mga tao ang pagtatasa sa mga kakayahan ng AI at ipagkatiwala dito ang mahahalagang desisyon.

Siyentipikong Impluwensya at Kontrobersya sa Paligid ng Publikasyon

Ang artikulo ay naging sentro ng isang malaking iskandalo sa Google, kung saan noong panahong iyon ay nagtatrabaho ang mga kasamang may-akda na sina Timnit Gebru at Margaret Mitchell. Sa katapusan ng 2020, sa panahon ng panloob na pagsusuri, hinilingan ng pamamahala ng Google ang mga may-akda na bawiin ang artikulo o alisin ang mga pangalan ng mga empleyado ng Google mula rito.

Si Timnit Gebru, isang nangungunang mananaliksik ng etika ng AI, ay tumanggi na sumunod sa kahilingang ito, na humantong sa kanyang pagpapaalis mula sa Google noong Disyembre 2020. Noong Pebrero 2021, si Margaret Mitchell, na sumuporta kay Gebru, ay pinaalis din. Ang mga pangyayaring ito ay nagdulot ng malawak na reaksyon ng publiko. Mahigit 2,200 empleyado ng Google at libu-libong kinatawan ng akademikong komunidad ang pumirma ng liham ng protesta, na inakusahan ang kumpanya ng siyentipikong censura at pagpigil sa pananaliksik na maaaring makaapekto sa mga interes nito sa komersyo. Sa huli, ang artikulo ay inilathala noong Marso 2021 sa kumperensya ng FAccT.

Reaksyon, Debate, at Ebolusyon ng mga Pananaw

Ang metapor na «estokastikong loro» ay mabilis na kumalat at naging sentral na punto sa mga debate tungkol sa kalikasan ng artipisyal na katalinuhan. Pinili ng American Dialect Society (ADS) ang «stochastic parrot» bilang salita ng taon sa larangan ng AI para sa 2023, kung saan nalampasan pa nito ang «ChatGPT» at «LLM».

Kritisismo ng Konsepto at mga Katibayan ng Pag-unawa

Ang konsepto ay kinuwestiyon ng maraming nangungunang mananaliksik.

• Jeffrey Hinton, isa sa mga «ninong» ng deep learning, ay nagtibay na «upang tumpak na mahulaan ang susunod na salita, kailangan mong maunawaan ang pangungusap». Noong 2023, pagkatapos umalis sa Google, sinabi niya na ang malalaking modelo ay «naiintindihan» na ang itinuturo sa kanila at kayang gumawa ng sariling mga kongklusyon.
• Mga Emergent na Kakayahan: Ipinakita ng mga pananaliksik na sa pagkamit ng isang tiyak na sukat, ang mga LLM ay nagpapakita ng biglaang paglabas ng mga bagong kakayahan, tulad ng paglutas ng mga aritmetikong problema, na hindi explicitly na itinuro sa kanila.
• Mga Panloob na Modelo ng Mundo: Ipinakita ng isang pag-aaral noong 2022 na ang isang modelo na sinanay upang maglaro ng Othello batay sa mga tekstwal na rekord ng mga galaw ay kusang-loob na bumuo ng panloob na representasyon ng larangan ng laro, na nagpapahiwatig ng pagbuo ng isang abstract na modelo ng inilarawang mundo.
• Pagganap sa mga Benchmark: Ang mga modernong modelo, tulad ng GPT-4, ay nagpapakita ng mga resulta sa antas ng tao (o mas mataas) sa mga kumplikadong propesyonal na pagsusulit, na ayon sa ilan ay imposible nang walang pag-unawa.

Mapagtayang Paggamit at Pampublikong Diskurso

Naging napaka-popular ng termino kaya ginamit ito nang may pagkutya kahit ng pinuno ng OpenAI na si Sam Altman, na sumulat sa Twitter: «i am a stochastic parrot, and so r u» (ako ay isang estokastikong loro, at ikaw rin). Sa pamamagitan nito, iminungkahi niya na ang pagsasalita ng tao ay malaki ring bahagi ng probabilistikong paghula ng susunod na salita, na ginagawa itong isang biro sa gastos ng kritisismo laban sa AI.

Impluwensya sa Siyentipikong Diskurso

Ang metapor na «estokastikong loro» ay nananatiling sentral sa mga debate tungkol sa mga kakayahan at limitasyon ng mga LLM. Nakatulong ito sa pagpapahayag ng problema ng kawalan ng tunay na pag-unawa sa mga language model at nagbigay-pansin sa mga panganib na nauugnay sa kanilang pagbuo. Kasabay nito, ang mabilis na pag-unlad sa larangan ng LLM ay patuloy na nagpapalit ng pananaw sa metapor na ito, dahil ang mga pinakabagong modelo ay nagpapakita ng lalong kumplikadong pag-uugali na hindi akma sa imahe ng «walang kahulugang loro». Ang termino ay patuloy na nakakaimpluwensya sa siyentipikong diskurso, na binibigyang-diin ang kahalagahan ng kritikal na pagsusuri ng mga kakayahan ng mga sistema ng AI at ang kanilang mga sosyal na kahihinatnan.

Mga Sanggunian

• Bender, E. M.; Gebru, T.; McMillan-Major, A.; Mitchell, M. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. FAccT 2021.
• Floridi, L.; Chiriatti, M. (2020). GPT-3: Its Nature, Scope, Limits, and Consequences. Minds & Machines, 30(4), 681-694.
• Bommasani, R. et al. (2021). On the Opportunities and Risks of Foundation Models. arXiv:2108.07258.
• Weidinger, L. et al. (2021). Ethical and Social Risks of Harm from Language Models. arXiv:2112.04359.
• Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
• Wei, J. et al. (2022). Emergent Abilities of Large Language Models. arXiv:2206.07682.
• Perez, E. et al. (2022). Red Teaming Language Models with Language Models. EMNLP 2022.
• Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
• Du, Z. et al. (2024). Understanding Emergent Abilities of Language Models from the Loss Perspective. arXiv:2403.15796.
• Gerstgrasser, M. et al. (2024). Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data. arXiv:2404.01413.