Stochastic parrot (ID)

Burung Beo Stokastik (Ingg. Stochastic parrot) — adalah sebuah metafora yang digunakan dalam bidang kecerdasan buatan untuk menggambarkan large language model (LLM) sebagai sistem yang mampu mengombinasikan bentuk-bentuk linguistik secara statistis masuk akal, namun tanpa pemahaman sejati terhadap maknanya.

Istilah ini diperkenalkan pada Maret 2021 dalam artikel ilmiah «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?», yang diterbitkan pada konferensi FAccT. Para penulisnya adalah Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, dan Margaret Mitchell.

Definisi dan Konsep

Menurut para penulis artikel tersebut, burung beo stokastik adalah "sistem untuk menggabungkan rangkaian bentuk linguistik yang diamati dalam data pelatihan yang sangat besar secara acak, sesuai dengan informasi probabilistik tentang cara bentuk-bentuk tersebut dikombinasikan, namun tanpa hubungan apa pun dengan makna".

Istilah ini terdiri dari dua bagian:

• Stokastik — dari bahasa Yunani Kuno στοχαστικός ("berdasarkan dugaan"), dalam matematika modern merujuk pada proses yang ditentukan oleh distribusi probabilitas acak.
• Burung beo — mengacu pada kemampuan burung beo meniru ucapan manusia tanpa memahami maknanya.

Konsep ini menyatakan bahwa LLM yang dilatih untuk memprediksi kata berikutnya dalam sebuah urutan, pada dasarnya merupakan sistem autocompletion yang kompleks dan memanipulasi simbol tanpa akses terhadap maknanya.

Argumen Utama Artikel «On the Dangers of Stochastic Parrots»

Dalam karya tersebut dikemukakan empat kategori utama risiko yang terkait dengan pengembangan large language model yang terlalu besar.

1. Data Pelatihan yang Tidak Dapat Dikenali Sepenuhnya

LLM dilatih menggunakan dataset yang sangat besar dan tidak teranotasi, yang dikumpulkan dari internet (misalnya, Common Crawl). Dataset semacam itu secara tak terhindarkan mengandung bias, bahasa beracun, dan sudut pandang hegemonik yang merugikan kelompok rentan. Sebagai contoh, konten internet secara tidak proporsional mewakili pria kulit putih dari negara-negara maju (67% pengguna Reddit di AS adalah pria).

2. Ketiadaan Pemahaman Bahasa yang Sejati

Para penulis berpendapat bahwa LLM tidak memiliki pemahaman bahasa yang sejati. Mereka merujuk pada teori bahwa bahasa adalah sistem tanda, di mana bentuk (kata) terkait erat dengan makna (arti). Data pelatihan untuk LLM hanya mengandung bentuk, sehingga model tidak memiliki akses terhadap makna. Oleh karena itu, LLM hanya meniru ujaran yang bermakna.

3. Teks Sintetis dan Potensi Bahaya

Karena LLM menghasilkan teks yang secara gramatikal benar dan meyakinkan, manusia cenderung mengaitkan makna padanya dan mempercayainya. Hal ini menciptakan risiko penyebaran disinformasi, ujaran kebencian, dan penipuan. Semakin sempurna imitasinya, semakin besar risiko bahwa manusia akan melebih-lebihkan kemampuan AI dan mempercayakannya dengan keputusan-keputusan yang kritis.

Dampak Ilmiah dan Kontroversi Seputar Publikasi

Artikel ini menjadi pusat skandal besar di Google, tempat dua orang penulisnya, Timnit Gebru dan Margaret Mitchell, bekerja pada saat itu. Pada akhir tahun 2020, selama proses tinjauan internal, pimpinan Google menuntut para penulis untuk menarik artikel tersebut atau menghapus nama-nama karyawan Google dari dalamnya.

Timnit Gebru, peneliti etika AI terkemuka, menolak memenuhi tuntutan tersebut, yang mengakibatkan pemecatannya dari Google pada Desember 2020. Pada Februari 2021, Margaret Mitchell, yang membela Gebru, juga dipecat. Peristiwa-peristiwa ini menimbulkan resonansi publik yang luas. Lebih dari 2.200 karyawan Google dan ribuan anggota komunitas akademik menandatangani surat protes, menuduh perusahaan melakukan sensor ilmiah dan menekan penelitian yang berpotensi menyentuh kepentingan komersialnya. Pada akhirnya, artikel tersebut diterbitkan pada Maret 2021 di konferensi FAccT.

Reaksi, Perdebatan, dan Evolusi Pandangan

Metafora "burung beo stokastik" menyebar dengan cepat dan menjadi titik sentral dalam perdebatan tentang sifat kecerdasan buatan. American Dialect Society (ADS) memilih «stochastic parrot» sebagai kata tahun ini di bidang AI untuk tahun 2023, di mana istilah tersebut bahkan mengalahkan "ChatGPT" dan "LLM".

Kritik terhadap Konsep dan Bukti Pemahaman

Konsep ini telah ditentang oleh banyak peneliti terkemuka.

• Geoffrey Hinton, salah satu "bapak baptis" deep learning, berpendapat bahwa "untuk memprediksi kata berikutnya secara akurat, seseorang perlu memahami kalimatnya". Pada tahun 2023, setelah meninggalkan Google, ia menyatakan bahwa model-model besar sudah "memahami" apa yang mereka pelajari dan dapat menarik kesimpulan secara mandiri.
• Kemampuan emergent: Penelitian menunjukkan bahwa ketika mencapai skala tertentu, LLM menunjukkan munculnya kemampuan-kemampuan baru secara mendadak, seperti pemecahan soal aritmetika, yang tidak tertanam secara eksplisit di dalamnya.
• Model dunia internal: Sebuah penelitian tahun 2022 menunjukkan bahwa model yang dilatih untuk bermain Othello berdasarkan catatan teks langkah permainan, secara spontan membentuk representasi internal papan permainan, yang mengindikasikan berkembangnya model abstrak dari dunia yang digambarkan.
• Performa pada benchmark: Model-model modern seperti GPT-4 menunjukkan hasil setara manusia (atau lebih tinggi) pada ujian profesional yang kompleks, yang menurut sebagian pihak tidak mungkin dicapai tanpa adanya pemahaman.

Penggunaan Ironis dan Wacana Publik

Istilah ini menjadi begitu populer sehingga bahkan CEO OpenAI Sam Altman menggunakannya secara ironis, menulis di Twitter: "i am a stochastic parrot, and so r u". Dengan ini ia menyiratkan bahwa ujaran manusia pun sebagian besar merupakan prediksi probabilistik atas kata berikutnya, memainkan kritik yang ditujukan kepada AI.

Pengaruh terhadap Wacana Ilmiah

Metafora "burung beo stokastik" tetap menjadi tema sentral dalam perdebatan mengenai kemampuan dan keterbatasan LLM. Metafora ini membantu merumuskan masalah ketiadaan pemahaman sejati pada language model dan menarik perhatian pada risiko yang terkait dengan pengembangannya. Pada saat yang sama, kemajuan pesat di bidang LLM mendorong pemaknaan ulang metafora ini secara terus-menerus, karena model-model terbaru menunjukkan perilaku yang semakin kompleks dan tidak lagi sesuai dengan gambaran "burung beo yang tidak bermakna". Istilah ini terus mempengaruhi wacana ilmiah, menekankan pentingnya analisis kritis terhadap kemampuan sistem AI dan konsekuensi sosialnya.

Daftar Pustaka

• Bender, E. M.; Gebru, T.; McMillan-Major, A.; Mitchell, M. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. FAccT 2021.
• Floridi, L.; Chiriatti, M. (2020). GPT-3: Its Nature, Scope, Limits, and Consequences. Minds & Machines, 30(4), 681-694.
• Bommasani, R. et al. (2021). On the Opportunities and Risks of Foundation Models. arXiv:2108.07258.
• Weidinger, L. et al. (2021). Ethical and Social Risks of Harm from Language Models. arXiv:2112.04359.
• Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
• Wei, J. et al. (2022). Emergent Abilities of Large Language Models. arXiv:2206.07682.
• Perez, E. et al. (2022). Red Teaming Language Models with Language Models. EMNLP 2022.
• Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
• Du, Z. et al. (2024). Understanding Emergent Abilities of Language Models from the Loss Perspective. arXiv:2403.15796.
• Gerstgrasser, M. et al. (2024). Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data. arXiv:2404.01413.