--- title: "Stochastic parrot (IT)" source: "https://systems-analysis.info/int/Stochastic_parrot_(IT)" wiki: "systems-analysis.info/int" article: "Stochastic_parrot_(IT)" language: "it" categories: - "Category:Italian" - "Category:Large language models" - "Category:Machine learning" revision_id: 6894 wiki_created_at: 2026-09-07T00:12:54Z wiki_modified_at: 2026-09-07T00:12:54Z downloaded_at: 2026-09-07T23:16:16Z --- # Stochastic parrot (IT) **Pappagallo stocastico** (in inglese *Stochastic parrot*) — è una metafora utilizzata nel campo dell'intelligenza artificiale per descrivere i grandi modelli linguistici (LLM) come sistemi capaci di combinare forme linguistiche in modo statisticamente plausibile, ma privi di una vera comprensione del loro significato[\[1\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-mint_def-1). Il termine è stato introdotto nel marzo 2021 in un articolo scientifico intitolato *«On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?»*, pubblicato alla conferenza FAccT. Gli autori sono Emily M. Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell[\[2\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-bender_2021-2). ## Definizione e concetto Secondo gli autori dell'articolo, il pappagallo stocastico rappresenta «un sistema per la combinazione caotica di sequenze di forme linguistiche osservate nei suoi vasti dati di addestramento, secondo informazioni probabilistiche su come esse si combinano, ma senza alcun collegamento con il significato»[\[2\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-bender_2021-2). Il termine è composto da due parti: - ***Stocastico*** — dal greco antico *στοχαστικός* («basato su congetture»), nella matematica moderna indica un processo determinato da una distribuzione casuale di probabilità[\[1\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-mint_def-1). - ***Pappagallo*** — riferimento alla capacità dei pappagalli di imitare il linguaggio umano senza comprenderne il significato[\[1\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-mint_def-1). Il concetto afferma che gli LLM, addestrati a prevedere la parola successiva in una sequenza, sono essenzialmente sistemi sofisticati di autocompletamento che manipolano simboli senza accesso al loro significato. ## Principali argomenti dell'articolo «On the Dangers of Stochastic Parrots» Nel lavoro vengono identificate quattro categorie principali di rischi legati allo sviluppo di modelli linguistici eccessivamente grandi. ### 1. Dati di addestramento non ispezionabili Gli LLM vengono addestrati su enormi dataset non annotati, raccolti da internet (ad esempio Common Crawl). Tali dataset contengono inevitabilmente bias, linguaggio tossico e punti di vista egemonici che arrecano danno ai gruppi vulnerabili. Ad esempio, i contenuti internet rappresentano in modo sproporzionato uomini bianchi dei paesi sviluppati (il 67% degli utenti di Reddit negli Stati Uniti è di genere maschile)[\[2\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-bender_2021-2). ### 2. Assenza di una vera comprensione del linguaggio Gli autori sostengono che gli LLM non possiedono una vera comprensione del linguaggio. Fanno riferimento alla teoria secondo cui il linguaggio è un sistema di segni in cui la forma (la parola) è inscindibilmente legata al significato. I dati di addestramento degli LLM contengono solo la forma, privando il modello dell'accesso al significato. Pertanto gli LLM si limitano a imitare un discorso dotato di senso. ### 3. Testo sintetico e potenziali danni Poiché gli LLM generano testo grammaticalmente corretto e convincente, le persone tendono ad attribuirgli significato e a fidarsi di esso. Ciò crea il rischio di diffusione di disinformazione, linguaggio d'odio e frodi. Quanto più è perfetta l'imitazione, tanto più alto è il rischio che le persone sopravvalutino le capacità dell'IA e affidino ad essa decisioni di importanza critica. ## Impatto scientifico e controversia attorno alla pubblicazione L'articolo è diventato il centro di un grande scandalo in Google, dove all'epoca lavoravano i coautori Timnit Gebru e Margaret Mitchell. Alla fine del 2020, durante la revisione interna, la direzione di Google ha chiesto agli autori di ritirare l'articolo o di rimuovere da esso i nomi dei dipendenti Google[\[3\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-habr_digest-3). Timnit Gebru, ricercatrice di punta nell'etica dell'IA, ha rifiutato di ottemperare a questa richiesta, il che ha portato al suo licenziamento da Google nel dicembre 2020. Nel febbraio 2021 è stata licenziata anche Margaret Mitchell, che aveva espresso sostegno a Gebru[\[4\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-techreview_paper-4). Questi eventi hanno suscitato un'ampia reazione pubblica. Più di 2200 dipendenti di Google e migliaia di esponenti del mondo accademico hanno firmato una lettera di protesta, accusando l'azienda di censura scientifica e di soppressione di ricerche che potrebbero ledere i suoi interessi commerciali[\[5\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-verge_paper-5). Alla fine, l'articolo è stato pubblicato nel marzo 2021 alla conferenza FAccT. ## Reazioni, dibattiti ed evoluzione dei punti di vista La metafora del «pappagallo stocastico» si è diffusa rapidamente ed è diventata il punto centrale nel dibattito sulla natura dell'intelligenza artificiale. L'American Dialect Society (ADS) ha scelto **«stochastic parrot»** come parola dell'anno nel campo dell'IA per il 2023, dove ha superato persino «ChatGPT» e «LLM»[\[1\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-mint_def-1). ### Critiche al concetto e prove di comprensione Il concetto è stato contestato da molti ricercatori di spicco. - **Geoffrey Hinton**, uno dei «padri» del deep learning, ha sostenuto che «per prevedere con precisione la parola successiva è necessario capire la frase»[\[1\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-mint_def-1). Nel 2023, dopo aver lasciato Google, ha dichiarato che i grandi modelli già «comprendono» ciò che viene loro insegnato e sono in grado di trarre conclusioni autonome[\[6\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-cbs_hinton-6). - **Capacità emergenti**: Le ricerche hanno dimostrato che al raggiungimento di una certa scala gli LLM mostrano la comparsa improvvisa di nuove capacità, come la risoluzione di problemi aritmetici, che non erano state esplicitamente incorporate in essi[\[7\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-wiki_parrot-7). - **Modelli interni del mondo**: Uno studio del 2022 ha mostrato che un modello addestrato a giocare a Othello sulla base di registrazioni testuali delle mosse ha spontaneamente sviluppato una rappresentazione interna del tabellone di gioco, il che indica lo sviluppo di un modello astratto del mondo descritto[\[3\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-habr_digest-3). - **Prestazioni sui benchmark**: I modelli moderni, come GPT-4, ottengono risultati al livello umano (o superiori) in complessi esami professionali, il che, secondo alcuni, sarebbe impossibile senza comprensione[\[8\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-pmc_debate-8). ### Uso ironico e discorso pubblico Il termine è diventato così popolare da essere usato ironicamente persino dal CEO di OpenAI **Sam Altman**, che ha scritto su Twitter: «sono un pappagallo stocastico, e anche voi lo siete» (*i am a stochastic parrot, and so r u*). Con ciò ha voluto suggerire che anche il linguaggio umano è in larga misura una previsione probabilistica della parola successiva, ribaltando la critica rivolta all'IA[\[1\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-mint_def-1). ### Influenza sul discorso scientifico La metafora del «pappagallo stocastico» rimane centrale nel dibattito sulle capacità e i limiti degli LLM. Ha contribuito a formulare il problema dell'assenza di una vera comprensione nei modelli linguistici e ha attirato l'attenzione sui rischi legati al loro sviluppo. Allo stesso tempo, il rapido progresso nel campo degli LLM spinge a un costante ripensamento di questa metafora, poiché i modelli più recenti mostrano comportamenti sempre più complessi che non si adattano all'immagine di un «pappagallo insensato». Il termine continua a influenzare il discorso scientifico, sottolineando l'importanza di un'analisi critica delle capacità dei sistemi di IA e delle loro conseguenze sociali[\[8\]](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_note-pmc_debate-8). ## Bibliografia - Bender, E. M.; Gebru, T.; McMillan-Major, A.; Mitchell, M. (2021). *On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?*. FAccT 2021. - Floridi, L.; Chiriatti, M. (2020). *GPT-3: Its Nature, Scope, Limits, and Consequences*. Minds & Machines, 30(4), 681-694. - Bommasani, R. et al. (2021). *On the Opportunities and Risks of Foundation Models*. arXiv:2108.07258. - Weidinger, L. et al. (2021). *Ethical and Social Risks of Harm from Language Models*. arXiv:2112.04359. - Kaplan, J. et al. (2020). *Scaling Laws for Neural Language Models*. arXiv:2001.08361. - Wei, J. et al. (2022). *Emergent Abilities of Large Language Models*. arXiv:2206.07682. - Perez, E. et al. (2022). *Red Teaming Language Models with Language Models*. EMNLP 2022. - Bai, Y. et al. (2022). *Constitutional AI: Harmlessness from AI Feedback*. arXiv:2212.08073. - Du, Z. et al. (2024). *Understanding Emergent Abilities of Language Models from the Loss Perspective*. arXiv:2403.15796. - Gerstgrasser, M. et al. (2024). *Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data*. arXiv:2404.01413. ## Note 1. ↑ [1.0](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-mint_def_1-0) [1.1](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-mint_def_1-1) [1.2](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-mint_def_1-2) [1.3](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-mint_def_1-3) [1.4](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-mint_def_1-4) [1.5](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-mint_def_1-5) 'Stochastic Parrot': A Name for AI That Sounds a Bit Less Intelligent. *Mint*. [1] 2. ↑ [2.0](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-bender_2021_2-0) [2.1](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-bender_2021_2-1) [2.2](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-bender_2021_2-2) Bender, Emily M., et al. «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?». *Conference on Fairness, Accountability, and Transparency (FAccT '21)*. [2] 3. ↑ [3.0](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-habr_digest_3-0) [3.1](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-habr_digest_3-1) «Протестующие пчёлы и стохастические попугаи: дайджест публикаций с критикой и поддержкой развития AI». *Хабр*. [3] 4. [↑](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-techreview_paper_4-0) Hao, Karen. «We read the paper that forced Timnit Gebru out of Google. Here's what it says». *MIT Technology Review*. [4] 5. [↑](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-verge_paper_5-0) Vincent, James. «Timnit Gebru's actual paper may explain why Google ejected her». *The Verge*. [5] 6. [↑](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-cbs_hinton_6-0) «Geoffrey Hinton on the promise, risks of artificial intelligence». *60 Minutes - CBS News*. [6] 7. [↑](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-wiki_parrot_7-0) «Stochastic parrot». *Wikipedia*. [7] 8. ↑ [8.0](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-pmc_debate_8-0) [8.1](https://systems-analysis.info/int/Stochastic_parrot_(IT)#cite_ref-pmc_debate_8-1) «The debate over understanding in AI's large language models». *PMC*. [8]