Prompt (language models) (IT)

Prompt (dall'inglese prompt — «suggerimento» o «richiesta testuale») nel contesto dei grandi modelli linguistici (LLM) è il testo di input o l'istruzione che l'utente fornisce al modello per generare la risposta desiderata. Il prompt formula il compito per il modello, includendo le condizioni necessarie, il contesto e gli esempi. L'efficacia del modello dipende in larga misura dalla qualità del prompt elaborato.

La disciplina che studia i metodi di sviluppo e ottimizzazione delle richieste testuali si chiama prompt engineering. Il suo obiettivo è ottenere dai modelli AI risposte quanto più rilevanti, accurate e sicure possibile. Un prompt ben formulato fornisce al modello un «percorso» per l'esecuzione del compito, aiutando a precisare il contesto richiesto e il risultato desiderato.

Storia dello sviluppo dell'approccio

L'idea di governare il comportamento degli LLM tramite suggerimenti testuali si è sviluppata parallelamente alla crescita delle capacità dei modelli stessi.

Fasi iniziali (GPT-2)

Già nel 2019 i ricercatori di OpenAI dimostrarono che i grandi modelli linguistici pre-addestrati, come GPT-2, erano in grado di risolvere nuovi compiti senza ulteriore addestramento, purché questi fossero formulati sotto forma di testo. Il lavoro «Language Models are Unsupervised Multitask Learners» segnò uno spostamento fondamentale: invece di fare il fine-tuning del modello per ciascun compito, era sufficiente formulare un'istruzione comprensibile all'input.

La svolta con GPT-3 e l'In-Context Learning

La vera svolta avvenne con il rilascio del modello GPT-3 nel 2020. Con i suoi 175 miliardi di parametri, GPT-3 dimostrò la capacità di apprendimento contestuale (in-context learning) — l'assimilazione di un nuovo compito «al volo» a partire da alcuni esempi forniti direttamente nel testo della richiesta. Questa modalità operativa prese il nome di few-shot learning («apprendimento con pochi esempi») e mostrò che l'aumento delle dimensioni del modello porta a un'elevata qualità nell'esecuzione di compiti NLP senza alcuna regolazione dei pesi.

La nascita del Chain-of-Thought (CoT)

Un ulteriore sviluppo nel 2022 fu legato al miglioramento della capacità dei modelli di affrontare ragionamenti complessi. Vennero proposti suggerimenti speciali nel formato della catena di ragionamento (chain-of-thought prompting). In tali prompt il modello riceve non solo la domanda, ma anche un esempio di ragionamento sequenziale e graduale prima della risposta. Ciò ha migliorato notevolmente la precisione nelle soluzioni di problemi aritmetici e logici. La ricerca di Kojima e colleghi ha dimostrato che il modello può essere stimolato al ragionamento anche senza esempi (zero-shot), semplicemente aggiungendo alla fine della richiesta la frase «Pensiamo passo dopo passo».

Prompt multimodali

Il concetto di prompt è andato oltre il testo. Nel 2022, con la comparsa dei modelli DALL-E 2 e Stable Diffusion, le richieste degli utenti in linguaggio naturale sono diventate un'interfaccia universale per la generazione di immagini, e successivamente di musica e video.

Tipologie e tecniche di utilizzo dei prompt

Esistono diversi tipi principali e tecniche di prompt, che vengono spesso combinati tra loro.

Zero-shot prompting (Richiesta diretta)

Il modello riceve solo un'istruzione o una domanda senza alcun esempio. In questa modalità, l'LLM si basa sulle proprie conoscenze generali acquisite durante il pre-addestramento. È adatto per compiti semplici, come la traduzione o il riassunto di un testo.

Few-shot prompting (Apprendimento su esempi)

Oltre all'istruzione, nel prompt vengono inclusi uno o più esempi con input e output attesi. Il modello «impara al volo» da questi campioni e applica la logica appresa alla nuova richiesta. Questo metodo, che realizza l'in-context learning, aumenta significativamente la precisione nei compiti in cui è importante un determinato formato o stile di risposta.

Catena di ragionamento (Chain-of-Thought, CoT)

Un tipo speciale di prompt per compiti che richiedono ragionamenti complessi (matematica, logica). Nel suggerimento viene inclusa un'analisi graduale o un piano di soluzione prima della risposta definitiva. Ciò costringe il modello a strutturare esplicitamente il processo di ragionamento, migliorando significativamente la qualità del risultato.

Ottimizzazione dei suggerimenti (Prompt Tuning)

Una tecnica in cui, invece di scrivere manualmente un prompt, si utilizza un suggerimento ottimizzato automaticamente. Il prompt è rappresentato come un insieme di speciali token addestrabili (un vettore continuo), che viene aggiunto alla richiesta dell'utente. Addestrando solo questo piccolo vettore-prompt, è possibile adattare un grande modello «congelato» a un nuovo compito con un costo computazionale minimo.

Il prompt engineering come disciplina

La nascita della professione

La crescita delle capacità degli LLM ha dato origine a una nuova specializzazione — il prompt engineer. Questi specialisti sviluppano e ottimizzano i suggerimenti testuali per ottenere dall'AI il comportamento desiderato. I prompt engineer utilizzano conoscenze nel campo della linguistica, della logica e della psicologia per strutturare i dati di input nel modo più efficace possibile. Nel 2022–2023 comparvero le prime offerte di lavoro per questa posizione, a testimonianza dell'elevata domanda di competenze per interagire efficacemente con i sistemi AI.

Il futuro della professione e l'automazione

Il settore si sviluppa rapidamente e il suo futuro è oggetto di dibattito. Ricerche del 2024, ad esempio da parte di VMware, hanno mostrato che l'AI stessa è in grado, attraverso ricerca e ottimizzazione, di trovare formulazioni efficaci delle richieste, spesso superiori a quelle umane. Ciò ha generato l'opinione che il prompt engineering manuale possa essere un fenomeno temporaneo, e che nel tempo gli strumenti di selezione automatica dei suggerimenti diventeranno lo standard. Tuttavia, a partire dal 2025, la competenza nel campo del prompt engineering rimane molto richiesta.

Ambiti di applicazione

• Elaborazione del linguaggio naturale: Compiti NLP classici, come il riassunto automatico di documenti, la traduzione automatica, le risposte a domande e l'estrazione di informazioni.
• Chatbot e assistenti virtuali: I prompt aiutano a definire il ruolo, lo stile di comunicazione e il formato delle risposte, rendendo i sistemi di dialogo più coerenti e utili.
• Generazione di codice: Modelli come OpenAI Codex sono in grado di scrivere codice di programmazione a partire da una descrizione in linguaggio naturale, accelerando lo sviluppo.
• Analisi dei dati: Tramite i prompt è possibile configurare il modello per estrarre insight da report testuali non strutturati o generare ipotesi.
• Istruzione: Creazione di tutor intelligenti che generano esercizi, spiegano concetti complessi e verificano le risposte tenendo conto del livello di preparazione dello studente.
• Industrie creative: Generazione di testi, immagini artistiche, musica e sceneggiature a partire da descrizioni dettagliate.

Uso dannoso e vulnerabilità (Prompt Injection)

L'apertura dell'interfaccia degli LLM ha dato origine a una nuova classe di attacchi — l'iniezione di prompt (prompt injection). Un malintenzionato formula una richiesta dannosa speciale che induce il modello a violare le sue istruzioni originali o a rivelare informazioni nascoste. Gli esperti considerano questo fenomeno come una variante dell'attacco di tipo «iniezione di codice», in cui al posto del codice vengono «iniettate» nel sistema istruzioni testuali subdole.

Tipi di attacchi

• Jailbreak: Un attacco che permette al modello di «uscire» dai vincoli imposti (ad esempio, le politiche di moderazione) e di generare contenuti vietati. Un esempio noto è il DAN prompt (Do Anything Now), che induceva ChatGPT a rispondere senza censura.
• Prompt Leaking: Una richiesta speciale costringe il modello a rivelare frammenti del suo prompt di sistema nascosto.
• Token Smuggling: Un'istruzione dannosa viene mascherata come parte innocua della richiesta (ad esempio, un frammento di codice), per aggirare i filtri e provocare un comportamento indesiderato.

Questi attacchi rappresentano un problema serio, poiché i metodi tradizionali di sicurezza informatica sono scarsamente adattati alle minacce legate all'interpretazione del linguaggio naturale.

Bibliografia

• Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
• Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
• Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
• Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
• Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
• Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [5].
• Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
• Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.