IBM Granite (language model) (IT)

IBM Granite — è una serie di modelli linguistici di grandi dimensioni (LLM), sviluppati dalla corporation IBM per l'impiego in ambienti aziendali. I modelli Granite sono transformer autoregressivi con architettura decoder-only, in grado di generare testo in base a un contesto dato.

La famiglia è stata ufficialmente presentata il 7 settembre 2023 nell'ambito del lancio della piattaforma cloud IBM watsonx.ai. IBM posiziona Granite come soluzioni aperte, performanti e affidabili per le imprese, ponendo l'accento sulla trasparenza dei dati di addestramento, sul controllo dei rischi e sulla licenza che consente l'uso commerciale.

Storia dello sviluppo

La famiglia di modelli Granite è diventata parte della strategia di IBM per fornire alle aziende modelli generativi proprietari insieme a modelli dei partner.

• Settembre 2023: Annuncio ufficiale e lancio dei primi modelli sulla piattaforma watsonx.ai. Le prime versioni, Granite.13b.instruct e Granite.13b.chat, avevano circa 13 miliardi di parametri ed erano orientate ai principali compiti di elaborazione del linguaggio.
• Maggio 2024: IBM annuncia il rilascio open source di diversi modelli Granite Code (da 3 a 34 miliardi di parametri) sotto licenza Apache 2.0. I pesi dei modelli sono stati pubblicati sulla piattaforma Hugging Face, rappresentando un passo importante nel supporto all'ecosistema aperto dell'AI.
• Autunno 2024: IBM rilascia l'aggiornamento Granite 3.0, che include modelli di dimensioni ridotte (2 e 8 miliardi di parametri) e nuove funzionalità, confermando la direzione verso l'espansione della famiglia.

Architettura e addestramento

Architettura

I modelli IBM Granite sono costruiti sull'architettura del decoder del transformer (decoder-only), analogamente ai modelli GPT. Il modello base Granite.13b utilizza il meccanismo multi-query attention e dispone di una finestra di contesto fino a 8000 token. I modelli vengono addestrati tramite self-supervised learning.

Dati di addestramento e AI Governance

Una caratteristica fondamentale di Granite è l'utilizzo di un corpus di dati curato internamente, selezionato in base alle esigenze aziendali. A differenza di molti LLM addestrati su campionamenti web non filtrati, Granite è stato addestrato su dati di alta qualità (enterprise-quality), che coprono i seguenti domini:

• Dati accademici e scientifici: letteratura scientifica, pubblicazioni tecniche.
• Codice sorgente: grandi raccolte di codice in molteplici linguaggi di programmazione.
• Diritto: decisioni giudiziarie, rapporti pubblici.
• Finanza: bilanci aziendali.
• Internet: testi non strutturati di carattere generale, sottoposti a filtraggio.

IBM sottolinea che lo sviluppo ha seguito rigorosi principi di AI Governance (etica e gestione dei dati). Ogni porzione di dati è stata sottoposta a una procedura di verifica della conformità alle politiche aziendali. Per la rimozione di contenuti indesiderati è stato utilizzato un rilevatore interno denominato «HAP» (Hate and Profanity), oltre a blocklist automatiche di risorse web. IBM ha pubblicato un dettagliato rapporto tecnico con l'elenco delle fonti, un passo raro per le grandi aziende tecnologiche che garantisce un elevato livello di trasparenza.

La famiglia di modelli Granite

La famiglia IBM Granite comprende diverse categorie di modelli per vari scopi aziendali:

• Modelli linguistici (Granite Language Models): Modelli base e con instruction fine-tuning per compiti di elaborazione del testo: generazione, riassunto, classificazione e altro.
• Modelli per il codice (Granite Code Models): LLM specializzati, addestrati su oltre 100 linguaggi di programmazione, per il completamento automatico, la generazione e la correzione del codice. Disponibili in dimensioni da 3 a 34 miliardi di parametri.
• Modelli visivi (Granite Vision Models): Reti neurali per l'analisi di immagini e documenti, il riconoscimento del testo e la comprensione del contenuto.
• Modelli vocali (Granite Speech Models): Modelli compatti per il riconoscimento e la traduzione del parlato.
• Modelli per le serie temporali (Granite for Time Series): Modelli specializzati per la previsione basata su serie temporali.
• Modello geospaziale (Granite for Geospatial): Sviluppato in collaborazione con la NASA per l'analisi di immagini satellitari e altri dati geospaziali.
• Modelli di embedding (Granite Embedding Models): Modelli per compiti di ricerca semantica e costruzione di sistemi RAG.
• Granite Guardian: Modulo specializzato per la sicurezza, destinato al filtraggio di richieste indesiderate e al monitoraggio dei contenuti.

Codice aperto e licenze

IBM ha posto un'enfasi significativa sull'apertura della famiglia Granite, posizionandola come alternativa trasparente agli LLM proprietari chiusi. Nel maggio 2024 l'azienda ha rilasciato alla comunità open source i modelli Granite Code originali sotto licenza Apache 2.0, che ne consente il libero utilizzo, la modifica e la distribuzione.

Questo passo, insieme alla pubblicazione di informazioni dettagliate sui dati di addestramento, ha valso a IBM un'alta considerazione da parte della comunità di ricerca. Nel 2024 il modello ha raggiunto posizioni di vertice nell'Indice di trasparenza dei modelli fondazionali dell'Università di Stanford.

Applicazioni

I modelli Granite sono integrati nella piattaforma cloud IBM watsonx e vengono utilizzati in diversi scenari aziendali.

• Analisi sportiva (US Open): In collaborazione con la United States Tennis Association (USTA), IBM utilizza Granite per la creazione automatica di report di partita e commenti audio al termine di ogni incontro del torneo US Open. La soluzione genera una dettagliata rassegna testuale della partita in pochi minuti dal suo termine.
• Assistenza ai programmatori: I modelli Granite Code sono alla base di IBM watsonx Code Assistant — una famiglia di strumenti in grado, ad esempio, di trasformare automaticamente il codice legacy in COBOL in moderni microservizi per IBM Z.
• Applicazioni AI di settore: Lockheed Martin ha integrato i modelli Granite nella propria piattaforma AI Factory per compiti di sicurezza nazionale. ESPN utilizza Granite per la generazione di commenti personalizzati nel fantasy sport.

Bibliografia

• Ainslie, J. et al. (2023). GQA: Training Generalized Multi‑Query Transformer Models from Multi‑Head Checkpoints. arXiv:2305.13245.
• Awasthy, P. et al. (2025). Granite Embedding Models. arXiv:2502.20204.
• Dao, T. et al. (2022). FlashAttention: Fast and Memory‑Efficient Exact Attention with IO‑Awareness. arXiv:2205.14135.
• Ding, Y. et al. (2024). LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens. arXiv:2402.13753.
• Fedus, W.; Zoph, B.; Shazeer, N. (2021). Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity. arXiv:2101.03961.
• Granite Vision Team (2025). Granite Vision: A Lightweight, Open‑Source Multimodal Model for Enterprise Intelligence. arXiv:2502.09927.
• Mishra, M. et al. (2024). Granite Code Models: A Family of Open Foundation Models for Code Intelligence. arXiv:2405.04324.
• Padhi, I. et al. (2024). Granite Guardian: Risk Detection for Safe and Responsible Use of LLMs. arXiv:2412.07724.
• Peng, B. et al. (2023). YaRN: Efficient Context Window Extension of Large Language Models. arXiv:2309.00071.
• Stallone, M. et al. (2024). Scaling Granite Code Models to 128K Context. arXiv:2407.13739.