IBM Granite (modelo de linguagem)

IBM Granite é uma série de grandes modelos de linguagem (LLM) desenvolvidos pela IBM para aplicação em ambientes corporativos. Os modelos Granite são transformadores autorregressivos com uma arquitetura somente decodificadora (decoder-only), capazes de gerar texto com base em um contexto fornecido.

A família foi oficialmente apresentada em 7 de setembro de 2023, como parte do lançamento da plataforma em nuvem IBM watsonx.ai. A IBM posiciona o Granite como uma solução aberta, de alto desempenho e confiável para empresas, com ênfase na transparência dos dados de treinamento, no controle de riscos e em um licenciamento que permite o uso comercial.

História do desenvolvimento

A família de modelos Granite tornou-se parte da estratégia da IBM de fornecer aos negócios seus próprios modelos generativos, juntamente com modelos de parceiros.

• Setembro de 2023: Anúncio oficial e lançamento dos primeiros modelos na plataforma watsonx.ai. As primeiras versões, Granite.13b.instruct e Granite.13b.chat, tinham cerca de 13 bilhões de parâmetros e eram voltadas para tarefas essenciais de processamento de linguagem.
• Maio de 2024: A IBM anuncia o lançamento em código aberto de vários modelos Granite Code (de 3 a 34 bilhões de parâmetros) sob a licença Apache 2.0. Os pesos dos modelos foram publicados na plataforma Hugging Face, um passo importante no apoio ao ecossistema aberto de IA.
• Outono de 2024: A IBM lança a atualização Granite 3.0, que inclui modelos de menor porte (2 e 8 bilhões de parâmetros) e novas funcionalidades, confirmando a direção de expansão da família.

Arquitetura e treinamento

Arquitetura

Os modelos IBM Granite são construídos com base na arquitetura de transformador somente decodificador (decoder-only), semelhante aos modelos GPT. O modelo base Granite.13b utiliza o mecanismo de multi-query attention e possui uma janela de contexto de até 8.000 tokens. Os modelos são treinados por meio de aprendizado autossupervisionado (self-supervised learning).

Dados de treinamento e Governança de IA

Uma característica fundamental do Granite é o uso de um corpus de dados próprio e curado, selecionado para atender às necessidades empresariais. Diferentemente de muitos LLMs treinados em amostras não filtradas da web, o Granite foi treinado com dados de alta qualidade (enterprise-quality), abrangendo os seguintes domínios:

• Dados acadêmicos e científicos: literatura científica, publicações técnicas.
• Código de programação: grandes volumes de código em várias linguagens.
• Jurídico: decisões judiciais, relatórios públicos.
• Finanças: relatórios financeiros de empresas.
• Internet: textos não estruturados de natureza geral que passaram por filtragem.

A IBM enfatiza que o desenvolvimento seguiu princípios rigorosos de Governança de IA (ética e gestão de dados). Cada parte dos dados passou por um processo de verificação de conformidade com as políticas corporativas. Para remover conteúdo indesejado, foi utilizado um detector interno chamado “HAP” (Hate and Profanity), bem como listas de bloqueio automáticas de recursos da web. A IBM publicou um relatório técnico detalhado com a lista de fontes, um passo raro para grandes empresas de tecnologia, que garante alta transparência.

Família de modelos Granite

A família IBM Granite abrange várias categorias de modelos para diferentes tarefas de negócios:

• Modelos de Linguagem (Granite Language Models): Modelos base e ajustados por instrução para tarefas de processamento de texto, como geração, sumarização, classificação, etc.
• Modelos de Código (Granite Code Models): LLMs especializados, treinados em mais de 100 linguagens de programação, para autocompletar, gerar e corrigir código. Estão disponíveis em tamanhos de 3 a 34 bilhões de parâmetros.
• Modelos de Visão (Granite Vision Models): Redes neurais para análise de imagens e documentos, reconhecimento de texto e compreensão de conteúdo.
• Modelos de Fala (Granite Speech Models): Modelos compactos para reconhecimento e tradução de fala.
• Modelos para Séries Temporais (Granite for Time Series): Modelos especializados para previsão com base em séries temporais.
• Modelo Geoespacial (Granite for Geospatial): Desenvolvido em colaboração com a NASA para análise de imagens de satélite e outros dados geoespaciais.
• Modelos de Embedding (Granite Embedding Models): Modelos para tarefas de busca semântica e construção de sistemas RAG.
• Granite Guardian: Módulo especializado para garantir a segurança, projetado para filtrar solicitações indesejadas e monitorar o conteúdo.

Código aberto e licenciamento

A IBM deu uma ênfase significativa à natureza aberta da família Granite, posicionando-a como uma alternativa transparente aos LLMs proprietários e de código fechado. Em maio de 2024, a empresa disponibilizou os modelos Granite Code originais para a comunidade de código aberto sob a licença Apache 2.0, o que permite seu uso, modificação e distribuição livres.

Essa iniciativa, juntamente com a publicação de informações detalhadas sobre os dados de treinamento, rendeu à IBM uma alta avaliação da comunidade de pesquisa. Em 2024, o modelo alcançou posições de liderança no Índice de Transparência de Modelos de Fundação da Universidade de Stanford.

Aplicações

Os modelos Granite são integrados à plataforma em nuvem IBM watsonx e utilizados em diversos cenários corporativos.

• Análise esportiva (US Open): Em colaboração com a Associação de Tênis dos Estados Unidos (USTA), a IBM utiliza o Granite para criar automaticamente relatórios de partidas e comentários em áudio após cada jogo no torneio US Open. A solução gera uma análise textual detalhada da partida em questão de minutos após sua conclusão.
• Assistência a programadores: Os modelos Granite Code são a base do IBM watsonx Code Assistant, uma família de ferramentas que pode, por exemplo, converter automaticamente código legado em COBOL para microsserviços modernos para o IBM Z.
• Aplicações setoriais de IA: A Lockheed Martin integrou os modelos Granite em sua plataforma AI Factory para tarefas de segurança nacional. A ESPN utiliza o Granite para gerar comentários personalizados em esportes de fantasia (fantasy sports).

Literatura

• Ainslie, J. et al. (2023). GQA: Training Generalized Multi‑Query Transformer Models from Multi‑Head Checkpoints. arXiv:2305.13245.
• Awasthy, P. et al. (2025). Granite Embedding Models. arXiv:2502.20204.
• Dao, T. et al. (2022). FlashAttention: Fast and Memory‑Efficient Exact Attention with IO‑Awareness. arXiv:2205.14135.
• Ding, Y. et al. (2024). LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens. arXiv:2402.13753.
• Fedus, W.; Zoph, B.; Shazeer, N. (2021). Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity. arXiv:2101.03961.
• Granite Vision Team (2025). Granite Vision: A Lightweight, Open‑Source Multimodal Model for Enterprise Intelligence. arXiv:2502.09927.
• Mishra, M. et al. (2024). Granite Code Models: A Family of Open Foundation Models for Code Intelligence. arXiv:2405.04324.
• Padhi, I. et al. (2024). Granite Guardian: Risk Detection for Safe and Responsible Use of LLMs. arXiv:2412.07724.
• Peng, B. et al. (2023). YaRN: Efficient Context Window Extension of Large Language Models. arXiv:2309.00071.
• Stallone, M. et al. (2024). Scaling Granite Code Models to 128K Context. arXiv:2407.13739.