IBM Granite (language model) — IBM グラナイト
IBM Granite（IBM グラナイト）は、IBMコーポレーションが企業環境での利用を目的として開発した大規模言語モデル（LLM）のシリーズです。Graniteモデルは、デコーダのみのアーキテクチャを持つ自己回帰トランスフォーマーであり、与えられたコンテキストに基づいてテキストを生成することができます[1]。
このモデルファミリーは、2023年9月7日にIBMのクラウドプラットフォーム「watsonx.ai」のローンチの一環として正式に発表されました[2]。IBMはGraniteを、オープンで高性能かつ信頼性の高い企業向けソリューションとして位置づけており、トレーニングデータの透明性、リスク管理、商業利用を許容するライセンスを重視しています[3]。
開発の歴史
Graniteモデルファミリーは、パートナーのモデルと並行して、企業に独自の生成モデルを提供するというIBMの戦略の一環となりました。
- 2023年9月: watsonx.aiプラットフォーム上で初のモデルが正式に発表・ローンチされました。最初のリリースであるGranite.13b.instructとGranite.13b.chatは、約130億のパラメータを持ち、主要な言語処理タスクに焦点を当てていました[2]。
- 2024年5月: IBMは、いくつかのGranite Codeモデル（30億から340億パラメータ）をApache 2.0ライセンスの下でオープンソースとしてリリースすることを発表しました。モデルの重みはHugging Faceプラットフォームで公開され、これはオープンなAIエコシステムを支援する上で重要な一歩となりました[4]。
- 2024年秋: IBMはGranite 3.0のアップデートをリリースし、より小規模なモデル（20億および80億パラメータ）と新機能を追加して、ファミリーの拡大方針を裏付けました[5]。
アーキテクチャとトレーニング
アーキテクチャ
IBM Graniteモデルは、GPTモデルと同様に、トランスフォーマーのデコーダのみ（decoder-only）のアーキテクチャで構築されています。ベースモデルであるGranite.13bは、multi-query attentionメカニズムを使用し、最大8000トークンのコンテキストウィンドウを持ちます[6]。モデルは自己教師あり学習（self-supervised learning）によってトレーニングされます。
トレーニングデータとAIガバナンス
Graniteの重要な特徴は、企業のニーズに合わせて選定された、独自にキュレーションされたデータコーパスを使用している点です。フィルタリングされていないウェブ上のデータでトレーニングされる多くのLLMとは異なり、Graniteは以下のドメインをカバーする高品質なデータ（enterprise-quality）でトレーニングされました[6]：
- 学術・科学データ: 科学文献、技術出版物。
- プログラムコード: 多数の言語で書かれたコードの集合。
- 法律: 判例、公開報告書。
- 金融: 企業の財務報告書。
- インターネット: フィルタリングを経た一般的な非構造化テキスト。
IBMは、開発が厳格なAI Governance（倫理とデータ管理）の原則に従って行われたことを強調しています。各データは、企業ポリシーへの準拠を確認する検証プロセスを経ています。不適切なコンテンツを除去するために、社内の検出器「HAP」（Hate and Profanity）およびウェブサイトの自動ブロックリストが使用されました[1]。IBMは、データソースの一覧を含む詳細な技術報告書を公開しました。これは大手テクノロジー企業にとっては珍しいことであり、高い透明性を確保しています。
Graniteモデルファミリー
IBM Graniteファミリーは、さまざまなビジネス課題に対応するため、複数のカテゴリのモデルをカバーしています：
- 言語モデル (Granite Language Models): テキスト生成、要約、分類などのテキスト処理タスクのための、ベースモデルおよびインストラクションチューニング済みモデル。
- コードモデル (Granite Code Models): 100以上のプログラミング言語でトレーニングされた、コード補完、生成、修正のための特化型LLM。30億から340億パラメータのサイズで利用可能です[4]。
- ビジョンモデル (Granite Vision Models): 画像や文書の分析、テキスト認識、コンテンツ理解のためのニューラルネットワーク。
- 音声モデル (Granite Speech Models): 音声認識および翻訳のためのコンパクトなモデル。
- 時系列モデル (Granite for Time Series): 時系列データに基づく予測のための特化型モデル。
- 地理空間モデル (Granite for Geospatial): NASAとの協力で開発された、衛星画像やその他の地理空間データを分析するためのモデル。
- 埋め込みモデル (Granite Embedding Models): セマンティック検索やRAGシステムの構築タスクのためのモデル。
- Granite Guardian: 不適切なリクエストのフィルタリングやコンテンツの監視を目的とした、セキュリティ確保のための専用モジュール。
オープンソースとライセンス
IBMは、Graniteファミリーのオープン性を非常に重視し、クローズドなプロプライエタリLLMに代わる透明性の高い選択肢として位置づけています。2024年5月、同社はGranite CodeのベースモデルをApache 2.0ライセンスの下でオープンソースコミュニティに提供しました。これにより、これらのモデルは自由に使用、改変、配布が可能になりました[4]。
この取り組みは、トレーニングデータに関する詳細情報の公開と相まって、研究コミュニティからIBMに高い評価をもたらしました。2024年、このモデルはスタンフォード大学の基礎モデル透明性インデックスでトップクラスの評価を受けました[3]。
適用事例
Graniteモデルは、IBM watsonxクラウドプラットフォームに統合され、さまざまな企業シナリオで利用されています。
- スポーツ分析（全米オープン）: 米国テニス協会（USTA）との協力により、IBMはUS Openトーナメントの各試合の結果に基づいて、試合レポートと音声解説を自動生成するためにGraniteを活用しています。このソリューションは、試合終了後わずか数分で詳細なテキストレビューを生成します[7]。
- プログラマー支援: Granite Codeモデルは、IBM watsonx Code Assistantの基盤となっています。これは、例えば、COBOLで書かれたレガシーコードをIBM Z向けの最新のマイクロサービスに自動変換できるツールファミリーです[4]。
- 業界特化型AIアプリケーション: Lockheed Martinは、国家安全保障タスクのためにGraniteモデルを自社のAI Factoryプラットフォームに統合しました。ESPNは、ファンタジースポーツにおけるパーソナライズされた解説を生成するためにGraniteを使用しています[3]。
参考文献
- Ainslie, J. et al. (2023). GQA: Training Generalized Multi‑Query Transformer Models from Multi‑Head Checkpoints. arXiv:2305.13245.
- Awasthy, P. et al. (2025). Granite Embedding Models. arXiv:2502.20204.
- Dao, T. et al. (2022). FlashAttention: Fast and Memory‑Efficient Exact Attention with IO‑Awareness. arXiv:2205.14135.
- Ding, Y. et al. (2024). LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens. arXiv:2402.13753.
- Fedus, W.; Zoph, B.; Shazeer, N. (2021). Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity. arXiv:2101.03961.
- Granite Vision Team (2025). Granite Vision: A Lightweight, Open‑Source Multimodal Model for Enterprise Intelligence. arXiv:2502.09927.
- Mishra, M. et al. (2024). Granite Code Models: A Family of Open Foundation Models for Code Intelligence. arXiv:2405.04324.
- Padhi, I. et al. (2024). Granite Guardian: Risk Detection for Safe and Responsible Use of LLMs. arXiv:2412.07724.
- Peng, B. et al. (2023). YaRN: Efficient Context Window Extension of Large Language Models. arXiv:2309.00071.
- Stallone, M. et al. (2024). Scaling Granite Code Models to 128K Context. arXiv:2407.13739.
脚注
- ↑ 1.0 1.1 “Building AI for business: IBM's Granite foundation models”. IBM Blog. [1]
- ↑ 2.0 2.1 Lardinois, Frederic (7 сентября 2023). “IBM rolls out new generative AI features and models”. TechCrunch. [2]
- ↑ 3.0 3.1 3.2 “Granite”. IBM. [3]
- ↑ 4.0 4.1 4.2 4.3 “IBM's Granite code model family is going open source”. IBM Research Blog. [4]
- ↑ “Granite 3.3 Language Models - a ibm-granite Collection”. Hugging Face. [5]
- ↑ 6.0 6.1 “Granite Foundation Models: Technical Specifications”. IBM. [6]
- ↑ “IBM and the USTA Serve Up New and Enhanced Generative AI Features for 2024 US Open Digital Platforms”. IBM Newsroom. [7]