IBM Granite (language model) (UR)
IBM Granite — یہ IBM کارپوریشن کی طرف سے کارپوریٹ ماحول میں استعمال کے لیے تیار کردہ بڑے زبان کے ماڈلز (LLM) کا ایک سلسلہ ہے۔ Granite ماڈل صرف decoder پر مبنی آٹو ریگریسیو transformer ہیں جو دیے گئے سیاق و سباق کی بنیاد پر متن تیار کرنے کی صلاحیت رکھتے ہیں[1]۔
اس خاندان کو باضابطہ طور پر 7 ستمبر 2023 کو IBM watsonx.ai کلاؤڈ پلیٹ فارم کے آغاز کے موقع پر پیش کیا گیا[2]۔ IBM، Granite کو کاروباری اداروں کے لیے ایک کھلا، کارکردگی پر مبنی اور قابلِ اعتماد حل کے طور پر پیش کرتا ہے، جس میں تربیتی ڈیٹا کی شفافیت، خطرات کے کنٹرول اور تجارتی استعمال کی اجازت دینے والی لائسنسنگ پر خاص زور دیا جاتا ہے[3]۔
تاریخِ ترقی
Granite ماڈلز کا خاندان IBM کی اس حکمت عملی کا حصہ بنا جس کے تحت کاروباری اداروں کو شراکت داروں کے ماڈلز کے ساتھ ساتھ اپنے جنریٹیو ماڈل بھی فراہم کیے جائیں۔
- ستمبر 2023: پہلے ماڈلز کا سرکاری اعلان اور watsonx.ai پلیٹ فارم پر ان کا آغاز۔ پہلی اشاعتیں، Granite.13b.instruct اور Granite.13b.chat، تقریباً 13 ارب parameters پر مشتمل تھیں اور زبان کی پروسیسنگ کے اہم کاموں کے لیے بنائی گئی تھیں[2]۔
- مئی 2024: IBM نے Apache 2.0 لائسنس کے تحت کئی Granite Code ماڈلز (3 سے 34 ارب parameters) کی کھلی اشاعت کا اعلان کیا۔ ماڈلز کے وزن Hugging Face پلیٹ فارم پر شائع کیے گئے، جو AI کے کھلے ماحولیاتی نظام کی حمایت میں ایک اہم قدم تھا[4]۔
- خزاں 2024: IBM نے Granite 3.0 اپ ڈیٹ جاری کی، جس میں چھوٹے سائز کے ماڈلز (2 اور 8 ارب parameters) اور نئی خصوصیات شامل تھیں، جس سے خاندان کو وسعت دینے کی پالیسی کی تصدیق ہوئی[5]۔
فنِ تعمیر اور تربیت
فنِ تعمیر
IBM Granite ماڈل GPT جیسے ماڈلز کی طرح transformer decoder (decoder-only) فنِ تعمیر پر تعمیر کیے گئے ہیں۔ بنیادی Granite.13b ماڈل multi-query attention کا طریقہ کار استعمال کرتا ہے اور اس کی context window 8000 tokens تک ہے[6]۔ ماڈلز کو self-supervised learning کے ذریعے تربیت دی جاتی ہے۔
تربیتی ڈیٹا اور AI Governance
Granite کی ایک اہم خصوصیت اپنے کیوریٹڈ ڈیٹا کارپس کا استعمال ہے جو کاروباری اداروں کی ضروریات کو مدنظر رکھ کر منتخب کیا گیا ہے۔ بہت سے LLM کے برعکس جو غیر فلٹر شدہ ویب نمونوں پر تربیت پاتے ہیں، Granite کو اعلیٰ معیار (enterprise-quality) کے ڈیٹا پر تربیت دی گئی جو درج ذیل شعبوں پر محیط ہے[6]:
- علمی و سائنسی ڈیٹا: سائنسی ادب، تکنیکی اشاعتیں۔
- پروگرام کوڈ: متعدد زبانوں میں کوڈ کے بڑے مجموعے۔
- قانون: عدالتی فیصلے، عوامی رپورٹیں۔
- مالیات: کمپنیوں کی مالیاتی رپورٹیں۔
- انٹرنیٹ: فلٹر شدہ عمومی غیر منظم متون۔
IBM اس بات پر زور دیتا ہے کہ ترقی کا عمل AI Governance (اخلاقیات اور ڈیٹا مینجمنٹ) کے سخت اصولوں کے مطابق ہوا۔ ڈیٹا کے ہر حصے کو کارپوریٹ پالیسیوں کے مطابق جانچنے کے عمل سے گزارا گیا۔ ناپسندیدہ مواد کو ہٹانے کے لیے اندرونی «HAP» (Hate and Profanity) ڈیٹیکٹر اور ویب وسائل کی خودکار بلاک-لسٹ استعمال کی گئی[1]۔ IBM نے ذرائع کی تفصیلی فہرست کے ساتھ ایک مفصل تکنیکی رپورٹ شائع کی، جو بڑی ٹیکنالوجی کمپنیوں کے لیے ایک نادر قدم ہے اور اعلیٰ درجے کی شفافیت کو یقینی بناتا ہے۔
Granite ماڈلز کا خاندان
IBM Granite کا خاندان مختلف کاروباری کاموں کے لیے کئی اقسام کے ماڈلز پر محیط ہے:
- زبان کے ماڈلز (Granite Language Models): متن کی پروسیسنگ کے کاموں کے لیے بنیادی اور ہدایت یافتہ fine-tuned ماڈلز: تخلیق، خلاصہ نویسی، درجہ بندی وغیرہ۔
- کوڈ کے ماڈلز (Granite Code Models): 100 سے زائد پروگرامنگ زبانوں پر تربیت یافتہ خصوصی LLM، کوڈ کی خودکار تکمیل، تخلیق اور درستگی کے لیے۔ 3 سے 34 ارب parameters کے سائز میں دستیاب ہیں[4]۔
- وژن ماڈلز (Granite Vision Models): تصاویر اور دستاویزات کے تجزیے، متن کی شناخت اور مواد کی سمجھ کے لیے نیورل نیٹ ورکس۔
- اسپیچ ماڈلز (Granite Speech Models): تقریر کی شناخت اور ترجمے کے لیے کمپیکٹ ماڈلز۔
- ٹائم سیریز ماڈلز (Granite for Time Series): وقتی سلسلوں کی بنیاد پر پیش گوئی کے لیے خصوصی ماڈلز۔
- جیو اسپیشل ماڈل (Granite for Geospatial): سیٹلائٹ تصاویر اور دیگر جغرافیائی ڈیٹا کے تجزیے کے لیے NASA کے تعاون سے تیار کیا گیا۔
- ایمبیڈنگ ماڈلز (Granite Embedding Models): سیمانٹک تلاش اور RAG سسٹمز کی تعمیر کے کاموں کے لیے ماڈلز۔
- Granite Guardian: سیکیورٹی کو یقینی بنانے کے لیے ایک خصوصی ماڈیول جو ناپسندیدہ درخواستوں کی فلٹرنگ اور مواد کی نگرانی کے لیے بنایا گیا ہے۔
کھلا کوڈ اور لائسنسنگ
IBM نے Granite خاندان کی کھلے پن پر خاص زور دیا ہے، اسے بند ملکیتی LLM کے ایک شفاف متبادل کے طور پر پیش کیا ہے۔ مئی 2024 میں کمپنی نے Apache 2.0 لائسنس کے تحت Granite Code کے بنیادی ماڈلز کھلی کمیونٹی کو دیے، جو ان کے آزادانہ استعمال، ترمیم اور تقسیم کی اجازت دیتا ہے[4]۔
اس قدم نے، تربیتی ڈیٹا کے بارے میں تفصیلی معلومات کی اشاعت کے ساتھ، IBM کو تحقیقی برادری سے اعلیٰ درجہ دلوایا۔ 2024 میں ماڈل نے اسٹینفورڈ یونیورسٹی کے فاؤنڈیشن ماڈلز کے شفافیت انڈیکس میں سرفہرست پوزیشن حاصل کی[3]۔
استعمال
Granite ماڈلز IBM watsonx کلاؤڈ پلیٹ فارم میں ضم ہیں اور مختلف کارپوریٹ منظرناموں میں استعمال ہوتے ہیں۔
- کھیلوں کا تجزیہ (US Open): امریکی ٹینس ایسوسی ایشن (USTA) کے تعاون سے IBM، Granite کو US Open ٹورنامنٹ میں ہر میچ کے بعد خودکار میچ رپورٹس اور آڈیو تبصرے تیار کرنے کے لیے استعمال کرتا ہے۔ یہ حل میچ ختم ہونے کے چند منٹوں میں ایک تفصیلی متنی جائزہ تیار کرتا ہے[7]۔
- پروگرامرز کی مدد: Granite Code ماڈلز IBM watsonx Code Assistant کی بنیاد ہیں — ایسے ٹولز کا خاندان جو مثال کے طور پر COBOL کے پرانے کوڈ کو IBM Z کے لیے جدید مائیکروسروسز میں خودکار طور پر تبدیل کر سکتے ہیں[4]۔
- صنعتی AI ایپلیکیشنز: Lockheed Martin نے قومی سلامتی کے کاموں کے لیے Granite ماڈلز کو اپنے AI Factory پلیٹ فارم میں ضم کیا۔ ESPN، فینٹسی اسپورٹس میں ذاتی نوعیت کے تبصرے تیار کرنے کے لیے Granite استعمال کرتا ہے[3]۔
ادبیات
- Ainslie, J. et al. (2023). GQA: Training Generalized Multi‑Query Transformer Models from Multi‑Head Checkpoints. arXiv:2305.13245.
- Awasthy, P. et al. (2025). Granite Embedding Models. arXiv:2502.20204.
- Dao, T. et al. (2022). FlashAttention: Fast and Memory‑Efficient Exact Attention with IO‑Awareness. arXiv:2205.14135.
- Ding, Y. et al. (2024). LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens. arXiv:2402.13753.
- Fedus, W.; Zoph, B.; Shazeer, N. (2021). Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity. arXiv:2101.03961.
- Granite Vision Team (2025). Granite Vision: A Lightweight, Open‑Source Multimodal Model for Enterprise Intelligence. arXiv:2502.09927.
- Mishra, M. et al. (2024). Granite Code Models: A Family of Open Foundation Models for Code Intelligence. arXiv:2405.04324.
- Padhi, I. et al. (2024). Granite Guardian: Risk Detection for Safe and Responsible Use of LLMs. arXiv:2412.07724.
- Peng, B. et al. (2023). YaRN: Efficient Context Window Extension of Large Language Models. arXiv:2309.00071.
- Stallone, M. et al. (2024). Scaling Granite Code Models to 128K Context. arXiv:2407.13739.
حواشی
- ↑ 1.0 1.1 «Building AI for business: IBM's Granite foundation models». IBM Blog. [1]
- ↑ 2.0 2.1 Lardinois, Frederic (7 сентября 2023). «IBM rolls out new generative AI features and models». TechCrunch. [2]
- ↑ 3.0 3.1 3.2 «Granite». IBM. [3]
- ↑ 4.0 4.1 4.2 4.3 «IBM's Granite code model family is going open source». IBM Research Blog. [4]
- ↑ «Granite 3.3 Language Models - a ibm-granite Collection». Hugging Face. [5]
- ↑ 6.0 6.1 «Granite Foundation Models: Technical Specifications». IBM. [6]
- ↑ «IBM and the USTA Serve Up New and Enhanced Generative AI Features for 2024 US Open Digital Platforms». IBM Newsroom. [7]