PanGu (Huawei) (UR)

From Systems analysis Wiki
Jump to navigation Jump to search

Huawei PanGu (چینی: 盘古) — مصنوعی ذہانت کی بنیادی (foundation models) انتہائی بڑے پری-ٹرینڈ ماڈلز کا ایک خاندان ہے جسے Huawei Cloud نے تیار کیا ہے۔ «PanGu» کا نام چینی ثقافت کے اساطیری پہلے وجود پان-گو سے ماخوذ ہے، جس نے کائنات کو تخلیق کیا[1]۔ PanGu کا خاندان مختلف شعبوں کو محیط ہے، جن میں قدرتی زبان کی پروسیسنگ (NLP)، کمپیوٹر وژن (CV)، ملٹی موڈل تجزیہ، پیشین گوئی کی ماڈلنگ اور سائنسی کمپیوٹنگ شامل ہیں۔

تاریخ اور ارتقاء

PanGu-α (2021)

اس خاندان کا پہلا ماڈل، PanGu-α (PanGu-Alpha)، اپریل 2021 میں پیش کیا گیا۔ 200 ارب پیرامیٹرز کے ساتھ یہ اس وقت چینی زبان کا سب سے بڑا لینگویج ماڈل بن گیا، جس نے OpenAI کے GPT-3 (175 ارب) کو سائز میں پیچھے چھوڑ دیا[2]۔

یہ ماڈل Huawei Cloud کی ٹیم نے Noah's Ark لیبارٹری کے تعاون سے تیار کیا اور MindSpore فریم ورک کے ذریعے 2048 خصوصی Huawei Ascend 910 پروسیسرز کے کلسٹر پر تربیت دی گئی[3]۔ تربیتی کارپس میں چینی زبان کا 1.1 ٹیرابائٹ اعلیٰ معیار کا متنی ڈیٹا شامل تھا۔ PanGu-α نے CLUE (Chinese Language Understanding Evaluation) benchmark پر بہترین نتائج حاصل کیے اور مجموعی درجہ بندی میں پہلی پوزیشن حاصل کی[1]۔

PanGu 3.0 (2023): پلیٹ فارم پر مبنی نقطہ نظر

جولائی 2023 میں Huawei نے PanGu 3.0 پلیٹ فارم متعارف کرایا، جو ایک واحد ماڈل سے «5+N+X» کثیر الطبقاتی فن تعمیر کی طرف منتقلی کی نشاندہی کرتا ہے، جو صنعتی استعمال پر مرکوز ہے[4]۔

  • L0 (بنیادی پرت): پانچ بنیادی ماڈلز (NLP، CV، ملٹی موڈل، پیشین گوئی اور سائنسی کمپیوٹنگ)۔
  • L1 (صنعتی پرت): N صنعتی ماڈلز جو بنیادی ماڈلز کی بنیاد پر مخصوص شعبوں (حکومتی انتظام، مالیات، مینوفیکچرنگ وغیرہ) کے لیے fine-tuning کیے گئے ہیں۔
  • L2 (منظرنامے کی پرت): X ماڈلز مخصوص عملی کاموں کے لیے (ورچوئل اسسٹنٹ، سمندری طوفان کی رفتار کی پیشین گوئی وغیرہ)۔

یہ درجہ بندی پر مبنی نقطہ نظر صارفین کو یا تو تیار حل استعمال کرنے یا اپنے ڈیٹا پر صنعتی ماڈلز کو fine-tune کرنے کی سہولت دیتا ہے، جو موافقت کو نمایاں طور پر آسان اور سستا بناتا ہے۔

PanGu 5.5 (2025): Mixture-of-Experts فن تعمیر

جون 2025 میں Huawei نے PanGu 5.5 کی اپ ڈیٹ کا اعلان کیا، جو صنعتی مسائل کے گہرے حل پر مرکوز ہے۔ اہم خصوصیت ماہرین کی آمیزش (MoE) کا فن تعمیر ہے جس میں 256 ماہر ذیلی نیٹ ورکس شامل ہیں، جس سے پیرامیٹرز کی کل تعداد 718 ارب تک پہنچ گئی[5]۔ MoE فن تعمیر کسی مخصوص کام کو حل کرتے وقت ماڈل کے صرف ایک حصے کو متحرک کرتا ہے، جس کے بارے میں Huawei کا دعویٰ ہے کہ یہ پچھلی نسلوں کے مقابلے میں inference کی کارکردگی میں آٹھ گنا اضافہ کرتا ہے[6]۔

بنیادی فن تعمیر اور تکنیکی حل

PanGu ماڈلز GPT قسم کے transformer فن تعمیر پر بنے ہیں، لیکن انتہائی بڑے ماڈلز کی تربیت کے لیے متعدد اختراعات کے ساتھ۔ نسل کے عمل کو کنٹرول کرنے کے لیے ایک خاص سوال کی پرت (Query Layer) متعارف کرائی گئی جو پری-ٹریننگ مرحلے میں مطلوبہ آؤٹ پٹ کو اخذ کرنے میں مدد کرتی ہے[3]۔

PanGu ماڈلز کی تربیت اور آپریشن Huawei کے اپنے ہارڈویئر اور سافٹ ویئر پلیٹ فارم کے ساتھ گہرے طور پر مربوط ہیں:

  • Ascend 910 پروسیسرز: خصوصی AI ایکسیلریٹرز جو کمپیوٹنگ کلسٹرز کی بنیاد بناتے ہیں۔
  • MindSpore فریم ورک: اوپن سورس ڈیپ لرننگ پلیٹ فارم جو آٹو-پیرالل ٹیکنالوجی کو سپورٹ کرتا ہے، جو ہزاروں نوڈز کے درمیان مؤثر طریقے سے کمپیوٹیشن تقسیم کرنے کے لیے پانچ اقسام کے parallelism (ڈیٹا، ماڈل، پائپ لائن، آپٹیمائزر وغیرہ) کو یکجا کرتی ہے[3]۔

خصوصی ماڈلز اور ان کا اطلاق

PanGu-Weather

اس خاندان کا سب سے مشہور ماڈل PanGu-Weather ہے — ڈیپ لرننگ پر مبنی ایک عالمی موسمیاتی ماڈل۔ جولائی 2023 میں اس پر ایک مقالہ معتبر سائنسی جریدے Nature میں شائع ہوا[7]۔

اس ماڈل نے نمایاں طور پر زیادہ رفتار کے ساتھ یورپی مرکز برائے درمیانی مدت کی موسمیاتی پیشین گوئیاں (ECMWF) کے روایتی عددی موسمیاتی پیش گوئی طریقوں سے زیادہ درستگی کا مظاہرہ کیا۔ ماڈل 24 گھنٹے کی عالمی پیشین گوئی چند سیکنڈوں میں تیار کرتا ہے جبکہ سپر کمپیوٹر کے حسابات میں کئی گھنٹے لگتے ہیں، یعنی تقریباً 10,000 گنا تیزی[7]۔ اگست 2023 میں PanGu-Weather کی پیشین گوئیاں عملی موسمیاتی خدمات میں استعمال کے لیے ECMWF کی سروس میں ضم کر دی گئیں[8]۔

صنعتی اطلاق

PanGu ماڈلز 30 شعبہ ہائے معیشت میں 500 سے زیادہ منظرناموں میں نافذ کیے گئے ہیں۔ چند مثالیں:

  • زراعت: چین کی اکیڈمی آف ایگریکلچرل سائنسز (CAAS) نے PanGu کی مدد سے افزائش نسل کا ایک ماڈل تیار کیا، جس سے چاول کی ایک تجرباتی قسم متعارف کرائی گئی جس میں گرنے کے خلاف بہتر مزاحمت ہے[5]۔
  • تیل اور گیس کی صنعت: CNPC پائپ لائنوں میں خرابیوں کی خودکار شناخت کے لیے PanGu ماڈل کا استعمال کر رہی ہے جس کی درستگی ذیلی ملی میٹر سطح پر ہے، جس سے کارکردگی میں تقریباً ~40% اضافہ ہوا ہے[9]۔
  • حکومتی انتظام: شینژن میں ذہین اسسٹنٹ «Xiaofu» بنایا گیا ہے جو 200,000 سے زیادہ مقامی دستاویزات کے کارپس کی بنیاد پر شہریوں کو سرکاری خدمات کے بارے میں معلومات فراہم کرتا ہے[4]۔
  • دواسازی: PanGu Drug Molecule ماڈل دوائی امیدواروں کی اسکریننگ کے عمل کو تیز کرنے کے لیے استعمال کیا جاتا ہے۔ دعویٰ کیا گیا ہے کہ اس کی مدد سے اینٹی بائیوٹکس کی ایک نئی قسم دریافت کی گئی جو اس شعبے میں 40 سال میں پہلی پیش رفت ہے[4]۔

سورس کوڈ کا اجراء

جون 2025 میں Huawei نے PanGu خاندان کے کچھ ماڈلز کے سورس کوڈ (open-source) کے اجراء کا اعلان کیا۔ عوامی طور پر دستیاب کیے گئے[10]:

  • PanGu Dense Model 7B (7 ارب پیرامیٹرز)۔
  • PanGu Pro MoE Model 72B (72 ارب پیرامیٹرز)۔

یہ قدم اختراعات کی حوصلہ افزائی اور Huawei Ascend ہارڈویئر پلیٹ فارم کے گرد ایک کھلا ایکو سسٹم بنانے کی طرف اٹھایا گیا ہے، جو AI کے شعبے میں عالمی مسابقت کا ایک اسٹریٹجک جواب ہے[10]۔

حوالہ جات

  • Zeng, W.; et al. (2021). PanGu‑α: Large‑Scale Autoregressive Pretrained Chinese Language Models. PDF.
  • Huawei (2021). HDC.Cloud 2021: Huawei Releases Six Ground‑breaking Products to Supercharge the Cloud and Intelligent Transformation of Business. Online news.
  • Huawei Cloud (2023). Reshaping Industries with AI: Huawei Cloud Launches PanGu Models 3.0 and Ascend AI Cloud Services. Online news.
  • Bi, K.; et al. (2023). Accurate Medium‑Range Global Weather Forecasting with 3D Neural Networks. Nature, 620, 560–566. DOI:10.1038/s41586‑023‑06185‑3.
  • Technology Magazine (2025). What Huawei PanGu 5.5 Models Mean for Industrial AI. Online article.
  • MindSpore Team (2021). MindSpore: An All‑Scenario Deep Learning Computing Framework (White Paper v1.1). PDF.
  • Zhang, S.; et al. (2024). Ascend 910 NPU SoC Architecture for Large‑Scale AI Training. arXiv:2407.11888. Online preprint.
  • AIbase News (2025). Huawei Open Sources Dense PanGu 7B and Mixture‑of‑Experts PanGuPro 72B. Online news.
  • CNPC & Huawei Cloud (2024). Kunlun: Large‑Scale AI Model for Oil and Gas Pipeline Defect Detection. Online case study.
  • MindSpore Docs (2024). Automatic Parallel — Five‑Mode Hybrid Strategy in MindSpore. Online documentation.
  • Press, O.; et al. (2021). Train Short, Test Long: Attention with Linear Biases Enables Input‑Length Extrapolation. arXiv:2108.12409.
  • Law, M. (2025). How Huawei PanGu 5.5 AI Models Transform Industry Operations. AI Magazine. Online article.

حواشی

  1. ↑ 1.0 1.1 «HDC.Cloud 2021: Huawei Releases Six Groundbreaking Products to Supercharge the Cloud and Intelligent Transformation of Business». Huawei. [1]
  2. ↑ Wodecki, Ben (27 Apr 2021). «Huawei has created the world's largest Chinese language model». AI Business. [2]
  3. ↑ 3.0 3.1 3.2 Zeng, Wei, et al. (Apr 2021). «PanGu-α: Large-scale Autoregressive Pretrained Chinese Language Models». Technical Report. [3]
  4. ↑ 4.0 4.1 4.2 «Reshaping Industries with AI: Huawei Cloud Launches Pangu Models 3.0 and Ascend AI Cloud Services». HUAWEI CLOUD. 7 Jul 2023. [4]
  5. ↑ 5.0 5.1 Law, Marcus (23 Jun 2025). «What Huawei Pangu 5.5 Models Mean for Industrial AI». Technology Magazine. [5]
  6. ↑ «How Huawei Pangu 5.5 AI Models Transform Industry Operations». AI Magazine. [6]
  7. ↑ 7.0 7.1 «Prestigious science journal Nature publishes paper about Pangu Weather AI Model authored by HUAWEI CLOUD researchers». Huawei News. 6 Jul 2023. [7]
  8. ↑ Bi, Kaifeng, et al. (2023). «Accurate medium-range global weather forecasting with 3D neural networks». Nature. [8]
  9. ↑ «CNPC and Huawei Cloud Jointly Launch the "Kunlun" Model for the Oil and Gas Industry».
  10. ↑ 10.0 10.1 «Huawei Open Sources Dense Pangu 7B and Mixture of Experts Model with 72B Parameters». Albase News. 30 Jun 2025. [9]
Retrieved from "https://systems-analysis.info/int/index.php?title=PanGu_(Huawei)_(UR)&oldid=5456"