PanGu (Huawei) (BN)
Huawei PanGu (চীনা: 盘古) — এটি Huawei Cloud কর্তৃক তৈরি কৃত্রিম বুদ্ধিমত্তার অতি-বৃহৎ পূর্বপ্রশিক্ষিত মডেলের (foundation models) একটি পরিবার। «PanGu» নামটি চীনা পুরাণের আদিসত্তা পান-গু-র প্রতি ইঙ্গিত করে, যিনি পৌরাণিক বিশ্বাস অনুযায়ী পৃথিবী সৃষ্টি করেছিলেন[1]। PanGu পরিবার বিভিন্ন ক্ষেত্র অন্তর্ভুক্ত করে, যার মধ্যে রয়েছে প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (NLP), কম্পিউটার দৃষ্টি (CV), মাল্টিমোডাল বিশ্লেষণ, পূর্বাভাসমূলক মডেলিং এবং বৈজ্ঞানিক গণনা।
ইতিহাস ও বিকাশ
PanGu-α (২০২১)
পরিবারের প্রথম মডেল, PanGu-α (PanGu-Alpha), ২০২১ সালের এপ্রিলে উপস্থাপন করা হয়। ২০০ বিলিয়ন প্যারামিটার নিয়ে এটি সেই সময়ে চীনা ভাষার জন্য সবচেয়ে বড় ভাষা মডেলে পরিণত হয়, OpenAI-এর GPT-3 (১৭৫ বিলিয়ন)-এর আকারকে ছাড়িয়ে[2]।
মডেলটি Huawei Cloud-এর একটি দল Noah's Ark গবেষণাগারের সহযোগিতায় তৈরি করেছিল এবং MindSpore ফ্রেমওয়ার্ক ব্যবহার করে ২০৪৮টি বিশেষায়িত Huawei Ascend 910 প্রসেসরের একটি ক্লাস্টারে প্রশিক্ষিত করা হয়েছিল[3]। প্রশিক্ষণ কর্পাসে চীনা ভাষার ১.১ টেরাবাইট উচ্চমানের পাঠ্য তথ্য অন্তর্ভুক্ত ছিল। PanGu-α বেঞ্চমার্ক CLUE (Chinese Language Understanding Evaluation)-এ শীর্ষ স্থান অধিকার করে উচ্চ ফলাফল প্রদর্শন করেছিল[1]।
PanGu 3.0 (২০২৩): প্ল্যাটফর্ম-ভিত্তিক পদ্ধতি
২০২৩ সালের জুলাইয়ে Huawei PanGu 3.0 প্ল্যাটফর্ম উপস্থাপন করে, যা একক মডেল থেকে শিল্প প্রয়োগের দিকে ভিত্তিক বহুস্তরীয় «5+N+X» আর্কিটেকচারে উত্তরণ চিহ্নিত করে[4]।
- L0 (ভিত্তি স্তর): পাঁচটি মৌলিক মডেল (NLP, CV, মাল্টিমোডাল, পূর্বাভাসমূলক এবং বৈজ্ঞানিক-গাণনিক)।
- L1 (শিল্প স্তর): নির্দিষ্ট শিল্পের জন্য (সরকার পরিচালনা, অর্থ, উৎপাদন ইত্যাদি) মৌলিক মডেলের উপর ভিত্তি করে fine-tuning করা N টি শিল্প মডেল।
- L2 (দৃশ্যকল্প স্তর): নির্দিষ্ট প্রায়োগিক কাজের জন্য (ভার্চুয়াল সহকারী, টাইফুনের গতিপথ পূর্বাভাস ইত্যাদি) X টি মডেল।
এই শ্রেণিবদ্ধ পদ্ধতি ক্লায়েন্টদের হয় প্রস্তুত সমাধান ব্যবহার করতে অথবা নিজস্ব ডেটায় শিল্প মডেলগুলি fine-tune করতে সুযোগ দেয়, যা অভিযোজনকে উল্লেখযোগ্যভাবে সহজ ও সাশ্রয়ী করে তোলে।
PanGu 5.5 (২০২৫): Mixture-of-Experts আর্কিটেকচার
২০২৫ সালের জুনে Huawei PanGu 5.5-এ আপগ্রেডের ঘোষণা দেয়, যা শিল্প সমস্যার গভীর সমাধানে মনোনিবেশ করে। মূল বৈশিষ্ট্য হয়ে ওঠে ২৫৬টি বিশেষজ্ঞ সাবনেটওয়ার্ক সমৃদ্ধ মিশ্র বিশেষজ্ঞ (MoE) আর্কিটেকচার, যা মোট প্যারামিটার সংখ্যা ৭১৮ বিলিয়নে বৃদ্ধি করেছে[5]। MoE আর্কিটেকচার নির্দিষ্ট সমস্যা সমাধানের সময় কেবল মডেলের একটি অংশ গতিশীলভাবে সক্রিয় করতে দেয়, যা Huawei-এর দাবি অনুযায়ী পূর্ববর্তী প্রজন্মের তুলনায় inference কার্যকারিতায় আটগুণ বৃদ্ধি নিশ্চিত করে[6]।
মূল আর্কিটেকচারাল ও প্রযুক্তিগত সমাধান
PanGu মডেলগুলি GPT ধরনের transformer আর্কিটেকচারের উপর ভিত্তি করে তৈরি, তবে অতি-বৃহৎ মডেল প্রশিক্ষণের জন্য বেশ কিছু উদ্ভাবন সহ। জেনারেশন প্রক্রিয়া পরিচালনার জন্য একটি বিশেষ কোয়েরি স্তর (Query Layer) প্রবর্তন করা হয়েছে, যা পূর্বপ্রশিক্ষণ পর্যায়ে কাঙ্ক্ষিত আউটপুট আহরণে সহায়তা করে[3]।
PanGu মডেলগুলির প্রশিক্ষণ ও পরিচালনা Huawei-এর নিজস্ব হার্ডওয়্যার ও সফটওয়্যার প্ল্যাটফর্মের সাথে ঘনিষ্ঠভাবে একীভূত:
- Ascend 910 প্রসেসর: বিশেষায়িত AI ত্বরণকারী, যা গণনামূলক ক্লাস্টারের ভিত্তি গঠন করে।
- MindSpore ফ্রেমওয়ার্ক: ওপেন সোর্স ডিপ লার্নিং প্ল্যাটফর্ম, যা অটো-প্যারালেল প্রযুক্তি সমর্থন করে — এটি পাঁচ ধরনের সমান্তরালতা (ডেটা, মডেল, পাইপলাইন, অপটিমাইজার ইত্যাদি) একত্রিত করে হাজার হাজার নোডের মধ্যে দক্ষতার সাথে গণনা বিতরণ করে[3]।
বিশেষায়িত মডেল ও তাদের প্রয়োগ
PanGu-Weather
পরিবারের সবচেয়ে পরিচিত মডেলগুলির মধ্যে একটি হলো PanGu-Weather — ডিপ লার্নিং-ভিত্তিক একটি বৈশ্বিক আবহাওয়া মডেল। ২০২৩ সালের জুলাইয়ে এটি সম্পর্কিত একটি নিবন্ধ মর্যাদাপূর্ণ বৈজ্ঞানিক জার্নাল Nature-এ প্রকাশিত হয়[7]।
মডেলটি উল্লেখযোগ্যভাবে বেশি গতিতে ইউরোপিয়ান সেন্টার ফর মিডিয়াম-রেঞ্জ ওয়েদার ফোরকাস্টস (ECMWF)-এর ঐতিহ্যগত সাংখ্যিক আবহাওয়া পূর্বাভাস পদ্ধতিকে নির্ভুলতায় ছাড়িয়ে যাওয়ার সক্ষমতা প্রদর্শন করেছে। ২৪ ঘণ্টার বৈশ্বিক পূর্বাভাস তৈরিতে মডেলটির মাত্র কয়েক সেকেন্ড লাগে, যেখানে সুপারকম্পিউটারের গণনায় কয়েক ঘণ্টা লাগে — এর মানে প্রায় ১০,০০০ গুণ ত্বরান্বিতকরণ[7]। ২০২৩ সালের আগস্টে PanGu-Weather-এর পূর্বাভাসগুলি ব্যবহারিক আবহাওয়া সেবায় ব্যবহারের জন্য ECMWF-এর পরিষেবায় একীভূত করা হয়[8]।
শিল্পগত প্রয়োগ
PanGu মডেলগুলি ৩০টি অর্থনৈতিক খাতে ৫০০-এরও বেশি দৃশ্যকল্পে প্রয়োগ করা হয়েছে। কিছু উদাহরণ:
- কৃষি: চীনা কৃষি বিজ্ঞান একাডেমি (CAAS) PanGu ব্যবহার করে প্রজনন নির্বাচনের জন্য একটি মডেল তৈরি করেছে, যা লডজিং প্রতিরোধ ক্ষমতা উন্নত সহ পরীক্ষামূলক ধানের জাত উৎপাদন করতে সক্ষম হয়েছে[5]।
- তেল ও গ্যাস শিল্প: CNPC পাইপলাইনের ত্রুটি সাব-মিলিমিটার নির্ভুলতায় স্বয়ংক্রিয়ভাবে সনাক্ত করতে PanGu মডেল ব্যবহার করে, যা কার্যকারিতা ~৪০% বৃদ্ধি করে[9]।
- সরকার পরিচালনা: শেনজেনে «Xiaofu» নামের একটি বুদ্ধিমান সহকারী তৈরি করা হয়েছে, যা ২,০০,০০০-এরও বেশি স্থানীয় নথির একটি কর্পাসের উপর ভিত্তি করে নাগরিকদের সরকারি সেবা সম্পর্কিত তথ্য সরবরাহ করে[4]।
- ফার্মাকোলজি: PanGu Drug Molecule মডেলটি ওষুধ প্রার্থীদের স্ক্রিনিং প্রক্রিয়া ত্বরান্বিত করতে ব্যবহৃত হয়। দাবি করা হয়েছে যে এটির সাহায্যে অ্যান্টিবায়োটিকের একটি নতুন শ্রেণি আবিষ্কার করা হয়েছে, যা এই ক্ষেত্রে ৪০ বছরে প্রথম অগ্রগতি[4]।
উৎস কোড উন্মুক্তকরণ
২০২৫ সালের জুনে Huawei PanGu পরিবারের কিছু মডেলের উৎস কোড উন্মুক্ত (open-source) করার ঘোষণা দেয়। উন্মুক্ত অ্যাক্সেসে প্রকাশিত হয়েছে[10]:
- PanGu Dense Model 7B (৭ বিলিয়ন প্যারামিটার)।
- PanGu Pro MoE Model 72B (৭২ বিলিয়ন প্যারামিটার)।
এই পদক্ষেপের লক্ষ্য হলো উদ্ভাবনকে উৎসাহিত করা এবং Huawei Ascend হার্ডওয়্যার প্ল্যাটফর্মকে কেন্দ্র করে একটি উন্মুক্ত ইকোসিস্টেম তৈরি করা, যা AI ক্ষেত্রে বৈশ্বিক প্রতিযোগিতায় একটি কৌশলগত প্রতিক্রিয়া[10]।
তথ্যসূত্র
- Zeng, W.; et al. (2021). PanGu‑α: Large‑Scale Autoregressive Pretrained Chinese Language Models. PDF.
- Huawei (2021). HDC.Cloud 2021: Huawei Releases Six Ground‑breaking Products to Supercharge the Cloud and Intelligent Transformation of Business. Online news.
- Huawei Cloud (2023). Reshaping Industries with AI: Huawei Cloud Launches PanGu Models 3.0 and Ascend AI Cloud Services. Online news.
- Bi, K.; et al. (2023). Accurate Medium‑Range Global Weather Forecasting with 3D Neural Networks. Nature, 620, 560–566. DOI:10.1038/s41586‑023‑06185‑3.
- Technology Magazine (2025). What Huawei PanGu 5.5 Models Mean for Industrial AI. Online article.
- MindSpore Team (2021). MindSpore: An All‑Scenario Deep Learning Computing Framework (White Paper v1.1). PDF.
- Zhang, S.; et al. (2024). Ascend 910 NPU SoC Architecture for Large‑Scale AI Training. arXiv:2407.11888. Online preprint.
- AIbase News (2025). Huawei Open Sources Dense PanGu 7B and Mixture‑of‑Experts PanGuPro 72B. Online news.
- CNPC & Huawei Cloud (2024). Kunlun: Large‑Scale AI Model for Oil and Gas Pipeline Defect Detection. Online case study.
- MindSpore Docs (2024). Automatic Parallel — Five‑Mode Hybrid Strategy in MindSpore. Online documentation.
- Press, O.; et al. (2021). Train Short, Test Long: Attention with Linear Biases Enables Input‑Length Extrapolation. arXiv:2108.12409.
- Law, M. (2025). How Huawei PanGu 5.5 AI Models Transform Industry Operations. AI Magazine. Online article.
টীকা
- ↑ 1.0 1.1 «HDC.Cloud 2021: Huawei Releases Six Groundbreaking Products to Supercharge the Cloud and Intelligent Transformation of Business». Huawei. [১]
- ↑ Wodecki, Ben (27 Apr 2021). «Huawei has created the world's largest Chinese language model». AI Business. [২]
- ↑ 3.0 3.1 3.2 Zeng, Wei, et al. (Apr 2021). «PanGu-α: Large-scale Autoregressive Pretrained Chinese Language Models». Technical Report. [৩]
- ↑ 4.0 4.1 4.2 «Reshaping Industries with AI: Huawei Cloud Launches Pangu Models 3.0 and Ascend AI Cloud Services». HUAWEI CLOUD. 7 Jul 2023. [৪]
- ↑ 5.0 5.1 Law, Marcus (23 Jun 2025). «What Huawei Pangu 5.5 Models Mean for Industrial AI». Technology Magazine. [৫]
- ↑ «How Huawei Pangu 5.5 AI Models Transform Industry Operations». AI Magazine. [৬]
- ↑ 7.0 7.1 «Prestigious science journal Nature publishes paper about Pangu Weather AI Model authored by HUAWEI CLOUD researchers». Huawei News. 6 Jul 2023. [৭]
- ↑ Bi, Kaifeng, et al. (2023). «Accurate medium-range global weather forecasting with 3D neural networks». Nature. [৮]
- ↑ «CNPC and Huawei Cloud Jointly Launch the "Kunlun" Model for the Oil and Gas Industry».
- ↑ 10.0 10.1 «Huawei Open Sources Dense Pangu 7B and Mixture of Experts Model with 72B Parameters». Albase News. 30 Jun 2025. [৯]