PanGu (Huawei) (HU)
Huawei PanGu (kínai: 盘古) — a Huawei Cloud által fejlesztett ultranagy előre betanított mesterséges intelligencia modellek (foundation models) családja. A „PanGu" név Pán-gura utal, a kínai mitológia ősállatára, amely megteremtette a világot[1]. A PanGu család számos területet lefed, köztük a természetes nyelv feldolgozását (NLP), a gépi látást (CV), a multimodális elemzést, a prediktív modellezést és a tudományos számítástechnikát.
Történet és fejlődés
PanGu-α (2021)
A család első modelljét, a PanGu-α-t (PanGu-Alpha) 2021 áprilisában mutatták be. 200 milliárd paraméterével az akkori legnagyobb kínai nyelvű nyelvi modellé vált, méretében felülmúlva az OpenAI GPT-3 modelljét (175 milliárd)[2].
A modellt a Huawei Cloud csapata fejlesztette ki a Noah's Ark laboratóriummal együttműködve, és 2048 darab speciális Huawei Ascend 910 processzorból álló klaszteren tanították be a MindSpore keretrendszer használatával[3]. A tanítási korpusz 1,1 TB kiváló minőségű kínai nyelvű szöveges adatból állt. A PanGu-α kiemelkedő eredményeket ért el a CLUE (Chinese Language Understanding Evaluation) benchmarkon, az összesített rangsorban az első helyet szerezte meg[1].
PanGu 3.0 (2023): Platformalapú megközelítés
2023 júliusában a Huawei bemutatta a PanGu 3.0 platformot, amely az egységes modelltől az ipari alkalmazásra orientált, többszintű „5+N+X" architektúra felé való átmenetet jelzi[4].
- L0 (Alapréteg): Öt alapmodell (NLP, CV, multimodális, prediktív és tudományos-számítástechnikai).
- L1 (Ágazati réteg): N ágazati modell, amelyeket az alapmodellekből finomhangoltak konkrét iparágakra (közigazgatás, pénzügy, gyártás stb.).
- L2 (Forgatókönyvi réteg): X modell konkrét alkalmazási feladatokhoz (virtuális asszisztens, tájfunpálya-előrejelzés stb.).
Ez a hierarchikus megközelítés lehetővé teszi az ügyfelek számára, hogy kész megoldásokat használjanak, vagy az ágazati modelleket saját adatokon finomhangolják, ami jelentősen egyszerűsíti és csökkenti az adaptáció költségeit.
PanGu 5.5 (2025): Mixture-of-Experts architektúra
2025 júniusában a Huawei bejelentette a PanGu 5.5 frissítést, amely az ipari feladatok mélyebb megoldására összpontosít. A legfontosabb újítás a szakértők keveréke (MoE) architektúra lett 256 szakértői részálózattal, amelynek köszönhetően a paraméterek összesített száma 718 milliárdra nőtt[5]. Az MoE architektúra lehetővé teszi, hogy adott feladat megoldásakor a modellnek csak egy része aktiválódjon dinamikusan, ami a Huawei állítása szerint az előző generációkhoz képest nyolcszorosára növeli az inferencia hatékonyságát[6].
Főbb architekturális és technikai megoldások
A PanGu modellek GPT típusú transzformer architektúrára épülnek, de számos innovációt tartalmaznak a szupernagy modellek betanításához. A generálási folyamat vezérléséhez egy speciális lekérdezési réteg (Query Layer) került bevezetésre, amely segíti a kívánt kimenet indukálását az előzetes betanítás szakaszában[3].
A PanGu modellek betanítása és üzemeltetése szorosan integrálva van a Huawei saját hardver- és szoftverplatformjával:
- Ascend 910 processzorok: Speciális AI-gyorsítók, amelyek a számítási klaszterek alapját alkotják.
- MindSpore keretrendszer: Nyílt forráskódú mélytanulási platform, amely támogatja az auto-párhuzamos technológiát, amely öt párhuzamossági típust kombinál (adat-, modell-, csővezeték-, optimalizáló-párhuzamosság és egyebek), hogy hatékonyan ossza el a számítási feladatokat több ezer csomópont között[3].
Speciális modellek és alkalmazásuk
PanGu-Weather
A család egyik leghíresebb modellje a PanGu-Weather — egy mélytanuláson alapuló globális meteorológiai modell. 2023 júliusában a modellről szóló cikk megjelent a rangos Nature tudományos folyóiratban[7].
A modell képesnek bizonyult pontosságában felülmúlni az Európai Középtávú Időjárás-előrejelzési Központ (ECMWF) hagyományos numerikus időjárás-előrejelzési módszereit, lényegesen nagyobb sebességgel. A modell néhány másodperc alatt generál 24 órás globális előrejelzést a szuperszámítógépes számítások több órája helyett, ami körülbelül 10 000-szeres gyorsulást jelent[7]. 2023 augusztusában a PanGu-Weather előrejelzéseit beépítették az ECMWF szolgáltatásába, hogy a gyakorlati meteorológiai szolgáltatásokban is felhasználhatók legyenek[8].
Ipari alkalmazás
A PanGu modellek több mint 30 gazdasági ágazat több mint 500 forgatókönyvében kerültek bevezetésre. Néhány példa:
- Mezőgazdaság: A Kínai Mezőgazdaságtudományi Akadémia (CAAS) a PanGu segítségével nemesítési modellt fejlesztett ki, amellyel sikerült egy kísérleti rizsfajtát előállítani, javított dőléssel szembeni ellenállással[5].
- Olaj- és gázipar: A CNPC a PanGu modellt használja a csővezetékek hibáinak automatikus feltárására szubmilliméteres pontossággal, ~40%-os hatékonyságnövekedést elérve[9].
- Közigazgatás: Sencsenben létrehozták a „Xiaofu" intelligens asszisztenst, amely több mint 200 000 helyi dokumentumból álló korpusz alapján tájékoztatja az állampolgárokat a közszolgáltatásokról[4].
- Farmakológia: A PanGu Drug Molecule modellt a gyógyszerjelöltek szűrési folyamatának felgyorsítására használják. Bejelentések szerint a segítségével egy új antibiotikum-osztályt fedeztek fel, amely az elmúlt 40 év első áttörése ezen a területen[4].
Nyílt forráskód
2025 júniusában a Huawei bejelentette, hogy a PanGu modellek egy részét nyílt forráskódúvá (open-source) teszi. Nyilvánosan elérhetővé váltak[10]:
- PanGu Dense Model 7B (7 milliárd paraméter).
- PanGu Pro MoE Model 72B (72 milliárd paraméter).
Ez a lépés az innováció ösztönzésére és a Huawei Ascend hardverplatform köré épülő nyílt ökoszisztéma megteremtésére irányul, ami stratégiai válasz a globális AI-versenyre[10].
Irodalom
- Zeng, W.; et al. (2021). PanGu‑α: Large‑Scale Autoregressive Pretrained Chinese Language Models. PDF.
- Huawei (2021). HDC.Cloud 2021: Huawei Releases Six Ground‑breaking Products to Supercharge the Cloud and Intelligent Transformation of Business. Online news.
- Huawei Cloud (2023). Reshaping Industries with AI: Huawei Cloud Launches PanGu Models 3.0 and Ascend AI Cloud Services. Online news.
- Bi, K.; et al. (2023). Accurate Medium‑Range Global Weather Forecasting with 3D Neural Networks. Nature, 620, 560–566. DOI:10.1038/s41586‑023‑06185‑3.
- Technology Magazine (2025). What Huawei PanGu 5.5 Models Mean for Industrial AI. Online article.
- MindSpore Team (2021). MindSpore: An All‑Scenario Deep Learning Computing Framework (White Paper v1.1). PDF.
- Zhang, S.; et al. (2024). Ascend 910 NPU SoC Architecture for Large‑Scale AI Training. arXiv:2407.11888. Online preprint.
- AIbase News (2025). Huawei Open Sources Dense PanGu 7B and Mixture‑of‑Experts PanGuPro 72B. Online news.
- CNPC & Huawei Cloud (2024). Kunlun: Large‑Scale AI Model for Oil and Gas Pipeline Defect Detection. Online case study.
- MindSpore Docs (2024). Automatic Parallel — Five‑Mode Hybrid Strategy in MindSpore. Online documentation.
- Press, O.; et al. (2021). Train Short, Test Long: Attention with Linear Biases Enables Input‑Length Extrapolation. arXiv:2108.12409.
- Law, M. (2025). How Huawei PanGu 5.5 AI Models Transform Industry Operations. AI Magazine. Online article.
Megjegyzések
- ↑ 1.0 1.1 «HDC.Cloud 2021: Huawei Releases Six Groundbreaking Products to Supercharge the Cloud and Intelligent Transformation of Business». Huawei. [1]
- ↑ Wodecki, Ben (27 Apr 2021). «Huawei has created the world's largest Chinese language model». AI Business. [2]
- ↑ 3.0 3.1 3.2 Zeng, Wei, et al. (Apr 2021). «PanGu-α: Large-scale Autoregressive Pretrained Chinese Language Models». Technical Report. [3]
- ↑ 4.0 4.1 4.2 «Reshaping Industries with AI: Huawei Cloud Launches Pangu Models 3.0 and Ascend AI Cloud Services». HUAWEI CLOUD. 7 Jul 2023. [4]
- ↑ 5.0 5.1 Law, Marcus (23 Jun 2025). «What Huawei Pangu 5.5 Models Mean for Industrial AI». Technology Magazine. [5]
- ↑ «How Huawei Pangu 5.5 AI Models Transform Industry Operations». AI Magazine. [6]
- ↑ 7.0 7.1 «Prestigious science journal Nature publishes paper about Pangu Weather AI Model authored by HUAWEI CLOUD researchers». Huawei News. 6 Jul 2023. [7]
- ↑ Bi, Kaifeng, et al. (2023). «Accurate medium-range global weather forecasting with 3D neural networks». Nature. [8]
- ↑ «CNPC and Huawei Cloud Jointly Launch the "Kunlun" Model for the Oil and Gas Industry».
- ↑ 10.0 10.1 «Huawei Open Sources Dense Pangu 7B and Mixture of Experts Model with 72B Parameters». Albase News. 30 Jun 2025. [9]