PanGu (Huawei) (IT)

Huawei PanGu (cin. 盘古) — è una famiglia di modelli di intelligenza artificiale pre-addestrati su larga scala (foundation models), sviluppati da Huawei Cloud. Il nome «PanGu» fa riferimento a Pan Gu, la creatura mitologica primordiale della cultura cinese che creò il mondo. La famiglia PanGu abbraccia diversi ambiti, tra cui l'elaborazione del linguaggio naturale (NLP), la visione artificiale (CV), l'analisi multimodale, la modellazione predittiva e il calcolo scientifico.

Storia e sviluppo

PanGu-α (2021)

Il primo modello della famiglia, PanGu-α (PanGu-Alpha), fu presentato nell'aprile 2021. Con 200 miliardi di parametri, divenne all'epoca il più grande modello linguistico per la lingua cinese, superando per dimensioni GPT-3 (175 miliardi) di OpenAI.

Il modello fu sviluppato dal team di Huawei Cloud in collaborazione con il laboratorio Noah's Ark e addestrato su un cluster di 2048 processori specializzati Huawei Ascend 910 utilizzando il framework MindSpore. Il corpus di addestramento ammontava a 1,1 TB di dati testuali di alta qualità in lingua cinese. PanGu-α ha ottenuto risultati eccellenti sul benchmark CLUE (Chinese Language Understanding Evaluation), classificandosi al primo posto nella graduatoria generale.

PanGu 3.0 (2023): L'approccio a piattaforma

Nel luglio 2023 Huawei ha presentato la piattaforma PanGu 3.0, che segna il passaggio da un modello unico a un'architettura multilivello «5+N+X», orientata all'applicazione industriale.

• L0 (Livello base): Cinque modelli fondamentali (NLP, CV, multimodale, predittivo e di calcolo scientifico).
• L1 (Livello settoriale): N modelli settoriali, sottoposti a fine-tuning a partire dai modelli base per specifici comparti industriali (pubblica amministrazione, finanza, manifattura, ecc.).
• L2 (Livello degli scenari): X modelli per compiti applicativi specifici (assistente virtuale, previsione della traiettoria dei tifoni, ecc.).

Questo approccio gerarchico consente ai clienti di utilizzare soluzioni pronte all'uso oppure di effettuare il fine-tuning dei modelli settoriali sui propri dati, semplificando e riducendo notevolmente i costi di adattamento.

PanGu 5.5 (2025): Architettura Mixture-of-Experts

Nel giugno 2025 Huawei ha annunciato l'aggiornamento a PanGu 5.5, orientato a una risoluzione approfondita delle problematiche industriali. La caratteristica principale è diventata l'architettura Mixture of Experts (MoE) con 256 sottoreti esperte, che ha consentito di portare il volume complessivo dei parametri a 718 miliardi. L'architettura MoE permette di attivare dinamicamente solo una parte del modello per affrontare un compito specifico, il che, secondo le dichiarazioni di Huawei, garantisce un miglioramento otto volte superiore dell'efficienza di inferenza rispetto alle generazioni precedenti.

Principali soluzioni architetturali e tecniche

I modelli PanGu sono costruiti sulla base di un'architettura transformer di tipo GPT, ma con una serie di innovazioni per l'addestramento di modelli di dimensioni straordinarie. Per gestire il processo di generazione è stato introdotto uno speciale strato di query (Query Layer), che contribuisce a indurre l'output desiderato nella fase di pre-addestramento.

L'addestramento e l'esercizio dei modelli PanGu sono strettamente integrati con la piattaforma hardware e software proprietaria di Huawei:

• Processori Ascend 910: Acceleratori IA specializzati che costituiscono il nucleo dei cluster di calcolo.
• Framework MindSpore: Piattaforma di deep learning open source che supporta la tecnologia di parallelismo automatico, la quale combina cinque tipi di parallelismo (dati, modello, pipeline, ottimizzatore e altri) per distribuire in modo efficiente i calcoli su migliaia di nodi.

Modelli specializzati e loro applicazioni

PanGu-Weather

Uno dei modelli più noti della famiglia è PanGu-Weather — un modello meteorologico globale basato sul deep learning. Nel luglio 2023 un articolo dedicato è stato pubblicato sulla prestigiosa rivista scientifica Nature.

Il modello ha dimostrato la capacità di superare in accuratezza i tradizionali metodi numerici di previsione meteorologica del Centro Europeo per le Previsioni Meteorologiche a Medio Termine (ECMWF), con una velocità notevolmente superiore. La generazione di una previsione globale a 24 ore richiede al modello pochi secondi invece di diverse ore di calcoli supercomputistici, il che equivale a un'accelerazione di circa 10 000 volte. Nell'agosto 2023 le previsioni di PanGu-Weather sono state integrate nel servizio ECMWF per l'utilizzo nei servizi meteorologici operativi.

Applicazioni industriali

I modelli PanGu sono stati implementati in oltre 500 scenari in 30 settori dell'economia. Alcuni esempi:

• Agricoltura: L'Accademia Cinese delle Scienze Agrarie (CAAS) ha sviluppato con PanGu un modello per la selezione varietale, che ha permesso di ottenere una varietà sperimentale di riso con migliorata resistenza all'allettamento.
• Industria petrolifera e del gas: CNPC utilizza il modello PanGu per il rilevamento automatico dei difetti delle tubazioni con precisione submillimetrica, aumentando l'efficienza di circa il 40%.
• Pubblica amministrazione: A Shenzhen è stato creato l'assistente intelligente «Xiaofu», che fornisce ai cittadini informazioni sui servizi pubblici attingendo a un corpus di oltre 200 000 documenti locali.
• Farmacologia: Il modello PanGu Drug Molecule viene utilizzato per accelerare il processo di screening dei candidati farmacologici. È stato dichiarato che grazie ad esso è stata scoperta una nuova classe di antibiotici, il che costituisce la prima svolta in questo campo degli ultimi 40 anni.

Apertura del codice sorgente

Nel giugno 2025 Huawei ha annunciato l'apertura del codice sorgente (open-source) di parte dei modelli della famiglia PanGu. Sono stati resi disponibili al pubblico:

• PanGu Dense Model 7B (7 miliardi di parametri).
• PanGu Pro MoE Model 72B (72 miliardi di parametri).

Questo passo è volto a stimolare l'innovazione e a costruire un ecosistema aperto attorno alla piattaforma hardware Huawei Ascend, costituendo una risposta strategica alla competizione globale nel settore dell'IA.

Bibliografia

• Zeng, W.; et al. (2021). PanGu‑α: Large‑Scale Autoregressive Pretrained Chinese Language Models. PDF.
• Huawei (2021). HDC.Cloud 2021: Huawei Releases Six Ground‑breaking Products to Supercharge the Cloud and Intelligent Transformation of Business. Online news.
• Huawei Cloud (2023). Reshaping Industries with AI: Huawei Cloud Launches PanGu Models 3.0 and Ascend AI Cloud Services. Online news.
• Bi, K.; et al. (2023). Accurate Medium‑Range Global Weather Forecasting with 3D Neural Networks. Nature, 620, 560–566. DOI:10.1038/s41586‑023‑06185‑3.
• Technology Magazine (2025). What Huawei PanGu 5.5 Models Mean for Industrial AI. Online article.
• MindSpore Team (2021). MindSpore: An All‑Scenario Deep Learning Computing Framework (White Paper v1.1). PDF.
• Zhang, S.; et al. (2024). Ascend 910 NPU SoC Architecture for Large‑Scale AI Training. arXiv:2407.11888. Online preprint.
• AIbase News (2025). Huawei Open Sources Dense PanGu 7B and Mixture‑of‑Experts PanGuPro 72B. Online news.
• CNPC & Huawei Cloud (2024). Kunlun: Large‑Scale AI Model for Oil and Gas Pipeline Defect Detection. Online case study.
• MindSpore Docs (2024). Automatic Parallel — Five‑Mode Hybrid Strategy in MindSpore. Online documentation.
• Press, O.; et al. (2021). Train Short, Test Long: Attention with Linear Biases Enables Input‑Length Extrapolation. arXiv:2108.12409.
• Law, M. (2025). How Huawei PanGu 5.5 AI Models Transform Industry Operations. AI Magazine. Online article.