Huawei PanGu (ES)
Huawei PanGu (en chino: 盘古) es una familia de modelos de inteligencia artificial preentrenados a gran escala (modelos fundacionales) desarrollados por Huawei Cloud. El nombre «PanGu» hace referencia a Pangu, el ser primordial en la mitología china que creó el mundo[1]. La familia PanGu abarca diversas áreas, incluyendo el procesamiento del lenguaje natural (PLN), la visión por computadora (CV), el análisis multimodal, el modelado predictivo y la computación científica.
Historia y desarrollo
PanGu-α (2021)
El primer modelo de la familia, PanGu-α (PanGu-Alpha), fue presentado en abril de 2021. Con 200 mil millones de parámetros, se convirtió en ese momento en el modelo de lenguaje más grande para el idioma chino, superando en tamaño a GPT-3 (175 mil millones) de OpenAI[2].
El modelo fue desarrollado por el equipo de Huawei Cloud en colaboración con el laboratorio Noah's Ark y entrenado en un clúster de 2048 procesadores especializados Huawei Ascend 910 utilizando el framework MindSpore[3]. El corpus de entrenamiento consistió en 1,1 TB de datos de texto de alta calidad en chino. PanGu-α demostró excelentes resultados en el benchmark CLUE (Chinese Language Understanding Evaluation), logrando el primer lugar en la clasificación general[1].
PanGu 3.0 (2023): Un enfoque de plataforma
En julio de 2023, Huawei presentó la plataforma PanGu 3.0, que marcó la transición de un modelo único a una arquitectura multinivel «5+N+X» orientada a aplicaciones industriales[4].
- L0 (Capa base): Cinco modelos fundamentales (PLN, CV, multimodal, predictivo y de computación científica).
- L1 (Capa sectorial): N modelos sectoriales, reentrenados a partir de los modelos base para industrias específicas (gobierno, finanzas, manufactura, etc.).
- L2 (Capa de escenarios): X modelos para tareas aplicadas específicas (asistente virtual, predicción de la trayectoria de tifones, etc.).
Este enfoque jerárquico permite a los clientes utilizar soluciones listas para usar o reentrenar modelos sectoriales con sus propios datos, lo que simplifica y reduce significativamente los costos de adaptación.
PanGu 5.5 (2025): Arquitectura Mixture-of-Experts
En junio de 2025, Huawei anunció la actualización a PanGu 5.5, dirigida a resolver problemas industriales en profundidad. La característica clave fue la arquitectura de mezcla de expertos (MoE) con 256 subredes de expertos, lo que permitió aumentar el número total de parámetros a 718 mil millones[5]. La arquitectura MoE permite activar dinámicamente solo una parte del modelo para resolver una tarea específica, lo que, según Huawei, proporciona un aumento de ocho veces en la eficiencia de la inferencia en comparación con las generaciones anteriores[6].
Soluciones arquitectónicas y técnicas clave
Los modelos PanGu se basan en una arquitectura de transformador de tipo GPT, pero con varias innovaciones para el entrenamiento de modelos a gran escala. Para controlar el proceso de generación, se introdujo una capa de consulta (Query Layer) especial, que ayuda a inducir la salida deseada durante la etapa de preentrenamiento[3].
El entrenamiento y la operación de los modelos PanGu están estrechamente integrados con la plataforma de hardware y software propia de Huawei:
- Procesadores Ascend 910: Aceleradores de IA especializados que forman la base de los clústeres de computación.
- Framework MindSpore: Una plataforma de aprendizaje profundo de código abierto que admite una tecnología de paralelización automática, la cual combina cinco tipos de paralelismo (de datos, de modelo, de pipeline, de optimizador, etc.) para distribuir eficientemente los cálculos entre miles de nodos[3].
Modelos especializados y sus aplicaciones
PanGu-Weather
Uno de los modelos más conocidos de la familia es PanGu-Weather, un modelo meteorológico global basado en aprendizaje profundo. En julio de 2023, se publicó un artículo sobre este modelo en la prestigiosa revista científica Nature[7].
El modelo demostró la capacidad de superar en precisión a los métodos numéricos tradicionales de pronóstico del tiempo del Centro Europeo de Previsiones Meteorológicas a Plazo Medio (ECMWF) a una velocidad significativamente mayor. La generación de un pronóstico global a 24 horas le toma al modelo unos pocos segundos en lugar de varias horas de cálculos en supercomputadoras, lo que representa una aceleración de aproximadamente 10,000 veces[7]. En agosto de 2023, los pronósticos de PanGu-Weather se integraron en el servicio del ECMWF para su uso en servicios meteorológicos prácticos[8].
Aplicaciones industriales
Los modelos PanGu se han implementado en más de 500 escenarios en 30 sectores de la economía. Algunos ejemplos:
- Agricultura: La Academia China de Ciencias Agrícolas (CAAS) utilizó PanGu para desarrollar un modelo de mejoramiento genético, lo que permitió crear una variedad experimental de arroz con mayor resistencia al acame[5].
- Industria del petróleo y gas: CNPC utiliza el modelo PanGu para detectar automáticamente defectos en tuberías con precisión submilimétrica, aumentando la eficiencia en aproximadamente un 40%[9].
- Administración pública: En Shenzhen, se creó un asistente inteligente llamado «Xiaofu», que proporciona a los ciudadanos información sobre servicios gubernamentales basándose en un corpus de más de 200,000 documentos locales[4].
- Farmacología: El modelo PanGu Drug Molecule se utiliza para acelerar el proceso de cribado de fármacos candidatos. Se afirma que con su ayuda se descubrió una nueva clase de antibióticos, lo que representa el primer avance en este campo en 40 años[4].
Liberación de código abierto
En junio de 2025, Huawei anunció la liberación del código fuente (open-source) de una parte de los modelos de la familia PanGu. Se pusieron a disposición del público[10]:
- PanGu Dense Model 7B (7 mil millones de parámetros).
- PanGu Pro MoE Model 72B (72 mil millones de parámetros).
Este paso tiene como objetivo estimular la innovación y crear un ecosistema abierto en torno a la plataforma de hardware Huawei Ascend, lo cual es una respuesta estratégica a la competencia global en el campo de la IA[10].
Bibliografía
- Zeng, W.; et al. (2021). PanGu‑α: Large‑Scale Autoregressive Pretrained Chinese Language Models. PDF.
- Huawei (2021). HDC.Cloud 2021: Huawei Releases Six Ground‑breaking Products to Supercharge the Cloud and Intelligent Transformation of Business. Online news.
- Huawei Cloud (2023). Reshaping Industries with AI: Huawei Cloud Launches PanGu Models 3.0 and Ascend AI Cloud Services. Online news.
- Bi, K.; et al. (2023). Accurate Medium‑Range Global Weather Forecasting with 3D Neural Networks. Nature, 620, 560–566. DOI:10.1038/s41586‑023‑06185‑3.
- Technology Magazine (2025). What Huawei PanGu 5.5 Models Mean for Industrial AI. Online article.
- MindSpore Team (2021). MindSpore: An All‑Scenario Deep Learning Computing Framework (White Paper v1.1). PDF.
- Zhang, S.; et al. (2024). Ascend 910 NPU SoC Architecture for Large‑Scale AI Training. arXiv:2407.11888. Online preprint.
- AIbase News (2025). Huawei Open Sources Dense PanGu 7B and Mixture‑of‑Experts PanGuPro 72B. Online news.
- CNPC & Huawei Cloud (2024). Kunlun: Large‑Scale AI Model for Oil and Gas Pipeline Defect Detection. Online case study.
- MindSpore Docs (2024). Automatic Parallel — Five‑Mode Hybrid Strategy in MindSpore. Online documentation.
- Press, O.; et al. (2021). Train Short, Test Long: Attention with Linear Biases Enables Input‑Length Extrapolation. arXiv:2108.12409.
- Law, M. (2025). How Huawei PanGu 5.5 AI Models Transform Industry Operations. AI Magazine. Online article.
Referencias
- ↑ 1.0 1.1 «HDC.Cloud 2021: Huawei Releases Six Groundbreaking Products to Supercharge the Cloud and Intelligent Transformation of Business». Huawei. [1]
- ↑ Wodecki, Ben (27 Apr 2021). «Huawei has created the world's largest Chinese language model». AI Business. [2]
- ↑ 3.0 3.1 3.2 Zeng, Wei, et al. (Apr 2021). «PanGu-α: Large-scale Autoregressive Pretrained Chinese Language Models». Technical Report. [3]
- ↑ 4.0 4.1 4.2 «Reshaping Industries with AI: Huawei Cloud Launches Pangu Models 3.0 and Ascend AI Cloud Services». HUAWEI CLOUD. 7 Jul 2023. [4]
- ↑ 5.0 5.1 Law, Marcus (23 Jun 2025). «What Huawei Pangu 5.5 Models Mean for Industrial AI». Technology Magazine. [5]
- ↑ «How Huawei Pangu 5.5 AI Models Transform Industry Operations». AI Magazine. [6]
- ↑ 7.0 7.1 «Prestigious science journal Nature publishes paper about Pangu Weather AI Model authored by HUAWEI CLOUD researchers». Huawei News. 6 Jul 2023. [7]
- ↑ Bi, Kaifeng, et al. (2023). «Accurate medium-range global weather forecasting with 3D neural networks». Nature. [8]
- ↑ «CNPC and Huawei Cloud Jointly Launch the "Kunlun" Model for the Oil and Gas Industry».
- ↑ 10.0 10.1 «Huawei Open Sources Dense Pangu 7B and Mixture of Experts Model with 72B Parameters». Albase News. 30 Jun 2025. [9]