---
title: "Huawei PanGu"
source: "https://systems-analysis.info/wiki/Huawei_PanGu"
wiki: "systems-analysis.info/wiki"
article: "Huawei_PanGu"
language: "ru"
categories:
  - "Категория:Russian"
  - "Категория:Большие языковые модели"
  - "Категория:Машинное обучение"
  - "Категория:Семейства LLM"
revision_id: 120
wiki_created_at: 2026-09-06T21:55:21Z
wiki_modified_at: 2026-09-06T21:55:21Z
downloaded_at: 2026-09-07T22:17:35Z
---

# Huawei PanGu

**Huawei PanGu** (кит. *盘古*) — это семейство ультра-крупных предобученных моделей искусственного интеллекта (foundation models), разработанных компанией Huawei Cloud. Название «PanGu» отсылает к Пань-гу, мифологическому первосуществу в китайской культуре, которое создало мир<sup>[\[1\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-hdc2021-1)</sup>. Семейство PanGu охватывает различные области, включая обработку естественного языка (NLP), компьютерное зрение (CV), мультимодальный анализ, прогностическое моделирование и научные вычисления.

## История и развитие

### PanGu-α (2021)

Первая модель семейства, **PanGu-α** (PanGu-Alpha), была представлена в апреле 2021 года. С **200 миллиардами** параметров она стала на тот момент крупнейшей языковой моделью для китайского языка, превзойдя по размеру GPT-3 (175 млрд) от [OpenAI](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8_OpenAI "Большие языковые модели OpenAI")<sup>[\[2\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-aibusiness_2021-2)</sup>.

Модель была разработана командой Huawei Cloud в сотрудничестве с лабораторией **Noah's Ark** и обучена на кластере из **2048** специализированных процессоров **Huawei Ascend 910** с использованием фреймворка MindSpore<sup>[\[3\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-tech_report_alpha-3)</sup>. Обучающий корпус составил 1,1 ТБ высококачественных текстовых данных на китайском языке. PanGu-α продемонстрировала высокие результаты на бенчмарке **CLUE** (Chinese Language Understanding Evaluation), заняв первое место в общем рейтинге<sup>[\[1\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-hdc2021-1)</sup>.

### PanGu 3.0 (2023): Платформенный подход

В июле 2023 года Huawei представила платформу **PanGu 3.0**, знаменующую переход от единой модели к многоуровневой архитектуре **«5+N+X»**, ориентированной на промышленное применение<sup>[\[4\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-pangu3_launch-4)</sup>.

- **L0 (Базовый слой)**: Пять фундаментальных моделей (NLP, CV, мультимодальная, предсказательная и научно-вычислительная).
- **L1 (Отраслевой слой)**: N отраслевых моделей, дообученных на основе базовых для конкретных индустрий (госуправление, финансы, производство и др.).
- **L2 (Сценарный слой)**: X моделей для конкретных прикладных задач (виртуальный ассистент, прогноз траектории тайфуна и др.).

Такой иерархический подход позволяет клиентам либо использовать готовые решения, либо дообучать отраслевые модели на собственных данных, что значительно упрощает и удешевляет адаптацию.

### PanGu 5.5 (2025): Архитектура Mixture-of-Experts

В июне 2025 года Huawei анонсировала обновление до **PanGu 5.5**, нацеленное на углубленное решение индустриальных задач. Ключевой особенностью стала архитектура **смеси экспертов (MoE)** с 256 экспертными подсетями, что позволило увеличить совокупный объем параметров до **718 миллиардов**<sup>[\[5\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-pangu5_techmag-5)</sup>. Архитектура MoE позволяет динамически активировать только часть модели при решении конкретной задачи, что, по заявлениям Huawei, обеспечивает **восьмикратное** повышение эффективности инференса по сравнению с предыдущими поколениями<sup>[\[6\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-aimagazine_5_5-6)</sup>.

## Ключевые архитектурные и технические решения

Модели PanGu построены на базе трансформерной архитектуры типа [GPT](https://systems-analysis.info/wiki/GPT "GPT"), но с рядом инноваций для обучения сверхбольших моделей. Для управления процессом генерации был введен специальный **слой запросов** (Query Layer), который помогает индуцировать желаемый вывод на этапе [предобучения](https://systems-analysis.info/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5 "Предобучение")<sup>[\[3\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-tech_report_alpha-3)</sup>.

Обучение и эксплуатация моделей PanGu тесно интегрированы с собственной аппаратной и программной платформой Huawei:

- **Процессоры Ascend 910**: Специализированные ИИ-ускорители, составляющие основу вычислительных кластеров.
- **Фреймворк MindSpore**: Платформа для глубокого обучения с открытым исходным кодом, поддерживающая **авто-параллельную технологию**, которая комбинирует пять видов параллелизма (данных, модели, конвейера, оптимизатора и др.) для эффективного распределения вычислений между тысячами узлов<sup>[\[3\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-tech_report_alpha-3)</sup>.

## Специализированные модели и их применение

### PanGu-Weather

Одной из самых известных моделей семейства стала **PanGu-Weather** — глобальная метеорологическая модель на основе глубокого обучения. В июле 2023 года статья о ней была опубликована в престижном научном журнале *Nature*<sup>[\[7\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-nature_pangu_news-7)</sup>.

Модель продемонстрировала способность превосходить по точности традиционные численные методы прогноза погоды от **Европейского центра среднесрочных прогнозов (ECMWF)** при значительно большей скорости. Генерация глобального прогноза на 24 часа занимает у модели **считанные секунды** вместо нескольких часов суперкомпьютерных расчетов, что означает ускорение примерно в **10 000 раз**<sup>[\[7\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-nature_pangu_news-7)</sup>. В августе 2023 года прогнозы PanGu-Weather были интегрированы в сервис ECMWF для использования в практических метеорологических услугах<sup>[\[8\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-nature_paper-8)</sup>.

### Промышленное применение

Модели PanGu внедрены в более чем 500 сценариях в 30 отраслях экономики. Некоторые примеры:

- **Сельское хозяйство**: Китайская академия аграрных наук (CAAS) с помощью PanGu разработала модель для селекции, что позволило вывести экспериментальный сорт риса с улучшенной стойкостью к полеганию<sup>[\[5\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-pangu5_techmag-5)</sup>.
- **Нефтегазовая промышленность**: CNPC использует модель PanGu для автоматического выявления дефектов трубопроводов с субмиллиметровой точностью, повышая эффективность на ~40%<sup>[\[9\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-cnpc_case-9)</sup>.
- **Государственное управление**: В Шэньчжэне создан интеллектуальный ассистент **«Xiaofu»**, который предоставляет гражданам информацию о госуслугах, основываясь на корпусе из более 200 000 локальных документов<sup>[\[4\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-pangu3_launch-4)</sup>.
- **Фармакология**: Модель **PanGu Drug Molecule** используется для ускорения процесса скрининга лекарственных кандидатов. Заявлено, что с её помощью был открыт новый класс антибиотиков, что стало первым прорывом в этой области за 40 лет<sup>[\[4\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-pangu3_launch-4)</sup>.

## Открытие исходного кода

В июне 2025 года Huawei объявила об открытии исходного кода (open-source) части моделей семейства PanGu. В открытый доступ были выложены<sup>[\[10\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-opensource_2025-10)</sup>:

- **PanGu Dense Model 7B** (7 млрд параметров).
- **PanGu Pro MoE Model 72B** (72 млрд параметров).

Этот шаг направлен на стимулирование инноваций и создание открытой экосистемы вокруг аппаратной платформы **Huawei Ascend**, что является стратегическим ответом на глобальную конкуренцию в сфере ИИ<sup>[\[10\]](https://systems-analysis.info/wiki/Huawei_PanGu#cite_note-opensource_2025-10)</sup>.

## См. также

- [GPT](https://systems-analysis.info/wiki/GPT "GPT")
- [Большие языковые модели OpenAI](https://systems-analysis.info/wiki/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8_OpenAI "Большие языковые модели OpenAI")
- [PaLM](https://systems-analysis.info/wiki/PaLM "PaLM")
- [BERT](https://systems-analysis.info/wiki/BERT "BERT")
- [Gemma](https://systems-analysis.info/wiki/Gemma "Gemma")

## Литература

- Zeng, W.; et al. (2021). *PanGu‑α: Large‑Scale Autoregressive Pretrained Chinese Language Models*. <a href="https://s10251.pcdn.co/pdf/2021-zeng-pangu-alpha.pdf" class="external text" rel="nofollow">PDF</a>.
- Huawei (2021). *HDC.Cloud 2021: Huawei Releases Six Ground‑breaking Products to Supercharge the Cloud and Intelligent Transformation of Business*. <a href="https://www.huawei.com/en/news/2021/4/hdc-cloud-2021-six-products-cloud-intelligent-transformation" class="external text" rel="nofollow">Online news</a>.
- Huawei Cloud (2023). *Reshaping Industries with AI: Huawei Cloud Launches PanGu Models 3.0 and Ascend AI Cloud Services*. <a href="https://www.huaweicloud.com/intl/en-us/news/20230707180809498.html" class="external text" rel="nofollow">Online news</a>.
- Bi, K.; et al. (2023). *Accurate Medium‑Range Global Weather Forecasting with 3D Neural Networks*. *Nature*, 620, 560–566. <a href="https://www.nature.com/articles/s41586-023-06185-3" class="external text" rel="nofollow">DOI:10.1038/s41586‑023‑06185‑3</a>.
- Technology Magazine (2025). *What Huawei PanGu 5.5 Models Mean for Industrial AI*. <a href="https://technologymagazine.com/news/how-huawei-pangu-5-5-ai-models-transform-industry-operations" class="external text" rel="nofollow">Online article</a>.
- MindSpore Team (2021). *MindSpore: An All‑Scenario Deep Learning Computing Framework (White Paper v1.1)*. <a href="https://mindspore-website.obs.cn-north-4.myhuaweicloud.com/white_paper/MindSpore_white_paper_enV1.1.pdf" class="external text" rel="nofollow">PDF</a>.
- Zhang, S.; et al. (2024). *Ascend 910 NPU SoC Architecture for Large‑Scale AI Training*. *arXiv:2407.11888*. <a href="https://arxiv.org/html/2407.11888v1" class="external text" rel="nofollow">Online preprint</a>.
- AIbase News (2025). *Huawei Open Sources Dense PanGu 7B and Mixture‑of‑Experts PanGuPro 72B*. <a href="https://www.aibase.com/news/19320" class="external text" rel="nofollow">Online news</a>.
- CNPC & Huawei Cloud (2024). *Kunlun: Large‑Scale AI Model for Oil and Gas Pipeline Defect Detection*. <a href="https://www.cnpc.com.cn/en/RandDProgressin2024/202502/4bf8723a4b194ebeb2b6212579ab4ffa.shtml" class="external text" rel="nofollow">Online case study</a>.
- MindSpore Docs (2024). *Automatic Parallel — Five‑Mode Hybrid Strategy in MindSpore*. <a href="https://www.mindspore.cn/tutorials/experts/en/r2.3.0rc1/parallel/auto_parallel.html" class="external text" rel="nofollow">Online documentation</a>.
- Press, O.; et al. (2021). *Train Short, Test Long: Attention with Linear Biases Enables Input‑Length Extrapolation*. <a href="https://arxiv.org/abs/2108.12409" class="external text" rel="nofollow">arXiv:2108.12409</a>.
- Law, M. (2025). *How Huawei PanGu 5.5 AI Models Transform Industry Operations*. *AI Magazine*. <a href="https://aimagazine.com/articles/how-huawei-pangu-5-5-ai-models-transform-industry-operations" class="external text" rel="nofollow">Online article</a>.

## Примечания

1.  <span id="cite_note-hdc2021-1">↑ <sup>[1,0](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-hdc2021_1-0)</sup> <sup>[1,1](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-hdc2021_1-1)</sup> «HDC.Cloud 2021: Huawei Releases Six Groundbreaking Products to Supercharge the Cloud and Intelligent Transformation of Business». *Huawei*. <a href="https://www.huawei.com/en/news/2021/4/hdc-cloud-2021-six-products-cloud-intelligent-transformation" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-aibusiness_2021-2">[↑](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-aibusiness_2021_2-0) Wodecki, Ben (27 Apr 2021). «Huawei has created the world's largest Chinese language model». *AI Business*. <a href="https://aibusiness.com/nlp/huawei-has-created-the-world-s-largest-chinese-language-model" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-tech_report_alpha-3">↑ <sup>[3,0](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-tech_report_alpha_3-0)</sup> <sup>[3,1](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-tech_report_alpha_3-1)</sup> <sup>[3,2](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-tech_report_alpha_3-2)</sup> Zeng, Wei, et al. (Apr 2021). «PanGu-α: Large-scale Autoregressive Pretrained Chinese Language Models». *Technical Report*. <a href="https://s10251.pcdn.co/pdf/2021-zeng-pangu-alpha.pdf" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-pangu3_launch-4">↑ <sup>[4,0](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-pangu3_launch_4-0)</sup> <sup>[4,1](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-pangu3_launch_4-1)</sup> <sup>[4,2](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-pangu3_launch_4-2)</sup> «Reshaping Industries with AI: Huawei Cloud Launches Pangu Models 3.0 and Ascend AI Cloud Services». *HUAWEI CLOUD*. 7 Jul 2023. <a href="https://www.huaweicloud.com/intl/en-us/news/20230707180809498.html" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-pangu5_techmag-5">↑ <sup>[5,0](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-pangu5_techmag_5-0)</sup> <sup>[5,1](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-pangu5_techmag_5-1)</sup> Law, Marcus (23 Jun 2025). «What Huawei Pangu 5.5 Models Mean for Industrial AI». *Technology Magazine*. <a href="https://technologymagazine.com/news/how-huawei-pangu-5-5-ai-models-transform-industry-operations" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-aimagazine_5_5-6">[↑](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-aimagazine_5_5_6-0) «How Huawei Pangu 5.5 AI Models Transform Industry Operations». *AI Magazine*. <a href="https://aimagazine.com/articles/how-huawei-pangu-5-5-ai-models-transform-industry-operations" class="external autonumber" rel="nofollow">[6]</a></span>
7.  <span id="cite_note-nature_pangu_news-7">↑ <sup>[7,0](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-nature_pangu_news_7-0)</sup> <sup>[7,1](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-nature_pangu_news_7-1)</sup> «Prestigious science journal Nature publishes paper about Pangu Weather AI Model authored by HUAWEI CLOUD researchers». *Huawei News*. 6 Jul 2023. <a href="https://www.huawei.com/en/news/2023/7/pangu-ai-model-nature-publish" class="external autonumber" rel="nofollow">[7]</a></span>
8.  <span id="cite_note-nature_paper-8">[↑](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-nature_paper_8-0) Bi, Kaifeng, et al. (2023). «Accurate medium-range global weather forecasting with 3D neural networks». *Nature*. <a href="https://www.nature.com/articles/s41586-023-06185-3" class="external autonumber" rel="nofollow">[8]</a></span>
9.  <span id="cite_note-cnpc_case-9">[↑](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-cnpc_case_9-0) «CNPC and Huawei Cloud Jointly Launch the "Kunlun" Model for the Oil and Gas Industry».</span>
10. <span id="cite_note-opensource_2025-10">↑ <sup>[10,0](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-opensource_2025_10-0)</sup> <sup>[10,1](https://systems-analysis.info/wiki/Huawei_PanGu#cite_ref-opensource_2025_10-1)</sup> «Huawei Open Sources Dense Pangu 7B and Mixture of Experts Model with 72B Parameters». *Albase News*. 30 Jun 2025. <a href="https://www.aibase.com/news/19320" class="external autonumber" rel="nofollow">[9]</a></span>