--- title: "GLM (Zhipu AI) (BG)" source: "https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)" wiki: "systems-analysis.info/int" article: "GLM_(Zhipu_AI)_(BG)" language: "bg" categories: - "Category:Bulgarian" - "Category:Large language models" - "Category:Machine learning" revision_id: 2399 wiki_created_at: 2026-09-06T23:03:21Z wiki_modified_at: 2026-09-06T23:03:21Z downloaded_at: 2026-09-07T22:50:51Z --- # GLM (Zhipu AI) (BG) **GLM (General Language Model)** — семейство от големи езикови модели (Large Language Model, LLM), разработени от компанията Zhipu AI (от 2025 година — Z.ai) съвместно с лабораторията Knowledge Engineering Group (KEG) на факултета по компютърни науки на Университета Цинхуа (Пекин). Серията обхваща модели от 6 до 744 млрд. параметъра, насочени предимно към китайски и английски език. Отличителна черта на архитектурната основа е целевата функция за предварително обучение, базирана на авторегресивно запълване на пропуски (autoregressive blank infilling), която обединява свойствата на encoder и decoder трансформери в единна унифицирана схема.[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1)[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3) Серията включва базови предварително обучени модели, диалогови варианти (ChatGLM), мултимодални разширения (GLM‑4V, CogVLM), специализирани инструменти (CodeGeeX за генериране на код, WebGLM за уеб търсене) и агентни системи (GLM‑4 All Tools, AutoGLM). Еволюцията на семейството се проследява от GLM‑10B (2021) и GLM‑130B (2022) до GLM‑4 (2024), GLM‑4.5 (2025) и GLM‑5 (2026), с преход от плътни (dense) архитектури към Mixture‑of‑Experts (MoE) и акцент върху агентни сценарии.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) ## История и предпоставки ### Институционален контекст Zhipu AI е основана през 2019 година от професорите на Университета Цинхуа Тан Дзие (Tang Jie) и Ли Дзуандзъ (Li Juanzi) на базата на лабораторията KEG, специализирана в графи на знанието. През 2020 година компанията съсредоточава усилията си върху мащабни езикови модели. През 2023 година са привлечени инвестиции в размер на 2,5 млрд. юана (≈350 млн. щатски долара) с участието на Alibaba Group, Tencent, Ant Group, Meituan и Xiaomi. През юли 2025 година компанията сменя публичната си марка на Z.ai, а през януари 2026 година провежда IPO на Хонконгската фондова борса.[\[5\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-wiki_zhipu-5)[\[6\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-pandaily-6) ### Основополагаща работа: GLM (2021–2022) Базовият препринт „GLM: General Language Model Pretraining with Autoregressive Blank Infilling" е публикуван в arXiv през март 2021 година (arXiv:2103.10360) и приет на конференцията ACL 2022. Автори: Zhengxiao Du, Yujie Qian, Xiao Liu, Ming Ding, Jiezhong Qiu, Zhilin Yang, Jie Tang. Работата е мотивирана от ограниченията на съществуващите архитектурни парадигми: encoder моделите (BERT) са оптимални за задачи по разбиране на естествен език (Natural Language Understanding, NLU), decoder моделите (GPT) — за генериране, а encoder‑decoder моделите (T5) изискват по-голям брой параметри. GLM предлага единен подход, способен да решава и двата класа задачи.[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1)[\[7\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_arxiv-7) ### Хронология на основните издания | Година | Модел | Ключови особености | |----------------|----------------------------|-----------------------------------------------------------------------------------------------------------------------------------| | 2021 | GLM (базов), GLM‑10B | Авторегресивно запълване на пропуски, 2D позиционни кодировки; параметри до 515M (базов) и 10B | | 2022 | GLM‑130B | 130B параметъра, двуезичен (китайски / английски), отворени тегла, INT4 квантизация без допълнително обучение; приет на ICLR 2023 | | 2023, март | ChatGLM‑6B (v1) | 6,2B параметъра, ≈1T токена за предобучение, SFT + RLHF изравняване, INT4 квантизация (≈6 ГБ памет) | | 2023, юни | ChatGLM2‑6B | 1,4T токена, FlashAttention, Multi‑Query Attention (MQA), контекст до 32K токена | | 2023, октомври | ChatGLM3‑6B | Подобрено следване на инструкции, поддръжка на извикване на инструменти (tool calling), Code Interpreter | | 2024 | GLM‑4, GLM‑4‑Air, GLM‑4‑9B | ≈10T токена за предобучение, RoPE + GQA, контекст до 128K / 1M токена; GLM‑4 All Tools | | 2024 | GLM‑4V‑9B | Мултимодална версия с визуален encoder | | 2025 | GLM‑4.5, GLM‑4.6, GLM‑4.7 | MoE архитектура (GLM‑4.5), последователни подобрения в разсъждаването и кодирането | | 2025 | GLM‑4.1V‑Thinking | Визуално‑езиков модел с усилено многостъпково разсъждаване (arXiv:2507.01006) | | 2026, февруари | GLM‑5 | 744B параметъра (MoE), ≈40–44B активни, 200K‑токенен контекст, агентни задачи; обучение на Huawei Ascend | [\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1)[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4)[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8) Семейството GLM се развива в съчетание със съпътстващите модели на Zhipu AI: кодови CodeGeeX, визуално‑езикови CogVLM / CogAgent, генеративни CogView, а също и специализирани системи WebGLM и AgentLM.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ## Теоретични и архитектурни основи ### Целева функция на предобучението Базовата архитектура на GLM е основана на Transformer. Ключовата отличителна черта е **autoregressive blank infilling** — вариация на авторегресивното моделиране, при която моделът се учи да възстановява пропуски (spans) в текста въз основа на контекста.[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1)[\[7\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_arxiv-7) Нека $x = \lbrack x_{1},\ldots,x_{n}\rbrack$ е входната последователност. Произволно се избират непрекъснати фрагменти (spans) $\{ s_{1},\ldots,s_{m}\}$, които се заменят с единствен токен \[MASK\], формирайки изкривен текст $x_{ext{corrupt}}$. Моделът авторегресивно възстановява всеки фрагмент в произволен ред на пермутация: $\mathcal{L} = - \sum\limits_{i = 1}^{m}\sum\limits_{j = 1}^{|s_{i}|}\log P\!\left( s_{i,j} \mid x_{ext{corrupt}},\, s_{i, < j},\, s_{< i} \right)$ където $x_{ext{corrupt}}$ е повредената последователност с маскирани фрагменти, $s_{i, < j}$ са вече възстановените токени на текущия фрагмент $s_{i}$, $s_{< i}$ са напълно възстановените предходни фрагменти. Редът на възстановяване на фрагментите се задава от произволна пермутация от множеството $Z_{m}$, което позволява на модела да обработва зависимостите между фрагментите.[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1) За регулиране на задачата: при кратки пропуски (≈15% от токените) моделът се оптимизира за NLU, при дълги фрагменти (до 50–100% от токените) — за генеративни задачи. Това позволява на единния модел да покрива и двата режима чрез многозадачно предобучение (multi‑task learning).[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1)[\[7\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_arxiv-7) ### 2D позиционни кодировки GLM въвежда **двуизмерни позиционни кодировки** за разграничаване на позициите в оригиналната повредена последователност и позициите вътре във възстановяваните фрагменти:[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1) - **Първо измерение** $pos_{1}$: абсолютна позиция на токена (или маската) в повредената последователност. - **Второ измерение** $pos_{2}$: позиция на токена вътре в своя фрагмент при авторегресивно генериране (0 за токените на оригинала). Тази схема позволява коректно разграничаване на контекста и генерирания текст без допълнителни архитектурни елементи, аналогични на encoder. ### Маска на вниманието В GLM се прилага двукомпонентна маска на вниманието: двупосочно (bidirectional) внимание за немаскираните токени (Part A — контекст) и каузално (causal) внимание за токените вътре във фрагментите (Part B — възстановяваните spans). Това осигурява пълноконтекстно разбиране на изходния текст при авторегресивно генериране на възстановяваните части. За разлика от BERT (независими предсказания на маски) GLM отчита зависимостите между spans; за разлика от GPT — използва двупосочен контекст на Part A; за разлика от T5 — не изисква отделен encoder.[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1)[\[7\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_arxiv-7) ### Еволюция на архитектурните компоненти На ниво параметри на Transformer блока скритото състояние $h_{l} \in {\mathbb{R}}^{d}$ на слой $l$ в моделите, започвайки от GLM‑4, се обновява като: $ildeh_{l} = h_{l} + ext{GQA}_{l}(ext{RMSNorm}(h_{l})),\quad h_{l + 1} = ildeh_{l} + ext{FFN}_{l}(ext{RMSNorm}(ildeh_{l}))$ където GQA е Grouped‑Query Attention (вместо пълен Multi‑Head Attention), а FFN е реализиран чрез SwiGLU.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) Считано от GLM‑130B и нататък в серията се използват следните архитектурни компоненти: - **GLM‑130B:** DeepNorm за стабилизиране на обучението на дълбоки мрежи; Rotary Positional Encoding (RoPE) с 2D разширение; Gated Linear Units (GLU) с GeLU активация (GeGLU).[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8) - **GLM‑4:** преход към RMSNorm и SwiGLU; Group Query Attention (GQA) вместо Multi‑Head Attention (MHA) за намаляване на KV кеша; премахнати са всички bias членове, с изключение на Q/K/V в attention; увеличен размер на FFN до $\frac{10}{3}d_{ext{hidden}}$ за запазване на броя параметри при GQA.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **GLM‑4.5:** Mixture‑of‑Experts (MoE) с loss‑free balance routing и sigmoid gates; хибриден режим на разсъждаване (thinking / non‑thinking).[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3) - **GLM‑5:** DeepSeek Sparse Attention (DSA) за ефективна обработка на дълъг контекст до 200K токена; Multi‑Token Prediction (MTP) за спекулативно декодиране; обучението е изцяло на процесори Huawei Ascend с използване на MindSpore.[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) ### Мащабиране и закони на мащабирането По време на разработката на линейката ChatGLM се изследват емпиричните зависимости между загубата при предобучение и качеството на задачите, включително феномена „emergent abilities". Показано е, че при фиксирано ниво на загубата при предобучение моделите с различни размери (и брой токени) демонстрират сравнима производителност, а на отделни задачи (MMLU, GSM8K) качеството започва да надвишава случайното ниво едва след достигане на определен праг на загубата при предобучение.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ## Архитектури и модели в серията GLM ### GLM‑10B и GLM‑130B **GLM‑10B** (2021) — модел с 10 млрд. параметъра, демонстриращ приложимостта на архитектурата GLM с blank infilling и служещ за база за последващо мащабиране.[\[1\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM_ACL-1) **GLM‑130B** (2022) е представен през октомври 2022 година и приет на ICLR 2023 (arXiv:2210.02414):[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8) - **Брой параметри:** ≈130 млрд. (плътен двуезичен модел). - **Обем на предобучението:** над 400 млрд. токена (≈200 млрд. на китайски, ≈200 млрд. на английски). - **Архитектура:** 70 слоя, hidden size 12 288, 96 глави на вниманието; DeepNorm, RoPE, GeGLU; допълнително многозадачно обучение (Multi‑Task Instruction Pretraining, MIP) — ≈5% от токените върху 74 набора от данни за задачи NLU/NLG. - **Квантизация:** INT4 без допълнително обучение след квантизацията (post‑training quantization) — първият документиран резултат от този вид сред модели с 100B+ параметра; изводът е възможен на 4×RTX 3090 (24 ГБ) или 8×RTX 2080 Ti (11 ГБ). - **Стабилност на обучението:** авторите документират многобройни пикове на функцията на загубата (loss spikes) и описват приложените стратегии за стабилизиране (gradient clipping, Embedding Gradient Shrink). Към момента на публикуването GLM‑130B превъзхожда GPT‑3 175B (davinci) върху широк набор от англоезични benchmark тестове (общо 112 задачи) и ERNIE TITAN 3.0 260B върху китайскоезични задачи; при това превъзходството над OPT‑175B и BLOOM‑176B не е възпроизведено — авторите изрично посочват това ограничение. Според оценката на HELM (ноември 2022) GLM‑130B е сравним с GPT‑3 по редица метрики.[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8)[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### Семейство ChatGLM‑6B/2/3 **ChatGLM‑6B** (март 2023) — диалогов модел с 6,2 млрд. параметъра, разработен съвместно от KEG и Zhipu AI и публикуван като отворен проект:[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[9\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-chatglm6b_gh-9) - Предобучение върху ≈1 трлн. токена (китайски + английски), контекст 2K. - Насочен към диалог; началното изравняване се извършва предимно чрез SFT и RLHF. - INT4 квантизация при потребление на ≈6 ГБ памет, което осигурява локално стартиране на потребителско оборудване. **ChatGLM2‑6B** (юни 2023):[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - Увеличен обем на предобучение до 1,4 трлн. токена. - Въведени FlashAttention и Multi‑Query Attention (MQA); контекстът е разширен до 32K токена. - Съществен напредък на benchmark тестовете: MMLU +23 п. п., GSM8K +571%, BBH +60% спрямо ChatGLM‑6B. **ChatGLM3‑6B** (октомври 2023):[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - Допълнителен напредък върху 42 benchmark теста в областите на семантика, математика, разсъждаване, код и знания. - Нативна поддръжка на function call, вграден Code Interpreter и агентни задачи чрез AgentTuning / AgentLM. ### GLM‑4, GLM‑4‑Air, GLM‑4‑9B и GLM‑4 All Tools Техническият доклад (arXiv:2406.12793) описва GLM‑4 като семейство от модели, предобучени върху ≈10 трлн. токена (предимно китайски и английски, плюс 24 допълнителни езика) и изравнени за китайски и английски.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) **Ключови варианти:** - **GLM‑4** (флагмански модел, версии 0116 и 0520): плътен трансформер, hidden size 6144, 61 слоя, 48 глави на вниманието, контекст 128K. - **GLM‑4‑Air** — по-компактен и бърз модел с качество, близко до GLM‑4‑0116, при по-малки закъснения. - **GLM‑4‑9B** — модел с 9 млрд. параметъра (контекст 8K, варианти 128K и експериментален 1M) със същия pipeline за след-обучение. - **GLM‑4 All Tools** — версия, допълнително изравнена за използване на инструменти: уеб браузър, Python интерпретатор, генериране на изображения (CogView3) и потребителски функции. **Архитектурни особености на GLM‑4:**[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - Липса на bias членове, с изключение на Q/K/V в attention. - RMSNorm и SwiGLU. - 2D‑RoPE. - Group Query Attention (GQA) с увеличен FFN. - Байтов BPE токенизатор с размер 150K токена, получен чрез обединяване на отделно обучени BPE речници за китайски и многоезичен корпус с cl100k_base. ### GLM‑4.5 (ARC foundation models) GLM‑4.5 е отворен Mixture‑of‑Experts (MoE) модел с акцент върху агентни, разсъдъчни и кодови задачи (Agentic, Reasoning, Coding — ARC):[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3) - **355 млрд. общи параметъра, 32 млрд. активни** (MoE архитектура с sparse активация): 89 слоя, 160 експерта, 8 активни на токен; 96 глави на вниманието, hidden size 5120. - **GLM‑4.5‑Air:** 106 млрд. общи / 12 млрд. активни параметъра — ефективен вариант. - Обучение върху **23 трлн. токена** с многостадийно след-обучение, включващо итерация на експертни модели и RLHF. - **Хибриден режим на извод** (thinking mode и direct response): в първия случай моделът генерира разгърнат разсъдъчен trace; във втория — отговаря директно. Превключването се управлява на ниво inference pipeline. - Loss‑free balance routing с sigmoid gates за маршрутизиране на експерти. - Оптимизатор Muon; deeper‑and‑narrower дизайн. ### GLM‑4.6 / GLM‑4.7 Серията GLM‑4.6 / 4.7 (септември–декември 2025) развива идеите на GLM‑4.5, усилвайки програмирането (SWE‑bench Verified / Multilingual), сложното разсъждаване (Humanity's Last Exam, AIME) и агентните задачи. GLM‑4.7 достига 73,8% на SWE‑bench Verified и въвежда Interleaved / Preserved / Turn‑level Thinking — три режима на интегриране на разсъждаването в диалога. Отделни конфигурации са отворени като open‑weight модели.[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3)[\[10\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-glm47_blog-10) ### GLM‑5 Техническият доклад е публикуван на 21 февруари 2026 година (arXiv:2602.15763). Основни характеристики:[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) - **Архитектура:** Mixture‑of‑Experts с ≈744–745 млрд. общи параметъра, 256 експерта, 8 се активират за всеки токен (≈40–44 млрд. активни параметъра, ≈5,9% плътност); 75 MoE слоя + 3 плътни слоя. - **Предобучение:** 28,5 трлн. токена. - **Контекстен прозорец:** 200K токена. - **Dynamic Sparse Attention (DSA):** механизъм за разредено внимание, намаляващ разходите за обучение и извод при запазване на качеството върху дълги контексти. - **Multi‑Token Prediction (MTP):** техника за спекулативно декодиране при извод. - **Техническа инфраструктура:** обучението е извършено изцяло на процесори Huawei Ascend с използване на фреймуорка MindSpore, без зависимост от GPU оборудване от американско производство. - **След-обучение:** асинхронна инфраструктура за Reinforcement Learning (RL) с декаплинг на генерирането и обучението (decoupling inference / training); прилагане на агентни алгоритми RL за задачи с дълъг хоризонт на взаимодействие; Token‑in‑Token‑out (TITO) и йерархично управление на контекста за агентни задачи с дълъг хоризонт. - **Лиценз:** отворени тегла под лиценз MIT. ### Обобщаваща таблица на моделите от серията | Модел | Година | Параметри (общо / активни) | Токени за предобучение | Контекст | Ключови особености | |-------------|--------|----------------------------|------------------------|----------|-----------------------------------------------| | GLM‑130B | 2022 | 130 млрд. / — | ≈400 млрд. | 2K | Плътен, двуезичен, DeepNorm, INT4 квантизация | | ChatGLM‑6B | 2023 | 6,2 млрд. / — | ≈1 трлн. | 2K | Диалогов, SFT + RLHF, INT4 (≈6 ГБ) | | ChatGLM2‑6B | 2023 | 6,2 млрд. / — | 1,4 трлн. | 32K | FlashAttention, MQA | | ChatGLM3‑6B | 2023 | 6,2 млрд. / — | — | 32K | Function call, Code Interpreter, AgentTuning | | GLM‑4 | 2024 | не е оповестено (API) | ≈10 трлн. | 128K–1M | All Tools, мултимодалност (V) | | GLM‑4‑9B | 2024 | ≈9 млрд. / — | ≈10 трлн. | 128K–1M | Отворена версия, GQA | | GLM‑4.5 | 2025 | 355 млрд. / 32 млрд. | 23 трлн. | 128K | MoE, хибридно мислене, ARC фокус | | GLM‑4.5‑Air | 2025 | 106 млрд. / 12 млрд. | 23 трлн. | 128K | Ефективен вариант MoE | | GLM‑4.7 | 2025 | — | — | 128K | Подобрено coding, Interleaved Thinking | | GLM‑5 | 2026 | 744 млрд. / ≈40 млрд. | 28,5 трлн. | 200K | DSA, MTP, агентно инженерство, Huawei Ascend | [\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4)[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8) ### Мултимодални и специализирани разширения - **GLM‑4V‑9B** — мултимодална версия с визуален encoder за обработка на изображения и документи.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **GLM‑4.1V‑Thinking** — визуално‑езиков модел с усилено многостъпково разсъждаване (arXiv:2507.01006).[\[11\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-glm41v-11) - **GLM‑4‑Voice** — end‑to‑end речеви модел (9B base, ≈1 трлн. речево‑текстови токена, токенизатор 175 бита/с).[\[12\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-glm4voice-12) - **CodeGeeX** — семейство кодови модели (CodeGeeX‑13B, CodeGeeX2‑6B) за генериране, допълване и рефакториране на код на няколко езика; вградено в IDE плъгини.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **CogVLM / CogAgent** — визуално‑езикови модели за разбиране на изображения и автономна навигация в GUI.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **WebGLM** — модел за уеб ориентирано търсене и QA; показано е, че модел с ≈10 млрд. параметъра се доближава до WebGPT‑175B при редица задачи (KDD 2023).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ## Обучение, данни и спомагателни технологии ### Данни за предобучение Корпусът за предобучение на GLM‑4 и предходните модели включва:[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - Многоезични (предимно китайски и английски) уеб страници, Wikipedia, книги, код и научни статии. - Тристадиен pipeline за обработка: дедупликация (точна и fuzzy), филтриране (премахване на шумови и потенциално опасни текстове) и токенизация. - Единен речник с размер 150K токена, получен чрез обединяване на отделно обучени BPE речници за китайски и многоезичен корпус с cl100k_base (tiktoken). Емпирично се потвърждава важността на качеството и разнообразието на данните, но авторите не формулират явни фундаментални критерии за избор на данни, излизащи извън рамките на публикуваните емпирични закономерности.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### Разширяване на контекста и LongAlign Контекстните прозорци последователно се увеличават от 2K (ChatGLM‑6B) до 32K (ChatGLM2/3) и след това до 128K и 1M токена в GLM‑4, а след това до 200K в GLM‑5. Използва се комбинация от разширяване на позиционното кодиране (RoPE базирани методи за мащабиране на честоти) и допълнително дообучение върху дълги текстове. Специалната рецепта за изравняване **LongAlign** позволява поддържане на качеството при дълги входове: по LongBench‑Chat GLM‑4 (0520) демонстрира 87,3 в английската част (сравнимо с GPT‑4 Turbo 1106: 87,2 и Claude 3 Opus: 87,7) и 84,0 в китайската (по-добре от GPT‑4 Turbo и Claude 3 Opus).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### След-обучение и изравняване (SFT, RLHF) След-обучението включва два основни етапа:[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **Supervised Fine‑Tuning (SFT):** обучение върху двойки „заявка–отговор" с акцент върху реални (human‑authored) взаимодействия, а не шаблонни или генерирани. - **Reinforcement Learning from Human Feedback (RLHF):** оптимизация по предпочитанията на анотаторите чрез PPO, DPO и собствени схеми, по-специално ChatGLM‑RLHF и Self‑Contrast (отрицателните примери се генерират от самия модел, което намалява нуждата от данни за предпочитания). Векторът на признаците за оценка на отговорите включва показатели за безопасност, фактичност, релевантност, полезност и съответствие с предпочитанията. Авторите отбелязват, че RLHF намалява честотата на откази, повишава безопасността и съгласуваността в многоходови диалози.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### Специализирани техники на екосистемата GLM - **LongAlign** — рецепта за изравняване на дълъг контекст (до 128K).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **ChatGLM‑Math** — подобряване на решаването на математически задачи чрез схема self‑critique (самооценка на отговорите без външни модели).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **Self‑Contrast** — RLHF схема, при която отрицателните примери се генерират от самия модел.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **AgentTuning / AgentInstruct** — framework и набор от данни за обучение на агентни умения върху траектории на взаимодействие на агента с обкръжението.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **APAR (Auto‑Parallel Auto‑Regressive)** — алгоритъм за авто-паралелно авторегресивно генериране за ускоряване на извода.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) Също така е разработен ред от benchmark тестове: AgentBench (агентни задачи), LongBench (дълъг контекст), AlignBench (китайско изравняване), HumanEval‑X (код извън Python), NaturalCodeBench (практически програмни задачи).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ## Ключови резултати и benchmark тестове Всички метрики са дадени по оригиналните технически доклади с посочване на условията (zero‑/few‑shot, набор от данни, версия на модела). Сравнението е извършено от авторите на техническите доклади; независимо възпроизвеждане на стандартизирани платформи (LMSYS Chatbot Arena, Open LLM Leaderboard) за всички версии не е систематизирано. ### Динамика на качеството: ChatGLM‑6B → GLM‑4‑9B | Benchmark тест | ChatGLM‑6B | ChatGLM2‑6B | ChatGLM3‑6B | GLM‑4‑9B | |------------------|------------|-------------|-------------|----------| | GSM8K (%) | 1,5 | 25,9 | 72,3 | 84,0 | | MMLU (%) | 25,2 | 45,2 | 61,4 | 74,7 | | HumanEval (%) | 0,0 | 9,8 | 58,5 | 70,1 | | C‑Eval (%, кит.) | 23,7 | 51,7 | 69,0 | 77,1 | Всички модели са оценени в BF16 с еднакви настройки.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### GLM‑4 на академични benchmark тестове | Benchmark тест | GLM‑4 (0520) | GPT‑4 (0314) | GPT‑4 Turbo (2024‑04‑09) | Claude 3 Opus | |----------------|--------------|--------------|--------------------------|---------------| | MMLU (%) | 83,3 | 86,4 | 86,7 | 86,8 | | GSM8K (%) | 93,3 | 92,0 | 95,6 | 95,0 | | MATH (%) | 61,3 | 52,9 | 73,4 | 60,1 | | BBH (%) | 84,7 | 83,1 | 88,2 | 86,8 | | GPQA (%) | 39,9 | 35,7 | 49,3 | 50,4 | | HumanEval (%) | 78,5 | 67,0 | 88,2 | 84,9 | GLM‑4 (0520) достига ≈96,3% от резултата на GPT‑4 на MMLU, превъзхожда GPT‑4 (0314) по MATH и GSM8K, но отстъпва на GPT‑4 Turbo по MATH и HumanEval.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) По **AlignBench v1.1** (китайско изравняване) GLM‑4 (0520) показва общ резултат **8,00** срещу 7,90 при GPT‑4 Turbo и 7,53 при Claude 3 Opus със забележимо предимство по подпоказателите „Logic", „Language", „Professional".[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) По **AgentBench** GLM‑4 (0520) достига общ резултат 3,79, сравним или малко над GPT‑4 Turbo (1106) и Claude 3 Opus. Високи показатели по задачите Database, House‑Holding и Web‑Shopping; изостава при задачите Operating System и Lateral Thinking Puzzles.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) По **Berkeley Function Call Leaderboard** GLM‑4 (0520) достига 81,76% (GPT‑4 Turbo: 81,24%); GLM‑4‑9B‑Chat значително превъзхожда Llama‑3‑8B‑Instruct (81,00% спрямо 58,88%).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### GLM‑4.5 | Benchmark тест | GLM‑4.5 | Забележка | |-------------------------|---------|-------------------------------------------| | TAU‑Bench (agentic avg) | 70,1% | Агентни задачи | | AIME 2024 | 91,0% | Математически състезания | | SWE‑bench Verified | 64,2% | Решаване на задачи върху реални хранилища | | GPQA (Avg@8) | 79,1% | Въпроси от graduate ниво | | MATH‑500 | 98,2% | Математика | | MMLU‑Pro | 84,6% | Разширен MMLU | Вземайки предвид по-малкия брой активни параметри, GLM‑4.5 заема 3-то място сред всички оценени модели (по съвкупен рейтинг от 12 benchmark теста) и 2-ро — при агентните benchmark тестове към момента на публикуване на доклада.[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3) ### GLM‑4.7 - SWE‑bench Verified: 73,8% (+5,8 п. п. спрямо GLM‑4.5). - Terminal‑Bench 2.0: 41,0% (+16,5 п. п.). - Humanity's Last Exam (with tools): 42,8%.[\[10\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-glm47_blog-10) ### GLM‑5 | Benchmark тест | GLM‑5 | Забележка | |-----------------------------------|------------|------------------------------------------------------------| | SWE‑bench Verified | 77,8% | Лидер сред open‑weight моделите към момента на публикуване | | GPQA‑Diamond | 86,0% | Въпроси от graduate ниво | | Terminal‑Bench 2.0 | 56,2–61,1% | Инженерни задачи | | Humanity's Last Exam (with tools) | 50,4% | Сложни интердисциплинарни въпроси | | BrowseComp | 62,0% | Уеб навигация | GLM‑5 демонстрира подобрение от ≈20% по средния показател спрямо GLM‑4.7 и заема позиции сред open‑weight моделите, сравними със затворени модели от нивото на Claude Opus 4.5 при редица агентни и кодови benchmark тестове.[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) ### Безопасност (SafetyBench) По SafetyBench (китайска подвборка) GLM‑4 (0520) достига 87,2% по интегралния показател, което е сравнимо с Claude 3 Opus (87,5%) и малко по-ниско от GPT‑4 (≈88–89,7%). Най-забележимата разлика в сравнение с GPT‑4 се наблюдава по измерението „Physical Health" (физическа безопасност).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ## Приложение и екосистема ### Диалогови и асистентни сценарии Серията ChatGLM и следващите модели се използват като диалогови асистенти, включително търговската услуга **Zhipu Qingyan** (chatglm.cn / chat.z.ai), с поддръжка на многоезична комуникация, многостъпков диалог и инструкционен режим.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### Агентни системи и инструменти GLM‑4 All Tools и следващите модели се интегрират в агентната платформа GLMs, позволяваща създаване на потребителски агенти, свързване на вграден Python интерпретатор, уеб браузър, VLM/T2I модели (CogView3) и използване на външни API. Поддържат се съставни задачи: уеб търсене, анализ на данни чрез Python, комбинирани вериги от инструменти. GLM‑5 се фокусира върху задачи по програмно инженерство с дълъг хоризонт на планиране (agentic engineering) и е тестван на benchmark тестовете MCP‑Atlas и BrowseComp.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) ### Генериране на код и разработка на софтуер Семейството CodeGeeX (CodeGeeX‑13B, CodeGeeX2‑6B) и кодовите режими на GLM се използват за генериране на код на няколко езика, допълване и рефакториране, решаване на задачи HumanEval и HumanEval‑X. На HumanEval‑X CodeGeeX2‑6B подобрява Pass@1 в сравнение с CodeGeeX‑13B (по данни на авторите: +57% в Python, +71% в C++). Продуктът CodeGeeX е вграден в IDE плъгини за разработчици.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### Дълъг контекст и документо-центрични сценарии GLM‑4‑9B‑Chat‑1M и по-старшите модели се прилагат за анализ на обемни документи и колекции (до 1M токена), обобщаване, търсене в дълги документи, работа с дълъг код.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ### Инфраструктура за внедряване Моделите са достъпни чрез API платформата Z.ai / bigmodel.cn (tool calling, agent frameworks). Отворените версии поддържат локално внедряване чрез vLLM, SGLang. Поддръжката на Huawei Ascend позволява внедряване без NVIDIA оборудване. Отворените модели от серията са изтеглени над 10 млн. пъти в Hugging Face (2023–2024).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4)[\[13\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-hf_glm45-13) ## Ограничения и открити проблеми - **Езиков дисбаланс:** серията GLM е предобучена предимно на китайски и английски език; качеството на други езици е значително по-ниско, което е изрично посочено в техническия доклад arXiv:2406.12793.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **Възпроизводимост на benchmark тестовете:** по-голямата част от сравнителните резултати са дадени в технически доклади на самите разработчици. Независимата външна валидация на стандартизирани платформи (LMSYS Chatbot Arena, Open LLM Leaderboard) за всички версии не е систематизирана. - **Loss spikes при мащабиране:** обучението на GLM‑130B е съпроводено с многобройни пикове на функцията на загубата, изискващи ръчна намеса; авторите документират това като нерешен инженерен проблем при мащабиране.[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8) - **Зависимост от хардуер:** считано от GLM‑5, обучението е пренесено на Huawei Ascend / MindSpore; независимото възпроизвеждане на различни хардуерни платформи е затруднено.[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) - **Изравняване и безопасност:** въпреки прилагането на RLHF, проблемите с отказ от отговор, съгласуваност в многоходови диалози и заобикаляне на механизмите за безопасност остават актуални; авторите на arXiv:2406.12793 посочват, че RLHF помага, но не решава проблемите напълно.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **Халюцинации:** както при другите LLM, проблемът с фактологичните грешки е документиран; количествените оценки варират в зависимост от задачата и методологията. - **Математическо разсъждаване:** GLM‑4 отстъпва на GPT‑4 Turbo на MATH и редица задачи за сложна аритметика, въпреки че използва специализирани методики (ChatGLM‑Math).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - **Агентни задачи:** по AgentBench остава разрив при задачите, свързани с нискониво OS взаимодействие и сложни логически пъзели; качеството при дълъг хоризонт (long‑horizon) остава нерешена задача (натрупване на грешки при верижни задачи).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) - **Код и практически задачи:** на NaturalCodeBench GLM‑4 (overall 47,1%) е по-нисък от GPT‑4 Turbo (53,8%), макар и сравним с Claude 3 Opus (48,3%).[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) ## Етични и регулаторни аспекти Серията GLM се разработва в съответствие с изискванията на китайския регулатор (Администрация за киберпространство на КНР, CAC) по отношение на регистрацията на генеративни модели и преминаването на оценка за безопасност. След-обучението включва SFT и RLHF за намаляване на токсичността и вредното съдържание.[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) В техническия доклад GLM‑4 е описан многостепенен процес на управление на рисковете:[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) - Предварително почистване на корпуса за предобучение от текстове с потенциално опасно съдържание. - Филтриране на данните за изравняване по критерии за безопасност. - Red‑team тестване: формиране на сложни злонамерени заявки за дообучение. - Използване на SafetyBench за количествена оценка на безопасността (7 измерения). Ранните модели (GLM‑130B) демонстрират по-ниско ниво на предвзетост по CrowS‑Pairs и намалена токсичност по RealToxicPrompts в сравнение с GPT‑3 и OPT благодарение на двуезичното обучение.[\[8\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM130B-8)[\[2\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-ChatGLM-2) Издаването на GLM‑5 под лиценз MIT означава липса на формални ограничения за търговско използване на отворените тегла, което носи стандартните рискове от неконтролирано приложение, характерни за отворените LLM.[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) Въпросите за смещения (bias) в корпусите за предобучение, специфични за китайски език и културен контекст, не са систематично изследвани в публичните работи към момента на написване на статията. ## Перспективи и посоки на изследване Въз основа на публикуваните технически доклади и придружаващите материали на Z.ai се открояват следните декларирани насоки:[\[3\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM45-3)[\[4\]](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_note-GLM5-4) - Мащабиране на MoE архитектури при намаляване на разходите за активни параметри на токен. - Развитие на асинхронни алгоритми за агентен RL при задачи с дълъг хоризонт. - Подобряване на механизмите за разредено внимание (DSA) за контексти над 200K токена. - Мултимодално разсъждаване: развитие на GLM‑4.1V‑Thinking в посока разбиране на видео и документи. - Намаляване на зависимостта от външни API при агентно изпълнение на задачи чрез обучение на крайни агенти върху реални взаимодействия. - Оптимизация за местен (за КНР) хардуер (Huawei Ascend, Cambricon) и намаляване на въглеродния отпечатък от обучението. - Интеграция с роботизирани и научно‑изчислителни платформи. ## Вижте също - Архитектура Transformer - BERT - GPT - T5 - Decoder‑only архитектури - Reinforcement Learning from Human Feedback - DeepSeek ## Литература - Du, Z., Qian, Y., Liu, X., Ding, M., Qiu, J., Yang, Z., Tang, J. (2022). *GLM: General Language Model Pretraining with Autoregressive Blank Infilling*. ACL 2022. https://aclanthology.org/2022.acl-long.26/ - Zeng, A. et al. (2022). *GLM-130B: An Open Bilingual Pre-trained Model*. ICLR 2023. arXiv:2210.02414. https://arxiv.org/abs/2210.02414 - Team GLM. (2024). *ChatGLM: A Family of Large Language Models from GLM-130B to GLM-4 All Tools*. arXiv:2406.12793. https://arxiv.org/abs/2406.12793 - GLM-4.5 Team. (2025). *GLM-4.5: Agentic, Reasoning, and Coding (ARC) Foundation Models*. arXiv:2508.06471. https://arxiv.org/abs/2508.06471 - GLM-5 Team. (2026). *GLM-5: from Vibe Coding to Agentic Engineering*. arXiv:2602.15763. https://arxiv.org/abs/2602.15763 - Zeng, A. et al. (2024). *GLM-4-Voice: Towards Intelligent and Human-Like End-to-End Spoken Chatbot*. arXiv:2412.02612. https://arxiv.org/abs/2412.02612 - Zhipu AI. (2025). *GLM-4.5V and GLM-4.1V-Thinking: Towards Versatile Multimodal Reasoning Models*. arXiv:2507.01006. https://arxiv.org/abs/2507.01006 - Vaswani, A. et al. (2017). *Attention Is All You Need*. NeurIPS. https://arxiv.org/abs/1706.03762 - Devlin, J. et al. (2019). *BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding*. NAACL. https://arxiv.org/abs/1810.04805 - Raffel, C. et al. (2020). *Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer (T5)*. JMLR. https://jmlr.org/papers/volume21/20-074/20-074.pdf - Brown, T. et al. (2020). *Language Models are Few-Shot Learners (GPT-3)*. NeurIPS. https://arxiv.org/abs/2005.14165 ## Бележки 1. ↑ [1.0](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-0) [1.1](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-1) [1.2](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-2) [1.3](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-3) [1.4](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-4) [1.5](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-5) [1.6](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-6) [1.7](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-7) [1.8](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_ACL_1-8) Du, Z., Qian, Y., Liu, X., Ding, M., Qiu, J., Yang, Z., Tang, J. (2022). *GLM: General Language Model Pretraining with Autoregressive Blank Infilling*. ACL 2022. https://aclanthology.org/2022.acl-long.26/ 2. ↑ [2.00](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-0) [2.01](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-1) [2.02](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-2) [2.03](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-3) [2.04](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-4) [2.05](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-5) [2.06](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-6) [2.07](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-7) [2.08](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-8) [2.09](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-9) [2.10](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-10) [2.11](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-11) [2.12](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-12) [2.13](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-13) [2.14](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-14) [2.15](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-15) [2.16](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-16) [2.17](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-17) [2.18](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-18) [2.19](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-19) [2.20](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-20) [2.21](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-21) [2.22](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-22) [2.23](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-23) [2.24](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-24) [2.25](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-25) [2.26](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-26) [2.27](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-27) [2.28](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-28) [2.29](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-29) [2.30](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-30) [2.31](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-31) [2.32](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-32) [2.33](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-33) [2.34](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-34) [2.35](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-35) [2.36](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-36) [2.37](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-37) [2.38](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-38) [2.39](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-39) [2.40](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-40) [2.41](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-41) [2.42](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-42) [2.43](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-43) [2.44](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-44) [2.45](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-45) [2.46](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-46) [2.47](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-ChatGLM_2-47) Team GLM. (2024). *ChatGLM: A Family of Large Language Models from GLM-130B to GLM-4 All Tools*. arXiv:2406.12793. https://arxiv.org/abs/2406.12793 3. ↑ [3.0](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-0) [3.1](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-1) [3.2](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-2) [3.3](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-3) [3.4](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-4) [3.5](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-5) [3.6](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-6) [3.7](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM45_3-7) GLM-4.5 Team. (2025). *GLM-4.5: Agentic, Reasoning, and Coding (ARC) Foundation Models*. arXiv:2508.06471. https://arxiv.org/abs/2508.06471 4. ↑ [4.00](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-0) [4.01](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-1) [4.02](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-2) [4.03](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-3) [4.04](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-4) [4.05](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-5) [4.06](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-6) [4.07](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-7) [4.08](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-8) [4.09](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-9) [4.10](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-10) [4.11](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM5_4-11) GLM-5 Team. (2026). *GLM-5: from Vibe Coding to Agentic Engineering*. arXiv:2602.15763. https://arxiv.org/abs/2602.15763 5. [↑](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-wiki_zhipu_5-0) Wikipedia. *Zhipu AI*. https://en.wikipedia.org/wiki/Zhipu_AI (дата обращения: 01.03.2026) 6. [↑](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-pandaily_6-0) Pandaily. *Zhipu AI's Rise: From Tsinghua Lab to China's First Foundation Model Company*. https://pro.pandaily.com/p/zhipu-ais-rise-from-tsinghua-lab (дата обращения: 01.03.2026) 7. ↑ [7.0](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_arxiv_7-0) [7.1](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_arxiv_7-1) [7.2](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_arxiv_7-2) [7.3](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM_arxiv_7-3) Du, Z. et al. (2021). *GLM: General Language Model Pretraining with Autoregressive Blank Infilling*. arXiv:2103.10360. https://arxiv.org/abs/2103.10360 8. ↑ [8.0](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-0) [8.1](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-1) [8.2](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-2) [8.3](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-3) [8.4](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-4) [8.5](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-5) [8.6](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-GLM130B_8-6) Zeng, A. et al. (2022). *GLM-130B: An Open Bilingual Pre-trained Model*. ICLR 2023. arXiv:2210.02414. https://arxiv.org/abs/2210.02414 9. [↑](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-chatglm6b_gh_9-0) THUDM. *ChatGLM-6B README*. https://github.com/THUDM/ChatGLM-6B (дата обращения: 01.03.2026) 10. ↑ [10.0](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-glm47_blog_10-0) [10.1](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-glm47_blog_10-1) Z.ai. *GLM-4.7: Advancing the Coding Capability*. Официальный блог Z.ai, 22.12.2025. https://z.ai/blog/glm-4.7 (дата обращения: 01.03.2026) 11. [↑](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-glm41v_11-0) Zhipu AI. (2025). *GLM-4.5V and GLM-4.1V-Thinking: Towards Versatile Multimodal Reasoning Models*. arXiv:2507.01006. https://arxiv.org/abs/2507.01006 12. [↑](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-glm4voice_12-0) Zeng, A. et al. (2024). *GLM-4-Voice: Towards Intelligent and Human-Like End-to-End Spoken Chatbot*. arXiv:2412.02612. https://arxiv.org/abs/2412.02612 13. [↑](https://systems-analysis.info/int/GLM_(Zhipu_AI)_(BG)#cite_ref-hf_glm45_13-0) Hugging Face. *zai-org/GLM-4.5*. https://huggingface.co/zai-org/GLM-4.5 (дата обращения: 01.03.2026)