Hunyuan (Tencent)

Hunyuan (кит. 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — семейство фундаментальных моделей (Foundation Models) и больших языковых моделей (Large Language Model, LLM), разработанных подразделением Tencent Hunyuan Foundation Model Team и доступных через облачный сервис Tencent Cloud, а также в виде открытых весов на платформах Hugging Face и GitHub. Семейство охватывает модели для генерации и понимания текста, логического и математического вывода, программирования, обработки длинных контекстов, а также мультимодальные расширения (изображения, видео, 3D). Hunyuan позиционируется как флагманская линейка генеративного ИИ Tencent и интегрирована в экосистему продуктов компании (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).

История и хронология развития

Разработка Hunyuan велась в контексте глобальной гонки LLM и китайской стратегии технологической независимости в области искусственного интеллекта. Линейка эволюционировала от проприетарных dense-моделей к открытым Mixture-of-Experts (MoE) и гибридным Transformer-Mamba архитектурам.

Первое поколение (2023)

Публичный анонс серии Hunyuan состоялся 7 сентября 2023 года на Tencent Global Digital Ecosystem Summit в Шэньчжэне. Первая версия представляла собой проприетарную dense-модель с более чем 100 млрд параметров, предобученную на более чем 2 трлн токенов. Модель ориентировалась на китайский язык, логический вывод и генерацию контента, была интегрирована в более чем 50 продуктов Tencent и доступна через API Tencent Cloud.

Hunyuan-Large и переход к MoE (2024)

В ноябре 2024 года Tencent выпустила Hunyuan-Large — крупнейшую на тот момент открытую Transformer-MoE-модель с 389 млрд общих и 52 млрд активных параметров. Модель опубликована с открытыми весами на Hugging Face и GitHub, сопровождена препринтом на arXiv. Релиз обозначил стратегический поворот Tencent к открытой разработке.

Гибридные и reasoning-модели (2025)

В 2025 году линейка расширилась несколькими ключевыми релизами:

• Hunyuan-TurboS (февраль 2025) — первая промышленная крупномасштабная гибридная модель Transformer-Mamba-MoE с 560 млрд общих и 56 млрд активных параметров, предобученная на 16 трлн токенов. Введён механизм адаптивного Chain-of-Thought (CoT) для динамического переключения между быстрым и глубоким мышлением.
• Hunyuan-T1 (март 2025) — специализированная reasoning-модель, построенная поверх TurboS с масштабным обучением с подкреплением (96,7 % пост-тренировочных вычислений — reinforcement learning).
• Hunyuan-A13B (июнь 2025) — компактная MoE-модель (80 млрд общих / 13 млрд активных параметров) для баланса производительности и стоимости, с поддержкой быстрого и медленного мышления.
• Малые dense-модели (июль 2025) — варианты 0,5B, 1,8B, 4B, 7B для edge-устройств и высококонкурентных сценариев развёртывания, с поддержкой 256K контекста.

Hunyuan 2.0 (ноябрь–декабрь 2025)

В декабре 2025 года анонсировано второе поколение коммерческой модели — Hunyuan 2.0 (HY 2.0) с архитектурой MoE (406 млрд общих / 32 млрд активных параметров) и контекстным окном 256K токенов. Линейка разделена на два варианта: HY 2.0 Think (глубокое рассуждение, код) и HY 2.0 Instruct (диалоги, креативная генерация). Модели доступны через Tencent Cloud API и интегрированы в приложения Yuanbao и ima.

Сводная хронология

Дата	Событие
Сентябрь 2023	Публичный анонс Hunyuan как проприетарной LLM (>100B параметров); запуск API Tencent Cloud
Февраль 2024	Внутренняя MoE-модель для чатбота Yuanbao
Апрель 2024	Ребрендинг: «advanced» → hunyuan-pro, «standard» → hunyuan-standard; добавлен hunyuan-lite
Май 2024	hunyuan-lite переведён на MoE, расширен до 256K контекста
Сентябрь 2024	Запуск нового hunyuan-turbo (MoE нового поколения)
Ноябрь 2024	Открытый релиз Hunyuan-Large (389B/52B MoE), препринт arXiv:2411.02265
Февраль–март 2025	Hunyuan-TurboS (гибридный Mamba-MoE); Hunyuan-T1 (reasoning)
Июнь 2025	Hunyuan-A13B (80B/13B, fine-grained MoE)
Июль 2025	Малые dense-модели 0,5B–7B
Сентябрь 2025	Hunyuan-MT (специализированная модель перевода)
Ноябрь–декабрь 2025	Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE

Источник: Tencent Cloud product dynamics; официальные репозитории.

Теоретические основы и архитектура

Архитектура Mixture-of-Experts

Ключевые модели серии (Hunyuan-Large, A13B, HY 2.0) используют архитектуру Mixture-of-Experts (MoE), в которой часть слоёв трансформера содержит множество «экспертов» (подсетей), а маршрутизатор (gating network) выбирает подмножество активных экспертов для каждого токена. Общая формула MoE-слоя:

$\mathrm{O}\mathrm{u}\mathrm{t}\mathrm{p}\mathrm{u}\mathrm{t}=\sum _{i=1}^{N}G(x{)}_i\cdot E_i(x)$

где $G(x)$ — функция маршрутизации (gating), $E_i$ — $i$-й эксперт, $N$ — общее число экспертов. При таком подходе общее число параметров модели $P_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}$ существенно превышает число активных при одном проходе параметров $P_{\mathrm{a}\mathrm{c}\mathrm{t}\mathrm{i}\mathrm{v}\mathrm{e}}$:

$P_{\mathrm{a}\mathrm{c}\mathrm{t}\mathrm{i}\mathrm{v}\mathrm{e}}\ll P_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}$

что позволяет увеличивать ёмкость модели без пропорционального роста вычислительных затрат на инференс.

В Hunyuan-Large реализована схема с 1 общим (shared) экспертом и 16 специализированными экспертами при активации 1 специалиста на токен (top-1 routing). Дополнительные инновации включают смешанный роутинг с recycle-механизмом (переработка отвергнутых токенов) и эксперт-специфичные learning rates для улучшения баланса вклада экспертов.

Гибридная архитектура Transformer-Mamba

Hunyuan-TurboS и T1 вводят гибридную архитектуру, объединяющую блоки Transformer (attention) и Mamba (state-space model). Mamba обеспечивает линейную сложность по длине последовательности:

$h_t=A{h}_{t-1}+B{x}_t$

где $A$, $B$ — обучаемые матрицы, $h_t$ — скрытое состояние на шаге $t$, $x_t$ — входной токен. Это обеспечивает $O(1)$ memory scaling по длине (против $O(N)$ в стандартном Transformer).

TurboS содержит 128 слоёв, организованных в блоки: 57 слоёв Mamba2, 7 слоёв Attention и 64 слоя FFN-MoE с 32 экспертами. Блоки AMF (Attention → Mamba2 → FFN) и MF (Mamba2 → FFN) чередуются для обеспечения баланса глобального и локального контекста.

Механизмы внимания и KV-кэш

Hunyuan-Large использует Grouped Query Attention (GQA) — вариант внимания, в котором несколько запросов делят общие ключи и значения, — и Cross-Layer Attention (CLA) для уменьшения объёма KV-кэша. Стандартный объём KV-кэша для self-attention слоя с $H$ головами, длиной последовательности $L$ и размером головы $d_h$:

$S_{\mathrm{K}\mathrm{V}}\propto 2\cdot H\cdot L\cdot d_h$

где $S_{\mathrm{K}\mathrm{V}}$ — объём KV-кэша. При GQA с $H_g<H$ группами объём снижается до:

$S_{\mathrm{K}\mathrm{V}}^{\mathrm{G}\mathrm{Q}\mathrm{A}}\propto 2\cdot H_g\cdot L\cdot d_h$

CLA дополнительно предполагает повторное использование KV-кэша между слоями. В совокупности эти оптимизации обеспечивают экономию памяти до примерно 95 %.

Позиционное кодирование и длинный контекст

Модели используют Rotary Position Embedding (RoPE) с масштабированием для поддержки длинных последовательностей. Обучение контексту проводится поэтапно (curriculum learning): от 32K до 256K токенов. Активация — SwiGLU. Словарь токенизатора — 128K (tiktoken с расширением для китайского языка).

Обучение и масштабирование

Для MoE-моделей исследуются scaling laws в форме эмпирических степенных зависимостей:

$Q\approx a-b\cdot P_{\mathrm{a}\mathrm{c}\mathrm{t}\mathrm{i}\mathrm{v}\mathrm{e}}^{-\alpha }-c\cdot N^{-\beta }$

где $Q$ — метрика качества, $P_{\mathrm{a}\mathrm{c}\mathrm{t}\mathrm{i}\mathrm{v}\mathrm{e}}$ — число активных параметров, $N$ — объём данных, $a,b,c,\alpha ,\beta$ — параметры, подбираемые экспериментально. Hunyuan-Large подчёркивает использование синтетических данных объёмом 1,5 трлн токенов — на порядки больше, чем в предыдущих публикациях по MoE.

Пайплайн обучения и выравнивание

Процесс обучения моделей Hunyuan включает несколько этапов, характерных для современных LLM:

Предварительное обучение (Pre-training)

Масштабное обучение на крупном мультиязычном корпусе (китайский, английский и другие языки). Hunyuan-Large предобучена на 7 трлн токенов (включая 1,5 трлн синтетических). TurboS — на 16 трлн токенов. Точный состав датасетов не раскрыт.

Контролируемое дообучение (Supervised Fine-Tuning, SFT)

Дообучение на более чем 1 млн инструкций (пар «инструкция — ответ»), приводящее модель к следованию инструкциям пользователя.

Выравнивание с помощью обучения с подкреплением

Для выравнивания поведения модели с предпочтениями человека применяются:

Direct Preference Optimization (DPO) — метод выравнивания без явной модели вознаграждения, используемый в Hunyuan-Large.

Reinforcement Learning (RL) — в Hunyuan-T1 применяется масштабное обучение с подкреплением с curriculum learning; по заявлению разработчика, 96,7 % пост-тренировочных вычислений приходится на RL.

Adaptive Long-Short Chain-of-Thought — в TurboS реализован механизм динамического переключения между быстрым и глубоким мышлением, позволяющий модели адаптировать глубину рассуждения к сложности задачи.

Состав семейства моделей

Семейство разделено на закрытые облачные API-модели и открытые модели с весами.

Основные модели (обзор)

Модель	Дата релиза	Архитектура	Параметры (всего / активные)	Контекст	Доступность
Hunyuan (2023)	Сентябрь 2023	Dense Transformer	>100 млрд / —	не раскрыт	Проприетарный API
Hunyuan-Large	Ноябрь 2024	Transformer-MoE	389 млрд / 52 млрд	256K (pretrain), 128K (instruct)	Открытые веса (GitHub, HF)
Hunyuan-TurboS	Февраль 2025	Hybrid Transformer-Mamba-MoE	560 млрд / 56 млрд	256K (архит.), 32K/16K (API)	Проприетарный API + откр. варианты
Hunyuan-T1	Март 2025	На базе TurboS + масштабный RL	—	32K/64K (API)	Проприетарный API
Hunyuan-A13B	Июнь 2025	Fine-grained MoE	80 млрд / 13 млрд	256K (откр.), 224K/32K (API)	Открытые веса + API
Малые (0,5–7B)	Июль 2025	Dense	0,5–7 млрд	256K	Открытые веса
HY 2.0 Think	Ноябрь 2025	MoE	406 млрд / 32 млрд	128K вход / 64K выход (API)	Проприетарный API
HY 2.0 Instruct	Ноябрь 2025	MoE	406 млрд / 32 млрд	128K вход / 16K выход (API)	Проприетарный API

Источники: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.

Примечание. Для ряда моделей различаются архитектурные лимиты контекста (из техотчётов) и сервисные лимиты API (из product docs). Это не является противоречием, а отражает различия между исследовательской и продуктовой конфигурациями.

Специализированные модели

Hunyuan-MT (сентябрь 2025) — специализированная модель машинного перевода, занявшая 1-е место на WMT25 в 30 из 31 категории.

HunyuanImage, HunyuanVideo, Hunyuan3D — мультимодальные модели семейства для генерации изображений, видео и 3D-объектов соответственно.

Позиционирование и эволюционные связи

В документации Tencent Cloud прослеживаются следующие эволюционные связи:

• hunyuan-a13b указан как апгрейд hunyuan-standard-256K.
• hunyuan-t1 построен поверх TurboS с усиленным RL-пост-тренингом.
• HY 2.0 Think/Instruct — ветка, в которой база обновлена с TurboS до Hunyuan 2.0.
• Открытая ветка (Hunyuan-Large, A13B, compact dense) развивается параллельно закрытой API-ветке, обеспечивая исследовательский доступ.

Что нового в ключевых поколениях

Hunyuan-Large (2024)

По сравнению с первым поколением и предыдущими MoE-подходами, Hunyuan-Large вводит:

• Масштаб 389 млрд параметров (52 млрд активных) — крупнейшая открытая Transformer-MoE-модель на момент публикации.
• Поддержка 256K контекста (pretrain) и 128K (instruct) — существенное превышение типичных значений массовых LLM 2024 года.
• KV-cache compression на основе GQA + CLA (экономия памяти ~95 %).
• Large-scale synthetic data (1,5 трлн токенов синтетических данных).
• Смешанный роутинг экспертов и эксперт-специфичные learning rates.

Hunyuan-TurboS (2025)

Ключевой архитектурный сдвиг:

• Гибрид Mamba2 + Attention + MoE: 560B total / 56B active, 128 слоёв.
• Предобучение на 16 трлн токенов.
• Adaptive Long-Short Chain-of-Thought для динамического управления глубиной рассуждения.
• Заявленное ускорение декодирования в 1,8–2 раза по сравнению с предыдущей Turbo-версией.

Hunyuan-T1 (2025)

Reasoning-модель на базе TurboS:

• 96,7 % пост-тренировочного compute — reinforcement learning.
• Двукратное ускорение декодирования при сопоставимом deployment envelope.
• Curriculum learning для улучшения стратегий рассуждения.

HY 2.0 (2025)

Обновление коммерческого флагмана:

• Архитектура MoE: 406B общих / 32B активных параметров.
• Контекстное окно 256K токенов.
• Значительный рост на специализированных бенчмарках: IMO-AnswerBench 73,4 % (+20 % к предыдущей версии HY), SWE-bench Verified 53,0 (с 6,0), τ²-Bench 72,4 (с 17,1).
• Улучшения в RLHF и стратегиях пост-обучения.

Оценка и бенчмарки

Оценка проводилась на стандартных бенчмарках с использованием zero-shot и few-shot протоколов. Результаты основаны на официальных техотчётах и репозиториях; для ряда моделей независимые внешние верификации пока ограничены.

Бенчмарки Hunyuan-Large (pretrain)

Бенчмарк	Hunyuan-Large	Llama 3.1-405B	Llama 3.1-70B	Mixtral-8x22B	DeepSeek-V2
MMLU	88,4	85,2	79,3	77,8	78,5
CMMLU	90,2	—	—	—	84,0
C-Eval	91,9	—	—	—	81,7
GSM8K	92,8	89,0	83,7	83,7	79,2
MATH	69,8	53,8	41,4	42,5	43,6
HumanEval	71,4	61,0	58,5	53,1	48,8

Источник: arXiv:2411.02265.

По данным техотчёта, Hunyuan-Large (pretrain) лидирует в 15 из 19 бенчмарков при сравнении с Llama 3.1-405B, Mixtral-8x22B и DeepSeek-V2.

Бенчмарки Hunyuan-Large-Instruct

Бенчмарк	Hunyuan-Large-Instruct
MMLU	89,9
MATH	77,4
HumanEval	90,0
Arena-Hard	81,8

Источник: arXiv:2411.02265; Hugging Face model card.

По заявлению разработчиков, Hunyuan-Large-Instruct превосходит LLaMA 3.1-405B на MMLU на 2,6 процентных пункта.

Бенчмарки TurboS и T1

Бенчмарк	TurboS	T1
LMSYS Chatbot Arena	1356 (топ-7)	—
Среднее по 23 бенчмаркам	77,9 %	—
MMLU-Pro	—	87,2
GPQA-Diamond	—	69,3
MATH-500	—	96,2
LiveCodeBench	—	64,9
Arena-Hard	—	91,9

Источники: arXiv:2505.15431; T1 official page.

Бенчмарки Hunyuan-A13B

Бенчмарк	Hunyuan-A13B	Hunyuan-Large	Qwen2.5-72B
MMLU	88,17	88,4	—
MMLU-Pro	67,23	60,2	—
BBH	87,56	86,3	—
MATH	72,35	69,8	—
GPQA	49,12	—	—
MBPP	83,86	—	—

Источник: GitHub Hunyuan-A13B README.

A13B превосходит Hunyuan-Large на ряде post-training-чувствительных задач (MMLU-Pro, MATH, MBPP), что согласуется с его позиционированием как более свежего и прикладного варианта.

Бенчмарки компактной dense-ветки

Модель	MMLU	MMLU-Pro	BBH	GSM8K	MATH
Hunyuan-0,5B	54,02	31,15	45,92	55,64	42,95
Hunyuan-1,8B	64,62	38,65	74,32	77,26	62,85
Hunyuan-4B	74,01	51,91	75,17	87,49	72,25
Hunyuan-7B	79,82	57,79	82,95	88,25	74,85

Источник: GitHub Hunyuan-7B README.

Бенчмарки HY 2.0

Показатели заявлены разработчиком (единственный явный источник — официальный аккаунт Hunyuan):

Бенчмарк	HY 2.0	Предыдущая версия HY
IMO-AnswerBench	73,4	~53 (оценка, +20 %)
SWE-bench Verified	53,0	6,0
τ²-Bench	72,4	17,1

Примечание. Эти данные классифицируются как «заявленные разработчиком, ожидающие широкого внешнего подтверждения».

Технические детали использования

Контекстное окно по веткам

Модель	Вход (токены)	Выход (токены)
HY 2.0 Think	128K	64K
HY 2.0 Instruct	128K	16K
T1 (API)	32K	64K
A13B (API)	224K	32K
TurboS (API)	32K	16K
Lite (API)	250K	6K
Hunyuan-Large (открытый)	256K (pretrain) / 128K (instruct)	—
Compact 0,5–7B	256K	—

Источник: Tencent Cloud product overview.

Поддерживаемые инструменты

В Tencent Cloud API документированы:

• Function Calling (tools, tool_choice).
• AI Search Enhancement — встроенный поиск по внешним источникам (retrieval-augmented generation).
• SearchInfo и Citation — маркеры цитирования в ответах.
• EnableMultimedia — мультимедийные подстановки в выводе.
• EnableThinking — переключатель chain-of-thought для A13B.
• EnableRecommendedQuestions — генерация рекомендованных вопросов.

Совместимость API

Hunyuan API поддерживает OpenAI-совместимый формат:

• Base URL: https://api.hunyuan.cloud.tencent.com/v1.
• Поддерживаются /v1/chat/completions и /v1/embeddings.
• Embedding model: hunyuan-embedding, размерность 1024.
• Streaming через SSE.
• Concurrency по умолчанию: 5 на аккаунт.

Для Hunyuan-Large (открытый) стандартный формат ввода/вывода соответствует фреймворкам PyTorch/Transformers. Поддерживается квантизация: FP8, INT4 (GPTQ/AWQ).

Применение и интеграция

Модели Hunyuan интегрированы в экосистему Tencent и доступны для внешних разработчиков. Основные задокументированные сценарии:

Продукты Tencent

• Yuanbao — чатбот с поддержкой Hunyuan и DeepSeek.
• Tencent Meeting — генерация саммари совещаний.
• Tencent Docs — генерация и анализ текста.
• ima — финансовый и мультимедийный ИИ-ассистент.

Enterprise-применения

• Текстовая генерация: статьи, рекламные тексты, сценарии, описания продуктов.
• Интеллектуальная поддержка клиентов: чат-боты, FAQ, автоматизация ответов.
• Генерация и анализ кода (особенно HY 2.0 Think и T1).
• Математическое и логическое рассуждение, аналитические задачи.
• Многоязычный перевод (30+ языков, Hunyuan-MT).

Открытые модели

Открытые варианты используются для исследований, тонкой настройки и развёртывания на edge-устройствах (малые dense-модели). Мультимодальные расширения (HunyuanImage, HunyuanVideo, Hunyuan3D) применяются для 3D-моделирования и генерации видео.

Ограничения и открытые проблемы

• Закрытость коммерческих моделей. Для HY 2.0 и T1 отсутствуют открытые веса и подробные архитектурные спецификации; доступ ограничен API, что затрудняет независимую воспроизводимость.
• Непрозрачность данных обучения. Хотя подчёркивается использование масштабных синтетических данных, точный состав датасетов, доля языков и доменных областей не раскрыты.
• Вычислительные требования. Открытые модели требуют значительных ресурсов: минимум 32 GPU для полного fine-tuning Hunyuan-Large; десятки ГБ VRAM даже с FP8.
• Галлюцинации. Как и другие LLM, модели подвержены генерации правдоподобных, но фактически неверных утверждений. Систематические исследования этого аспекта для Hunyuan в открытых рецензируемых работах пока ограничены.
• Различия архитектурных и сервисных лимитов. Для ряда моделей (TurboS, A13B) сервисные лимиты API существенно ниже архитектурных возможностей.
• Региональная доступность. Основной фокус на китайском рынке; API для пользователей за пределами Китая имеет языковые и юридические ограничения.
• Отсутствие детальных safety-отчётов. В документации обозначены общие принципы безопасности и фильтрации, но нет публичных technical safety reports, сопоставимых по объёму с некоторыми международными моделями.
• Совместимость open-source ветки. После релизов фиксировались проблемы интеграции с transformers / vllm, где библиотеки не распознавали тип архитектуры hunyuan_v1_dense, требуя trust_remote_code или специальных веток.

Инциденты и известные проблемы

На момент доступных материалов (конец 2025 — начало 2026 года) крупных публичных инцидентов, специфически связанных с Hunyuan (масштабные утечки данных, уникальные угрозы безопасности), не зафиксировано.

Документированные продуктовые исправления

В product dynamics Tencent Cloud отражены микроисправления:

• 2024-11-20: hunyuan-turbo-latest обновлён для исправления повторений из-за special characters, повышения стабильности Markdown-вывода и снижения необоснованных отказов.
• 2025-04-03: обновление T1 с исправлениями смешения упрощённого/традиционного китайского и смешения китайского/английского, плюс улучшение генерации кода на уровне проектов.
• 2025-04-20: Search Enhancement переведён с default-on на default-off — фактически API-поведенческое изменение для интеграций.

Исследования безопасности MoE

На уровне исследовательской критики (preprint-уровень) Hunyuan-A13B фигурирует в работах по атакам на safety-локализацию в MoE-моделях. В частности, в работах Large Language Lobotomy и GateBreaker сообщается о высоком attack success rate при «silencing» safety-экспертов. Это не является подтверждением продакшн-инцидента, но показывает, что безопасность MoE-роутинга рассматривается как уязвимый исследовательский вектор.

Этические и регуляторные аспекты

Hunyuan действует в правовом и регуляторном контексте Китая, включая национальные правила по управлению генеративным ИИ (CAC) и фильтрации контента, а также внутренние политики Tencent по безопасности данных. Документация Tencent Cloud подчёркивает, что использование Hunyuan API должно соответствовать применимым законам и политике платформы.

Конкретные меры включают:

• Встроенная модерация контента с потоковой выдачей и возможным FinishReason=sensitive.
• Alignment через RLHF/DPO для снижения галлюцинаций и нежелательного поведения.
• Фильтрация данных обучения для минимизации bias.
• Открытые лицензии (Tencent Hunyuan Community License Agreement) для открытых моделей, с оговоркой, что соглашение не применяется в ЕС для ряда вариантов.

Специализированных независимых отчётов по bias (предвзятости) и fairness (справедливости) для Hunyuan пока немного; исследования ожидаются по мере расширения открытых весов и независимых тестов.

Реакция сообщества

Наиболее содержательный внешний сигнал для закрытой ветки — результат TurboS на LMSYS Chatbot Arena (1356, топ-7 глобально). Для открытой ветки косвенный индикатор — GitHub-активность: порядка 1,6 тыс. stars у Hunyuan-Large, 812 у A13B, 683 у Hunyuan-MT. Это отражает заметный, но не доминирующий по меркам open LLM экосистемы уровень вовлечения. Субъективные оценки сообщества (Hugging Face, Reddit) отмечают сильные стороны в китайском языке и agent-задачах.

Перспективы и направления исследований

Направления дальнейшего развития, обозначенные в публичных материалах:

• Дальнейшая гибридизация архитектур (Mamba + Transformer + MoE) и исследование scaling laws для MoE.
• Расширение мультимодальных возможностей: интеграция Hunyuan3D, HunyuanVideo и HunyuanImage с языковыми моделями.
• Улучшение инструментального использования (tool use) и агентных возможностей.
• Снижение затрат на инференс: квантизация (2-bit для edge), оптимизации через TRT-LLM/vLLM.
• Расширение открытого портфеля моделей.
• Разработка и публикация детальных safety- и alignment-отчётов.

См. также

• LLaMA (Meta)
• DeepSeek

Ссылки

• https://cloud.tencent.com/document/product/1729/104753 — Официальная документация Tencent Cloud Hunyuan
• https://huggingface.co/tencent/Tencent-Hunyuan-Large — Hunyuan-Large на Hugging Face
• https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large — Hunyuan-Large на GitHub
• https://github.com/Tencent-Hunyuan/Hunyuan-A13B — Hunyuan-A13B на GitHub
• https://tencent.github.io/llm.hunyuan.T1/README_EN.html — Hunyuan-T1 official page
• https://www.tencent.com/en-us/articles/2201685.html — Анонс Hunyuan (сентябрь 2023)

Литература

• Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
• Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
• Tencent Hunyuan Team. Hunyuan-MT Technical Report. arXiv:2509.05209, 2025. https://arxiv.org/abs/2509.05209
• Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
• Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290