Hunyuan (Tencent) (CS)
Hunyuan (čín. 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — rodina základních modelů (Foundation Models) a velkých jazykových modelů (Large Language Model, LLM), vyvinutých týmem Tencent Hunyuan Foundation Model Team a dostupných prostřednictvím cloudové služby Tencent Cloud, jakož i ve formě otevřených vah na platformách Hugging Face a GitHub. Rodina zahrnuje modely pro generování a porozumění textu, logické a matematické odvozování, programování, zpracování dlouhých kontextů a také multimodální rozšíření (obrázky, video, 3D). Hunyuan je prezentován jako vlajková řada generativní AI společnosti Tencent a je integrován do ekosystému produktů společnosti (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).[1][2][3]
Historie a chronologie vývoje
Vývoj Hunyuan probíhal v kontextu globálního závodu LLM a čínské strategie technologické nezávislosti v oblasti umělé inteligence. Řada se vyvíjela od proprietárních dense modelů k otevřeným Mixture-of-Experts (MoE) a hybridním architekturám Transformer-Mamba.[1]
První generace (2023)
Verejné oznámení řady Hunyuan proběhlo 7. září 2023 na Tencent Global Digital Ecosystem Summit v Šen-čenu. První verze představovala proprietární dense model s více než 100 miliardami parametrů, předtrénovaný na více než 2 bilionech tokenů. Model byl zaměřen na čínský jazyk, logické odvozování a generování obsahu, byl integrován do více než 50 produktů Tencent a dostupný prostřednictvím API Tencent Cloud.[1]
Hunyuan-Large a přechod k MoE (2024)
V listopadu 2024 vydal Tencent model Hunyuan-Large — v té době největší otevřený Transformer-MoE model s 389 miliardami celkových a 52 miliardami aktivních parametrů. Model byl zveřejněn s otevřenými vahami na Hugging Face a GitHubu, doprovázen preprintem na arXiv. Vydání označilo strategický obrat Tencent k otevřenému vývoji.[2][4][5]
Hybridní modely a reasoning modely (2025)
V roce 2025 se řada rozšířila o několik klíčových vydání:
- Hunyuan-TurboS (únor 2025) — první průmyslový rozsáhlý hybridní model Transformer-Mamba-MoE s 560 miliardami celkových a 56 miliardami aktivních parametrů, předtrénovaný na 16 bilionech tokenů. Byl zaveden mechanismus adaptivního Chain-of-Thought (CoT) pro dynamické přepínání mezi rychlým a hlubokým myšlením.[6]
- Hunyuan-T1 (březen 2025) — specializovaný reasoning model postavený na základě TurboS s rozsáhlým učením s posilováním (96,7 % výpočtů po tréninku tvoří reinforcement learning).[7]
- Hunyuan-A13B (červen 2025) — kompaktní MoE model (80 miliard celkových / 13 miliard aktivních parametrů) pro vyvážení výkonu a nákladů, s podporou rychlého a pomalého myšlení.[8]
- Malé dense modely (červenec 2025) — varianty 0,5B, 1,8B, 4B, 7B pro edge zařízení a vysoce konkurenční scénáře nasazení, s podporou kontextu 256K.[9]
Hunyuan 2.0 (listopad–prosinec 2025)
V prosinci 2025 byla oznámena druhá generace komerčního modelu — Hunyuan 2.0 (HY 2.0) s architekturou MoE (406 miliard celkových / 32 miliard aktivních parametrů) a kontextovým oknem 256K tokenů. Řada je rozdělena na dvě varianty: HY 2.0 Think (hluboké uvažování, kód) a HY 2.0 Instruct (dialogy, kreativní generování). Modely jsou dostupné prostřednictvím Tencent Cloud API a integrovány do aplikací Yuanbao a ima.[10][11]
Souhrnná chronologie
| Datum | Událost |
|---|---|
| Září 2023 | Veřejné oznámení Hunyuan jako proprietárního LLM (>100B parametrů); spuštění API Tencent Cloud |
| Únor 2024 | Interní MoE model pro chatbota Yuanbao |
| Duben 2024 | Rebranding: „advanced" → hunyuan-pro, „standard" → hunyuan-standard; přidán hunyuan-lite |
| Květen 2024 | hunyuan-lite převeden na MoE, rozšířen na kontext 256K |
| Září 2024 | Spuštění nového hunyuan-turbo (MoE nové generace) |
| Listopad 2024 | Otevřené vydání Hunyuan-Large (389B/52B MoE), preprint arXiv:2411.02265 |
| Únor–březen 2025 | Hunyuan-TurboS (hybridní Mamba-MoE); Hunyuan-T1 (reasoning) |
| Červen 2025 | Hunyuan-A13B (80B/13B, fine-grained MoE) |
| Červenec 2025 | Malé dense modely 0,5B–7B |
| Září 2025 | Hunyuan-MT (specializovaný model překladu) |
| Listopad–prosinec 2025 | Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE |
Zdroj: Tencent Cloud product dynamics; oficiální repozitáře.[12]
Teoretické základy a architektura
Architektura Mixture-of-Experts
Klíčové modely řady (Hunyuan-Large, A13B, HY 2.0) využívají architekturu Mixture-of-Experts (MoE), ve které část vrstev transformeru obsahuje mnoho „expertů" (podsítí) a směrovač (gating network) vybírá podmnožinu aktivních expertů pro každý token. Obecný vzorec vrstvy MoE:[2]
kde — funkce směrování (gating), — -tý expert, — celkový počet expertů. Při tomto přístupu celkový počet parametrů modelu výrazně převyšuje počet parametrů aktivních při jednom průchodu :[2]
co umožňuje zvyšovat kapacitu modelu bez proporcionálního růstu výpočetních nákladů na inferenci.
V Hunyuan-Large je implementováno schéma s 1 sdíleným (shared) expertem a 16 specializovanými experty při aktivaci 1 specialisty na token (top-1 routing). Další inovace zahrnují smíšené směrování s recycle mechanismem (zpracování odmítnutých tokenů) a expertně specifické learning rates pro zlepšení rovnováhy příspěvků expertů.[2][5]
Hybridní architektura Transformer-Mamba
Hunyuan-TurboS a T1 zavádějí hybridní architekturu spojující bloky Transformer (attention) a Mamba (state-space model). Mamba zajišťuje lineární složitost podle délky sekvence:[6]
kde , — trénovatelné matice, — skrytý stav v kroku , — vstupní token. To zajišťuje škálování paměti podle délky (oproti ve standardním Transformer).[6]
TurboS obsahuje 128 vrstev organizovaných do bloků: 57 vrstev Mamba2, 7 vrstev Attention a 64 vrstev FFN-MoE s 32 experty. Bloky AMF (Attention → Mamba2 → FFN) a MF (Mamba2 → FFN) se střídají pro zajištění rovnováhy globálního a lokálního kontextu.[6]
Mechanismy pozornosti a KV cache
Hunyuan-Large využívá Grouped Query Attention (GQA) — variantu pozornosti, ve které více dotazů sdílí společné klíče a hodnoty — a Cross-Layer Attention (CLA) pro snížení objemu KV cache. Standardní objem KV cache pro vrstvu self-attention s hlavami, délkou sekvence a velikostí hlavy :[5]
kde — objem KV cache. Při GQA s skupinami se objem snižuje na:
CLA navíc předpokládá opakované použití KV cache mezi vrstvami. Tyto optimizace dohromady zajišťují úsporu paměti až přibližně 95 %.[4]
Poziční kódování a dlouhý kontext
Modely využívají Rotary Position Embedding (RoPE) se škálováním pro podporu dlouhých sekvencí. Trénink kontextu probíhá postupně (curriculum learning): od 32K do 256K tokenů. Aktivace — SwiGLU. Slovník tokenizátoru — 128K (tiktoken s rozšířením pro čínský jazyk).[2]
Trénink a škálování
Pro MoE modely jsou zkoumány scaling laws ve formě empirických mocninných závislostí:[2]
kde — metrika kvality, — počet aktivních parametrů, — objem dat, — parametry určované experimentálně. Hunyuan-Large zdůrazňuje použití syntetických dat o objemu 1,5 bilionu tokenů — o řády více než v předchozích publikacích o MoE.[2]
Pipeline tréninku a zarovnání
Proces tréninku modelů Hunyuan zahrnuje několik fází typických pro moderní LLM:[2][7]
Předtrénink (Pre-training)
Rozsáhlý trénink na velkém vícejazyčném korpusu (čínština, angličtina a další jazyky). Hunyuan-Large byl předtrénován na 7 bilionech tokenů (včetně 1,5 bilionu syntetických). TurboS — na 16 bilionech tokenů. Přesné složení datasetů není zveřejněno.[2][6]
Doladění pod dohledem (Supervised Fine-Tuning, SFT)
Doladění na více než 1 milionu instrukcí (párů „instrukce — odpověď"), které vede model k plnění pokynů uživatele.[2]
Zarovnání pomocí učení s posilováním
Pro zarovnání chování modelu s lidskými preferencemi se používají:
Direct Preference Optimization (DPO) — metoda zarovnání bez explicitního modelu odměny, používaná v Hunyuan-Large.[2]
Reinforcement Learning (RL) — v Hunyuan-T1 se používá rozsáhlý trénink s posilováním s curriculum learning; podle prohlášení vývojáře tvoří 96,7 % výpočtů po tréninku reinforcement learning.[7]
Adaptive Long-Short Chain-of-Thought — v TurboS je implementován mechanismus dynamického přepínání mezi rychlým a hlubokým myšlením, který umožňuje modelu přizpůsobovat hloubku uvažování složitosti úlohy.[6]
Složení rodiny modelů
Rodina je rozdělena na uzavřené cloudové API modely a otevřené modely s vahami.[3]
Hlavní modely (přehled)
| Model | Datum vydání | Architektura | Parametry (celkem / aktivní) | Kontext | Dostupnost |
|---|---|---|---|---|---|
| Hunyuan (2023) | Září 2023 | Dense Transformer | >100 mld / — | nezveřejněn | Proprietární API |
| Hunyuan-Large | Listopad 2024 | Transformer-MoE | 389 mld / 52 mld | 256K (pretrain), 128K (instruct) | Otevřené váhy (GitHub, HF) |
| Hunyuan-TurboS | Únor 2025 | Hybrid Transformer-Mamba-MoE | 560 mld / 56 mld | 256K (archit.), 32K/16K (API) | Proprietární API + otevřené varianty |
| Hunyuan-T1 | Březen 2025 | Na základě TurboS + rozsáhlý RL | — | 32K/64K (API) | Proprietární API |
| Hunyuan-A13B | Červen 2025 | Fine-grained MoE | 80 mld / 13 mld | 256K (otevř.), 224K/32K (API) | Otevřené váhy + API |
| Malé (0,5–7B) | Červenec 2025 | Dense | 0,5–7 mld | 256K | Otevřené váhy |
| HY 2.0 Think | Listopad 2025 | MoE | 406 mld / 32 mld | 128K vstup / 64K výstup (API) | Proprietární API |
| HY 2.0 Instruct | Listopad 2025 | MoE | 406 mld / 32 mld | 128K vstup / 16K výstup (API) | Proprietární API |
Zdroje: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.[2][6][3][10]
Poznámka. U některých modelů se liší architekturní limity kontextu (z technických zpráv) a servisní limity API (z produktové dokumentace). Toto není rozpor, ale odráží rozdíly mezi výzkumnou a produktovou konfigurací.[6][3]
Specializované modely
Hunyuan-MT (září 2025) — specializovaný model strojového překladu, který obsadil 1. místo na WMT25 ve 30 z 31 kategorií.[13]
HunyuanImage, HunyuanVideo, Hunyuan3D — multimodální modely rodiny pro generování obrázků, videa a 3D objektů.[14]
Pozicionování a evoluční vazby
V dokumentaci Tencent Cloud jsou patrné následující evoluční vazby:
hunyuan-a13bje označen jako upgradehunyuan-standard-256K.hunyuan-t1je postaven na základě TurboS s posíleným RL post-tréninkem.- HY 2.0 Think/Instruct — větev, ve které byla základna aktualizována z TurboS na Hunyuan 2.0.
- Otevřená větev (Hunyuan-Large, A13B, kompaktní dense) se vyvíjí paralelně s uzavřenou API větví a zajišťuje výzkumný přístup.[3]
Co je nového v klíčových generacích
Hunyuan-Large (2024)
V porovnání s první generací a předchozími přístupy MoE zavádí Hunyuan-Large:[2][4]
- Rozsah 389 miliard parametrů (52 miliard aktivních) — největší otevřený Transformer-MoE model v době publikace.
- Podpora kontextu 256K (pretrain) a 128K (instruct) — výrazné překročení typických hodnot masových LLM roku 2024.
- Komprese KV cache na základě GQA + CLA (úspora paměti ~95 %).
- Rozsáhlá syntetická data (1,5 bilionu tokenů syntetických dat).
- Smíšené směrování expertů a expertně specifické learning rates.
Hunyuan-TurboS (2025)
Klíčový architekturní posun:[6]
- Hybridní Mamba2 + Attention + MoE: 560B celkem / 56B aktivních, 128 vrstev.
- Předtrénink na 16 bilionech tokenů.
- Adaptive Long-Short Chain-of-Thought pro dynamické řízení hloubky uvažování.
- Deklarované zrychlení dekódování 1,8–2× oproti předchozí verzi Turbo.
Hunyuan-T1 (2025)
Reasoning model na základě TurboS:[7]
- 96,7 % výpočetních zdrojů po tréninku tvoří reinforcement learning.
- Dvojnásobné zrychlení dekódování při srovnatelném deployment envelope.
- Curriculum learning pro zlepšení strategií uvažování.
HY 2.0 (2025)
Aktualizace komerčního vlajkového modelu:[10][11]
- Architektura MoE: 406B celkových / 32B aktivních parametrů.
- Kontextové okno 256K tokenů.
- Výrazný růst na specializovaných benchmarcích: IMO-AnswerBench 73,4 % (+20 % oproti předchozí verzi HY), SWE-bench Verified 53,0 (z 6,0), τ²-Bench 72,4 (z 17,1).
- Vylepšení v RLHF a strategiích post-tréninku.
Hodnocení a benchmarky
Hodnocení bylo provedeno na standardních benchmarcích s použitím zero-shot a few-shot protokolů. Výsledky vycházejí z oficiálních technických zpráv a repozitářů; pro některé modely jsou nezávislá externí ověření zatím omezená.[2]
Benchmarky Hunyuan-Large (pretrain)
| Benchmark | Hunyuan-Large | Llama 3.1-405B | Llama 3.1-70B | Mixtral-8x22B | DeepSeek-V2 |
|---|---|---|---|---|---|
| MMLU | 88,4 | 85,2 | 79,3 | 77,8 | 78,5 |
| CMMLU | 90,2 | — | — | — | 84,0 |
| C-Eval | 91,9 | — | — | — | 81,7 |
| GSM8K | 92,8 | 89,0 | 83,7 | 83,7 | 79,2 |
| MATH | 69,8 | 53,8 | 41,4 | 42,5 | 43,6 |
| HumanEval | 71,4 | 61,0 | 58,5 | 53,1 | 48,8 |
Zdroj: arXiv:2411.02265.[2]
Podle technické zprávy vede Hunyuan-Large (pretrain) v 15 z 19 benchmarků při porovnání s Llama 3.1-405B, Mixtral-8x22B a DeepSeek-V2.[2]
Benchmarky Hunyuan-Large-Instruct
| Benchmark | Hunyuan-Large-Instruct |
|---|---|
| MMLU | 89,9 |
| MATH | 77,4 |
| HumanEval | 90,0 |
| Arena-Hard | 81,8 |
Zdroj: arXiv:2411.02265; Hugging Face model card.[2][5]
Podle prohlášení vývojářů překonává Hunyuan-Large-Instruct model LLaMA 3.1-405B na MMLU o 2,6 procentního bodu.[4]
Benchmarky TurboS a T1
| Benchmark | TurboS | T1 |
|---|---|---|
| LMSYS Chatbot Arena | 1356 (top-7) | — |
| Průměr přes 23 benchmarků | 77,9 % | — |
| MMLU-Pro | — | 87,2 |
| GPQA-Diamond | — | 69,3 |
| MATH-500 | — | 96,2 |
| LiveCodeBench | — | 64,9 |
| Arena-Hard | — | 91,9 |
Zdroje: arXiv:2505.15431; T1 official page.[6][7]
Benchmarky Hunyuan-A13B
| Benchmark | Hunyuan-A13B | Hunyuan-Large | Qwen2.5-72B |
|---|---|---|---|
| MMLU | 88,17 | 88,4 | — |
| MMLU-Pro | 67,23 | 60,2 | — |
| BBH | 87,56 | 86,3 | — |
| MATH | 72,35 | 69,8 | — |
| GPQA | 49,12 | — | — |
| MBPP | 83,86 | — | — |
Zdroj: GitHub Hunyuan-A13B README.[8]
A13B překonává Hunyuan-Large v řadě úloh citlivých na post-training (MMLU-Pro, MATH, MBPP), což odpovídá jeho pozicionování jako novější a prakticky zaměřené varianty.[8]
Benchmarky kompaktní dense větve
| Model | MMLU | MMLU-Pro | BBH | GSM8K | MATH |
|---|---|---|---|---|---|
| Hunyuan-0,5B | 54,02 | 31,15 | 45,92 | 55,64 | 42,95 |
| Hunyuan-1,8B | 64,62 | 38,65 | 74,32 | 77,26 | 62,85 |
| Hunyuan-4B | 74,01 | 51,91 | 75,17 | 87,49 | 72,25 |
| Hunyuan-7B | 79,82 | 57,79 | 82,95 | 88,25 | 74,85 |
Zdroj: GitHub Hunyuan-7B README.[9]
Benchmarky HY 2.0
Ukazatele jsou deklarovány vývojářem (jediný explicitní zdroj — oficiální účet Hunyuan):[11]
| Benchmark | HY 2.0 | Předchozí verze HY |
|---|---|---|
| IMO-AnswerBench | 73,4 | ~53 (odhad, +20 %) |
| SWE-bench Verified | 53,0 | 6,0 |
| τ²-Bench | 72,4 | 17,1 |
Poznámka. Tyto údaje jsou klasifikovány jako „deklarované vývojářem, čekající na širší externí potvrzení".[11]
Technické detaily použití
Kontextové okno podle větví
| Model | Vstup (tokeny) | Výstup (tokeny) |
|---|---|---|
| HY 2.0 Think | 128K | 64K |
| HY 2.0 Instruct | 128K | 16K |
| T1 (API) | 32K | 64K |
| A13B (API) | 224K | 32K |
| TurboS (API) | 32K | 16K |
| Lite (API) | 250K | 6K |
| Hunyuan-Large (otevřený) | 256K (pretrain) / 128K (instruct) | — |
| Compact 0,5–7B | 256K | — |
Zdroj: Tencent Cloud product overview.[3]
Podporované nástroje
V Tencent Cloud API jsou zdokumentovány:[15]
- Function Calling (
tools,tool_choice). - AI Search Enhancement — vestavěné vyhledávání z externích zdrojů (retrieval-augmented generation).
- SearchInfo a Citation — značky citací v odpovědích.
- EnableMultimedia — multimediální vkládání do výstupu.
- EnableThinking — přepínač chain-of-thought pro A13B.
- EnableRecommendedQuestions — generování doporučených otázek.
Kompatibilita API
Hunyuan API podporuje formát kompatibilní s OpenAI:[16]
- Base URL:
https://api.hunyuan.cloud.tencent.com/v1. - Podporovány jsou
/v1/chat/completionsa/v1/embeddings. - Embedding model:
hunyuan-embedding, dimenze 1024. - Streaming přes SSE.
- Výchozí souběžnost: 5 na účet.
Pro Hunyuan-Large (otevřený) odpovídá standardní formát vstupu/výstupu frameworkům PyTorch/Transformers. Podporována je kvantizace: FP8, INT4 (GPTQ/AWQ).[5]
Použití a integrace
Modely Hunyuan jsou integrovány do ekosystému Tencent a dostupné pro externí vývojáře. Hlavní zdokumentované scénáře:[1][17]
Produkty Tencent
- Yuanbao — chatbot s podporou Hunyuan a DeepSeek.
- Tencent Meeting — generování shrnutí porad.
- Tencent Docs — generování a analýza textu.
- ima — finanční a multimediální AI asistent.
Podniková použití
- Generování textu: články, reklamní texty, scénáře, popisy produktů.
- Inteligentní zákaznická podpora: chatboty, FAQ, automatizace odpovědí.
- Generování a analýza kódu (zejména HY 2.0 Think a T1).
- Matematické a logické uvažování, analytické úlohy.
- Vícejazyčný překlad (30+ jazyků, Hunyuan-MT).
Otevřené modely
Otevřené varianty jsou využívány pro výzkum, fine-tuning a nasazení na edge zařízeních (malé dense modely). Multimodální rozšíření (HunyuanImage, HunyuanVideo, Hunyuan3D) jsou používána pro 3D modelování a generování videa.[14]
Omezení a otevřené problémy
- Uzavřenost komerčních modelů. Pro HY 2.0 a T1 nejsou k dispozici otevřené váhy ani podrobné architekturní specifikace; přístup je omezen na API, což ztěžuje nezávislou reprodukovatelnost.[3]
- Nepřehlednost trénovacích dat. Ačkoliv je zdůrazňováno použití rozsáhlých syntetických dat, přesné složení datasetů, podíl jazyků a doménových oblastí nejsou zveřejněny.[2]
- Výpočetní nároky. Otevřené modely vyžadují značné prostředky: minimálně 32 GPU pro úplný fine-tuning modelu Hunyuan-Large; desítky GB VRAM i s FP8.[5]
- Halucinace. Stejně jako ostatní LLM jsou modely náchylné ke generování věrohodných, ale fakticky nesprávných tvrzení. Systematický výzkum tohoto aspektu pro Hunyuan v otevřených recenzovaných pracích je zatím omezený.[18]
- Rozdíly architekturních a servisních limitů. U některých modelů (TurboS, A13B) jsou servisní limity API výrazně nižší než architekturní možnosti.[6][3]
- Regionální dostupnost. Hlavní zaměření na čínský trh; API pro uživatele mimo Čínu má jazyková a právní omezení.[17]
- Absence podrobných bezpečnostních zpráv. Dokumentace uvádí obecné zásady bezpečnosti a filtrování, ale neexistují veřejné technické bezpečnostní zprávy srovnatelné rozsahem s některými mezinárodními modely.[15]
- Kompatibilita open-source větve. Po vydáních byly zaznamenány problémy s integrací do
transformers/vllm, kde knihovny nerozpoznávaly typ architekturyhunyuan_v1_dense, vyžadujícítrust_remote_codenebo speciální větve.[19]
Incidenty a známé problémy
K datu dostupných materiálů (konec roku 2025 — začátek roku 2026) nebyly zaznamenány žádné větší veřejné incidenty specificky spojené s Hunyuan (rozsáhlé úniky dat, jedinečné bezpečnostní hrozby).[17]
Zdokumentované produktové opravy
V product dynamics Tencent Cloud jsou zachyceny drobné opravy:[12]
- 2024-11-20:
hunyuan-turbo-latestaktualizován pro opravu opakování způsobených speciálními znaky, zvýšení stability výstupu Markdown a snížení neopodstatněných odmítnutí. - 2025-04-03: aktualizace T1 s opravami míchání zjednodušené/tradiční čínštiny a míchání čínštiny/angličtiny, plus zlepšení generování kódu na úrovni projektů.
- 2025-04-20: Search Enhancement přesunut z výchozího zapnutí na výchozí vypnutí — de facto změna chování API pro integrace.
Výzkum bezpečnosti MoE
Na úrovni výzkumné kritiky (úroveň preprintu) se Hunyuan-A13B vyskytuje v pracích o útocích na safety lokalizaci v MoE modelech. Konkrétně v pracích Large Language Lobotomy a GateBreaker je uváděna vysoká míra úspěšnosti útoku při „utlumení" safety expertů. Toto není potvrzením produkčního incidentu, ale ukazuje, že bezpečnost MoE směrování je považována za zranitelný výzkumný vektor.[20][21]
Etické a regulatorní aspekty
Hunyuan působí v právním a regulatorním kontextu Číny, včetně národních pravidel pro správu generativní AI (CAC) a filtrování obsahu, jakož i interních politik Tencent pro bezpečnost dat. Dokumentace Tencent Cloud zdůrazňuje, že použití Hunyuan API musí být v souladu s platnými zákony a politikou platformy.[1]
Konkrétní opatření zahrnují:
- Vestavěná moderace obsahu s průběžným výstupem a možným
FinishReason=sensitive. - Zarovnání prostřednictvím RLHF/DPO pro snížení halucinací a nežádoucího chování.
- Filtrování trénovacích dat pro minimalizaci zkreslení.
- Otevřené licence (Tencent Hunyuan Community License Agreement) pro otevřené modely, s výhradou, že dohoda se nevztahuje na EU pro některé varianty.[8][15]
Specializovaných nezávislých zpráv o zkreslení (bias) a spravedlnosti (fairness) pro Hunyuan je zatím málo; výzkum se očekává s rozšiřováním otevřených vah a nezávislých testů.[2]
Reakce komunity
Nejobsažnější externí signál pro uzavřenou větev — výsledek TurboS na LMSYS Chatbot Arena (1356, top-7 globálně). Pro otevřenou větev je nepřímým ukazatelem aktivita na GitHubu: přibližně 1 600 hvězd u Hunyuan-Large, 812 u A13B, 683 u Hunyuan-MT. To odráží znatelnou, avšak ne dominantní úroveň zapojení v měřítku ekosystému open LLM. Subjektivní hodnocení komunity (Hugging Face, Reddit) poukazují na silné stránky v čínském jazyce a agent úlohách.[22]
Perspektivy a směry výzkumu
Směry dalšího rozvoje uvedené ve veřejných materiálech:[2][6][14]
- Další hybridizace architektur (Mamba + Transformer + MoE) a výzkum scaling laws pro MoE.
- Rozšíření multimodálních možností: integrace Hunyuan3D, HunyuanVideo a HunyuanImage s jazykovými modely.
- Zlepšení využívání nástrojů (tool use) a agentních schopností.
- Snižování nákladů na inferenci: kvantizace (2-bit pro edge), optimalizace prostřednictvím TRT-LLM/vLLM.
- Rozšíření otevřeného portfolia modelů.
- Vývoj a zveřejnění podrobných bezpečnostních a zarovnávacích zpráv.
Viz také
- LLaMA (Meta)
- DeepSeek
Literatura
- Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- Tencent Hunyuan Team. Hunyuan-MT Technical Report. arXiv:2509.05209, 2025. https://arxiv.org/abs/2509.05209
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
- Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
Odkazy
- https://cloud.tencent.com/document/product/1729/104753 — Oficiální dokumentace Tencent Cloud Hunyuan
- https://huggingface.co/tencent/Tencent-Hunyuan-Large — Hunyuan-Large na Hugging Face
- https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large — Hunyuan-Large na GitHubu
- https://github.com/Tencent-Hunyuan/Hunyuan-A13B — Hunyuan-A13B na GitHubu
- https://tencent.github.io/llm.hunyuan.T1/README_EN.html — Hunyuan-T1 official page
- https://www.tencent.com/en-us/articles/2201685.html — Oznámení Hunyuan (září 2023)
Poznámky
- ↑ 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
- ↑ 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
- ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
- ↑ 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- ↑ 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
- ↑ 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
- ↑ 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
- ↑ 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
- ↑ 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
- ↑ 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
- ↑ Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
- ↑ 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
- ↑ 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
- ↑ Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
- ↑ 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
- ↑ LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
- ↑ GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
- ↑ Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
- ↑ Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
- ↑ Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS