Hunyuan (Tencent) (CS)

From Systems analysis Wiki
Jump to navigation Jump to search

Hunyuan (čín. 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — rodina základních modelů (Foundation Models) a velkých jazykových modelů (Large Language Model, LLM), vyvinutých týmem Tencent Hunyuan Foundation Model Team a dostupných prostřednictvím cloudové služby Tencent Cloud, jakož i ve formě otevřených vah na platformách Hugging Face a GitHub. Rodina zahrnuje modely pro generování a porozumění textu, logické a matematické odvozování, programování, zpracování dlouhých kontextů a také multimodální rozšíření (obrázky, video, 3D). Hunyuan je prezentován jako vlajková řada generativní AI společnosti Tencent a je integrován do ekosystému produktů společnosti (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).[1][2][3]

Historie a chronologie vývoje

Vývoj Hunyuan probíhal v kontextu globálního závodu LLM a čínské strategie technologické nezávislosti v oblasti umělé inteligence. Řada se vyvíjela od proprietárních dense modelů k otevřeným Mixture-of-Experts (MoE) a hybridním architekturám Transformer-Mamba.[1]

První generace (2023)

Verejné oznámení řady Hunyuan proběhlo 7. září 2023 na Tencent Global Digital Ecosystem Summit v Šen-čenu. První verze představovala proprietární dense model s více než 100 miliardami parametrů, předtrénovaný na více než 2 bilionech tokenů. Model byl zaměřen na čínský jazyk, logické odvozování a generování obsahu, byl integrován do více než 50 produktů Tencent a dostupný prostřednictvím API Tencent Cloud.[1]

Hunyuan-Large a přechod k MoE (2024)

V listopadu 2024 vydal Tencent model Hunyuan-Large — v té době největší otevřený Transformer-MoE model s 389 miliardami celkových a 52 miliardami aktivních parametrů. Model byl zveřejněn s otevřenými vahami na Hugging Face a GitHubu, doprovázen preprintem na arXiv. Vydání označilo strategický obrat Tencent k otevřenému vývoji.[2][4][5]

Hybridní modely a reasoning modely (2025)

V roce 2025 se řada rozšířila o několik klíčových vydání:

  • Hunyuan-TurboS (únor 2025) — první průmyslový rozsáhlý hybridní model Transformer-Mamba-MoE s 560 miliardami celkových a 56 miliardami aktivních parametrů, předtrénovaný na 16 bilionech tokenů. Byl zaveden mechanismus adaptivního Chain-of-Thought (CoT) pro dynamické přepínání mezi rychlým a hlubokým myšlením.[6]
  • Hunyuan-T1 (březen 2025) — specializovaný reasoning model postavený na základě TurboS s rozsáhlým učením s posilováním (96,7 % výpočtů po tréninku tvoří reinforcement learning).[7]
  • Hunyuan-A13B (červen 2025) — kompaktní MoE model (80 miliard celkových / 13 miliard aktivních parametrů) pro vyvážení výkonu a nákladů, s podporou rychlého a pomalého myšlení.[8]
  • Malé dense modely (červenec 2025) — varianty 0,5B, 1,8B, 4B, 7B pro edge zařízení a vysoce konkurenční scénáře nasazení, s podporou kontextu 256K.[9]

Hunyuan 2.0 (listopad–prosinec 2025)

V prosinci 2025 byla oznámena druhá generace komerčního modelu — Hunyuan 2.0 (HY 2.0) s architekturou MoE (406 miliard celkových / 32 miliard aktivních parametrů) a kontextovým oknem 256K tokenů. Řada je rozdělena na dvě varianty: HY 2.0 Think (hluboké uvažování, kód) a HY 2.0 Instruct (dialogy, kreativní generování). Modely jsou dostupné prostřednictvím Tencent Cloud API a integrovány do aplikací Yuanbao a ima.[10][11]

Souhrnná chronologie

Datum Událost
Září 2023 Veřejné oznámení Hunyuan jako proprietárního LLM (>100B parametrů); spuštění API Tencent Cloud
Únor 2024 Interní MoE model pro chatbota Yuanbao
Duben 2024 Rebranding: „advanced" → hunyuan-pro, „standard" → hunyuan-standard; přidán hunyuan-lite
Květen 2024 hunyuan-lite převeden na MoE, rozšířen na kontext 256K
Září 2024 Spuštění nového hunyuan-turbo (MoE nové generace)
Listopad 2024 Otevřené vydání Hunyuan-Large (389B/52B MoE), preprint arXiv:2411.02265
Únor–březen 2025 Hunyuan-TurboS (hybridní Mamba-MoE); Hunyuan-T1 (reasoning)
Červen 2025 Hunyuan-A13B (80B/13B, fine-grained MoE)
Červenec 2025 Malé dense modely 0,5B–7B
Září 2025 Hunyuan-MT (specializovaný model překladu)
Listopad–prosinec 2025 Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE

Zdroj: Tencent Cloud product dynamics; oficiální repozitáře.[12]

Teoretické základy a architektura

Architektura Mixture-of-Experts

Klíčové modely řady (Hunyuan-Large, A13B, HY 2.0) využívají architekturu Mixture-of-Experts (MoE), ve které část vrstev transformeru obsahuje mnoho „expertů" (podsítí) a směrovač (gating network) vybírá podmnožinu aktivních expertů pro každý token. Obecný vzorec vrstvy MoE:[2]

Output=i=1NG(x)iEi(x)

kde G(x) — funkce směrování (gating), Eii-tý expert, N — celkový počet expertů. Při tomto přístupu celkový počet parametrů modelu Ptotal výrazně převyšuje počet parametrů aktivních při jednom průchodu Pactive:[2]

PactivePtotal

co umožňuje zvyšovat kapacitu modelu bez proporcionálního růstu výpočetních nákladů na inferenci.

V Hunyuan-Large je implementováno schéma s 1 sdíleným (shared) expertem a 16 specializovanými experty při aktivaci 1 specialisty na token (top-1 routing). Další inovace zahrnují smíšené směrování s recycle mechanismem (zpracování odmítnutých tokenů) a expertně specifické learning rates pro zlepšení rovnováhy příspěvků expertů.[2][5]

Hybridní architektura Transformer-Mamba

Hunyuan-TurboS a T1 zavádějí hybridní architekturu spojující bloky Transformer (attention) a Mamba (state-space model). Mamba zajišťuje lineární složitost podle délky sekvence:[6]

ht=Aht1+Bxt

kde A, B — trénovatelné matice, ht — skrytý stav v kroku t, xt — vstupní token. To zajišťuje O(1) škálování paměti podle délky (oproti O(N) ve standardním Transformer).[6]

TurboS obsahuje 128 vrstev organizovaných do bloků: 57 vrstev Mamba2, 7 vrstev Attention a 64 vrstev FFN-MoE s 32 experty. Bloky AMF (Attention → Mamba2 → FFN) a MF (Mamba2 → FFN) se střídají pro zajištění rovnováhy globálního a lokálního kontextu.[6]

Mechanismy pozornosti a KV cache

Hunyuan-Large využívá Grouped Query Attention (GQA) — variantu pozornosti, ve které více dotazů sdílí společné klíče a hodnoty — a Cross-Layer Attention (CLA) pro snížení objemu KV cache. Standardní objem KV cache pro vrstvu self-attention s H hlavami, délkou sekvence L a velikostí hlavy dh:[5]

SKV2HLdh

kde SKV — objem KV cache. Při GQA s Hg<H skupinami se objem snižuje na:

SKVGQA2HgLdh

CLA navíc předpokládá opakované použití KV cache mezi vrstvami. Tyto optimizace dohromady zajišťují úsporu paměti až přibližně 95 %.[4]

Poziční kódování a dlouhý kontext

Modely využívají Rotary Position Embedding (RoPE) se škálováním pro podporu dlouhých sekvencí. Trénink kontextu probíhá postupně (curriculum learning): od 32K do 256K tokenů. Aktivace — SwiGLU. Slovník tokenizátoru — 128K (tiktoken s rozšířením pro čínský jazyk).[2]

Trénink a škálování

Pro MoE modely jsou zkoumány scaling laws ve formě empirických mocninných závislostí:[2]

QabPactiveαcNβ

kde Q — metrika kvality, Pactive — počet aktivních parametrů, N — objem dat, a,b,c,α,β — parametry určované experimentálně. Hunyuan-Large zdůrazňuje použití syntetických dat o objemu 1,5 bilionu tokenů — o řády více než v předchozích publikacích o MoE.[2]

Pipeline tréninku a zarovnání

Proces tréninku modelů Hunyuan zahrnuje několik fází typických pro moderní LLM:[2][7]

Předtrénink (Pre-training)

Rozsáhlý trénink na velkém vícejazyčném korpusu (čínština, angličtina a další jazyky). Hunyuan-Large byl předtrénován na 7 bilionech tokenů (včetně 1,5 bilionu syntetických). TurboS — na 16 bilionech tokenů. Přesné složení datasetů není zveřejněno.[2][6]

Doladění pod dohledem (Supervised Fine-Tuning, SFT)

Doladění na více než 1 milionu instrukcí (párů „instrukce — odpověď"), které vede model k plnění pokynů uživatele.[2]

Zarovnání pomocí učení s posilováním

Pro zarovnání chování modelu s lidskými preferencemi se používají:

Direct Preference Optimization (DPO) — metoda zarovnání bez explicitního modelu odměny, používaná v Hunyuan-Large.[2]

Reinforcement Learning (RL) — v Hunyuan-T1 se používá rozsáhlý trénink s posilováním s curriculum learning; podle prohlášení vývojáře tvoří 96,7 % výpočtů po tréninku reinforcement learning.[7]

Adaptive Long-Short Chain-of-Thought — v TurboS je implementován mechanismus dynamického přepínání mezi rychlým a hlubokým myšlením, který umožňuje modelu přizpůsobovat hloubku uvažování složitosti úlohy.[6]

Složení rodiny modelů

Rodina je rozdělena na uzavřené cloudové API modely a otevřené modely s vahami.[3]

Hlavní modely (přehled)

Model Datum vydání Architektura Parametry (celkem / aktivní) Kontext Dostupnost
Hunyuan (2023) Září 2023 Dense Transformer >100 mld / — nezveřejněn Proprietární API
Hunyuan-Large Listopad 2024 Transformer-MoE 389 mld / 52 mld 256K (pretrain), 128K (instruct) Otevřené váhy (GitHub, HF)
Hunyuan-TurboS Únor 2025 Hybrid Transformer-Mamba-MoE 560 mld / 56 mld 256K (archit.), 32K/16K (API) Proprietární API + otevřené varianty
Hunyuan-T1 Březen 2025 Na základě TurboS + rozsáhlý RL 32K/64K (API) Proprietární API
Hunyuan-A13B Červen 2025 Fine-grained MoE 80 mld / 13 mld 256K (otevř.), 224K/32K (API) Otevřené váhy + API
Malé (0,5–7B) Červenec 2025 Dense 0,5–7 mld 256K Otevřené váhy
HY 2.0 Think Listopad 2025 MoE 406 mld / 32 mld 128K vstup / 64K výstup (API) Proprietární API
HY 2.0 Instruct Listopad 2025 MoE 406 mld / 32 mld 128K vstup / 16K výstup (API) Proprietární API

Zdroje: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.[2][6][3][10]

Poznámka. U některých modelů se liší architekturní limity kontextu (z technických zpráv) a servisní limity API (z produktové dokumentace). Toto není rozpor, ale odráží rozdíly mezi výzkumnou a produktovou konfigurací.[6][3]

Specializované modely

Hunyuan-MT (září 2025) — specializovaný model strojového překladu, který obsadil 1. místo na WMT25 ve 30 z 31 kategorií.[13]

HunyuanImage, HunyuanVideo, Hunyuan3D — multimodální modely rodiny pro generování obrázků, videa a 3D objektů.[14]

Pozicionování a evoluční vazby

V dokumentaci Tencent Cloud jsou patrné následující evoluční vazby:

  • hunyuan-a13b je označen jako upgrade hunyuan-standard-256K.
  • hunyuan-t1 je postaven na základě TurboS s posíleným RL post-tréninkem.
  • HY 2.0 Think/Instruct — větev, ve které byla základna aktualizována z TurboS na Hunyuan 2.0.
  • Otevřená větev (Hunyuan-Large, A13B, kompaktní dense) se vyvíjí paralelně s uzavřenou API větví a zajišťuje výzkumný přístup.[3]

Co je nového v klíčových generacích

Hunyuan-Large (2024)

V porovnání s první generací a předchozími přístupy MoE zavádí Hunyuan-Large:[2][4]

  • Rozsah 389 miliard parametrů (52 miliard aktivních) — největší otevřený Transformer-MoE model v době publikace.
  • Podpora kontextu 256K (pretrain) a 128K (instruct) — výrazné překročení typických hodnot masových LLM roku 2024.
  • Komprese KV cache na základě GQA + CLA (úspora paměti ~95 %).
  • Rozsáhlá syntetická data (1,5 bilionu tokenů syntetických dat).
  • Smíšené směrování expertů a expertně specifické learning rates.

Hunyuan-TurboS (2025)

Klíčový architekturní posun:[6]

  • Hybridní Mamba2 + Attention + MoE: 560B celkem / 56B aktivních, 128 vrstev.
  • Předtrénink na 16 bilionech tokenů.
  • Adaptive Long-Short Chain-of-Thought pro dynamické řízení hloubky uvažování.
  • Deklarované zrychlení dekódování 1,8–2× oproti předchozí verzi Turbo.

Hunyuan-T1 (2025)

Reasoning model na základě TurboS:[7]

  • 96,7 % výpočetních zdrojů po tréninku tvoří reinforcement learning.
  • Dvojnásobné zrychlení dekódování při srovnatelném deployment envelope.
  • Curriculum learning pro zlepšení strategií uvažování.

HY 2.0 (2025)

Aktualizace komerčního vlajkového modelu:[10][11]

  • Architektura MoE: 406B celkových / 32B aktivních parametrů.
  • Kontextové okno 256K tokenů.
  • Výrazný růst na specializovaných benchmarcích: IMO-AnswerBench 73,4 % (+20 % oproti předchozí verzi HY), SWE-bench Verified 53,0 (z 6,0), τ²-Bench 72,4 (z 17,1).
  • Vylepšení v RLHF a strategiích post-tréninku.

Hodnocení a benchmarky

Hodnocení bylo provedeno na standardních benchmarcích s použitím zero-shot a few-shot protokolů. Výsledky vycházejí z oficiálních technických zpráv a repozitářů; pro některé modely jsou nezávislá externí ověření zatím omezená.[2]

Benchmarky Hunyuan-Large (pretrain)

Benchmark Hunyuan-Large Llama 3.1-405B Llama 3.1-70B Mixtral-8x22B DeepSeek-V2
MMLU 88,4 85,2 79,3 77,8 78,5
CMMLU 90,2 84,0
C-Eval 91,9 81,7
GSM8K 92,8 89,0 83,7 83,7 79,2
MATH 69,8 53,8 41,4 42,5 43,6
HumanEval 71,4 61,0 58,5 53,1 48,8

Zdroj: arXiv:2411.02265.[2]

Podle technické zprávy vede Hunyuan-Large (pretrain) v 15 z 19 benchmarků při porovnání s Llama 3.1-405B, Mixtral-8x22B a DeepSeek-V2.[2]

Benchmarky Hunyuan-Large-Instruct

Benchmark Hunyuan-Large-Instruct
MMLU 89,9
MATH 77,4
HumanEval 90,0
Arena-Hard 81,8

Zdroj: arXiv:2411.02265; Hugging Face model card.[2][5]

Podle prohlášení vývojářů překonává Hunyuan-Large-Instruct model LLaMA 3.1-405B na MMLU o 2,6 procentního bodu.[4]

Benchmarky TurboS a T1

Benchmark TurboS T1
LMSYS Chatbot Arena 1356 (top-7)
Průměr přes 23 benchmarků 77,9 %
MMLU-Pro 87,2
GPQA-Diamond 69,3
MATH-500 96,2
LiveCodeBench 64,9
Arena-Hard 91,9

Zdroje: arXiv:2505.15431; T1 official page.[6][7]

Benchmarky Hunyuan-A13B

Benchmark Hunyuan-A13B Hunyuan-Large Qwen2.5-72B
MMLU 88,17 88,4
MMLU-Pro 67,23 60,2
BBH 87,56 86,3
MATH 72,35 69,8
GPQA 49,12
MBPP 83,86

Zdroj: GitHub Hunyuan-A13B README.[8]

A13B překonává Hunyuan-Large v řadě úloh citlivých na post-training (MMLU-Pro, MATH, MBPP), což odpovídá jeho pozicionování jako novější a prakticky zaměřené varianty.[8]

Benchmarky kompaktní dense větve

Model MMLU MMLU-Pro BBH GSM8K MATH
Hunyuan-0,5B 54,02 31,15 45,92 55,64 42,95
Hunyuan-1,8B 64,62 38,65 74,32 77,26 62,85
Hunyuan-4B 74,01 51,91 75,17 87,49 72,25
Hunyuan-7B 79,82 57,79 82,95 88,25 74,85

Zdroj: GitHub Hunyuan-7B README.[9]

Benchmarky HY 2.0

Ukazatele jsou deklarovány vývojářem (jediný explicitní zdroj — oficiální účet Hunyuan):[11]

Benchmark HY 2.0 Předchozí verze HY
IMO-AnswerBench 73,4 ~53 (odhad, +20 %)
SWE-bench Verified 53,0 6,0
τ²-Bench 72,4 17,1

Poznámka. Tyto údaje jsou klasifikovány jako „deklarované vývojářem, čekající na širší externí potvrzení".[11]

Technické detaily použití

Kontextové okno podle větví

Model Vstup (tokeny) Výstup (tokeny)
HY 2.0 Think 128K 64K
HY 2.0 Instruct 128K 16K
T1 (API) 32K 64K
A13B (API) 224K 32K
TurboS (API) 32K 16K
Lite (API) 250K 6K
Hunyuan-Large (otevřený) 256K (pretrain) / 128K (instruct)
Compact 0,5–7B 256K

Zdroj: Tencent Cloud product overview.[3]

Podporované nástroje

V Tencent Cloud API jsou zdokumentovány:[15]

  • Function Calling (tools, tool_choice).
  • AI Search Enhancement — vestavěné vyhledávání z externích zdrojů (retrieval-augmented generation).
  • SearchInfo a Citation — značky citací v odpovědích.
  • EnableMultimedia — multimediální vkládání do výstupu.
  • EnableThinking — přepínač chain-of-thought pro A13B.
  • EnableRecommendedQuestions — generování doporučených otázek.

Kompatibilita API

Hunyuan API podporuje formát kompatibilní s OpenAI:[16]

  • Base URL: https://api.hunyuan.cloud.tencent.com/v1.
  • Podporovány jsou /v1/chat/completions a /v1/embeddings.
  • Embedding model: hunyuan-embedding, dimenze 1024.
  • Streaming přes SSE.
  • Výchozí souběžnost: 5 na účet.

Pro Hunyuan-Large (otevřený) odpovídá standardní formát vstupu/výstupu frameworkům PyTorch/Transformers. Podporována je kvantizace: FP8, INT4 (GPTQ/AWQ).[5]

Použití a integrace

Modely Hunyuan jsou integrovány do ekosystému Tencent a dostupné pro externí vývojáře. Hlavní zdokumentované scénáře:[1][17]

Produkty Tencent

  • Yuanbao — chatbot s podporou Hunyuan a DeepSeek.
  • Tencent Meeting — generování shrnutí porad.
  • Tencent Docs — generování a analýza textu.
  • ima — finanční a multimediální AI asistent.

Podniková použití

  • Generování textu: články, reklamní texty, scénáře, popisy produktů.
  • Inteligentní zákaznická podpora: chatboty, FAQ, automatizace odpovědí.
  • Generování a analýza kódu (zejména HY 2.0 Think a T1).
  • Matematické a logické uvažování, analytické úlohy.
  • Vícejazyčný překlad (30+ jazyků, Hunyuan-MT).

Otevřené modely

Otevřené varianty jsou využívány pro výzkum, fine-tuning a nasazení na edge zařízeních (malé dense modely). Multimodální rozšíření (HunyuanImage, HunyuanVideo, Hunyuan3D) jsou používána pro 3D modelování a generování videa.[14]

Omezení a otevřené problémy

  • Uzavřenost komerčních modelů. Pro HY 2.0 a T1 nejsou k dispozici otevřené váhy ani podrobné architekturní specifikace; přístup je omezen na API, což ztěžuje nezávislou reprodukovatelnost.[3]
  • Nepřehlednost trénovacích dat. Ačkoliv je zdůrazňováno použití rozsáhlých syntetických dat, přesné složení datasetů, podíl jazyků a doménových oblastí nejsou zveřejněny.[2]
  • Výpočetní nároky. Otevřené modely vyžadují značné prostředky: minimálně 32 GPU pro úplný fine-tuning modelu Hunyuan-Large; desítky GB VRAM i s FP8.[5]
  • Halucinace. Stejně jako ostatní LLM jsou modely náchylné ke generování věrohodných, ale fakticky nesprávných tvrzení. Systematický výzkum tohoto aspektu pro Hunyuan v otevřených recenzovaných pracích je zatím omezený.[18]
  • Rozdíly architekturních a servisních limitů. U některých modelů (TurboS, A13B) jsou servisní limity API výrazně nižší než architekturní možnosti.[6][3]
  • Regionální dostupnost. Hlavní zaměření na čínský trh; API pro uživatele mimo Čínu má jazyková a právní omezení.[17]
  • Absence podrobných bezpečnostních zpráv. Dokumentace uvádí obecné zásady bezpečnosti a filtrování, ale neexistují veřejné technické bezpečnostní zprávy srovnatelné rozsahem s některými mezinárodními modely.[15]
  • Kompatibilita open-source větve. Po vydáních byly zaznamenány problémy s integrací do transformers / vllm, kde knihovny nerozpoznávaly typ architektury hunyuan_v1_dense, vyžadující trust_remote_code nebo speciální větve.[19]

Incidenty a známé problémy

K datu dostupných materiálů (konec roku 2025 — začátek roku 2026) nebyly zaznamenány žádné větší veřejné incidenty specificky spojené s Hunyuan (rozsáhlé úniky dat, jedinečné bezpečnostní hrozby).[17]

Zdokumentované produktové opravy

V product dynamics Tencent Cloud jsou zachyceny drobné opravy:[12]

  • 2024-11-20: hunyuan-turbo-latest aktualizován pro opravu opakování způsobených speciálními znaky, zvýšení stability výstupu Markdown a snížení neopodstatněných odmítnutí.
  • 2025-04-03: aktualizace T1 s opravami míchání zjednodušené/tradiční čínštiny a míchání čínštiny/angličtiny, plus zlepšení generování kódu na úrovni projektů.
  • 2025-04-20: Search Enhancement přesunut z výchozího zapnutí na výchozí vypnutí — de facto změna chování API pro integrace.

Výzkum bezpečnosti MoE

Na úrovni výzkumné kritiky (úroveň preprintu) se Hunyuan-A13B vyskytuje v pracích o útocích na safety lokalizaci v MoE modelech. Konkrétně v pracích Large Language Lobotomy a GateBreaker je uváděna vysoká míra úspěšnosti útoku při „utlumení" safety expertů. Toto není potvrzením produkčního incidentu, ale ukazuje, že bezpečnost MoE směrování je považována za zranitelný výzkumný vektor.[20][21]

Etické a regulatorní aspekty

Hunyuan působí v právním a regulatorním kontextu Číny, včetně národních pravidel pro správu generativní AI (CAC) a filtrování obsahu, jakož i interních politik Tencent pro bezpečnost dat. Dokumentace Tencent Cloud zdůrazňuje, že použití Hunyuan API musí být v souladu s platnými zákony a politikou platformy.[1]

Konkrétní opatření zahrnují:

  • Vestavěná moderace obsahu s průběžným výstupem a možným FinishReason=sensitive.
  • Zarovnání prostřednictvím RLHF/DPO pro snížení halucinací a nežádoucího chování.
  • Filtrování trénovacích dat pro minimalizaci zkreslení.
  • Otevřené licence (Tencent Hunyuan Community License Agreement) pro otevřené modely, s výhradou, že dohoda se nevztahuje na EU pro některé varianty.[8][15]

Specializovaných nezávislých zpráv o zkreslení (bias) a spravedlnosti (fairness) pro Hunyuan je zatím málo; výzkum se očekává s rozšiřováním otevřených vah a nezávislých testů.[2]

Reakce komunity

Nejobsažnější externí signál pro uzavřenou větev — výsledek TurboS na LMSYS Chatbot Arena (1356, top-7 globálně). Pro otevřenou větev je nepřímým ukazatelem aktivita na GitHubu: přibližně 1 600 hvězd u Hunyuan-Large, 812 u A13B, 683 u Hunyuan-MT. To odráží znatelnou, avšak ne dominantní úroveň zapojení v měřítku ekosystému open LLM. Subjektivní hodnocení komunity (Hugging Face, Reddit) poukazují na silné stránky v čínském jazyce a agent úlohách.[22]

Perspektivy a směry výzkumu

Směry dalšího rozvoje uvedené ve veřejných materiálech:[2][6][14]

  • Další hybridizace architektur (Mamba + Transformer + MoE) a výzkum scaling laws pro MoE.
  • Rozšíření multimodálních možností: integrace Hunyuan3D, HunyuanVideo a HunyuanImage s jazykovými modely.
  • Zlepšení využívání nástrojů (tool use) a agentních schopností.
  • Snižování nákladů na inferenci: kvantizace (2-bit pro edge), optimalizace prostřednictvím TRT-LLM/vLLM.
  • Rozšíření otevřeného portfolia modelů.
  • Vývoj a zveřejnění podrobných bezpečnostních a zarovnávacích zpráv.

Viz také

  • LLaMA (Meta)
  • DeepSeek

Literatura

Odkazy

Poznámky

  1. 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
  2. 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
  3. 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
  4. 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
  5. 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
  6. 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
  7. 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
  8. 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
  9. 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
  10. 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
  11. 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
  12. 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
  13. Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
  14. 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
  15. 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
  16. Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
  17. 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
  18. LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
  19. GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
  20. Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
  21. Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
  22. Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS