Hunyuan (Tencent) (HU)
Hunyuan (kín. 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — alapmodellek (Foundation Models) és nagy nyelvi modellek (Large Language Model, LLM) családja, amelyet a Tencent Hunyuan Foundation Model Team fejlesztett ki, és amely elérhető a Tencent Cloud felhőszolgáltatáson keresztül, valamint nyílt súlyok formájában a Hugging Face és GitHub platformokon. A család magában foglalja a szöveg generálására és megértésére, logikai és matematikai következtetésre, programozásra, hosszú kontextusok feldolgozására, valamint multimodális kiterjesztésekre (képek, videó, 3D) szánt modelleket. A Hunyuan a Tencent generatív AI zászlóshajó-termékcsaládjaként pozicionált, és integrálva van a vállalat termékökoszisztémájába (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).[1][2][3]
Történet és fejlődési kronológia
A Hunyuan fejlesztése a globális LLM-verseny és a mesterséges intelligencia területén megvalósuló kínai technológiai függetlenségi stratégia kontextusában zajlott. A termékcsalád a tulajdonosi dense-modellektől a nyílt Mixture-of-Experts (MoE) és hibrid Transformer-Mamba architektúrák felé fejlődött.[1]
Első generáció (2023)
A Hunyuan sorozat nyilvános bejelentésére 2023. szeptember 7-én került sor a shenzeni Tencent Global Digital Ecosystem Summit rendezvényen. Az első verzió egy több mint 100 milliárd paraméterrel rendelkező, több mint 2 billió tokenre előre betanított, tulajdonosi dense-modell volt. A modell a kínai nyelvre, logikai következtetésre és tartalomgenerálásra összpontosított, több mint 50 Tencent-termékbe volt integrálva, és elérhető volt a Tencent Cloud API-n keresztül.[1]
Hunyuan-Large és az MoE-re való átállás (2024)
2024 novemberében a Tencent kiadta a Hunyuan-Large modellt — amely akkori legnagyobb nyílt Transformer-MoE-modell volt 389 milliárd összes és 52 milliárd aktív paraméterrel. A modellt nyílt súlyokkal tették közzé a Hugging Face-en és a GitHubon, és arXiv-preprinttel egészítették ki. A kiadás a Tencent stratégiai fordulatát jelezte a nyílt fejlesztés felé.[2][4][5]
Hibrid és reasoning-modellek (2025)
2025-ben a termékcsalád több kulcsfontosságú kiadással bővült:
- Hunyuan-TurboS (2025. február) — az első ipari, nagyméretű hibrid Transformer-Mamba-MoE modell 560 milliárd összes és 56 milliárd aktív paraméterrel, 16 billió tokenre előre betanítva. Bevezette az adaptív Chain-of-Thought (CoT) mechanizmust a gyors és mély gondolkodás közötti dinamikus váltáshoz.[6]
- Hunyuan-T1 (2025. március) — speciális reasoning-modell, amely a TurboS-ra épül nagyméretű megerősítéses tanulással (a post-training számítási kapacitás 96,7%-a reinforcement learning).[7]
- Hunyuan-A13B (2025. június) — kompakt MoE-modell (80 milliárd összes / 13 milliárd aktív paraméter) a teljesítmény és a költség egyensúlyára, gyors és lassú gondolkodás támogatásával.[8]
- Kis dense-modellek (2025. július) — 0,5B, 1,8B, 4B, 7B változatok edge-eszközökhöz és nagy versenyképességű telepítési forgatókönyvekhez, 256K kontextustámogatással.[9]
Hunyuan 2.0 (2025. november–december)
2025 decemberében bejelentették a kereskedelmi modell második generációját — a Hunyuan 2.0-t (HY 2.0), MoE architektúrával (406 milliárd összes / 32 milliárd aktív paraméter) és 256K tokenes kontextusablakkal. A termékcsalád két változatra oszlik: HY 2.0 Think (mély következtetés, kód) és HY 2.0 Instruct (párbeszédek, kreatív generálás). A modellek elérhetők a Tencent Cloud API-n keresztül, és integrálva vannak a Yuanbao és ima alkalmazásokba.[10][11]
Összesített kronológia
| Dátum | Esemény |
|---|---|
| 2023. szeptember | A Hunyuan nyilvános bejelentése mint tulajdonosi LLM (>100B paraméter); Tencent Cloud API indítása |
| 2024. február | Belső MoE-modell a Yuanbao chatbothoz |
| 2024. április | Rebrandolás: „advanced" → hunyuan-pro, „standard" → hunyuan-standard; hunyuan-lite hozzáadása |
| 2024. május | A hunyuan-lite MoE-re váltott, 256K kontextusra bővítve |
| 2024. szeptember | Új hunyuan-turbo indítása (következő generációs MoE) |
| 2024. november | Hunyuan-Large nyílt kiadása (389B/52B MoE), arXiv:2411.02265 preprint |
| 2025. február–március | Hunyuan-TurboS (hibrid Mamba-MoE); Hunyuan-T1 (reasoning) |
| 2025. június | Hunyuan-A13B (80B/13B, fine-grained MoE) |
| 2025. július | Kis dense-modellek 0,5B–7B |
| 2025. szeptember | Hunyuan-MT (speciális fordítási modell) |
| 2025. november–december | Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE |
Forrás: Tencent Cloud termékdinamikák; hivatalos repozitóriumok.[12]
Elméleti alapok és architektúra
Mixture-of-Experts architektúra
A sorozat kulcsmodelljei (Hunyuan-Large, A13B, HY 2.0) a Mixture-of-Experts (MoE) architektúrát alkalmazzák, amelyben a transzformer rétegeinek egy része több „szakértőt" (alháló) tartalmaz, az útválasztó (gating network) pedig kiválasztja az aktív szakértők részhalmazát minden tokenhez. Az MoE-réteg általános képlete:[2]
ahol az útválasztási (gating) függvény, a -ik szakértő, a szakértők összes száma. Ezzel a megközelítéssel a modell összes paramétereinek száma lényegesen meghaladja az egyetlen átmenetnél aktív paraméterek számát :[2]
ami lehetővé teszi a modell kapacitásának növelését anélkül, hogy az inferencia számítási költségei arányosan növekednének.
A Hunyuan-Large-ban egy közös (shared) és 16 speciális szakértőt tartalmazó séma valósult meg, tokenenkénti 1 specialista aktiválásával (top-1 routing). A további újítások közé tartozik a recycle-mechanizmussal kombinált útválasztás (az elutasított tokenek újrafeldolgozása) és a szakértő-specifikus learning rate-ek a szakértői hozzájárulás egyensúlyának javítása érdekében.[2][5]
Hibrid Transformer-Mamba architektúra
A Hunyuan-TurboS és a T1 hibrid architektúrát vezet be, amely Transformer (attention) és Mamba (state-space model) blokkokat kombinál. A Mamba lineáris komplexitást biztosít a szekvencia hossza szerint:[6]
where , — tanítható mátrixok, — rejtett állapot a lépésnél, — bemeneti token. Ez memóriaskálázást biztosít a hosszra vetítve (szemben a standard Transformer értékével).[6]
A TurboS 128 réteget tartalmaz, amelyek blokkokba szerveződnek: 57 Mamba2-réteg, 7 Attention-réteg és 64 FFN-MoE-réteg 32 szakértővel. Az AMF (Attention → Mamba2 → FFN) és MF (Mamba2 → FFN) blokkok váltakoznak a globális és lokális kontextus egyensúlyának biztosítása érdekében.[6]
Figyelmi mechanizmusok és KV-gyorsítótár
A Hunyuan-Large a Grouped Query Attention (GQA) módszert alkalmazza — egy olyan figyelmi változatot, amelyben több lekérdezés osztozik a közös kulcsokon és értékeken —, valamint a Cross-Layer Attention (CLA) módszert a KV-gyorsítótár méretének csökkentésére. A self-attention réteg KV-gyorsítótárának standard mérete fejjel, szekvenciahosszal és fejmérettel:[5]
where — a KV-gyorsítótár mérete. GQA esetén csoporttal a méret csökken:
A CLA emellett a KV-gyorsítótár rétegek közötti újrafelhasználását feltételezi. Ezek az optimalizálások összességében körülbelül 95%-os memóriamegtakarítást biztosítanak.[4]
Pozicionális kódolás és hosszú kontextus
A modellek Rotary Position Embedding (RoPE) módszert alkalmaznak skálázással a hosszú szekvenciák támogatásához. A kontextus tanítása fokozatosan (curriculum learning) történik: 32K-tól 256K tokenig. Aktiváció: SwiGLU. A tokenizáló szótára: 128K (tiktoken, kínai kiterjesztéssel).[2]
Tanítás és skálázás
Az MoE-modellek esetén empirikus hatványfüggvény-összefüggések formájában vizsgálják a skálázási törvényeket (scaling laws):[2]
where — minőségi metrika, — aktív paraméterek száma, — adatmennyiség, — kísérletileg meghatározott paraméterek. A Hunyuan-Large hangsúlyozza 1,5 billió token szintetikus adat használatát — nagyságrendekkel többet, mint a korábbi MoE-publikációkban.[2]
Tanítási folyamat és összehangolás
A Hunyuan-modellek tanítási folyamata a modern LLM-ekre jellemző több lépést foglal magában:[2][7]
Előzetes tanítás (Pre-training)
Nagyméretű tanítás nagy, többnyelvű korpuszon (kínai, angol és más nyelvek). A Hunyuan-Large 7 billió tokenre lett előre betanítva (beleértve 1,5 billió szintetikus tokent). A TurboS 16 billió tokenre. Az adathalmazok pontos összetétele nem nyilvános.[2][6]
Felügyelt finomhangolás (Supervised Fine-Tuning, SFT)
Finomhangolás több mint 1 millió utasítás-válasz páron, amelynek során a modellt felhasználói utasítások követésére tanítják.[2]
Összehangolás megerősítéses tanulással
A modell viselkedésének emberi preferenciákhoz való igazítása érdekében az alábbi módszereket alkalmazzák:
Direct Preference Optimization (DPO) — összehangolási módszer explicit jutaloommodell nélkül, amelyet a Hunyuan-Large-ban alkalmaznak.[2]
Reinforcement Learning (RL) — a Hunyuan-T1-ben nagyméretű megerősítéses tanulást alkalmaznak curriculum learning-gel; a fejlesztő nyilatkozata szerint a post-training számítások 96,7%-a reinforcement learning.[7]
Adaptive Long-Short Chain-of-Thought — a TurboS-ban megvalósult egy dinamikus kapcsoló mechanizmus a gyors és mély gondolkodás között, amely lehetővé teszi, hogy a modell a feladat bonyolultságához igazítsa a következtetés mélységét.[6]
A modellek összetétele
A termékcsalád zárt felhőalapú API-modellekre és nyílt súlyokkal rendelkező modellekre oszlik.[3]
Fő modellek (áttekintés)
| Modell | Kiadás dátuma | Architektúra | Paraméterek (összes / aktív) | Kontextus | Elérhetőség |
|---|---|---|---|---|---|
| Hunyuan (2023) | 2023. szeptember | Dense Transformer | >100 milliárd / — | nem nyilvános | Tulajdonosi API |
| Hunyuan-Large | 2024. november | Transformer-MoE | 389 milliárd / 52 milliárd | 256K (pretrain), 128K (instruct) | Nyílt súlyok (GitHub, HF) |
| Hunyuan-TurboS | 2025. február | Hybrid Transformer-Mamba-MoE | 560 milliárd / 56 milliárd | 256K (archit.), 32K/16K (API) | Tulajdonosi API + nyílt változatok |
| Hunyuan-T1 | 2025. március | TurboS alapú + nagyméretű RL | — | 32K/64K (API) | Tulajdonosi API |
| Hunyuan-A13B | 2025. június | Fine-grained MoE | 80 milliárd / 13 milliárd | 256K (nyílt), 224K/32K (API) | Nyílt súlyok + API |
| Kis modellek (0,5–7B) | 2025. július | Dense | 0,5–7 milliárd | 256K | Nyílt súlyok |
| HY 2.0 Think | 2025. november | MoE | 406 milliárd / 32 milliárd | 128K bemenet / 64K kimenet (API) | Tulajdonosi API |
| HY 2.0 Instruct | 2025. november | MoE | 406 milliárd / 32 milliárd | 128K bemenet / 16K kimenet (API) | Tulajdonosi API |
Források: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.[2][6][3][10]
Megjegyzés. Egyes modelleknél különbség mutatkozik az architektúrális kontextuskorlátok (műszaki jelentésekből) és az API szolgáltatási korlátok (termékdokumentációból) között. Ez nem ellentmondás, hanem a kutatási és termékkonfigurációk közötti különbséget tükrözi.[6][3]
Speciális modellek
Hunyuan-MT (2025. szeptember) — speciális gépi fordítási modell, amely a WMT25-ön 31 kategóriából 30-ban az 1. helyet szerezte meg.[13]
HunyuanImage, HunyuanVideo, Hunyuan3D — a termékcsalád multimodális modelljei képek, videók és 3D-objektumok generálásához.[14]
Pozicionálás és fejlődési összefüggések
A Tencent Cloud dokumentációjában az alábbi fejlődési összefüggések nyomon követhetők:
hunyuan-a13bahunyuan-standard-256Kfrissítéseként van megjelölve.hunyuan-t1a TurboS-ra épül, megerősített RL post-training-gel.- HY 2.0 Think/Instruct — olyan ág, amelyben az alap TurboS-ről Hunyuan 2.0-ra frissült.
- A nyílt ág (Hunyuan-Large, A13B, kompakt dense) párhuzamosan fejlődik a zárt API-ággal, kutatási hozzáférést biztosítva.[3]
Újdonságok a kulcsgenerációkban
Hunyuan-Large (2024)
Az első generációhoz és a korábbi MoE-megközelítésekhez képest a Hunyuan-Large az alábbiakat vezeti be:[2][4]
- 389 milliárd paraméteres skála (52 milliárd aktív) — a kiadás idején a legnagyobb nyílt Transformer-MoE-modell.
- 256K kontextustámogatás (pretrain) és 128K (instruct) — lényegesen meghaladja a 2024-es tömeges LLM-ek tipikus értékeit.
- KV-gyorsítótár-tömörítés GQA + CLA alapján (kb. 95%-os memóriamegtakarítás).
- Nagyléptékű szintetikus adatok (1,5 billió token szintetikus adat).
- Vegyes szakértő-útválasztás és szakértő-specifikus learning rate-ek.
Hunyuan-TurboS (2025)
Kulcsfontosságú architektúrális váltás:[6]
- Mamba2 + Attention + MoE hibrid: 560B összes / 56B aktív, 128 réteg.
- Előre betanítva 16 billió tokenre.
- Adaptive Long-Short Chain-of-Thought a következtetési mélység dinamikus vezérléséhez.
- A dekódolás bejelentett 1,8–2-szeres gyorsulása az előző Turbo-verzióhoz képest.
Hunyuan-T1 (2025)
Reasoning-modell TurboS alapon:[7]
- A post-training számítási kapacitás 96,7%-a reinforcement learning.
- Kétszeres dekódolási gyorsulás összehasonlítható telepítési keretrendszer mellett.
- Curriculum learning a következtetési stratégiák javítása érdekében.
HY 2.0 (2025)
A kereskedelmi zászlóshajó frissítése:[10][11]
- MoE architektúra: 406B összes / 32B aktív paraméter.
- 256K tokenes kontextusablak.
- Jelentős javulás speciális benchmark-okon: IMO-AnswerBench 73,4% (+20% az előző HY-verzióhoz képest), SWE-bench Verified 53,0 (6,0-ról), τ²-Bench 72,4 (17,1-ről).
- Fejlesztések az RLHF-ben és a post-training stratégiákban.
Értékelés és benchmark-ok
Az értékelés standard benchmark-okon zajlott zero-shot és few-shot protokollokkal. Az eredmények a hivatalos műszaki jelentéseken és repozitóriumokon alapulnak; egyes modellekre vonatkozóan a független külső ellenőrzések egyelőre korlátozottak.[2]
Hunyuan-Large (pretrain) benchmark-ok
| Benchmark | Hunyuan-Large | Llama 3.1-405B | Llama 3.1-70B | Mixtral-8x22B | DeepSeek-V2 |
|---|---|---|---|---|---|
| MMLU | 88,4 | 85,2 | 79,3 | 77,8 | 78,5 |
| CMMLU | 90,2 | — | — | — | 84,0 |
| C-Eval | 91,9 | — | — | — | 81,7 |
| GSM8K | 92,8 | 89,0 | 83,7 | 83,7 | 79,2 |
| MATH | 69,8 | 53,8 | 41,4 | 42,5 | 43,6 |
| HumanEval | 71,4 | 61,0 | 58,5 | 53,1 | 48,8 |
Forrás: arXiv:2411.02265.[2]
A műszaki jelentés adatai szerint a Hunyuan-Large (pretrain) 19 benchmark-ból 15-ben vezet a Llama 3.1-405B, Mixtral-8x22B és DeepSeek-V2 modellekkel összehasonlítva.[2]
Hunyuan-Large-Instruct benchmark-ok
| Benchmark | Hunyuan-Large-Instruct |
|---|---|
| MMLU | 89,9 |
| MATH | 77,4 |
| HumanEval | 90,0 |
| Arena-Hard | 81,8 |
Forrás: arXiv:2411.02265; Hugging Face modellkártya.[2][5]
A fejlesztők állítása szerint a Hunyuan-Large-Instruct 2,6 százalékponttal felülmúlja az LLaMA 3.1-405B modellt az MMLU benchmark-on.[4]
TurboS és T1 benchmark-ok
| Benchmark | TurboS | T1 |
|---|---|---|
| LMSYS Chatbot Arena | 1356 (top-7) | — |
| Átlag 23 benchmark-on | 77,9% | — |
| MMLU-Pro | — | 87,2 |
| GPQA-Diamond | — | 69,3 |
| MATH-500 | — | 96,2 |
| LiveCodeBench | — | 64,9 |
| Arena-Hard | — | 91,9 |
Források: arXiv:2505.15431; T1 official page.[6][7]
Hunyuan-A13B benchmark-ok
| Benchmark | Hunyuan-A13B | Hunyuan-Large | Qwen2.5-72B |
|---|---|---|---|
| MMLU | 88,17 | 88,4 | — |
| MMLU-Pro | 67,23 | 60,2 | — |
| BBH | 87,56 | 86,3 | — |
| MATH | 72,35 | 69,8 | — |
| GPQA | 49,12 | — | — |
| MBPP | 83,86 | — | — |
Forrás: GitHub Hunyuan-A13B README.[8]
Az A13B felülmúlja a Hunyuan-Large-ot számos post-training-érzékeny feladatban (MMLU-Pro, MATH, MBPP), ami összhangban van azzal a pozicionálással, miszerint frissebb és alkalmazottabb változatról van szó.[8]
Kompakt dense-ág benchmark-ok
| Modell | MMLU | MMLU-Pro | BBH | GSM8K | MATH |
|---|---|---|---|---|---|
| Hunyuan-0,5B | 54,02 | 31,15 | 45,92 | 55,64 | 42,95 |
| Hunyuan-1,8B | 64,62 | 38,65 | 74,32 | 77,26 | 62,85 |
| Hunyuan-4B | 74,01 | 51,91 | 75,17 | 87,49 | 72,25 |
| Hunyuan-7B | 79,82 | 57,79 | 82,95 | 88,25 | 74,85 |
Forrás: GitHub Hunyuan-7B README.[9]
HY 2.0 benchmark-ok
Az adatokat a fejlesztő közölte (az egyetlen nyílt forrás a Hunyuan hivatalos fiókja):[11]
| Benchmark | HY 2.0 | HY előző verzió |
|---|---|---|
| IMO-AnswerBench | 73,4 | ~53 (becslés, +20%) |
| SWE-bench Verified | 53,0 | 6,0 |
| τ²-Bench | 72,4 | 17,1 |
Megjegyzés. Ezek az adatok „fejlesztő által közölt, széles körű külső megerősítésre váró" kategóriába sorolhatók.[11]
Felhasználás technikai részletei
Kontextusablak áganként
| Modell | Bemenet (token) | Kimenet (token) |
|---|---|---|
| HY 2.0 Think | 128K | 64K |
| HY 2.0 Instruct | 128K | 16K |
| T1 (API) | 32K | 64K |
| A13B (API) | 224K | 32K |
| TurboS (API) | 32K | 16K |
| Lite (API) | 250K | 6K |
| Hunyuan-Large (nyílt) | 256K (pretrain) / 128K (instruct) | — |
| Kompakt 0,5–7B | 256K | — |
Forrás: Tencent Cloud termékáttekintés.[3]
Támogatott eszközök
A Tencent Cloud API dokumentációjában az alábbiak szerepelnek:[15]
- Function Calling (
tools,tool_choice). - AI Search Enhancement — beépített keresés külső forrásokban (retrieval-augmented generation).
- SearchInfo és Citation — hivatkozási jelölők a válaszokban.
- EnableMultimedia — multimédiás helyettesítők a kimenetben.
- EnableThinking — chain-of-thought kapcsoló az A13B számára.
- EnableRecommendedQuestions — ajánlott kérdések generálása.
API-kompatibilitás
A Hunyuan API támogatja az OpenAI-kompatibilis formátumot:[16]
- Base URL:
https://api.hunyuan.cloud.tencent.com/v1. - Támogatott:
/v1/chat/completionsés/v1/embeddings. - Embedding modell:
hunyuan-embedding, 1024-es dimenzió. - Streaming SSE-n keresztül.
- Alapértelmezett párhuzamosság: 5 fiókonként.
A Hunyuan-Large (nyílt) esetén a standard be- és kimeneti formátum megfelel a PyTorch/Transformers keretrendszereknek. Támogatott kvantizálás: FP8, INT4 (GPTQ/AWQ).[5]
Alkalmazás és integráció
A Hunyuan-modellek integrálva vannak a Tencent ökoszisztémájába, és külső fejlesztők számára is elérhetők. Fő dokumentált felhasználási forgatókönyvek:[1][17]
Tencent-termékek
- Yuanbao — chatbot Hunyuan és DeepSeek támogatással.
- Tencent Meeting — értekezlet-összefoglalók generálása.
- Tencent Docs — szöveggenerálás és -elemzés.
- ima — pénzügyi és multimédiás AI-asszisztens.
Vállalati alkalmazások
- Szöveggenerálás: cikkek, reklámszövegek, forgatókönyvek, termékleírások.
- Intelligens ügyfélszolgálat: chatbotok, GYIK, válaszautomatizálás.
- Kódgenerálás és -elemzés (különösen HY 2.0 Think és T1).
- Matematikai és logikai következtetés, elemzési feladatok.
- Többnyelvű fordítás (30+ nyelv, Hunyuan-MT).
Nyílt modellek
A nyílt változatokat kutatásra, finomhangolásra és edge-eszközökön való telepítésre használják (kis dense-modellek). A multimodális kiterjesztések (HunyuanImage, HunyuanVideo, Hunyuan3D) 3D-modellezéshez és videógeneráláshoz alkalmazhatók.[14]
Korlátok és nyitott kérdések
- A kereskedelmi modellek zártsága. A HY 2.0 és T1 esetén nem állnak rendelkezésre nyílt súlyok és részletes architektúrális specifikációk; a hozzáférés API-ra korlátozódik, ami megnehezíti a független reprodukálhatóságot.[3]
- A tanítási adatok átláthatatlansága. Bár hangsúlyozzák a nagyméretű szintetikus adatok használatát, az adathalmazok pontos összetétele, a nyelvek és szaktudományos területek aránya nem nyilvános.[2]
- Számítási követelmények. A nyílt modellek jelentős erőforrásokat igényelnek: legalább 32 GPU szükséges a Hunyuan-Large teljes fine-tuning-jához; akár FP8 esetén is több tíz GB VRAM szükséges.[5]
- Hallucinációk. Más LLM-ekhez hasonlóan a modellek hajlamosak valószerű, de tényszerűen téves állítások generálására. Ennek szisztematikus vizsgálata Hunyuan esetén a nyílt, lektorált munkákban egyelőre korlátozott.[18]
- Az architektúrális és szolgáltatási korlátok közötti különbségek. Egyes modellekre (TurboS, A13B) vonatkozóan az API szolgáltatási korlátjai lényegesen alacsonyabbak az architektúrális lehetőségeknél.[6][3]
- Regionális elérhetőség. Az elsődleges fókusz a kínai piacon van; a Kínán kívüli felhasználók számára az API nyelvi és jogi korlátozásokkal rendelkezik.[17]
- Részletes biztonsági jelentések hiánya. A dokumentáció általános biztonsági és tartalomszűrési elveket tartalmaz, de nincsenek olyan nyilvános technical safety report-ok, amelyek terjedelmükben felérnének egyes nemzetközi modellekéivel.[15]
- A nyílt forráskódú ág kompatibilitása. A kiadásokat követően integrációs problémák merültek fel a
transformers/vllmesetén, ahol a könyvtárak nem ismerték fel ahunyuan_v1_densearchitektúratípust, éstrust_remote_codevagy speciális ágak szükségessége merült fel.[19]
Incidensek és ismert problémák
Az elérhető anyagok alapján (2025 vége – 2026 eleje) nem rögzítetek nagyobb nyilvános incidenseket, amelyek kifejezetten a Hunyuanhoz köthetők (nagyarányú adatszivárgás, egyedi biztonsági fenyegetések).[17]
Dokumentált termékjavítások
A Tencent Cloud termékdinamikái apró javításokat tükröznek:[12]
- 2024-11-20:
hunyuan-turbo-latestfrissítve a speciális karakterek okozta ismétlések javítása, a Markdown-kimenet stabilitásának növelése és az indokolatlan elutasítások csökkentése érdekében. - 2025-04-03: T1 frissítés az egyszerűsített/hagyományos kínai keveredés és a kínai/angol keveredés javításával, valamint a projektszintű kódgenerálás fejlesztésével.
- 2025-04-20: A Search Enhancement funkció alapértelmezett engedélyezettről alapértelmezett tiltottra váltott — ez az integrációkat érintő tényleges API-viselkedési változás.
MoE-biztonsági kutatások
Kutatói kritika szintjén (preprint szinten) a Hunyuan-A13B szerepel az MoE-modellek safety-lokalizációs támadásait vizsgáló munkákban. Különösen a Large Language Lobotomy és GateBreaker munkákban számolnak be magas támadási sikerarányról a safety-szakértők „elnémítása" esetén. Ez nem erősít meg termelési incidenst, de megmutatja, hogy az MoE-útválasztás biztonsága sebezhető kutatási irányként kerül vizsgálat alá.[20][21]
Etikai és szabályozási szempontok
A Hunyuan a kínai jogi és szabályozói keretrendszerben működik, beleértve a generatív AI-ra vonatkozó nemzeti szabályokat (CAC) és a tartalomszűrést, valamint a Tencent belső adatbiztonsági politikáját. A Tencent Cloud dokumentációja hangsúlyozza, hogy a Hunyuan API használatának meg kell felelnie az alkalmazandó jogszabályoknak és a platform szabályzatának.[1]
A konkrét intézkedések közé tartozik:
- Beépített tartalommoderálás streamelt kimenettel és lehetséges
FinishReason=sensitivemechanizmussal. - Összehangolás RLHF/DPO segítségével a hallucinációk és a nemkívánatos viselkedés csökkentése érdekében.
- Tanítási adatok szűrése az elfogultság (bias) minimalizálása érdekében.
- Nyílt licencek (Tencent Hunyuan Community License Agreement) a nyílt modellekhez, azzal a kikötéssel, hogy a megállapodás egyes változatokra nem alkalmazható az EU-ban.[8][15]
A Hunyuan elfogultságával (bias) és méltányosságával (fairness) foglalkozó specializált független jelentések egyelőre kevés számban állnak rendelkezésre; a kutatások a nyílt súlyok és a független tesztek bővülésével várhatók.[2]
Közösségi reakciók
A zárt ág legrelevánsabb külső jelzője a TurboS eredménye az LMSYS Chatbot Arena-n (1356, globális top-7). A nyílt ág esetén közvetett mutató a GitHub-aktivitás: a Hunyuan-Large-nál körülbelül 1600, az A13B-nél 812, a Hunyuan-MT-nél 683 csillag. Ez az open LLM ökoszisztéma mércéjével mérve figyelemreméltó, de nem domináns részvételi szintet tükröz. A közösség szubjektív értékelései (Hugging Face, Reddit) kínai nyelvi és agent-feladatok területén erős teljesítményt emelnek ki.[22]
Kilátások és kutatási irányok
A nyilvános anyagokban jelzett további fejlesztési irányok:[2][6][14]
- Az architektúrák további hibridizálása (Mamba + Transformer + MoE) és az MoE-re vonatkozó scaling laws vizsgálata.
- Multimodális képességek bővítése: a Hunyuan3D, HunyuanVideo és HunyuanImage integrálása a nyelvi modellekkel.
- Az eszközhasználat (tool use) és az ágensalapú képességek fejlesztése.
- Inferencia-költségek csökkentése: kvantizálás (2 bites edge-eszközökhöz), optimalizálások TRT-LLM/vLLM segítségével.
- A nyílt modellek portfóliójának bővítése.
- Részletes biztonsági és összehangolási (alignment) jelentések kidolgozása és közzététele.
Lásd még
- LLaMA (Meta)
- DeepSeek
Irodalom
- Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- Tencent Hunyuan Team. Hunyuan-MT Technical Report. arXiv:2509.05209, 2025. https://arxiv.org/abs/2509.05209
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
- Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
Hivatkozások
- https://cloud.tencent.com/document/product/1729/104753 — A Tencent Cloud Hunyuan hivatalos dokumentációja
- https://huggingface.co/tencent/Tencent-Hunyuan-Large — Hunyuan-Large a Hugging Face-en
- https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large — Hunyuan-Large a GitHubon
- https://github.com/Tencent-Hunyuan/Hunyuan-A13B — Hunyuan-A13B a GitHubon
- https://tencent.github.io/llm.hunyuan.T1/README_EN.html — Hunyuan-T1 official page
- https://www.tencent.com/en-us/articles/2201685.html — Hunyuan bejelentése (2023. szeptember)
Jegyzetek
- ↑ 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
- ↑ 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
- ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
- ↑ 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- ↑ 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
- ↑ 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
- ↑ 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
- ↑ 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
- ↑ 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
- ↑ 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
- ↑ Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
- ↑ 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
- ↑ 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
- ↑ Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
- ↑ 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
- ↑ LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
- ↑ GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
- ↑ Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
- ↑ Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
- ↑ Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS