Hunyuan (Tencent) (SV)
Hunyuan (kinesiska: 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — en familj av grundmodeller (Foundation Models) och stora språkmodeller (Large Language Model, LLM), utvecklade av Tencent Hunyuan Foundation Model Team och tillgängliga via molntjänsten Tencent Cloud, samt som öppna vikter på plattformarna Hugging Face och GitHub. Familjen omfattar modeller för textgenerering och textförståelse, logisk och matematisk slutledning, programmering, hantering av långa kontexter samt multimodala tillägg (bilder, video, 3D). Hunyuan positioneras som Tencents flaggskeppslinje inom generativ AI och är integrerad i företagets produktekosystem (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).[1][2][3]
Historia och utvecklingskronologi
Utvecklingen av Hunyuan skedde i kontexten av det globala LLM-kapploppet och den kinesiska strategin för teknologiskt oberoende inom artificiell intelligens. Serien har utvecklats från proprietära dense-modeller till öppna Mixture-of-Experts (MoE) och hybrida Transformer-Mamba-arkitekturer.[1]
Första generationen (2023)
Den offentliga lanseringen av Hunyuan-serien ägde rum den 7 september 2023 vid Tencent Global Digital Ecosystem Summit i Shenzhen. Den första versionen var en proprietär dense-modell med mer än 100 miljarder parametrar, förtränad på mer än 2 biljoner token. Modellen var inriktad på kinesiska, logisk slutledning och innehållsgenerering, integrerad i mer än 50 Tencent-produkter och tillgänglig via Tencent Cloud API.[1]
Hunyuan-Large och övergången till MoE (2024)
I november 2024 lanserade Tencent Hunyuan-Large — vid den tidpunkten den största öppna Transformer-MoE-modellen med 389 miljarder totala och 52 miljarder aktiva parametrar. Modellen publicerades med öppna vikter på Hugging Face och GitHub, tillsammans med ett preprint på arXiv. Lanseringen markerade en strategisk vändning för Tencent mot öppen utveckling.[2][4][5]
Hybrida modeller och reasoning-modeller (2025)
Under 2025 utvidgades serien med flera viktiga lanseringar:
- Hunyuan-TurboS (februari 2025) — den första industriella storskaliga hybrida Transformer-Mamba-MoE-modellen med 560 miljarder totala och 56 miljarder aktiva parametrar, förtränad på 16 biljoner token. En adaptiv Chain-of-Thought-mekanism (CoT) introducerades för dynamisk växling mellan snabbt och djupt tänkande.[6]
- Hunyuan-T1 (mars 2025) — en specialiserad reasoning-modell byggd ovanpå TurboS med storskalig reinforcement learning (96,7 % av post-träningsberäkningarna utgörs av reinforcement learning).[7]
- Hunyuan-A13B (juni 2025) — en kompakt MoE-modell (80 miljarder totala / 13 miljarder aktiva parametrar) för balans mellan prestanda och kostnad, med stöd för snabbt och långsamt tänkande.[8]
- Små dense-modeller (juli 2025) — varianter på 0,5B, 1,8B, 4B, 7B för edge-enheter och scenarier med hög driftsättningskonkurrens, med stöd för 256K kontext.[9]
Hunyuan 2.0 (november–december 2025)
I december 2025 presenterades den andra generationens kommersiella modell — Hunyuan 2.0 (HY 2.0) med MoE-arkitektur (406 miljarder totala / 32 miljarder aktiva parametrar) och ett kontextfönster på 256K token. Serien är uppdelad i två varianter: HY 2.0 Think (djup slutledning, kod) och HY 2.0 Instruct (dialoger, kreativ generering). Modellerna är tillgängliga via Tencent Cloud API och integrerade i applikationerna Yuanbao och ima.[10][11]
Samlad kronologi
| Datum | Händelse |
|---|---|
| September 2023 | Offentlig lansering av Hunyuan som proprietär LLM (>100B parametrar); lansering av Tencent Cloud API |
| Februari 2024 | Intern MoE-modell för chatboten Yuanbao |
| April 2024 | Varumärkesbyten: «advanced» → hunyuan-pro, «standard» → hunyuan-standard; hunyuan-lite lades till |
| Maj 2024 | hunyuan-lite övergick till MoE, utvidgad till 256K kontext |
| September 2024 | Lansering av ny hunyuan-turbo (ny generations MoE) |
| November 2024 | Öppen lansering av Hunyuan-Large (389B/52B MoE), preprint arXiv:2411.02265 |
| Februari–mars 2025 | Hunyuan-TurboS (hybrid Mamba-MoE); Hunyuan-T1 (reasoning) |
| Juni 2025 | Hunyuan-A13B (80B/13B, fine-grained MoE) |
| Juli 2025 | Små dense-modeller 0,5B–7B |
| September 2025 | Hunyuan-MT (specialiserad översättningsmodell) |
| November–december 2025 | Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE |
Källa: Tencent Cloud product dynamics; officiella repositorier.[12]
Teoretiska grunder och arkitektur
Mixture-of-Experts - Blandning av experter
Seriens nyckelmodeller (Hunyuan-Large, A13B, HY 2.0) använder arkitekturen Mixture-of-Experts (MoE), där en del av transformatorlagren innehåller många «experter» (undernätverk) och en router (gating network) väljer en delmängd aktiva experter för varje token. Den allmänna formeln för ett MoE-lager:[2]
där är routingfunktionen (gating), är -te experten, är det totala antalet experter. Med detta tillvägagångssätt överstiger modellens totala parameterantal väsentligt antalet aktiva parametrar vid ett enda genomflöde :[2]
vilket gör det möjligt att öka modellens kapacitet utan proportionell ökning av beräkningskostnaderna vid inferens.
I Hunyuan-Large implementeras ett schema med 1 gemensam (shared) expert och 16 specialiserade experter, med aktivering av 1 specialist per token (top-1 routing). Ytterligare innovationer inkluderar blandad routing med återvinningsmekanisme (återbearbetning av avvisade token) och expertspecifika inlärningshastigheter för förbättrad balans i expertbidragen.[2][5]
Hybrid Transformer-Mamba-arkitektur
Hunyuan-TurboS och T1 introducerar en hybridarkitektur som kombinerar Transformer-block (attention) och Mamba-block (state-space model). Mamba tillhandahåller linjär komplexitet med avseende på sekvensens längd:[6]
där , är träningsbara matriser, är det dolda tillståndet vid steg , är ingångstoken. Detta ger minnesskalning med avseende på längd (jämfört med i standard-Transformer).[6]
TurboS innehåller 128 lager organiserade i block: 57 Mamba2-lager, 7 Attention-lager och 64 FFN-MoE-lager med 32 experter. AMF-block (Attention → Mamba2 → FFN) och MF-block (Mamba2 → FFN) varvas för att säkerställa balans mellan global och lokal kontext.[6]
Uppmärksamhetsmekanismer och KV-cache
Hunyuan-Large använder Grouped Query Attention (GQA) — en uppmärksamhetsvariant där flera förfrågningar delar gemensamma nycklar och värden — samt Cross-Layer Attention (CLA) för att minska KV-cachens storlek. Standardstorleken på KV-cachen för ett self-attention-lager med huvuden, sekvenslängd och huvudstorlek :[5]
där är KV-cachens storlek. Med GQA med grupper minskar storleken till:
CLA innebär dessutom återanvändning av KV-cachen mellan lager. Sammantaget ger dessa optimeringar minnesbesparingar på upp till ungefär 95 %.[4]
Positionskodning och lång kontext
Modellerna använder Rotary Position Embedding (RoPE) med skalning för att stödja långa sekvenser. Träning på kontext genomförs stegvis (curriculum learning): från 32K till 256K token. Aktiveringsfunktion — SwiGLU. Tokeniserarens ordförråd — 128K (tiktoken med utvidgning för kinesiska).[2]
Träning och skalning
För MoE-modeller undersöks skalningslagar i form av empiriska potensberoenden:[2]
där är kvalitetsmåttet, är antalet aktiva parametrar, är datamängden, är parametrar som bestäms experimentellt. Hunyuan-Large betonar användningen av syntetiska data med en volym på 1,5 biljoner token — storleksordningar mer än i tidigare MoE-publikationer.[2]
Träningspipeline och inriktning
Träningsprocessen för Hunyuan-modeller omfattar flera steg som är typiska för moderna LLM:[2][7]
Förträning (Pre-training)
Storskalig träning på ett stort flerspråkigt korpus (kinesiska, engelska och andra språk). Hunyuan-Large förtränad på 7 biljoner token (inklusive 1,5 biljoner syntetiska). TurboS — på 16 biljoner token. Den exakta sammansättningen av datamängderna har inte offentliggjorts.[2][6]
Övervakad finjustering (Supervised Fine-Tuning, SFT)
Finjustering på mer än 1 miljon instruktioner (par av «instruktion — svar»), vilket leder modellen till att följa användarinstruktioner.[2]
Inriktning med hjälp av reinforcement learning
För att anpassa modellens beteende till mänskliga preferenser används:
Direct Preference Optimization (DPO) — en inriktningsmetod utan explicit belöningsmodell, använd i Hunyuan-Large.[2]
Reinforcement Learning (RL) — i Hunyuan-T1 tillämpas storskalig reinforcement learning med curriculum learning; enligt utvecklaren utgör 96,7 % av post-träningsberäkningarna reinforcement learning.[7]
Adaptive Long-Short Chain-of-Thought — i TurboS implementeras en mekanism för dynamisk växling mellan snabbt och djupt tänkande, vilket gör att modellen kan anpassa slutledningsdjupet efter uppgiftens komplexitet.[6]
Modellsfamiljens sammansättning
Familjen är uppdelad i slutna molnbaserade API-modeller och öppna modeller med vikter.[3]
Huvudmodeller (översikt)
| Modell | Lanseringsdatum | Arkitektur | Parametrar (totalt / aktiva) | Kontext | Tillgänglighet |
|---|---|---|---|---|---|
| Hunyuan (2023) | September 2023 | Dense Transformer | >100 miljarder / — | ej offentliggjord | Proprietärt API |
| Hunyuan-Large | November 2024 | Transformer-MoE | 389 miljarder / 52 miljarder | 256K (förträning), 128K (instruktion) | Öppna vikter (GitHub, HF) |
| Hunyuan-TurboS | Februari 2025 | Hybrid Transformer-Mamba-MoE | 560 miljarder / 56 miljarder | 256K (arkitekt.), 32K/16K (API) | Proprietärt API + öppna varianter |
| Hunyuan-T1 | Mars 2025 | Baserad på TurboS + storskalig RL | — | 32K/64K (API) | Proprietärt API |
| Hunyuan-A13B | Juni 2025 | Fine-grained MoE | 80 miljarder / 13 miljarder | 256K (öppen), 224K/32K (API) | Öppna vikter + API |
| Små (0,5–7B) | Juli 2025 | Dense | 0,5–7 miljarder | 256K | Öppna vikter |
| HY 2.0 Think | November 2025 | MoE | 406 miljarder / 32 miljarder | 128K in / 64K ut (API) | Proprietärt API |
| HY 2.0 Instruct | November 2025 | MoE | 406 miljarder / 32 miljarder | 128K in / 16K ut (API) | Proprietärt API |
Källor: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.[2][6][3][10]
Anmärkning. För ett antal modeller skiljer sig de arkitekturella kontextgränserna (från tekniska rapporter) från de tjänstbaserade API-gränserna (från produktdokumentation). Detta är ingen motsägelse utan återspeglar skillnader mellan forsknings- och produktionskonfigurationer.[6][3]
Specialiserade modeller
Hunyuan-MT (september 2025) — en specialiserad maskinöversättningsmodell som intog 1:a plats på WMT25 i 30 av 31 kategorier.[13]
HunyuanImage, HunyuanVideo, Hunyuan3D — familjens multimodala modeller för generering av bilder, video respektive 3D-objekt.[14]
Positionering och evolutionära samband
I Tencent Cloud-dokumentationen framgår följande evolutionära samband:
hunyuan-a13banges som en uppgradering avhunyuan-standard-256K.hunyuan-t1är byggd ovanpå TurboS med förstärkt RL-post-träning.- HY 2.0 Think/Instruct — en gren där basen uppdaterades från TurboS till Hunyuan 2.0.
- Den öppna grenen (Hunyuan-Large, A13B, kompakt dense) utvecklas parallellt med den slutna API-grenen och ger forskningstillgång.[3]
Nyheter i nyckelgenerationerna
Hunyuan-Large (2024)
Jämfört med den första generationen och tidigare MoE-tillvägagångssätt introducerar Hunyuan-Large:[2][4]
- Skala på 389 miljarder parametrar (52 miljarder aktiva) — den största öppna Transformer-MoE-modellen vid publiceringstillfället.
- Stöd för 256K kontext (förträning) och 128K (instruktion) — en väsentlig överskridning av de typiska värdena för massmarknads-LLM år 2024.
- KV-cache-komprimering baserad på GQA + CLA (minnesbesparingar ~95 %).
- Storskaliga syntetiska data (1,5 biljoner token syntetiska data).
- Blandad expertrouting och expertspecifika inlärningshastigheter.
Hunyuan-TurboS (2025)
Viktigaste arkitekturella förändringen:[6]
- Hybrid Mamba2 + Attention + MoE: 560B totalt / 56B aktiva, 128 lager.
- Förträning på 16 biljoner token.
- Adaptive Long-Short Chain-of-Thought för dynamisk styrning av slutledningsdjupet.
- Uppgiven avkodningsacceleration på 1,8–2 gånger jämfört med föregående Turbo-version.
Hunyuan-T1 (2025)
Reasoning-modell baserad på TurboS:[7]
- 96,7 % av post-träningens beräkningskraft — reinforcement learning.
- Dubbelt så snabb avkodning vid jämförbar driftsättningsmiljö.
- Curriculum learning för förbättrade slutledningsstrategier.
HY 2.0 (2025)
Uppdatering av det kommersiella flaggskeppet:[10][11]
- MoE-arkitektur: 406B totalt / 32B aktiva parametrar.
- Kontextfönster på 256K token.
- Betydande förbättringar på specialiserade benchmark: IMO-AnswerBench 73,4 % (+20 % mot föregående HY-version), SWE-bench Verified 53,0 (från 6,0), τ²-Bench 72,4 (från 17,1).
- Förbättringar i RLHF och post-träningsstrategier.
Utvärdering och benchmark
Utvärderingen genomfördes på standardiserade benchmark med zero-shot- och few-shot-protokoll. Resultaten baseras på officiella tekniska rapporter och repositorier; för ett antal modeller är oberoende externa verifieringar fortfarande begränsade.[2]
Benchmark för Hunyuan-Large (förträning)
| Benchmark | Hunyuan-Large | Llama 3.1-405B | Llama 3.1-70B | Mixtral-8x22B | DeepSeek-V2 |
|---|---|---|---|---|---|
| MMLU | 88,4 | 85,2 | 79,3 | 77,8 | 78,5 |
| CMMLU | 90,2 | — | — | — | 84,0 |
| C-Eval | 91,9 | — | — | — | 81,7 |
| GSM8K | 92,8 | 89,0 | 83,7 | 83,7 | 79,2 |
| MATH | 69,8 | 53,8 | 41,4 | 42,5 | 43,6 |
| HumanEval | 71,4 | 61,0 | 58,5 | 53,1 | 48,8 |
Källa: arXiv:2411.02265.[2]
Enligt den tekniska rapporten leder Hunyuan-Large (förträning) i 15 av 19 benchmark vid jämförelse med Llama 3.1-405B, Mixtral-8x22B och DeepSeek-V2.[2]
Benchmark för Hunyuan-Large-Instruct
| Benchmark | Hunyuan-Large-Instruct |
|---|---|
| MMLU | 89,9 |
| MATH | 77,4 |
| HumanEval | 90,0 |
| Arena-Hard | 81,8 |
Källa: arXiv:2411.02265; Hugging Face model card.[2][5]
Enligt utvecklarna överträffar Hunyuan-Large-Instruct LLaMA 3.1-405B på MMLU med 2,6 procentenheter.[4]
Benchmark för TurboS och T1
| Benchmark | TurboS | T1 |
|---|---|---|
| LMSYS Chatbot Arena | 1356 (topp-7) | — |
| Genomsnitt över 23 benchmark | 77,9 % | — |
| MMLU-Pro | — | 87,2 |
| GPQA-Diamond | — | 69,3 |
| MATH-500 | — | 96,2 |
| LiveCodeBench | — | 64,9 |
| Arena-Hard | — | 91,9 |
Källor: arXiv:2505.15431; T1 official page.[6][7]
Benchmark för Hunyuan-A13B
| Benchmark | Hunyuan-A13B | Hunyuan-Large | Qwen2.5-72B |
|---|---|---|---|
| MMLU | 88,17 | 88,4 | — |
| MMLU-Pro | 67,23 | 60,2 | — |
| BBH | 87,56 | 86,3 | — |
| MATH | 72,35 | 69,8 | — |
| GPQA | 49,12 | — | — |
| MBPP | 83,86 | — | — |
Källa: GitHub Hunyuan-A13B README.[8]
A13B överträffar Hunyuan-Large på ett antal post-träningskänsliga uppgifter (MMLU-Pro, MATH, MBPP), vilket stämmer överens med dess positionering som en nyare och mer tillämpad variant.[8]
Benchmark för den kompakta dense-grenen
| Modell | MMLU | MMLU-Pro | BBH | GSM8K | MATH |
|---|---|---|---|---|---|
| Hunyuan-0,5B | 54,02 | 31,15 | 45,92 | 55,64 | 42,95 |
| Hunyuan-1,8B | 64,62 | 38,65 | 74,32 | 77,26 | 62,85 |
| Hunyuan-4B | 74,01 | 51,91 | 75,17 | 87,49 | 72,25 |
| Hunyuan-7B | 79,82 | 57,79 | 82,95 | 88,25 | 74,85 |
Källa: GitHub Hunyuan-7B README.[9]
Benchmark för HY 2.0
Resultaten anges av utvecklaren (den enda explicita källan är det officiella Hunyuan-kontot):[11]
| Benchmark | HY 2.0 | Föregående HY-version |
|---|---|---|
| IMO-AnswerBench | 73,4 | ~53 (uppskattning, +20 %) |
| SWE-bench Verified | 53,0 | 6,0 |
| τ²-Bench | 72,4 | 17,1 |
Anmärkning. Dessa uppgifter klassificeras som «uppgivna av utvecklaren, inväntar brett externt bekräftande».[11]
Tekniska detaljer om användning
Kontextfönster per gren
| Modell | Indata (token) | Utdata (token) |
|---|---|---|
| HY 2.0 Think | 128K | 64K |
| HY 2.0 Instruct | 128K | 16K |
| T1 (API) | 32K | 64K |
| A13B (API) | 224K | 32K |
| TurboS (API) | 32K | 16K |
| Lite (API) | 250K | 6K |
| Hunyuan-Large (öppen) | 256K (förträning) / 128K (instruktion) | — |
| Kompakt 0,5–7B | 256K | — |
Källa: Tencent Cloud product overview.[3]
Stödda verktyg
I Tencent Cloud API dokumenteras:[15]
- Function Calling (
tools,tool_choice). - AI Search Enhancement — inbyggd sökning i externa källor (retrieval-augmented generation).
- SearchInfo och Citation — citeringsmarkörer i svar.
- EnableMultimedia — multimediainlägg i utdata.
- EnableThinking — växlare för chain-of-thought för A13B.
- EnableRecommendedQuestions — generering av rekommenderade frågor.
API-kompatibilitet
Hunyuan API stöder OpenAI-kompatibelt format:[16]
- Bas-URL:
https://api.hunyuan.cloud.tencent.com/v1. - Stöder
/v1/chat/completionsoch/v1/embeddings. - Embedding-modell:
hunyuan-embedding, dimension 1024. - Strömning via SSE.
- Samtidiga anslutningar som standard: 5 per konto.
För Hunyuan-Large (öppen) överensstämmer standardformatet för in- och utdata med ramverken PyTorch/Transformers. Kvantisering stöds: FP8, INT4 (GPTQ/AWQ).[5]
Användning och integration
Hunyuan-modellerna är integrerade i Tencents ekosystem och tillgängliga för externa utvecklare. Viktigaste dokumenterade scenarier:[1][17]
Tencents produkter
- Yuanbao — chatbot med stöd för Hunyuan och DeepSeek.
- Tencent Meeting — generering av mötessammanfattningar.
- Tencent Docs — textgenerering och textanalys.
- ima — finansiell och multimedial AI-assistent.
Enterprise-användningar
- Textgenerering: artiklar, reklamtexter, manus, produktbeskrivningar.
- Intelligent kundtjänst: chatbotar, FAQ, automatisering av svar.
- Kodgenerering och kodanalys (särskilt HY 2.0 Think och T1).
- Matematisk och logisk slutledning, analytiska uppgifter.
- Flerspråkig översättning (30+ språk, Hunyuan-MT).
Öppna modeller
De öppna varianterna används för forskning, finjustering och driftsättning på edge-enheter (små dense-modeller). Multimodala tillägg (HunyuanImage, HunyuanVideo, Hunyuan3D) används för 3D-modellering och videogenerering.[14]
Begränsningar och öppna problem
- Slutenhet hos kommersiella modeller. För HY 2.0 och T1 saknas öppna vikter och detaljerade arkitekturspecifikationer; åtkomsten är begränsad till API, vilket försvårar oberoende reproducerbarhet.[3]
- Ogenomskinlighet i träningsdata. Trots att användningen av storskaliga syntetiska data betonas, offentliggörs inte den exakta sammansättningen av datamängderna, andelen språk eller domänområden.[2]
- Beräkningskrav. Öppna modeller kräver betydande resurser: minst 32 GPU för fullständig fine-tuning av Hunyuan-Large; tiotals GB VRAM även med FP8.[5]
- Hallucinationer. Liksom andra LLM är modellerna benägna att generera trovärdiga men faktamässigt felaktiga påståenden. Systematisk forskning om denna aspekt för Hunyuan i öppna peer-reviewade arbeten är fortfarande begränsad.[18]
- Skillnader mellan arkitekturella och tjänstbaserade gränser. För ett antal modeller (TurboS, A13B) är API:ns tjänstgränser väsentligt lägre än de arkitekturella möjligheterna.[6][3]
- Regional tillgänglighet. Huvudfokus på den kinesiska marknaden; API:n för användare utanför Kina har språkliga och juridiska begränsningar.[17]
- Avsaknad av detaljerade säkerhetsrapporter. Dokumentationen anger allmänna säkerhets- och filtreringsprinciper, men det saknas offentliga tekniska säkerhetsrapporter som är jämförbara i omfång med vissa internationella modeller.[15]
- Kompatibilitet för open source-grenen. Efter lansering uppstod integrationsproblem med
transformers/vllm, där biblioteken inte kände igen arkitekturtypenhunyuan_v1_dense, vilket krävdetrust_remote_codeeller specialgrenar.[19]
Incidenter och kända problem
Vid tidpunkten för tillgängligt material (slutet av 2025 – början av 2026) har inga stora offentliga incidenter specifikt kopplade till Hunyuan (storskaliga dataintrång, unika säkerhetshot) dokumenterats.[17]
Dokumenterade produkträttelser
I Tencent Cloud product dynamics återspeglas mindre rättelser:[12]
- 2024-11-20:
hunyuan-turbo-latestuppdaterades för att åtgärda upprepningar orsakade av specialtecken, förbättra stabiliteten i Markdown-utdata och minska omotiverade avslag. - 2025-04-03: uppdatering av T1 med korrigeringar av blandning av förenklad/traditionell kinesiska och blandning av kinesiska/engelska, samt förbättring av kodgenerering på projektnivå.
- 2025-04-20: Search Enhancement ändrades från aktiverat som standard till inaktiverat som standard — i praktiken en beteendeförändring i API:n för integrationer.
Säkerhetsforskning om MoE
På nivån för forskningskritik (preprint-nivå) förekommer Hunyuan-A13B i arbeten om attacker mot säkerhetslokalisering i MoE-modeller. Specifikt rapporteras i arbetena Large Language Lobotomy och GateBreaker om hög attack success rate vid «tyystande» av säkerhetsexperter. Detta är inte en bekräftelse på en produktionsincident, men visar att säkerheten i MoE-routing betraktas som en sårbar forskningsvektor.[20][21]
Etiska och regulatoriska aspekter
Hunyuan verkar inom Kinas rättsliga och regulatoriska kontext, inklusive nationella regler för hantering av generativ AI (CAC) och innehållsfiltrering, samt Tencents interna datasäkerhetspolicyer. Tencent Cloud-dokumentationen betonar att användningen av Hunyuan API måste överensstämma med tillämpliga lagar och plattformspolicyer.[1]
Konkreta åtgärder inkluderar:
- Inbyggd innehållsmoderering med strömningsutdata och möjlig
FinishReason=sensitive. - Inriktning via RLHF/DPO för att minska hallucinationer och oönskat beteende.
- Filtrering av träningsdata för att minimera bias.
- Öppna licenser (Tencent Hunyuan Community License Agreement) för öppna modeller, med förbehållet att avtalet inte gäller i EU för ett antal varianter.[8][15]
Specialiserade oberoende rapporter om bias (snedvridning) och fairness (rättvisa) för Hunyuan är fortfarande få; forskning förväntas i takt med att öppna vikter och oberoende tester utvidgas.[2]
Samhällets reaktion
Den mest innehållsrika externa signalen för den slutna grenen är TurboS resultat på LMSYS Chatbot Arena (1356, topp-7 globalt). För den öppna grenen är en indirekt indikator GitHub-aktiviteten: ungefär 1 600 stjärnor för Hunyuan-Large, 812 för A13B, 683 för Hunyuan-MT. Detta återspeglar ett märkbart men inte dominerande engagemang inom open LLM-ekosystemet. Subjektiva bedömningar från gemenskapen (Hugging Face, Reddit) noterar starka sidor inom kinesiska och agentuppgifter.[22]
Framtidsutsikter och forskningsriktningar
Riktningar för fortsatt utveckling som anges i offentligt material:[2][6][14]
- Fortsatt hybridisering av arkitekturer (Mamba + Transformer + MoE) och undersökning av skalningslagar för MoE.
- Utvidgning av multimodala förmågor: integration av Hunyuan3D, HunyuanVideo och HunyuanImage med språkmodeller.
- Förbättring av verktygsutnyttjande (tool use) och agentförmågor.
- Minskning av inferenskostnader: kvantisering (2-bit för edge), optimeringar via TRT-LLM/vLLM.
- Utvidgning av den öppna modellportföljen.
- Utveckling och publicering av detaljerade säkerhets- och inriktningsrapporter.
Se även
- LLaMA (Meta)
- DeepSeek
Litteratur
- Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- Tencent Hunyuan Team. Hunyuan-MT Technical Report. arXiv:2509.05209, 2025. https://arxiv.org/abs/2509.05209
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
- Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
Länkar
- https://cloud.tencent.com/document/product/1729/104753 — Officiell dokumentation för Tencent Cloud Hunyuan
- https://huggingface.co/tencent/Tencent-Hunyuan-Large — Hunyuan-Large på Hugging Face
- https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large — Hunyuan-Large på GitHub
- https://github.com/Tencent-Hunyuan/Hunyuan-A13B — Hunyuan-A13B på GitHub
- https://tencent.github.io/llm.hunyuan.T1/README_EN.html — Hunyuan-T1 officiell sida
- https://www.tencent.com/en-us/articles/2201685.html — Tillkännagivande av Hunyuan (september 2023)
Noter
- ↑ 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
- ↑ 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
- ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
- ↑ 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- ↑ 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
- ↑ 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
- ↑ 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
- ↑ 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
- ↑ 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
- ↑ 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
- ↑ Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
- ↑ 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
- ↑ 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
- ↑ Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
- ↑ 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
- ↑ LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
- ↑ GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
- ↑ Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
- ↑ Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
- ↑ Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS