Hunyuan (Tencent) (SV)

From Systems analysis Wiki
Jump to navigation Jump to search

Hunyuan (kinesiska: 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — en familj av grundmodeller (Foundation Models) och stora språkmodeller (Large Language Model, LLM), utvecklade av Tencent Hunyuan Foundation Model Team och tillgängliga via molntjänsten Tencent Cloud, samt som öppna vikter på plattformarna Hugging Face och GitHub. Familjen omfattar modeller för textgenerering och textförståelse, logisk och matematisk slutledning, programmering, hantering av långa kontexter samt multimodala tillägg (bilder, video, 3D). Hunyuan positioneras som Tencents flaggskeppslinje inom generativ AI och är integrerad i företagets produktekosystem (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).[1][2][3]

Historia och utvecklingskronologi

Utvecklingen av Hunyuan skedde i kontexten av det globala LLM-kapploppet och den kinesiska strategin för teknologiskt oberoende inom artificiell intelligens. Serien har utvecklats från proprietära dense-modeller till öppna Mixture-of-Experts (MoE) och hybrida Transformer-Mamba-arkitekturer.[1]

Första generationen (2023)

Den offentliga lanseringen av Hunyuan-serien ägde rum den 7 september 2023 vid Tencent Global Digital Ecosystem Summit i Shenzhen. Den första versionen var en proprietär dense-modell med mer än 100 miljarder parametrar, förtränad på mer än 2 biljoner token. Modellen var inriktad på kinesiska, logisk slutledning och innehållsgenerering, integrerad i mer än 50 Tencent-produkter och tillgänglig via Tencent Cloud API.[1]

Hunyuan-Large och övergången till MoE (2024)

I november 2024 lanserade Tencent Hunyuan-Large — vid den tidpunkten den största öppna Transformer-MoE-modellen med 389 miljarder totala och 52 miljarder aktiva parametrar. Modellen publicerades med öppna vikter på Hugging Face och GitHub, tillsammans med ett preprint på arXiv. Lanseringen markerade en strategisk vändning för Tencent mot öppen utveckling.[2][4][5]

Hybrida modeller och reasoning-modeller (2025)

Under 2025 utvidgades serien med flera viktiga lanseringar:

  • Hunyuan-TurboS (februari 2025) — den första industriella storskaliga hybrida Transformer-Mamba-MoE-modellen med 560 miljarder totala och 56 miljarder aktiva parametrar, förtränad på 16 biljoner token. En adaptiv Chain-of-Thought-mekanism (CoT) introducerades för dynamisk växling mellan snabbt och djupt tänkande.[6]
  • Hunyuan-T1 (mars 2025) — en specialiserad reasoning-modell byggd ovanpå TurboS med storskalig reinforcement learning (96,7 % av post-träningsberäkningarna utgörs av reinforcement learning).[7]
  • Hunyuan-A13B (juni 2025) — en kompakt MoE-modell (80 miljarder totala / 13 miljarder aktiva parametrar) för balans mellan prestanda och kostnad, med stöd för snabbt och långsamt tänkande.[8]
  • Små dense-modeller (juli 2025) — varianter på 0,5B, 1,8B, 4B, 7B för edge-enheter och scenarier med hög driftsättningskonkurrens, med stöd för 256K kontext.[9]

Hunyuan 2.0 (november–december 2025)

I december 2025 presenterades den andra generationens kommersiella modell — Hunyuan 2.0 (HY 2.0) med MoE-arkitektur (406 miljarder totala / 32 miljarder aktiva parametrar) och ett kontextfönster på 256K token. Serien är uppdelad i två varianter: HY 2.0 Think (djup slutledning, kod) och HY 2.0 Instruct (dialoger, kreativ generering). Modellerna är tillgängliga via Tencent Cloud API och integrerade i applikationerna Yuanbao och ima.[10][11]

Samlad kronologi

Datum Händelse
September 2023 Offentlig lansering av Hunyuan som proprietär LLM (>100B parametrar); lansering av Tencent Cloud API
Februari 2024 Intern MoE-modell för chatboten Yuanbao
April 2024 Varumärkesbyten: «advanced» → hunyuan-pro, «standard» → hunyuan-standard; hunyuan-lite lades till
Maj 2024 hunyuan-lite övergick till MoE, utvidgad till 256K kontext
September 2024 Lansering av ny hunyuan-turbo (ny generations MoE)
November 2024 Öppen lansering av Hunyuan-Large (389B/52B MoE), preprint arXiv:2411.02265
Februari–mars 2025 Hunyuan-TurboS (hybrid Mamba-MoE); Hunyuan-T1 (reasoning)
Juni 2025 Hunyuan-A13B (80B/13B, fine-grained MoE)
Juli 2025 Små dense-modeller 0,5B–7B
September 2025 Hunyuan-MT (specialiserad översättningsmodell)
November–december 2025 Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE

Källa: Tencent Cloud product dynamics; officiella repositorier.[12]

Teoretiska grunder och arkitektur

Mixture-of-Experts - Blandning av experter

Seriens nyckelmodeller (Hunyuan-Large, A13B, HY 2.0) använder arkitekturen Mixture-of-Experts (MoE), där en del av transformatorlagren innehåller många «experter» (undernätverk) och en router (gating network) väljer en delmängd aktiva experter för varje token. Den allmänna formeln för ett MoE-lager:[2]

Output=i=1NG(x)iEi(x)

där G(x) är routingfunktionen (gating), Ei är i-te experten, N är det totala antalet experter. Med detta tillvägagångssätt överstiger modellens totala parameterantal Ptotal väsentligt antalet aktiva parametrar vid ett enda genomflöde Pactive:[2]

PactivePtotal

vilket gör det möjligt att öka modellens kapacitet utan proportionell ökning av beräkningskostnaderna vid inferens.

I Hunyuan-Large implementeras ett schema med 1 gemensam (shared) expert och 16 specialiserade experter, med aktivering av 1 specialist per token (top-1 routing). Ytterligare innovationer inkluderar blandad routing med återvinningsmekanisme (återbearbetning av avvisade token) och expertspecifika inlärningshastigheter för förbättrad balans i expertbidragen.[2][5]

Hybrid Transformer-Mamba-arkitektur

Hunyuan-TurboS och T1 introducerar en hybridarkitektur som kombinerar Transformer-block (attention) och Mamba-block (state-space model). Mamba tillhandahåller linjär komplexitet med avseende på sekvensens längd:[6]

ht=Aht1+Bxt

där A, B är träningsbara matriser, ht är det dolda tillståndet vid steg t, xt är ingångstoken. Detta ger O(1) minnesskalning med avseende på längd (jämfört med O(N) i standard-Transformer).[6]

TurboS innehåller 128 lager organiserade i block: 57 Mamba2-lager, 7 Attention-lager och 64 FFN-MoE-lager med 32 experter. AMF-block (Attention → Mamba2 → FFN) och MF-block (Mamba2 → FFN) varvas för att säkerställa balans mellan global och lokal kontext.[6]

Uppmärksamhetsmekanismer och KV-cache

Hunyuan-Large använder Grouped Query Attention (GQA) — en uppmärksamhetsvariant där flera förfrågningar delar gemensamma nycklar och värden — samt Cross-Layer Attention (CLA) för att minska KV-cachens storlek. Standardstorleken på KV-cachen för ett self-attention-lager med H huvuden, sekvenslängd L och huvudstorlek dh:[5]

SKV2HLdh

där SKV är KV-cachens storlek. Med GQA med Hg<H grupper minskar storleken till:

SKVGQA2HgLdh

CLA innebär dessutom återanvändning av KV-cachen mellan lager. Sammantaget ger dessa optimeringar minnesbesparingar på upp till ungefär 95 %.[4]

Positionskodning och lång kontext

Modellerna använder Rotary Position Embedding (RoPE) med skalning för att stödja långa sekvenser. Träning på kontext genomförs stegvis (curriculum learning): från 32K till 256K token. Aktiveringsfunktion — SwiGLU. Tokeniserarens ordförråd — 128K (tiktoken med utvidgning för kinesiska).[2]

Träning och skalning

För MoE-modeller undersöks skalningslagar i form av empiriska potensberoenden:[2]

QabPactiveαcNβ

där Q är kvalitetsmåttet, Pactive är antalet aktiva parametrar, N är datamängden, a,b,c,α,β är parametrar som bestäms experimentellt. Hunyuan-Large betonar användningen av syntetiska data med en volym på 1,5 biljoner token — storleksordningar mer än i tidigare MoE-publikationer.[2]

Träningspipeline och inriktning

Träningsprocessen för Hunyuan-modeller omfattar flera steg som är typiska för moderna LLM:[2][7]

Förträning (Pre-training)

Storskalig träning på ett stort flerspråkigt korpus (kinesiska, engelska och andra språk). Hunyuan-Large förtränad på 7 biljoner token (inklusive 1,5 biljoner syntetiska). TurboS — på 16 biljoner token. Den exakta sammansättningen av datamängderna har inte offentliggjorts.[2][6]

Övervakad finjustering (Supervised Fine-Tuning, SFT)

Finjustering på mer än 1 miljon instruktioner (par av «instruktion — svar»), vilket leder modellen till att följa användarinstruktioner.[2]

Inriktning med hjälp av reinforcement learning

För att anpassa modellens beteende till mänskliga preferenser används:

Direct Preference Optimization (DPO) — en inriktningsmetod utan explicit belöningsmodell, använd i Hunyuan-Large.[2]

Reinforcement Learning (RL) — i Hunyuan-T1 tillämpas storskalig reinforcement learning med curriculum learning; enligt utvecklaren utgör 96,7 % av post-träningsberäkningarna reinforcement learning.[7]

Adaptive Long-Short Chain-of-Thought — i TurboS implementeras en mekanism för dynamisk växling mellan snabbt och djupt tänkande, vilket gör att modellen kan anpassa slutledningsdjupet efter uppgiftens komplexitet.[6]

Modellsfamiljens sammansättning

Familjen är uppdelad i slutna molnbaserade API-modeller och öppna modeller med vikter.[3]

Huvudmodeller (översikt)

Modell Lanseringsdatum Arkitektur Parametrar (totalt / aktiva) Kontext Tillgänglighet
Hunyuan (2023) September 2023 Dense Transformer >100 miljarder / — ej offentliggjord Proprietärt API
Hunyuan-Large November 2024 Transformer-MoE 389 miljarder / 52 miljarder 256K (förträning), 128K (instruktion) Öppna vikter (GitHub, HF)
Hunyuan-TurboS Februari 2025 Hybrid Transformer-Mamba-MoE 560 miljarder / 56 miljarder 256K (arkitekt.), 32K/16K (API) Proprietärt API + öppna varianter
Hunyuan-T1 Mars 2025 Baserad på TurboS + storskalig RL 32K/64K (API) Proprietärt API
Hunyuan-A13B Juni 2025 Fine-grained MoE 80 miljarder / 13 miljarder 256K (öppen), 224K/32K (API) Öppna vikter + API
Små (0,5–7B) Juli 2025 Dense 0,5–7 miljarder 256K Öppna vikter
HY 2.0 Think November 2025 MoE 406 miljarder / 32 miljarder 128K in / 64K ut (API) Proprietärt API
HY 2.0 Instruct November 2025 MoE 406 miljarder / 32 miljarder 128K in / 16K ut (API) Proprietärt API

Källor: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.[2][6][3][10]

Anmärkning. För ett antal modeller skiljer sig de arkitekturella kontextgränserna (från tekniska rapporter) från de tjänstbaserade API-gränserna (från produktdokumentation). Detta är ingen motsägelse utan återspeglar skillnader mellan forsknings- och produktionskonfigurationer.[6][3]

Specialiserade modeller

Hunyuan-MT (september 2025) — en specialiserad maskinöversättningsmodell som intog 1:a plats på WMT25 i 30 av 31 kategorier.[13]

HunyuanImage, HunyuanVideo, Hunyuan3D — familjens multimodala modeller för generering av bilder, video respektive 3D-objekt.[14]

Positionering och evolutionära samband

I Tencent Cloud-dokumentationen framgår följande evolutionära samband:

  • hunyuan-a13b anges som en uppgradering av hunyuan-standard-256K.
  • hunyuan-t1 är byggd ovanpå TurboS med förstärkt RL-post-träning.
  • HY 2.0 Think/Instruct — en gren där basen uppdaterades från TurboS till Hunyuan 2.0.
  • Den öppna grenen (Hunyuan-Large, A13B, kompakt dense) utvecklas parallellt med den slutna API-grenen och ger forskningstillgång.[3]

Nyheter i nyckelgenerationerna

Hunyuan-Large (2024)

Jämfört med den första generationen och tidigare MoE-tillvägagångssätt introducerar Hunyuan-Large:[2][4]

  • Skala på 389 miljarder parametrar (52 miljarder aktiva) — den största öppna Transformer-MoE-modellen vid publiceringstillfället.
  • Stöd för 256K kontext (förträning) och 128K (instruktion) — en väsentlig överskridning av de typiska värdena för massmarknads-LLM år 2024.
  • KV-cache-komprimering baserad på GQA + CLA (minnesbesparingar ~95 %).
  • Storskaliga syntetiska data (1,5 biljoner token syntetiska data).
  • Blandad expertrouting och expertspecifika inlärningshastigheter.

Hunyuan-TurboS (2025)

Viktigaste arkitekturella förändringen:[6]

  • Hybrid Mamba2 + Attention + MoE: 560B totalt / 56B aktiva, 128 lager.
  • Förträning på 16 biljoner token.
  • Adaptive Long-Short Chain-of-Thought för dynamisk styrning av slutledningsdjupet.
  • Uppgiven avkodningsacceleration på 1,8–2 gånger jämfört med föregående Turbo-version.

Hunyuan-T1 (2025)

Reasoning-modell baserad på TurboS:[7]

  • 96,7 % av post-träningens beräkningskraft — reinforcement learning.
  • Dubbelt så snabb avkodning vid jämförbar driftsättningsmiljö.
  • Curriculum learning för förbättrade slutledningsstrategier.

HY 2.0 (2025)

Uppdatering av det kommersiella flaggskeppet:[10][11]

  • MoE-arkitektur: 406B totalt / 32B aktiva parametrar.
  • Kontextfönster på 256K token.
  • Betydande förbättringar på specialiserade benchmark: IMO-AnswerBench 73,4 % (+20 % mot föregående HY-version), SWE-bench Verified 53,0 (från 6,0), τ²-Bench 72,4 (från 17,1).
  • Förbättringar i RLHF och post-träningsstrategier.

Utvärdering och benchmark

Utvärderingen genomfördes på standardiserade benchmark med zero-shot- och few-shot-protokoll. Resultaten baseras på officiella tekniska rapporter och repositorier; för ett antal modeller är oberoende externa verifieringar fortfarande begränsade.[2]

Benchmark för Hunyuan-Large (förträning)

Benchmark Hunyuan-Large Llama 3.1-405B Llama 3.1-70B Mixtral-8x22B DeepSeek-V2
MMLU 88,4 85,2 79,3 77,8 78,5
CMMLU 90,2 84,0
C-Eval 91,9 81,7
GSM8K 92,8 89,0 83,7 83,7 79,2
MATH 69,8 53,8 41,4 42,5 43,6
HumanEval 71,4 61,0 58,5 53,1 48,8

Källa: arXiv:2411.02265.[2]

Enligt den tekniska rapporten leder Hunyuan-Large (förträning) i 15 av 19 benchmark vid jämförelse med Llama 3.1-405B, Mixtral-8x22B och DeepSeek-V2.[2]

Benchmark för Hunyuan-Large-Instruct

Benchmark Hunyuan-Large-Instruct
MMLU 89,9
MATH 77,4
HumanEval 90,0
Arena-Hard 81,8

Källa: arXiv:2411.02265; Hugging Face model card.[2][5]

Enligt utvecklarna överträffar Hunyuan-Large-Instruct LLaMA 3.1-405B på MMLU med 2,6 procentenheter.[4]

Benchmark för TurboS och T1

Benchmark TurboS T1
LMSYS Chatbot Arena 1356 (topp-7)
Genomsnitt över 23 benchmark 77,9 %
MMLU-Pro 87,2
GPQA-Diamond 69,3
MATH-500 96,2
LiveCodeBench 64,9
Arena-Hard 91,9

Källor: arXiv:2505.15431; T1 official page.[6][7]

Benchmark för Hunyuan-A13B

Benchmark Hunyuan-A13B Hunyuan-Large Qwen2.5-72B
MMLU 88,17 88,4
MMLU-Pro 67,23 60,2
BBH 87,56 86,3
MATH 72,35 69,8
GPQA 49,12
MBPP 83,86

Källa: GitHub Hunyuan-A13B README.[8]

A13B överträffar Hunyuan-Large på ett antal post-träningskänsliga uppgifter (MMLU-Pro, MATH, MBPP), vilket stämmer överens med dess positionering som en nyare och mer tillämpad variant.[8]

Benchmark för den kompakta dense-grenen

Modell MMLU MMLU-Pro BBH GSM8K MATH
Hunyuan-0,5B 54,02 31,15 45,92 55,64 42,95
Hunyuan-1,8B 64,62 38,65 74,32 77,26 62,85
Hunyuan-4B 74,01 51,91 75,17 87,49 72,25
Hunyuan-7B 79,82 57,79 82,95 88,25 74,85

Källa: GitHub Hunyuan-7B README.[9]

Benchmark för HY 2.0

Resultaten anges av utvecklaren (den enda explicita källan är det officiella Hunyuan-kontot):[11]

Benchmark HY 2.0 Föregående HY-version
IMO-AnswerBench 73,4 ~53 (uppskattning, +20 %)
SWE-bench Verified 53,0 6,0
τ²-Bench 72,4 17,1

Anmärkning. Dessa uppgifter klassificeras som «uppgivna av utvecklaren, inväntar brett externt bekräftande».[11]

Tekniska detaljer om användning

Kontextfönster per gren

Modell Indata (token) Utdata (token)
HY 2.0 Think 128K 64K
HY 2.0 Instruct 128K 16K
T1 (API) 32K 64K
A13B (API) 224K 32K
TurboS (API) 32K 16K
Lite (API) 250K 6K
Hunyuan-Large (öppen) 256K (förträning) / 128K (instruktion)
Kompakt 0,5–7B 256K

Källa: Tencent Cloud product overview.[3]

Stödda verktyg

I Tencent Cloud API dokumenteras:[15]

  • Function Calling (tools, tool_choice).
  • AI Search Enhancement — inbyggd sökning i externa källor (retrieval-augmented generation).
  • SearchInfo och Citation — citeringsmarkörer i svar.
  • EnableMultimedia — multimediainlägg i utdata.
  • EnableThinking — växlare för chain-of-thought för A13B.
  • EnableRecommendedQuestions — generering av rekommenderade frågor.

API-kompatibilitet

Hunyuan API stöder OpenAI-kompatibelt format:[16]

  • Bas-URL: https://api.hunyuan.cloud.tencent.com/v1.
  • Stöder /v1/chat/completions och /v1/embeddings.
  • Embedding-modell: hunyuan-embedding, dimension 1024.
  • Strömning via SSE.
  • Samtidiga anslutningar som standard: 5 per konto.

För Hunyuan-Large (öppen) överensstämmer standardformatet för in- och utdata med ramverken PyTorch/Transformers. Kvantisering stöds: FP8, INT4 (GPTQ/AWQ).[5]

Användning och integration

Hunyuan-modellerna är integrerade i Tencents ekosystem och tillgängliga för externa utvecklare. Viktigaste dokumenterade scenarier:[1][17]

Tencents produkter

  • Yuanbao — chatbot med stöd för Hunyuan och DeepSeek.
  • Tencent Meeting — generering av mötessammanfattningar.
  • Tencent Docs — textgenerering och textanalys.
  • ima — finansiell och multimedial AI-assistent.

Enterprise-användningar

  • Textgenerering: artiklar, reklamtexter, manus, produktbeskrivningar.
  • Intelligent kundtjänst: chatbotar, FAQ, automatisering av svar.
  • Kodgenerering och kodanalys (särskilt HY 2.0 Think och T1).
  • Matematisk och logisk slutledning, analytiska uppgifter.
  • Flerspråkig översättning (30+ språk, Hunyuan-MT).

Öppna modeller

De öppna varianterna används för forskning, finjustering och driftsättning på edge-enheter (små dense-modeller). Multimodala tillägg (HunyuanImage, HunyuanVideo, Hunyuan3D) används för 3D-modellering och videogenerering.[14]

Begränsningar och öppna problem

  • Slutenhet hos kommersiella modeller. För HY 2.0 och T1 saknas öppna vikter och detaljerade arkitekturspecifikationer; åtkomsten är begränsad till API, vilket försvårar oberoende reproducerbarhet.[3]
  • Ogenomskinlighet i träningsdata. Trots att användningen av storskaliga syntetiska data betonas, offentliggörs inte den exakta sammansättningen av datamängderna, andelen språk eller domänområden.[2]
  • Beräkningskrav. Öppna modeller kräver betydande resurser: minst 32 GPU för fullständig fine-tuning av Hunyuan-Large; tiotals GB VRAM även med FP8.[5]
  • Hallucinationer. Liksom andra LLM är modellerna benägna att generera trovärdiga men faktamässigt felaktiga påståenden. Systematisk forskning om denna aspekt för Hunyuan i öppna peer-reviewade arbeten är fortfarande begränsad.[18]
  • Skillnader mellan arkitekturella och tjänstbaserade gränser. För ett antal modeller (TurboS, A13B) är API:ns tjänstgränser väsentligt lägre än de arkitekturella möjligheterna.[6][3]
  • Regional tillgänglighet. Huvudfokus på den kinesiska marknaden; API:n för användare utanför Kina har språkliga och juridiska begränsningar.[17]
  • Avsaknad av detaljerade säkerhetsrapporter. Dokumentationen anger allmänna säkerhets- och filtreringsprinciper, men det saknas offentliga tekniska säkerhetsrapporter som är jämförbara i omfång med vissa internationella modeller.[15]
  • Kompatibilitet för open source-grenen. Efter lansering uppstod integrationsproblem med transformers / vllm, där biblioteken inte kände igen arkitekturtypen hunyuan_v1_dense, vilket krävde trust_remote_code eller specialgrenar.[19]

Incidenter och kända problem

Vid tidpunkten för tillgängligt material (slutet av 2025 – början av 2026) har inga stora offentliga incidenter specifikt kopplade till Hunyuan (storskaliga dataintrång, unika säkerhetshot) dokumenterats.[17]

Dokumenterade produkträttelser

I Tencent Cloud product dynamics återspeglas mindre rättelser:[12]

  • 2024-11-20: hunyuan-turbo-latest uppdaterades för att åtgärda upprepningar orsakade av specialtecken, förbättra stabiliteten i Markdown-utdata och minska omotiverade avslag.
  • 2025-04-03: uppdatering av T1 med korrigeringar av blandning av förenklad/traditionell kinesiska och blandning av kinesiska/engelska, samt förbättring av kodgenerering på projektnivå.
  • 2025-04-20: Search Enhancement ändrades från aktiverat som standard till inaktiverat som standard — i praktiken en beteendeförändring i API:n för integrationer.

Säkerhetsforskning om MoE

På nivån för forskningskritik (preprint-nivå) förekommer Hunyuan-A13B i arbeten om attacker mot säkerhetslokalisering i MoE-modeller. Specifikt rapporteras i arbetena Large Language Lobotomy och GateBreaker om hög attack success rate vid «tyystande» av säkerhetsexperter. Detta är inte en bekräftelse på en produktionsincident, men visar att säkerheten i MoE-routing betraktas som en sårbar forskningsvektor.[20][21]

Etiska och regulatoriska aspekter

Hunyuan verkar inom Kinas rättsliga och regulatoriska kontext, inklusive nationella regler för hantering av generativ AI (CAC) och innehållsfiltrering, samt Tencents interna datasäkerhetspolicyer. Tencent Cloud-dokumentationen betonar att användningen av Hunyuan API måste överensstämma med tillämpliga lagar och plattformspolicyer.[1]

Konkreta åtgärder inkluderar:

  • Inbyggd innehållsmoderering med strömningsutdata och möjlig FinishReason=sensitive.
  • Inriktning via RLHF/DPO för att minska hallucinationer och oönskat beteende.
  • Filtrering av träningsdata för att minimera bias.
  • Öppna licenser (Tencent Hunyuan Community License Agreement) för öppna modeller, med förbehållet att avtalet inte gäller i EU för ett antal varianter.[8][15]

Specialiserade oberoende rapporter om bias (snedvridning) och fairness (rättvisa) för Hunyuan är fortfarande få; forskning förväntas i takt med att öppna vikter och oberoende tester utvidgas.[2]

Samhällets reaktion

Den mest innehållsrika externa signalen för den slutna grenen är TurboS resultat på LMSYS Chatbot Arena (1356, topp-7 globalt). För den öppna grenen är en indirekt indikator GitHub-aktiviteten: ungefär 1 600 stjärnor för Hunyuan-Large, 812 för A13B, 683 för Hunyuan-MT. Detta återspeglar ett märkbart men inte dominerande engagemang inom open LLM-ekosystemet. Subjektiva bedömningar från gemenskapen (Hugging Face, Reddit) noterar starka sidor inom kinesiska och agentuppgifter.[22]

Framtidsutsikter och forskningsriktningar

Riktningar för fortsatt utveckling som anges i offentligt material:[2][6][14]

  • Fortsatt hybridisering av arkitekturer (Mamba + Transformer + MoE) och undersökning av skalningslagar för MoE.
  • Utvidgning av multimodala förmågor: integration av Hunyuan3D, HunyuanVideo och HunyuanImage med språkmodeller.
  • Förbättring av verktygsutnyttjande (tool use) och agentförmågor.
  • Minskning av inferenskostnader: kvantisering (2-bit för edge), optimeringar via TRT-LLM/vLLM.
  • Utvidgning av den öppna modellportföljen.
  • Utveckling och publicering av detaljerade säkerhets- och inriktningsrapporter.

Se även

  • LLaMA (Meta)
  • DeepSeek

Litteratur

Länkar

Noter

  1. 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
  2. 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
  3. 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
  4. 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
  5. 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
  6. 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
  7. 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
  8. 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
  9. 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
  10. 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
  11. 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
  12. 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
  13. Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
  14. 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
  15. 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
  16. Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
  17. 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
  18. LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
  19. GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
  20. Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
  21. Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
  22. Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS