Hunyuan (Tencent) (ID)
Hunyuan (Tionghoa: 腾讯混元大模型, Tencent Hunyuan, Tencent HY) — keluarga model fondasi (Foundation Models) dan model bahasa besar (Large Language Model, LLM) yang dikembangkan oleh unit Tencent Hunyuan Foundation Model Team dan tersedia melalui layanan cloud Tencent Cloud, serta dalam bentuk bobot terbuka di platform Hugging Face dan GitHub. Keluarga ini mencakup model untuk generasi dan pemahaman teks, inferensi logika dan matematika, pemrograman, pemrosesan konteks panjang, serta perluasan multimodal (gambar, video, 3D). Hunyuan diposisikan sebagai lini unggulan AI generatif Tencent dan terintegrasi ke dalam ekosistem produk perusahaan (Yuanbao, WeChat, Tencent Meeting, Tencent Cloud).[1][2][3]
Sejarah dan Kronologi Pengembangan
Pengembangan Hunyuan berlangsung dalam konteks persaingan global LLM dan strategi kemandirian teknologi Tiongkok di bidang kecerdasan buatan. Lini ini berevolusi dari model dense proprietary menuju arsitektur Mixture-of-Experts (MoE) terbuka dan arsitektur hibrida Transformer-Mamba.[1]
Generasi Pertama (2023)
Pengumuman publik seri Hunyuan dilakukan pada 7 September 2023 di Tencent Global Digital Ecosystem Summit di Shenzhen. Versi pertama merupakan model dense proprietary dengan lebih dari 100 miliar parameter, yang dilatih awal pada lebih dari 2 triliun token. Model ini berfokus pada bahasa Tionghoa, inferensi logika, dan generasi konten, diintegrasikan ke lebih dari 50 produk Tencent, serta tersedia melalui API Tencent Cloud.[1]
Hunyuan-Large dan Transisi ke MoE (2024)
Pada November 2024, Tencent merilis Hunyuan-Large — model Transformer-MoE terbuka terbesar pada saat itu dengan total 389 miliar parameter dan 52 miliar parameter aktif. Model ini diterbitkan dengan bobot terbuka di Hugging Face dan GitHub, disertai pracetak di arXiv. Rilis ini menandai pergeseran strategis Tencent menuju pengembangan terbuka.[2][4][5]
Model Hibrida dan Reasoning (2025)
Pada tahun 2025, lini ini diperluas dengan beberapa rilis utama:
- Hunyuan-TurboS (Februari 2025) — model hibrida Transformer-Mamba-MoE berskala industri pertama dengan total 560 miliar dan 56 miliar parameter aktif, dilatih awal pada 16 triliun token. Diperkenalkan mekanisme Chain-of-Thought (CoT) adaptif untuk peralihan dinamis antara pemikiran cepat dan mendalam.[6]
- Hunyuan-T1 (Maret 2025) — model reasoning khusus yang dibangun di atas TurboS dengan pelatihan penguatan (reinforcement learning) berskala besar (96,7% komputasi pasca-pelatihan adalah reinforcement learning).[7]
- Hunyuan-A13B (Juni 2025) — model MoE kompak (total 80 miliar / 13 miliar parameter aktif) untuk keseimbangan antara performa dan biaya, dengan dukungan pemikiran cepat dan lambat.[8]
- Model dense kecil (Juli 2025) — varian 0,5B, 1,8B, 4B, 7B untuk perangkat edge dan skenario deployment dengan konkurensi tinggi, dengan dukungan konteks 256K.[9]
Hunyuan 2.0 (November–Desember 2025)
Pada Desember 2025, diumumkan generasi kedua model komersial — Hunyuan 2.0 (HY 2.0) dengan arsitektur MoE (total 406 miliar / 32 miliar parameter aktif) dan jendela konteks 256K token. Lini ini dibagi menjadi dua varian: HY 2.0 Think (penalaran mendalam, kode) dan HY 2.0 Instruct (dialog, generasi kreatif). Model tersedia melalui API Tencent Cloud dan terintegrasi ke dalam aplikasi Yuanbao dan ima.[10][11]
Kronologi Ringkas
| Tanggal | Peristiwa |
|---|---|
| September 2023 | Pengumuman publik Hunyuan sebagai LLM proprietary (>100B parameter); peluncuran API Tencent Cloud |
| Februari 2024 | Model MoE internal untuk chatbot Yuanbao |
| April 2024 | Rebranding: «advanced» → hunyuan-pro, «standard» → hunyuan-standard; ditambahkan hunyuan-lite |
| Mei 2024 | hunyuan-lite dialihkan ke MoE, diperluas hingga konteks 256K |
| September 2024 | Peluncuran hunyuan-turbo baru (MoE generasi berikutnya) |
| November 2024 | Rilis terbuka Hunyuan-Large (389B/52B MoE), pracetak arXiv:2411.02265 |
| Februari–Maret 2025 | Hunyuan-TurboS (hibrida Mamba-MoE); Hunyuan-T1 (reasoning) |
| Juni 2025 | Hunyuan-A13B (80B/13B, fine-grained MoE) |
| Juli 2025 | Model dense kecil 0,5B–7B |
| September 2025 | Hunyuan-MT (model terjemahan khusus) |
| November–Desember 2025 | Hunyuan 2.0 (HY 2.0 Think / Instruct), 406B/32B MoE |
Sumber: Tencent Cloud product dynamics; repositori resmi.[12]
Landasan Teoretis dan Arsitektur
Arsitektur Mixture-of-Experts
Model utama seri ini (Hunyuan-Large, A13B, HY 2.0) menggunakan arsitektur Mixture-of-Experts (MoE), di mana sebagian lapisan transformer berisi banyak «pakar» (subjaringan), dan router (gating network) memilih subset pakar aktif untuk setiap token. Rumus umum lapisan MoE:[2]
di mana adalah fungsi routing (gating), adalah pakar ke-, adalah jumlah total pakar. Dengan pendekatan ini, jumlah total parameter model jauh melebihi jumlah parameter aktif dalam satu proses inferensi :[2]
yang memungkinkan peningkatan kapasitas model tanpa pertumbuhan proporsional dalam biaya komputasi inferensi.
Dalam Hunyuan-Large diterapkan skema dengan 1 pakar bersama (shared) dan 16 pakar spesialis dengan aktivasi 1 spesialis per token (top-1 routing). Inovasi tambahan mencakup routing campuran dengan mekanisme recycle (penggunaan ulang token yang ditolak) dan learning rate spesifik per pakar untuk meningkatkan keseimbangan kontribusi pakar.[2][5]
Arsitektur Hibrida Transformer-Mamba
Hunyuan-TurboS dan T1 memperkenalkan arsitektur hibrida yang menggabungkan blok Transformer (attention) dan Mamba (state-space model). Mamba memberikan kompleksitas linier terhadap panjang sekuens:[6]
di mana , adalah matriks yang dapat dilatih, adalah keadaan tersembunyi pada langkah , adalah token masukan. Ini memastikan penskalaan memori terhadap panjang (dibandingkan pada Transformer standar).[6]
TurboS terdiri dari 128 lapisan yang diorganisasikan dalam blok: 57 lapisan Mamba2, 7 lapisan Attention, dan 64 lapisan FFN-MoE dengan 32 pakar. Blok AMF (Attention → Mamba2 → FFN) dan MF (Mamba2 → FFN) berselang-seling untuk menjamin keseimbangan konteks global dan lokal.[6]
Mekanisme Attention dan KV-cache
Hunyuan-Large menggunakan Grouped Query Attention (GQA) — varian attention di mana beberapa query berbagi key dan value yang sama — serta Cross-Layer Attention (CLA) untuk mengurangi volume KV-cache. Volume standar KV-cache untuk lapisan self-attention dengan kepala, panjang sekuens dan ukuran kepala :[5]
di mana adalah volume KV-cache. Dengan GQA dan grup, volume berkurang menjadi:
CLA selanjutnya mengasumsikan penggunaan ulang KV-cache antar lapisan. Secara keseluruhan, optimasi ini menghasilkan penghematan memori hingga sekitar 95%.[4]
Pengkodean Posisi dan Konteks Panjang
Model menggunakan Rotary Position Embedding (RoPE) dengan penskalaan untuk mendukung sekuens panjang. Pelatihan konteks dilakukan secara bertahap (curriculum learning): dari 32K hingga 256K token. Fungsi aktivasi — SwiGLU. Kosakata tokenizer — 128K (tiktoken dengan perluasan untuk bahasa Tionghoa).[2]
Pelatihan dan Penskalaan
Untuk model MoE, scaling laws diteliti dalam bentuk ketergantungan pangkat empiris:[2]
di mana adalah metrik kualitas, adalah jumlah parameter aktif, adalah volume data, adalah parameter yang ditentukan secara eksperimental. Hunyuan-Large menekankan penggunaan data sintetis sebesar 1,5 triliun token — beberapa kali lipat lebih besar dibandingkan publikasi MoE sebelumnya.[2]
Pipeline Pelatihan dan Penyelarasan
Proses pelatihan model Hunyuan mencakup beberapa tahap yang khas untuk LLM modern:[2][7]
Pra-pelatihan (Pre-training)
Pelatihan berskala besar pada korpus multibahasa besar (bahasa Tionghoa, Inggris, dan bahasa lainnya). Hunyuan-Large dilatih awal pada 7 triliun token (termasuk 1,5 triliun sintetis). TurboS — pada 16 triliun token. Komposisi tepat dataset tidak diungkapkan.[2][6]
Fine-tuning Terpandu (Supervised Fine-Tuning, SFT)
Fine-tuning pada lebih dari 1 juta instruksi (pasangan «instruksi — jawaban»), yang membawa model untuk mengikuti instruksi pengguna.[2]
Penyelarasan dengan Reinforcement Learning
Untuk menyelaraskan perilaku model dengan preferensi manusia, digunakan:
Direct Preference Optimization (DPO) — metode penyelarasan tanpa model reward eksplisit, digunakan pada Hunyuan-Large.[2]
Reinforcement Learning (RL) — pada Hunyuan-T1 diterapkan reinforcement learning berskala besar dengan curriculum learning; menurut pernyataan pengembang, 96,7% komputasi pasca-pelatihan dialokasikan untuk RL.[7]
Adaptive Long-Short Chain-of-Thought — pada TurboS diimplementasikan mekanisme peralihan dinamis antara pemikiran cepat dan mendalam, memungkinkan model menyesuaikan kedalaman penalaran dengan kompleksitas tugas.[6]
Komposisi Keluarga Model
Keluarga ini dibagi menjadi model API cloud tertutup dan model terbuka dengan bobot.[3]
Model Utama (Ikhtisar)
| Model | Tanggal Rilis | Arsitektur | Parameter (total / aktif) | Konteks | Ketersediaan |
|---|---|---|---|---|---|
| Hunyuan (2023) | September 2023 | Dense Transformer | >100 miliar / — | tidak diungkapkan | API Proprietary |
| Hunyuan-Large | November 2024 | Transformer-MoE | 389 miliar / 52 miliar | 256K (pretrain), 128K (instruct) | Bobot terbuka (GitHub, HF) |
| Hunyuan-TurboS | Februari 2025 | Hybrid Transformer-Mamba-MoE | 560 miliar / 56 miliar | 256K (arsit.), 32K/16K (API) | API Proprietary + varian terbuka |
| Hunyuan-T1 | Maret 2025 | Berbasis TurboS + RL berskala besar | — | 32K/64K (API) | API Proprietary |
| Hunyuan-A13B | Juni 2025 | Fine-grained MoE | 80 miliar / 13 miliar | 256K (terbuka), 224K/32K (API) | Bobot terbuka + API |
| Kecil (0,5–7B) | Juli 2025 | Dense | 0,5–7 miliar | 256K | Bobot terbuka |
| HY 2.0 Think | November 2025 | MoE | 406 miliar / 32 miliar | 128K masukan / 64K keluaran (API) | API Proprietary |
| HY 2.0 Instruct | November 2025 | MoE | 406 miliar / 32 miliar | 128K masukan / 16K keluaran (API) | API Proprietary |
Sumber: arXiv:2411.02265; arXiv:2505.15431; Tencent Cloud docs; GitHub.[2][6][3][10]
Catatan. Untuk sejumlah model, batas konteks arsitektur (dari laporan teknis) dan batas layanan API (dari dokumentasi produk) berbeda. Hal ini bukan merupakan kontradiksi, melainkan mencerminkan perbedaan antara konfigurasi penelitian dan produk.[6][3]
Model Khusus
Hunyuan-MT (September 2025) — model terjemahan mesin khusus yang meraih peringkat pertama pada WMT25 dalam 30 dari 31 kategori.[13]
HunyuanImage, HunyuanVideo, Hunyuan3D — model multimodal dari keluarga ini untuk generasi gambar, video, dan objek 3D.[14]
Posisi dan Hubungan Evolusioner
Dalam dokumentasi Tencent Cloud, hubungan evolusioner berikut dapat ditelusuri:
hunyuan-a13bdisebut sebagai peningkatan darihunyuan-standard-256K.hunyuan-t1dibangun di atas TurboS dengan pasca-pelatihan RL yang diperkuat.- HY 2.0 Think/Instruct — cabang di mana basis diperbarui dari TurboS menjadi Hunyuan 2.0.
- Cabang terbuka (Hunyuan-Large, A13B, dense kompak) berkembang paralel dengan cabang API tertutup, menyediakan akses penelitian.[3]
Yang Baru pada Generasi Utama
Hunyuan-Large (2024)
Dibandingkan dengan generasi pertama dan pendekatan MoE sebelumnya, Hunyuan-Large memperkenalkan:[2][4]
- Skala 389 miliar parameter (52 miliar aktif) — model Transformer-MoE terbuka terbesar pada saat publikasi.
- Dukungan konteks 256K (pretrain) dan 128K (instruct) — jauh melampaui nilai tipikal LLM massal tahun 2024.
- Kompresi KV-cache berbasis GQA + CLA (penghematan memori ~95%).
- Data sintetis berskala besar (1,5 triliun token data sintetis).
- Routing pakar campuran dan learning rate spesifik per pakar.
Hunyuan-TurboS (2025)
Pergeseran arsitektur utama:[6]
- Hibrida Mamba2 + Attention + MoE: total 560B / 56B aktif, 128 lapisan.
- Pra-pelatihan pada 16 triliun token.
- Adaptive Long-Short Chain-of-Thought untuk pengelolaan dinamis kedalaman penalaran.
- Percepatan decoding yang diklaim 1,8–2 kali dibandingkan versi Turbo sebelumnya.
Hunyuan-T1 (2025)
Model reasoning berbasis TurboS:[7]
- 96,7% komputasi pasca-pelatihan adalah reinforcement learning.
- Percepatan decoding dua kali lipat dengan deployment envelope yang sebanding.
- Curriculum learning untuk meningkatkan strategi penalaran.
HY 2.0 (2025)
Pembaruan unggulan komersial:[10][11]
- Arsitektur MoE: total 406B / 32B parameter aktif.
- Jendela konteks 256K token.
- Peningkatan signifikan pada benchmark khusus: IMO-AnswerBench 73,4% (+20% dibandingkan versi HY sebelumnya), SWE-bench Verified 53,0 (dari 6,0), τ²-Bench 72,4 (dari 17,1).
- Peningkatan pada RLHF dan strategi pasca-pelatihan.
Evaluasi dan Benchmark
Evaluasi dilakukan pada benchmark standar menggunakan protokol zero-shot dan few-shot. Hasil didasarkan pada laporan teknis resmi dan repositori; untuk sejumlah model, verifikasi eksternal independen masih terbatas.[2]
Benchmark Hunyuan-Large (pretrain)
| Benchmark | Hunyuan-Large | Llama 3.1-405B | Llama 3.1-70B | Mixtral-8x22B | DeepSeek-V2 |
|---|---|---|---|---|---|
| MMLU | 88,4 | 85,2 | 79,3 | 77,8 | 78,5 |
| CMMLU | 90,2 | — | — | — | 84,0 |
| C-Eval | 91,9 | — | — | — | 81,7 |
| GSM8K | 92,8 | 89,0 | 83,7 | 83,7 | 79,2 |
| MATH | 69,8 | 53,8 | 41,4 | 42,5 | 43,6 |
| HumanEval | 71,4 | 61,0 | 58,5 | 53,1 | 48,8 |
Sumber: arXiv:2411.02265.[2]
Menurut laporan teknis, Hunyuan-Large (pretrain) unggul dalam 15 dari 19 benchmark saat dibandingkan dengan Llama 3.1-405B, Mixtral-8x22B, dan DeepSeek-V2.[2]
Benchmark Hunyuan-Large-Instruct
| Benchmark | Hunyuan-Large-Instruct |
|---|---|
| MMLU | 89,9 |
| MATH | 77,4 |
| HumanEval | 90,0 |
| Arena-Hard | 81,8 |
Sumber: arXiv:2411.02265; Hugging Face model card.[2][5]
Menurut pernyataan pengembang, Hunyuan-Large-Instruct melampaui LLaMA 3.1-405B pada MMLU sebesar 2,6 poin persentase.[4]
Benchmark TurboS dan T1
| Benchmark | TurboS | T1 |
|---|---|---|
| LMSYS Chatbot Arena | 1356 (top-7) | — |
| Rata-rata pada 23 benchmark | 77,9% | — |
| MMLU-Pro | — | 87,2 |
| GPQA-Diamond | — | 69,3 |
| MATH-500 | — | 96,2 |
| LiveCodeBench | — | 64,9 |
| Arena-Hard | — | 91,9 |
Sumber: arXiv:2505.15431; halaman resmi T1.[6][7]
Benchmark Hunyuan-A13B
| Benchmark | Hunyuan-A13B | Hunyuan-Large | Qwen2.5-72B |
|---|---|---|---|
| MMLU | 88,17 | 88,4 | — |
| MMLU-Pro | 67,23 | 60,2 | — |
| BBH | 87,56 | 86,3 | — |
| MATH | 72,35 | 69,8 | — |
| GPQA | 49,12 | — | — |
| MBPP | 83,86 | — | — |
Sumber: GitHub Hunyuan-A13B README.[8]
A13B mengungguli Hunyuan-Large pada sejumlah tugas yang sensitif terhadap pasca-pelatihan (MMLU-Pro, MATH, MBPP), yang sesuai dengan posisinya sebagai varian yang lebih baru dan lebih aplikatif.[8]
Benchmark Cabang Dense Kompak
| Model | MMLU | MMLU-Pro | BBH | GSM8K | MATH |
|---|---|---|---|---|---|
| Hunyuan-0,5B | 54,02 | 31,15 | 45,92 | 55,64 | 42,95 |
| Hunyuan-1,8B | 64,62 | 38,65 | 74,32 | 77,26 | 62,85 |
| Hunyuan-4B | 74,01 | 51,91 | 75,17 | 87,49 | 72,25 |
| Hunyuan-7B | 79,82 | 57,79 | 82,95 | 88,25 | 74,85 |
Sumber: GitHub Hunyuan-7B README.[9]
Benchmark HY 2.0
Angka-angka ini dinyatakan oleh pengembang (satu-satunya sumber eksplisit adalah akun resmi Hunyuan):[11]
| Benchmark | HY 2.0 | Versi HY sebelumnya |
|---|---|---|
| IMO-AnswerBench | 73,4 | ~53 (estimasi, +20%) |
| SWE-bench Verified | 53,0 | 6,0 |
| τ²-Bench | 72,4 | 17,1 |
Catatan. Data ini diklasifikasikan sebagai «diklaim oleh pengembang, menunggu konfirmasi eksternal yang lebih luas».[11]
Detail Teknis Penggunaan
Jendela Konteks per Cabang
| Model | Masukan (token) | Keluaran (token) |
|---|---|---|
| HY 2.0 Think | 128K | 64K |
| HY 2.0 Instruct | 128K | 16K |
| T1 (API) | 32K | 64K |
| A13B (API) | 224K | 32K |
| TurboS (API) | 32K | 16K |
| Lite (API) | 250K | 6K |
| Hunyuan-Large (terbuka) | 256K (pretrain) / 128K (instruct) | — |
| Compact 0,5–7B | 256K | — |
Sumber: Ikhtisar produk Tencent Cloud.[3]
Alat yang Didukung
Dalam API Tencent Cloud terdokumentasi:[15]
- Function Calling (
tools,tool_choice). - AI Search Enhancement — pencarian bawaan melalui sumber eksternal (retrieval-augmented generation).
- SearchInfo dan Citation — penanda kutipan dalam respons.
- EnableMultimedia — substitusi multimedia dalam keluaran.
- EnableThinking — sakelar chain-of-thought untuk A13B.
- EnableRecommendedQuestions — generasi pertanyaan yang direkomendasikan.
Kompatibilitas API
Hunyuan API mendukung format yang kompatibel dengan OpenAI:[16]
- Base URL:
https://api.hunyuan.cloud.tencent.com/v1. - Didukung
/v1/chat/completionsdan/v1/embeddings. - Model embedding:
hunyuan-embedding, dimensi 1024. - Streaming melalui SSE.
- Konkurensi default: 5 per akun.
Untuk Hunyuan-Large (terbuka), format masukan/keluaran standar sesuai dengan framework PyTorch/Transformers. Kuantisasi didukung: FP8, INT4 (GPTQ/AWQ).[5]
Penerapan dan Integrasi
Model Hunyuan terintegrasi ke dalam ekosistem Tencent dan tersedia untuk pengembang eksternal. Skenario yang terdokumentasi:[1][17]
Produk Tencent
- Yuanbao — chatbot dengan dukungan Hunyuan dan DeepSeek.
- Tencent Meeting — generasi ringkasan rapat.
- Tencent Docs — generasi dan analisis teks.
- ima — asisten AI keuangan dan multimedia.
Penerapan Enterprise
- Generasi teks: artikel, teks iklan, skenario, deskripsi produk.
- Dukungan pelanggan cerdas: chatbot, FAQ, otomatisasi respons.
- Generasi dan analisis kode (terutama HY 2.0 Think dan T1).
- Penalaran matematika dan logika, tugas analitik.
- Terjemahan multibahasa (30+ bahasa, Hunyuan-MT).
Model Terbuka
Varian terbuka digunakan untuk penelitian, fine-tuning, dan deployment pada perangkat edge (model dense kecil). Perluasan multimodal (HunyuanImage, HunyuanVideo, Hunyuan3D) digunakan untuk pemodelan 3D dan generasi video.[14]
Keterbatasan dan Masalah Terbuka
- Ketertutupan model komersial. Untuk HY 2.0 dan T1, tidak tersedia bobot terbuka maupun spesifikasi arsitektur terperinci; akses dibatasi melalui API, yang mempersulit reproduktibilitas independen.[3]
- Ketidaktransparanan data pelatihan. Meskipun penggunaan data sintetis berskala besar ditekankan, komposisi tepat dataset, proporsi bahasa, dan domain tidak diungkapkan.[2]
- Persyaratan komputasi. Model terbuka memerlukan sumber daya yang signifikan: minimal 32 GPU untuk fine-tuning penuh Hunyuan-Large; puluhan GB VRAM bahkan dengan FP8.[5]
- Halusinasi. Seperti LLM lainnya, model rentan terhadap generasi pernyataan yang tampak masuk akal namun secara faktual salah. Penelitian sistematis tentang aspek ini untuk Hunyuan dalam karya peer-reviewed terbuka masih terbatas.[18]
- Perbedaan batas arsitektur dan layanan. Untuk sejumlah model (TurboS, A13B), batas layanan API jauh lebih rendah dari kemampuan arsitektur.[6][3]
- Ketersediaan regional. Fokus utama pada pasar Tiongkok; API untuk pengguna di luar Tiongkok memiliki keterbatasan bahasa dan hukum.[17]
- Tidak adanya laporan keamanan terperinci. Dokumentasi menyebutkan prinsip keamanan dan penyaringan umum, namun tidak ada technical safety report publik yang sebanding dalam cakupan dengan beberapa model internasional.[15]
- Kompatibilitas cabang open-source. Setelah rilis, ditemukan masalah integrasi dengan
transformers/vllm, di mana pustaka tidak mengenali tipe arsitekturhunyuan_v1_dense, sehingga memerlukantrust_remote_codeatau cabang khusus.[19]
Insiden dan Masalah yang Diketahui
Berdasarkan materi yang tersedia (akhir 2025 — awal 2026), tidak ada insiden publik besar yang secara khusus terkait dengan Hunyuan (kebocoran data berskala besar, ancaman keamanan unik) yang tercatat.[17]
Perbaikan Produk yang Terdokumentasi
Dalam product dynamics Tencent Cloud tercermin perbaikan mikro:[12]
- 2024-11-20:
hunyuan-turbo-latestdiperbarui untuk memperbaiki pengulangan akibat karakter khusus, meningkatkan stabilitas keluaran Markdown, dan mengurangi penolakan yang tidak berdasar. - 2025-04-03: pembaruan T1 dengan perbaikan pencampuran bahasa Tionghoa sederhana/tradisional dan pencampuran Tionghoa/Inggris, ditambah peningkatan generasi kode tingkat proyek.
- 2025-04-20: Search Enhancement dialihkan dari default-aktif ke default-nonaktif — yang pada dasarnya merupakan perubahan perilaku API bagi integrasi.
Penelitian Keamanan MoE
Pada level kritik penelitian (tingkat pracetak), Hunyuan-A13B muncul dalam karya-karya tentang serangan terhadap lokalisasi keamanan pada model MoE. Secara khusus, dalam karya Large Language Lobotomy dan GateBreaker dilaporkan tingkat keberhasilan serangan yang tinggi saat «membungkam» pakar keamanan. Ini bukan konfirmasi insiden produksi, namun menunjukkan bahwa keamanan routing MoE dianggap sebagai vektor penelitian yang rentan.[20][21]
Aspek Etika dan Regulasi
Hunyuan beroperasi dalam konteks hukum dan regulasi Tiongkok, termasuk peraturan nasional tentang pengelolaan AI generatif (CAC) dan penyaringan konten, serta kebijakan keamanan data internal Tencent. Dokumentasi Tencent Cloud menekankan bahwa penggunaan API Hunyuan harus sesuai dengan hukum yang berlaku dan kebijakan platform.[1]
Langkah-langkah konkret meliputi:
- Moderasi konten bawaan dengan keluaran streaming dan kemungkinan
FinishReason=sensitive. - Penyelarasan melalui RLHF/DPO untuk mengurangi halusinasi dan perilaku yang tidak diinginkan.
- Penyaringan data pelatihan untuk meminimalkan bias.
- Lisensi terbuka (Tencent Hunyuan Community License Agreement) untuk model terbuka, dengan catatan bahwa perjanjian ini tidak berlaku di UE untuk beberapa varian.[8][15]
Laporan independen khusus tentang bias dan fairness untuk Hunyuan masih sedikit; penelitian diharapkan seiring dengan perluasan bobot terbuka dan pengujian independen.[2]
Respons Komunitas
Sinyal eksternal paling substansial untuk cabang tertutup adalah hasil TurboS pada LMSYS Chatbot Arena (1356, top-7 secara global). Untuk cabang terbuka, indikator tidak langsung adalah aktivitas GitHub: sekitar 1,6 ribu stars untuk Hunyuan-Large, 812 untuk A13B, 683 untuk Hunyuan-MT. Ini mencerminkan tingkat keterlibatan yang terlihat namun tidak dominan menurut standar ekosistem open LLM. Penilaian subjektif komunitas (Hugging Face, Reddit) mencatat keunggulan dalam bahasa Tionghoa dan tugas-tugas berbasis agen.[22]
Prospek dan Arah Penelitian
Arah pengembangan lebih lanjut yang disebutkan dalam materi publik:[2][6][14]
- Hibridisasi arsitektur lebih lanjut (Mamba + Transformer + MoE) dan penelitian scaling laws untuk MoE.
- Perluasan kemampuan multimodal: integrasi Hunyuan3D, HunyuanVideo, dan HunyuanImage dengan model bahasa.
- Peningkatan penggunaan alat (tool use) dan kemampuan agen.
- Pengurangan biaya inferensi: kuantisasi (2-bit untuk edge), optimasi melalui TRT-LLM/vLLM.
- Perluasan portofolio model terbuka.
- Pengembangan dan publikasi laporan keamanan dan penyelarasan yang terperinci.
Lihat Juga
- LLaMA (Meta)
- DeepSeek
Daftar Pustaka
- Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- Tencent Hunyuan Team. Hunyuan-MT Technical Report. arXiv:2509.05209, 2025. https://arxiv.org/abs/2509.05209
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
- Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
Pranala Luar
- https://cloud.tencent.com/document/product/1729/104753 — Dokumentasi resmi Tencent Cloud Hunyuan
- https://huggingface.co/tencent/Tencent-Hunyuan-Large — Hunyuan-Large di Hugging Face
- https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large — Hunyuan-Large di GitHub
- https://github.com/Tencent-Hunyuan/Hunyuan-A13B — Hunyuan-A13B di GitHub
- https://tencent.github.io/llm.hunyuan.T1/README_EN.html — Halaman resmi Hunyuan-T1
- https://www.tencent.com/en-us/articles/2201685.html — Pengumuman Hunyuan (September 2023)
Catatan
- ↑ 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
- ↑ 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
- ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
- ↑ 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- ↑ 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
- ↑ 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
- ↑ 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
- ↑ 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
- ↑ 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
- ↑ 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
- ↑ Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
- ↑ 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
- ↑ 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
- ↑ Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
- ↑ 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
- ↑ LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
- ↑ GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
- ↑ Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
- ↑ Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
- ↑ Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS