Hunyuan (Tencent) (FA)
Hunyuan (چینی: 腾讯混元大模型، Tencent Hunyuan، Tencent HY) — خانوادهای از مدلهای بنیادی (Foundation Models) و مدلهای زبانی بزرگ (Large Language Model، LLM) است که توسط تیم Tencent Hunyuan Foundation Model Team توسعه یافته و از طریق سرویس ابری Tencent Cloud و همچنین به صورت وزنهای آزاد روی پلتفرمهای Hugging Face و GitHub در دسترس است. این خانواده شامل مدلهایی برای تولید و درک متن، استنتاج منطقی و ریاضی، برنامهنویسی، پردازش متنهای بلند، و همچنین گسترشهای چندوجهی (تصویر، ویدئو، سهبعدی) میشود. Hunyuan به عنوان خط پرچمدار هوش مصنوعی مولد Tencent معرفی شده و در اکوسیستم محصولات شرکت (Yuanbao، WeChat، Tencent Meeting، Tencent Cloud) یکپارچه شده است.[1][2][3]
تاریخچه و زمانبندی توسعه
توسعه Hunyuan در بستر رقابت جهانی LLM و راهبرد استقلال فناورانه چین در حوزه هوش مصنوعی انجام شد. این خط از مدلهای dense اختصاصی به سوی معماریهای باز Mixture-of-Experts (MoE) و ترکیبی Transformer-Mamba تکامل یافت.[1]
نسل اول (۲۰۲۳)
اعلام عمومی سری Hunyuan در ۷ سپتامبر ۲۰۲۳ در نشست Tencent Global Digital Ecosystem Summit در شنژن انجام شد. نسخه اول یک مدل dense اختصاصی با بیش از ۱۰۰ میلیارد پارامتر بود که بر روی بیش از ۲ تریلیون token پیشآموزش دیده بود. این مدل بر زبان چینی، استنتاج منطقی و تولید محتوا تمرکز داشت، در بیش از ۵۰ محصول Tencent یکپارچه شد و از طریق API سرویس Tencent Cloud در دسترس بود.[1]
Hunyuan-Large و گذار به MoE (۲۰۲۴)
در نوامبر ۲۰۲۴، شرکت Tencent مدل Hunyuan-Large را منتشر کرد — که در آن زمان بزرگترین مدل باز Transformer-MoE با ۳۸۹ میلیارد پارامتر کلی و ۵۲ میلیارد پارامتر فعال بود. این مدل با وزنهای آزاد روی Hugging Face و GitHub منتشر شد و با یک پیشچاپ در arXiv همراه گردید. این انتشار نقطه عطف راهبردی Tencent به سوی توسعه آزاد بود.[2][4][5]
مدلهای ترکیبی و reasoning (۲۰۲۵)
در سال ۲۰۲۵، خط مدلها با چند انتشار کلیدی گسترش یافت:
- Hunyuan-TurboS (فوریه ۲۰۲۵) — اولین مدل ترکیبی Transformer-Mamba-MoE در مقیاس صنعتی با ۵۶۰ میلیارد پارامتر کلی و ۵۶ میلیارد پارامتر فعال که بر روی ۱۶ تریلیون token پیشآموزش دیده است. مکانیزم تطبیقی Adaptive Chain-of-Thought (CoT) برای تغییر پویا بین تفکر سریع و عمیق معرفی شد.[6]
- Hunyuan-T1 (مارس ۲۰۲۵) — مدل reasoning تخصصی ساخته شده بر پایه TurboS با آموزش تقویتی در مقیاس بزرگ (۹۶٫۷٪ از محاسبات پس از آموزش — reinforcement learning).[7]
- Hunyuan-A13B (ژوئن ۲۰۲۵) — مدل فشرده MoE (۸۰ میلیارد پارامتر کلی / ۱۳ میلیارد فعال) برای تعادل میان کارایی و هزینه، با پشتیبانی از تفکر سریع و کُند.[8]
- مدلهای dense کوچک (ژوئیه ۲۰۲۵) — نسخههای ۰٫۵B، ۱٫۸B، ۴B، ۷B برای دستگاههای edge و سناریوهای استقرار پررقابت، با پشتیبانی از متن ۲۵۶K توکنی.[9]
Hunyuan 2.0 (نوامبر–دسامبر ۲۰۲۵)
در دسامبر ۲۰۲۵، نسل دوم مدل تجاری Hunyuan 2.0 (HY 2.0) با معماری MoE (۴۰۶ میلیارد پارامتر کلی / ۳۲ میلیارد فعال) و پنجره متنی ۲۵۶K توکن اعلام شد. این خط به دو نسخه تقسیم شده است: HY 2.0 Think (استنتاج عمیق، کد) و HY 2.0 Instruct (گفتگو، تولید خلاقانه). مدلها از طریق Tencent Cloud API در دسترس هستند و در برنامههای Yuanbao و ima یکپارچه شدهاند.[10][11]
زمانبندی خلاصه
| تاریخ | رویداد |
|---|---|
| سپتامبر ۲۰۲۳ | اعلام عمومی Hunyuan به عنوان LLM اختصاصی (>۱۰۰B پارامتر)؛ راهاندازی API سرویس Tencent Cloud |
| فوریه ۲۰۲۴ | مدل داخلی MoE برای چتبات Yuanbao |
| آوریل ۲۰۲۴ | تغییر نام: «advanced» به hunyuan-pro، «standard» به hunyuan-standard؛ افزوده شدن hunyuan-lite |
| مه ۲۰۲۴ | انتقال hunyuan-lite به MoE، گسترش به متن ۲۵۶K توکنی |
| سپتامبر ۲۰۲۴ | راهاندازی hunyuan-turbo جدید (MoE نسل جدید) |
| نوامبر ۲۰۲۴ | انتشار آزاد Hunyuan-Large (389B/52B MoE)، پیشچاپ arXiv:2411.02265 |
| فوریه–مارس ۲۰۲۵ | Hunyuan-TurboS (ترکیبی Mamba-MoE)؛ Hunyuan-T1 (reasoning) |
| ژوئن ۲۰۲۵ | Hunyuan-A13B (80B/13B، fine-grained MoE) |
| ژوئیه ۲۰۲۵ | مدلهای dense کوچک ۰٫۵B–۷B |
| سپتامبر ۲۰۲۵ | Hunyuan-MT (مدل تخصصی ترجمه) |
| نوامبر–دسامبر ۲۰۲۵ | Hunyuan 2.0 (HY 2.0 Think / Instruct)، 406B/32B MoE |
منبع: پویاییهای محصول Tencent Cloud؛ مخازن رسمی.[12]
مبانی نظری و معماری
معماری Mixture-of-Experts
مدلهای کلیدی این سری (Hunyuan-Large، A13B، HY 2.0) از معماری Mixture-of-Experts (MoE) استفاده میکنند که در آن برخی لایههای transformer شامل چندین «متخصص» (زیرشبکه) هستند و یک مسیریاب (gating network) زیرمجموعهای از متخصصان فعال را برای هر token انتخاب میکند. فرمول کلی لایه MoE:[2]
که در آن تابع مسیریابی (gating)، متخصص -ام، و تعداد کل متخصصان است. در این رویکرد، تعداد کل پارامترهای مدل به طور قابل توجهی از تعداد پارامترهای فعال در یک گذر بیشتر است:[2]
که این امکان را میدهد ظرفیت مدل بدون افزایش متناسب هزینههای محاسباتی استنتاج افزایش یابد.
در Hunyuan-Large طرحی با ۱ متخصص مشترک (shared) و ۱۶ متخصص تخصصی با فعالسازی ۱ متخصص به ازای هر token (top-1 routing) پیادهسازی شده است. نوآوریهای دیگر شامل مسیریابی ترکیبی با مکانیزم recycle (بازپردازش tokenهای رد شده) و نرخهای یادگیری اختصاصی هر متخصص برای بهبود تعادل در مشارکت متخصصان است.[2][5]
معماری ترکیبی Transformer-Mamba
مدلهای Hunyuan-TurboS و T1 معماری ترکیبی را معرفی میکنند که بلوکهای Transformer (attention) و Mamba (مدل فضای حالت) را با هم ادغام میکند. Mamba پیچیدگی خطی نسبت به طول دنباله را تضمین میکند:[6]
که در آن ، ماتریسهای قابل آموزش، حالت پنهان در گام ، و token ورودی است. این ویژگی مقیاسبندی حافظه بر حسب طول را فراهم میکند (در مقابل در Transformer استاندارد).[6]
مدل TurboS دارای ۱۲۸ لایه است که در بلوکها سازماندهی شدهاند: ۵۷ لایه Mamba2، ۷ لایه Attention و ۶۴ لایه FFN-MoE با ۳۲ متخصص. بلوکهای AMF (Attention → Mamba2 → FFN) و MF (Mamba2 → FFN) برای تأمین تعادل زمینه جهانی و محلی به نوبت تکرار میشوند.[6]
مکانیزمهای توجه و KV-cache
مدل Hunyuan-Large از Grouped Query Attention (GQA) — نوعی توجه که در آن چند کوئری کلیدها و مقادیر مشترک دارند — و Cross-Layer Attention (CLA) برای کاهش حجم KV-cache استفاده میکند. حجم استاندارد KV-cache برای یک لایه self-attention با سر، طول دنباله و اندازه سر :[5]
که حجم KV-cache است. با GQA و گروه، حجم به این میزان کاهش مییابد:
CLA علاوه بر این استفاده مجدد از KV-cache میان لایهها را پیشبینی میکند. در مجموع این بهینهسازیها صرفهجویی حافظهای تا حدود ۹۵٪ را فراهم میکنند.[4]
کدگذاری موقعیتی و متن بلند
مدلها از Rotary Position Embedding (RoPE) با مقیاسبندی برای پشتیبانی از دنبالههای بلند استفاده میکنند. آموزش متن به صورت مرحلهای (curriculum learning) انجام میشود: از ۳۲K تا ۲۵۶K توکن. تابع فعالسازی — SwiGLU. واژگان توکنساز — ۱۲۸K (tiktoken با گسترش برای زبان چینی).[2]
آموزش و مقیاسبندی
برای مدلهای MoE، قوانین مقیاسبندی (scaling laws) به شکل وابستگیهای توانی تجربی بررسی میشوند:[2]
که معیار کیفیت، تعداد پارامترهای فعال، حجم داده، و پارامترهایی هستند که به صورت تجربی تعیین میشوند. مدل Hunyuan-Large بر استفاده از دادههای مصنوعی به حجم ۱٫۵ تریلیون توکن تأکید دارد — چند مرتبه بیشتر از انتشارات قبلی در حوزه MoE.[2]
مسیر آموزش و همراستاسازی
فرآیند آموزش مدلهای Hunyuan شامل چندین مرحله متداول در LLMهای مدرن است:[2][7]
پیشآموزش (Pre-training)
آموزش در مقیاس بزرگ بر روی پیکره چندزبانه گسترده (چینی، انگلیسی و زبانهای دیگر). Hunyuan-Large بر روی ۷ تریلیون توکن (شامل ۱٫۵ تریلیون مصنوعی) پیشآموزش دیده است. TurboS — بر روی ۱۶ تریلیون توکن. ترکیب دقیق مجموعه دادهها فاش نشده است.[2][6]
تنظیم دقیق با نظارت (Supervised Fine-Tuning، SFT)
تنظیم دقیق بر روی بیش از ۱ میلیون دستورالعمل (جفتهای «دستورالعمل — پاسخ») که مدل را به پیروی از دستورالعملهای کاربر سوق میدهد.[2]
همراستاسازی با استفاده از یادگیری تقویتی
برای همراستاسازی رفتار مدل با ترجیحات انسانی از روشهای زیر استفاده میشود:
Direct Preference Optimization (DPO) — روش همراستاسازی بدون مدل پاداش صریح که در Hunyuan-Large به کار رفته است.[2]
Reinforcement Learning (RL) — در Hunyuan-T1 از یادگیری تقویتی در مقیاس بزرگ با curriculum learning استفاده میشود؛ بنا به اظهار توسعهدهنده، ۹۶٫۷٪ از محاسبات پس از آموزش به RL اختصاص دارد.[7]
Adaptive Long-Short Chain-of-Thought — در TurboS مکانیزم تغییر پویا میان تفکر سریع و عمیق پیادهسازی شده که به مدل امکان میدهد عمق استنتاج را متناسب با پیچیدگی وظیفه تنظیم کند.[6]
ترکیب خانواده مدلها
این خانواده به مدلهای API ابری بسته و مدلهای آزاد با وزن تقسیم میشود.[3]
مدلهای اصلی (مرور)
| مدل | تاریخ انتشار | معماری | پارامترها (کل / فعال) | متن | دسترسی |
|---|---|---|---|---|---|
| Hunyuan (2023) | سپتامبر ۲۰۲۳ | Dense Transformer | >۱۰۰ میلیارد / — | فاش نشده | API اختصاصی |
| Hunyuan-Large | نوامبر ۲۰۲۴ | Transformer-MoE | ۳۸۹ میلیارد / ۵۲ میلیارد | ۲۵۶K (pretrain)، ۱۲۸K (instruct) | وزنهای آزاد (GitHub، HF) |
| Hunyuan-TurboS | فوریه ۲۰۲۵ | Hybrid Transformer-Mamba-MoE | ۵۶۰ میلیارد / ۵۶ میلیارد | ۲۵۶K (معماری)، ۳۲K/۱۶K (API) | API اختصاصی + نسخههای آزاد |
| Hunyuan-T1 | مارس ۲۰۲۵ | بر پایه TurboS + RL مقیاسپذیر | — | ۳۲K/۶۴K (API) | API اختصاصی |
| Hunyuan-A13B | ژوئن ۲۰۲۵ | Fine-grained MoE | ۸۰ میلیارد / ۱۳ میلیارد | ۲۵۶K (آزاد)، ۲۲۴K/۳۲K (API) | وزنهای آزاد + API |
| کوچک (0٫5–7B) | ژوئیه ۲۰۲۵ | Dense | ۰٫۵–۷ میلیارد | ۲۵۶K | وزنهای آزاد |
| HY 2.0 Think | نوامبر ۲۰۲۵ | MoE | ۴۰۶ میلیارد / ۳۲ میلیارد | ۱۲۸K ورودی / ۶۴K خروجی (API) | API اختصاصی |
| HY 2.0 Instruct | نوامبر ۲۰۲۵ | MoE | ۴۰۶ میلیارد / ۳۲ میلیارد | ۱۲۸K ورودی / ۱۶K خروجی (API) | API اختصاصی |
منابع: arXiv:2411.02265؛ arXiv:2505.15431؛ مستندات Tencent Cloud؛ GitHub.[2][6][3][10]
توجه. برای برخی مدلها، محدودیتهای معماری متن (از گزارشهای فنی) و محدودیتهای سرویس API (از مستندات محصول) با هم تفاوت دارند. این تناقض نیست، بلکه تفاوت میان پیکربندیهای پژوهشی و محصولی را نشان میدهد.[6][3]
مدلهای تخصصی
Hunyuan-MT (سپتامبر ۲۰۲۵) — مدل تخصصی ترجمه ماشینی که در WMT25 در ۳۰ از ۳۱ رده مقام اول را کسب کرد.[13]
HunyuanImage، HunyuanVideo، Hunyuan3D — مدلهای چندوجهی خانواده برای تولید تصویر، ویدئو و اشیاء سهبعدی به ترتیب.[14]
جایگاهیابی و روابط تکاملی
در مستندات Tencent Cloud روابط تکاملی زیر مشاهده میشود:
hunyuan-a13bبه عنوان ارتقاءhunyuan-standard-256Kمعرفی شده است.hunyuan-t1بر پایه TurboS با پسآموزش تقویتی تقویتشده ساخته شده است.- HY 2.0 Think/Instruct — شاخهای که پایه آن از TurboS به Hunyuan 2.0 بهروز شده است.
- شاخه آزاد (Hunyuan-Large، A13B، dense فشرده) به موازات شاخه API بسته توسعه مییابد و دسترسی پژوهشی را فراهم میکند.[3]
نوآوریهای نسلهای کلیدی
Hunyuan-Large (2024)
در مقایسه با نسل اول و رویکردهای قبلی MoE، Hunyuan-Large موارد زیر را معرفی میکند:[2][4]
- مقیاس ۳۸۹ میلیارد پارامتر (۵۲ میلیارد فعال) — بزرگترین مدل Transformer-MoE آزاد در زمان انتشار.
- پشتیبانی از متن ۲۵۶K (pretrain) و ۱۲۸K (instruct) — فراتر از مقادیر معمول LLMهای انبوه در سال ۲۰۲۴.
- فشردهسازی KV-cache بر پایه GQA + CLA (صرفهجویی حافظه ~۹۵٪).
- داده مصنوعی در مقیاس بزرگ (۱٫۵ تریلیون توکن داده مصنوعی).
- مسیریابی ترکیبی متخصصان و نرخهای یادگیری اختصاصی هر متخصص.
Hunyuan-TurboS (2025)
تغییر معماری کلیدی:[6]
- ترکیب Mamba2 + Attention + MoE: ۵۶۰B کل / ۵۶B فعال، ۱۲۸ لایه.
- پیشآموزش بر روی ۱۶ تریلیون توکن.
- Adaptive Long-Short Chain-of-Thought برای مدیریت پویای عمق استنتاج.
- تسریع ادعا شده رمزگشایی ۱٫۸–۲ برابر در مقایسه با نسخه قبلی Turbo.
Hunyuan-T1 (2025)
مدل reasoning بر پایه TurboS:[7]
- ۹۶٫۷٪ از محاسبات پس از آموزش — reinforcement learning.
- تسریع دوبرابری رمزگشایی با محیط استقرار مشابه.
- Curriculum learning برای بهبود راهبردهای استنتاج.
HY 2.0 (2025)
بهروزرسانی پرچمدار تجاری:[10][11]
- معماری MoE: ۴۰۶B پارامتر کل / ۳۲B فعال.
- پنجره متنی ۲۵۶K توکن.
- رشد چشمگیر در معیارهای تخصصی: IMO-AnswerBench 73٫4٪ (+20٪ نسبت به نسخه قبلی HY)، SWE-bench Verified 53٫0 (از 6٫0)، τ²-Bench 72٫4 (از 17٫1).
- بهبود در RLHF و راهبردهای پسآموزش.
ارزیابی و معیارها
ارزیابی بر روی معیارهای استاندارد با استفاده از پروتکلهای zero-shot و few-shot انجام شد. نتایج بر اساس گزارشهای فنی و مخازن رسمی هستند؛ برای برخی مدلها، تأییدیههای خارجی مستقل هنوز محدود است.[2]
معیارهای Hunyuan-Large (pretrain)
| معیار | Hunyuan-Large | Llama 3.1-405B | Llama 3.1-70B | Mixtral-8x22B | DeepSeek-V2 |
|---|---|---|---|---|---|
| MMLU | 88٫4 | 85٫2 | 79٫3 | 77٫8 | 78٫5 |
| CMMLU | 90٫2 | — | — | — | 84٫0 |
| C-Eval | 91٫9 | — | — | — | 81٫7 |
| GSM8K | 92٫8 | 89٫0 | 83٫7 | 83٫7 | 79٫2 |
| MATH | 69٫8 | 53٫8 | 41٫4 | 42٫5 | 43٫6 |
| HumanEval | 71٫4 | 61٫0 | 58٫5 | 53٫1 | 48٫8 |
منبع: arXiv:2411.02265.[2]
بر اساس گزارش فنی، Hunyuan-Large (pretrain) در ۱۵ از ۱۹ معیار در مقایسه با Llama 3.1-405B، Mixtral-8x22B و DeepSeek-V2 پیشتاز است.[2]
معیارهای Hunyuan-Large-Instruct
| معیار | Hunyuan-Large-Instruct |
|---|---|
| MMLU | 89٫9 |
| MATH | 77٫4 |
| HumanEval | 90٫0 |
| Arena-Hard | 81٫8 |
منبع: arXiv:2411.02265؛ کارت مدل Hugging Face.[2][5]
بنا به اظهار توسعهدهندگان، Hunyuan-Large-Instruct در معیار MMLU از LLaMA 3.1-405B با ۲٫۶ درصد امتیاز بهتر است.[4]
معیارهای TurboS و T1
| معیار | TurboS | T1 |
|---|---|---|
| LMSYS Chatbot Arena | 1356 (جایگاه ۷ برتر) | — |
| میانگین در ۲۳ معیار | 77٫9٪ | — |
| MMLU-Pro | — | 87٫2 |
| GPQA-Diamond | — | 69٫3 |
| MATH-500 | — | 96٫2 |
| LiveCodeBench | — | 64٫9 |
| Arena-Hard | — | 91٫9 |
منابع: arXiv:2505.15431؛ صفحه رسمی T1.[6][7]
معیارهای Hunyuan-A13B
| معیار | Hunyuan-A13B | Hunyuan-Large | Qwen2.5-72B |
|---|---|---|---|
| MMLU | 88٫17 | 88٫4 | — |
| MMLU-Pro | 67٫23 | 60٫2 | — |
| BBH | 87٫56 | 86٫3 | — |
| MATH | 72٫35 | 69٫8 | — |
| GPQA | 49٫12 | — | — |
| MBPP | 83٫86 | — | — |
منبع: README مخزن GitHub مدل Hunyuan-A13B.[8]
مدل A13B در تعدادی از وظایف حساس به پسآموزش (MMLU-Pro، MATH، MBPP) از Hunyuan-Large پیشی میگیرد، که با جایگاه آن به عنوان نسخهای بهروزتر و کاربردیتر سازگار است.[8]
معیارهای شاخه dense فشرده
| مدل | MMLU | MMLU-Pro | BBH | GSM8K | MATH |
|---|---|---|---|---|---|
| Hunyuan-0٫5B | 54٫02 | 31٫15 | 45٫92 | 55٫64 | 42٫95 |
| Hunyuan-1٫8B | 64٫62 | 38٫65 | 74٫32 | 77٫26 | 62٫85 |
| Hunyuan-4B | 74٫01 | 51٫91 | 75٫17 | 87٫49 | 72٫25 |
| Hunyuan-7B | 79٫82 | 57٫79 | 82٫95 | 88٫25 | 74٫85 |
منبع: README مخزن GitHub مدل Hunyuan-7B.[9]
معیارهای HY 2.0
این ارقام توسط توسعهدهنده اعلام شدهاند (تنها منبع صریح — حساب رسمی Hunyuan):[11]
| معیار | HY 2.0 | نسخه قبلی HY |
|---|---|---|
| IMO-AnswerBench | 73٫4 | ~53 (تخمین، +20٪) |
| SWE-bench Verified | 53٫0 | 6٫0 |
| τ²-Bench | 72٫4 | 17٫1 |
توجه. این دادهها به عنوان «اعلامشده توسط توسعهدهنده، در انتظار تأیید گسترده خارجی» طبقهبندی میشوند.[11]
جزئیات فنی استفاده
پنجره متنی بر اساس شاخهها
| مدل | ورودی (توکن) | خروجی (توکن) |
|---|---|---|
| HY 2.0 Think | 128K | 64K |
| HY 2.0 Instruct | 128K | 16K |
| T1 (API) | 32K | 64K |
| A13B (API) | 224K | 32K |
| TurboS (API) | 32K | 16K |
| Lite (API) | 250K | 6K |
| Hunyuan-Large (آزاد) | 256K (pretrain) / 128K (instruct) | — |
| Compact 0٫5–7B | 256K | — |
منبع: مرور کلی محصول Tencent Cloud.[3]
ابزارهای پشتیبانیشده
در مستندات Tencent Cloud API موارد زیر مستند شدهاند:[15]
- Function Calling (
tools،tool_choice). - AI Search Enhancement — جستجوی داخلی در منابع خارجی (retrieval-augmented generation).
- SearchInfo و Citation — نشانهگذاری استناد در پاسخها.
- EnableMultimedia — درج چندرسانهای در خروجی.
- EnableThinking — سوئیچ chain-of-thought برای A13B.
- EnableRecommendedQuestions — تولید پرسشهای پیشنهادی.
سازگاری API
Hunyuan API از قالب سازگار با OpenAI پشتیبانی میکند:[16]
- Base URL:
https://api.hunyuan.cloud.tencent.com/v1. /v1/chat/completionsو/v1/embeddingsپشتیبانی میشوند.- مدل Embedding:
hunyuan-embedding، ابعاد ۱۰۲۴. - پخش جریانی (Streaming) از طریق SSE.
- همزمانی پیشفرض: ۵ به ازای هر حساب.
برای Hunyuan-Large (آزاد) قالب استاندارد ورودی/خروجی با چارچوبهای PyTorch/Transformers سازگار است. کوانتیزاسیون پشتیبانی میشود: FP8، INT4 (GPTQ/AWQ).[5]
کاربرد و یکپارچهسازی
مدلهای Hunyuan در اکوسیستم Tencent یکپارچه شده و برای توسعهدهندگان خارجی نیز در دسترس است. سناریوهای اصلی مستندشده:[1][17]
محصولات Tencent
- Yuanbao — چتبات با پشتیبانی از Hunyuan و DeepSeek.
- Tencent Meeting — تولید خلاصه جلسات.
- Tencent Docs — تولید و تحلیل متن.
- ima — دستیار هوش مصنوعی مالی و چندرسانهای.
کاربردهای سازمانی
- تولید متن: مقالات، متون تبلیغاتی، فیلمنامهها، توضیحات محصول.
- پشتیبانی هوشمند از مشتری: چتباتها، FAQ، خودکارسازی پاسخ.
- تولید و تحلیل کد (بهویژه HY 2.0 Think و T1).
- استنتاج ریاضی و منطقی، وظایف تحلیلی.
- ترجمه چندزبانه (بیش از ۳۰ زبان، Hunyuan-MT).
مدلهای آزاد
نسخههای آزاد برای پژوهش، تنظیم دقیق و استقرار روی دستگاههای edge (مدلهای dense کوچک) استفاده میشوند. گسترشهای چندوجهی (HunyuanImage، HunyuanVideo، Hunyuan3D) برای مدلسازی سهبعدی و تولید ویدئو به کار میروند.[14]
محدودیتها و مسائل باز
- بسته بودن مدلهای تجاری. برای HY 2.0 و T1 وزنهای آزاد و مشخصات معماری دقیق وجود ندارد؛ دسترسی به API محدود است که بازتولید مستقل را دشوار میکند.[3]
- ناشفافیت دادههای آموزشی. اگرچه استفاده از دادههای مصنوعی در مقیاس بزرگ مورد تأکید است، ترکیب دقیق مجموعه دادهها، سهم زبانها و حوزههای موضوعی فاش نشده است.[2]
- نیازمندیهای محاسباتی. مدلهای آزاد به منابع قابل توجهی نیاز دارند: حداقل ۳۲ GPU برای fine-tuning کامل Hunyuan-Large؛ دهها گیگابایت VRAM حتی با FP8.[5]
- توهمزایی. مانند سایر LLMها، مدلها مستعد تولید ادعاهای قابل باور اما واقعاً نادرست هستند. پژوهشهای سیستماتیک در این زمینه برای Hunyuan در آثار داوریشده آزاد هنوز محدود است.[18]
- تفاوت محدودیتهای معماری و سرویس. برای برخی مدلها (TurboS، A13B)، محدودیتهای سرویس API به طور قابل توجهی پایینتر از قابلیتهای معماری است.[6][3]
- دسترسی منطقهای. تمرکز اصلی بر بازار چین است؛ API برای کاربران خارج از چین دارای محدودیتهای زبانی و حقوقی است.[17]
- فقدان گزارشهای ایمنی دقیق. در مستندات اصول کلی ایمنی و فیلتر محتوا بیان شده، اما گزارشهای فنی ایمنی عمومی قابل مقایسه با برخی مدلهای بینالمللی وجود ندارد.[15]
- سازگاری شاخه open-source. پس از انتشارها، مشکلاتی در یکپارچهسازی با
transformers/vllmگزارش شد، جایی که کتابخانهها نوع معماریhunyuan_v1_denseرا تشخیص نمیدادند و نیاز بهtrust_remote_codeیا شاخههای خاص داشتند.[19]
حوادث و مشکلات شناختهشده
تا زمان تهیه این مواد (اواخر ۲۰۲۵ — اوایل ۲۰۲۶) هیچ حادثه عمومی بزرگی که به طور خاص به Hunyuan مربوط باشد (نشت دادههای گسترده، تهدیدات امنیتی منحصربهفرد) ثبت نشده است.[17]
اصلاحات مستندشده محصول
در پویاییهای محصول Tencent Cloud اصلاحات جزئی زیر ثبت شدهاند:[12]
- 2024-11-20:
hunyuan-turbo-latestبرای رفع تکرار ناشی از کاراکترهای خاص، افزایش پایداری خروجی Markdown و کاهش رد درخواستهای بیدلیل بهروز شد. - 2025-04-03: بهروزرسانی T1 با اصلاح اختلاط چینی سادهشده/سنتی و اختلاط چینی/انگلیسی، به علاوه بهبود تولید کد در سطح پروژه.
- 2025-04-20: Search Enhancement از حالت پیشفرض فعال به پیشفرض غیرفعال تغییر یافت — که در واقع تغییری رفتاری در API برای یکپارچهسازیها بود.
پژوهشهای ایمنی MoE
در سطح نقد پژوهشی (سطح پیشچاپ)، Hunyuan-A13B در آثاری درباره حملات به بومیسازی ایمنی در مدلهای MoE مطرح شده است. بهویژه در آثار Large Language Lobotomy و GateBreaker نرخ موفقیت بالای حمله در «خاموش کردن» متخصصان ایمنی گزارش شده است. این موضوع تأییدکننده یک حادثه در محیط تولید نیست، اما نشان میدهد که ایمنی مسیریابی MoE به عنوان یک بردار آسیبپذیر پژوهشی در نظر گرفته میشود.[20][21]
جنبههای اخلاقی و نظارتی
Hunyuan در بستر حقوقی و نظارتی چین فعالیت میکند، از جمله قوانین ملی مدیریت هوش مصنوعی مولد (CAC) و فیلتر محتوا، و همچنین سیاستهای داخلی امنیت داده Tencent. مستندات Tencent Cloud تأکید دارند که استفاده از Hunyuan API باید با قوانین قابل اعمال و سیاست پلتفرم مطابقت داشته باشد.[1]
اقدامات مشخص عبارتند از:
- نظارت محتوای داخلی با خروجی پخش جریانی و احتمال
FinishReason=sensitive. - همراستاسازی از طریق RLHF/DPO برای کاهش توهمزایی و رفتار ناخواسته.
- فیلتر دادههای آموزشی برای به حداقل رساندن تعصب.
- مجوزهای آزاد (Tencent Hunyuan Community License Agreement) برای مدلهای آزاد، با این تبصره که این توافقنامه برای برخی نسخهها در اتحادیه اروپا اعمال نمیشود.[8][15]
گزارشهای مستقل تخصصی درباره تعصب و انصاف برای Hunyuan هنوز اندک است؛ پژوهشهای بیشتری با گسترش وزنهای آزاد و آزمونهای مستقل انتظار میرود.[2]
بازتاب جامعه
مهمترین سیگنال خارجی برای شاخه بسته — نتیجه TurboS در LMSYS Chatbot Arena (1356، جایگاه ۷ برتر جهانی) است. برای شاخه آزاد، شاخص غیرمستقیم — فعالیت GitHub است: حدود ۱٫۶ هزار ستاره برای Hunyuan-Large، ۸۱۲ برای A13B، ۶۸۳ برای Hunyuan-MT. این سطح قابل توجه اما نه غالب در مقیاس اکوسیستم LLM آزاد را نشان میدهد. ارزیابیهای ذهنی جامعه (Hugging Face، Reddit) نقاط قوت در زبان چینی و وظایف agent را برجسته میکنند.[22]
چشمانداز و جهتگیریهای پژوهشی
مسیرهای توسعه بیشتر که در مواد عمومی مشخص شدهاند:[2][6][14]
- ترکیب بیشتر معماریها (Mamba + Transformer + MoE) و بررسی قوانین مقیاسبندی برای MoE.
- گسترش قابلیتهای چندوجهی: یکپارچهسازی Hunyuan3D، HunyuanVideo و HunyuanImage با مدلهای زبانی.
- بهبود استفاده از ابزار (tool use) و قابلیتهای عاملی.
- کاهش هزینههای استنتاج: کوانتیزاسیون (۲-bit برای edge)، بهینهسازی از طریق TRT-LLM/vLLM.
- گسترش پرتفوی مدلهای آزاد.
- توسعه و انتشار گزارشهای دقیق ایمنی و همراستاسازی.
همچنین ببینید
- LLaMA (Meta)
- DeepSeek
پیوندها
- https://cloud.tencent.com/document/product/1729/104753 — مستندات رسمی Tencent Cloud Hunyuan
- https://huggingface.co/tencent/Tencent-Hunyuan-Large — Hunyuan-Large در Hugging Face
- https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large — Hunyuan-Large در GitHub
- https://github.com/Tencent-Hunyuan/Hunyuan-A13B — Hunyuan-A13B در GitHub
- https://tencent.github.io/llm.hunyuan.T1/README_EN.html — صفحه رسمی Hunyuan-T1
- https://www.tencent.com/en-us/articles/2201685.html — اعلام Hunyuan (سپتامبر ۲۰۲۳)
منابع
- Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- Tencent Hunyuan Team. Hunyuan-MT Technical Report. arXiv:2509.05209, 2025. https://arxiv.org/abs/2509.05209
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
- Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
یادداشتها
- ↑ 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
- ↑ 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
- ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
- ↑ 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
- ↑ 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
- ↑ 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
- ↑ 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
- ↑ 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
- ↑ 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
- ↑ 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
- ↑ Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
- ↑ 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
- ↑ 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
- ↑ Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
- ↑ 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
- ↑ LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
- ↑ GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
- ↑ Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
- ↑ Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
- ↑ Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS