Hunyuan (Tencent) (FA)

From Systems analysis Wiki
Jump to navigation Jump to search

Hunyuan (چینی: 腾讯混元大模型، Tencent Hunyuan، Tencent HY) — خانواده‌ای از مدل‌های بنیادی (Foundation Models) و مدل‌های زبانی بزرگ (Large Language Model، LLM) است که توسط تیم Tencent Hunyuan Foundation Model Team توسعه یافته و از طریق سرویس ابری Tencent Cloud و همچنین به صورت وزن‌های آزاد روی پلتفرم‌های Hugging Face و GitHub در دسترس است. این خانواده شامل مدل‌هایی برای تولید و درک متن، استنتاج منطقی و ریاضی، برنامه‌نویسی، پردازش متن‌های بلند، و همچنین گسترش‌های چندوجهی (تصویر، ویدئو، سه‌بعدی) می‌شود. Hunyuan به عنوان خط پرچم‌دار هوش مصنوعی مولد Tencent معرفی شده و در اکوسیستم محصولات شرکت (Yuanbao، WeChat، Tencent Meeting، Tencent Cloud) یکپارچه شده است.[1][2][3]

تاریخچه و زمان‌بندی توسعه

توسعه Hunyuan در بستر رقابت جهانی LLM و راهبرد استقلال فناورانه چین در حوزه هوش مصنوعی انجام شد. این خط از مدل‌های dense اختصاصی به سوی معماری‌های باز Mixture-of-Experts (MoE) و ترکیبی Transformer-Mamba تکامل یافت.[1]

نسل اول (۲۰۲۳)

اعلام عمومی سری Hunyuan در ۷ سپتامبر ۲۰۲۳ در نشست Tencent Global Digital Ecosystem Summit در شنژن انجام شد. نسخه اول یک مدل dense اختصاصی با بیش از ۱۰۰ میلیارد پارامتر بود که بر روی بیش از ۲ تریلیون token پیش‌آموزش دیده بود. این مدل بر زبان چینی، استنتاج منطقی و تولید محتوا تمرکز داشت، در بیش از ۵۰ محصول Tencent یکپارچه شد و از طریق API سرویس Tencent Cloud در دسترس بود.[1]

Hunyuan-Large و گذار به MoE (۲۰۲۴)

در نوامبر ۲۰۲۴، شرکت Tencent مدل Hunyuan-Large را منتشر کرد — که در آن زمان بزرگ‌ترین مدل باز Transformer-MoE با ۳۸۹ میلیارد پارامتر کلی و ۵۲ میلیارد پارامتر فعال بود. این مدل با وزن‌های آزاد روی Hugging Face و GitHub منتشر شد و با یک پیش‌چاپ در arXiv همراه گردید. این انتشار نقطه عطف راهبردی Tencent به سوی توسعه آزاد بود.[2][4][5]

مدل‌های ترکیبی و reasoning (۲۰۲۵)

در سال ۲۰۲۵، خط مدل‌ها با چند انتشار کلیدی گسترش یافت:

  • Hunyuan-TurboS (فوریه ۲۰۲۵) — اولین مدل ترکیبی Transformer-Mamba-MoE در مقیاس صنعتی با ۵۶۰ میلیارد پارامتر کلی و ۵۶ میلیارد پارامتر فعال که بر روی ۱۶ تریلیون token پیش‌آموزش دیده است. مکانیزم تطبیقی Adaptive Chain-of-Thought (CoT) برای تغییر پویا بین تفکر سریع و عمیق معرفی شد.[6]
  • Hunyuan-T1 (مارس ۲۰۲۵) — مدل reasoning تخصصی ساخته شده بر پایه TurboS با آموزش تقویتی در مقیاس بزرگ (۹۶٫۷٪ از محاسبات پس از آموزش — reinforcement learning).[7]
  • Hunyuan-A13B (ژوئن ۲۰۲۵) — مدل فشرده MoE (۸۰ میلیارد پارامتر کلی / ۱۳ میلیارد فعال) برای تعادل میان کارایی و هزینه، با پشتیبانی از تفکر سریع و کُند.[8]
  • مدل‌های dense کوچک (ژوئیه ۲۰۲۵) — نسخه‌های ۰٫۵B، ۱٫۸B، ۴B، ۷B برای دستگاه‌های edge و سناریوهای استقرار پررقابت، با پشتیبانی از متن ۲۵۶K توکنی.[9]

Hunyuan 2.0 (نوامبر–دسامبر ۲۰۲۵)

در دسامبر ۲۰۲۵، نسل دوم مدل تجاری Hunyuan 2.0 (HY 2.0) با معماری MoE (۴۰۶ میلیارد پارامتر کلی / ۳۲ میلیارد فعال) و پنجره متنی ۲۵۶K توکن اعلام شد. این خط به دو نسخه تقسیم شده است: HY 2.0 Think (استنتاج عمیق، کد) و HY 2.0 Instruct (گفتگو، تولید خلاقانه). مدل‌ها از طریق Tencent Cloud API در دسترس هستند و در برنامه‌های Yuanbao و ima یکپارچه شده‌اند.[10][11]

زمان‌بندی خلاصه

تاریخ رویداد
سپتامبر ۲۰۲۳ اعلام عمومی Hunyuan به عنوان LLM اختصاصی (>۱۰۰B پارامتر)؛ راه‌اندازی API سرویس Tencent Cloud
فوریه ۲۰۲۴ مدل داخلی MoE برای چت‌بات Yuanbao
آوریل ۲۰۲۴ تغییر نام: «advanced» به hunyuan-pro، «standard» به hunyuan-standard؛ افزوده شدن hunyuan-lite
مه ۲۰۲۴ انتقال hunyuan-lite به MoE، گسترش به متن ۲۵۶K توکنی
سپتامبر ۲۰۲۴ راه‌اندازی hunyuan-turbo جدید (MoE نسل جدید)
نوامبر ۲۰۲۴ انتشار آزاد Hunyuan-Large (389B/52B MoE)، پیش‌چاپ arXiv:2411.02265
فوریه–مارس ۲۰۲۵ Hunyuan-TurboS (ترکیبی Mamba-MoE)؛ Hunyuan-T1 (reasoning)
ژوئن ۲۰۲۵ Hunyuan-A13B (80B/13B، fine-grained MoE)
ژوئیه ۲۰۲۵ مدل‌های dense کوچک ۰٫۵B–۷B
سپتامبر ۲۰۲۵ Hunyuan-MT (مدل تخصصی ترجمه)
نوامبر–دسامبر ۲۰۲۵ Hunyuan 2.0 (HY 2.0 Think / Instruct)، 406B/32B MoE

منبع: پویایی‌های محصول Tencent Cloud؛ مخازن رسمی.[12]

مبانی نظری و معماری

معماری Mixture-of-Experts

مدل‌های کلیدی این سری (Hunyuan-Large، A13B، HY 2.0) از معماری Mixture-of-Experts (MoE) استفاده می‌کنند که در آن برخی لایه‌های transformer شامل چندین «متخصص» (زیرشبکه) هستند و یک مسیریاب (gating network) زیرمجموعه‌ای از متخصصان فعال را برای هر token انتخاب می‌کند. فرمول کلی لایه MoE:[2]

Output=i=1NG(x)iEi(x)

که در آن G(x) تابع مسیریابی (gating)، Ei متخصص i-ام، و N تعداد کل متخصصان است. در این رویکرد، تعداد کل پارامترهای مدل Ptotal به طور قابل توجهی از تعداد پارامترهای فعال در یک گذر Pactive بیشتر است:[2]

PactivePtotal

که این امکان را می‌دهد ظرفیت مدل بدون افزایش متناسب هزینه‌های محاسباتی استنتاج افزایش یابد.

در Hunyuan-Large طرحی با ۱ متخصص مشترک (shared) و ۱۶ متخصص تخصصی با فعال‌سازی ۱ متخصص به ازای هر token (top-1 routing) پیاده‌سازی شده است. نوآوری‌های دیگر شامل مسیریابی ترکیبی با مکانیزم recycle (بازپردازش token‌های رد شده) و نرخ‌های یادگیری اختصاصی هر متخصص برای بهبود تعادل در مشارکت متخصصان است.[2][5]

معماری ترکیبی Transformer-Mamba

مدل‌های Hunyuan-TurboS و T1 معماری ترکیبی را معرفی می‌کنند که بلوک‌های Transformer (attention) و Mamba (مدل فضای حالت) را با هم ادغام می‌کند. Mamba پیچیدگی خطی نسبت به طول دنباله را تضمین می‌کند:[6]

ht=Aht1+Bxt

که در آن A، B ماتریس‌های قابل آموزش، ht حالت پنهان در گام t، و xt token ورودی است. این ویژگی مقیاس‌بندی حافظه O(1) بر حسب طول را فراهم می‌کند (در مقابل O(N) در Transformer استاندارد).[6]

مدل TurboS دارای ۱۲۸ لایه است که در بلوک‌ها سازمان‌دهی شده‌اند: ۵۷ لایه Mamba2، ۷ لایه Attention و ۶۴ لایه FFN-MoE با ۳۲ متخصص. بلوک‌های AMF (Attention → Mamba2 → FFN) و MF (Mamba2 → FFN) برای تأمین تعادل زمینه جهانی و محلی به نوبت تکرار می‌شوند.[6]

مکانیزم‌های توجه و KV-cache

مدل Hunyuan-Large از Grouped Query Attention (GQA) — نوعی توجه که در آن چند کوئری کلیدها و مقادیر مشترک دارند — و Cross-Layer Attention (CLA) برای کاهش حجم KV-cache استفاده می‌کند. حجم استاندارد KV-cache برای یک لایه self-attention با H سر، طول دنباله L و اندازه سر dh:[5]

SKV2HLdh

که SKV حجم KV-cache است. با GQA و Hg<H گروه، حجم به این میزان کاهش می‌یابد:

SKVGQA2HgLdh

CLA علاوه بر این استفاده مجدد از KV-cache میان لایه‌ها را پیش‌بینی می‌کند. در مجموع این بهینه‌سازی‌ها صرفه‌جویی حافظه‌ای تا حدود ۹۵٪ را فراهم می‌کنند.[4]

کدگذاری موقعیتی و متن بلند

مدل‌ها از Rotary Position Embedding (RoPE) با مقیاس‌بندی برای پشتیبانی از دنباله‌های بلند استفاده می‌کنند. آموزش متن به صورت مرحله‌ای (curriculum learning) انجام می‌شود: از ۳۲K تا ۲۵۶K توکن. تابع فعال‌سازی — SwiGLU. واژگان توکن‌ساز — ۱۲۸K (tiktoken با گسترش برای زبان چینی).[2]

آموزش و مقیاس‌بندی

برای مدل‌های MoE، قوانین مقیاس‌بندی (scaling laws) به شکل وابستگی‌های توانی تجربی بررسی می‌شوند:[2]

QabPactiveαcNβ

که Q معیار کیفیت، Pactive تعداد پارامترهای فعال، N حجم داده، و a,b,c,α,β پارامترهایی هستند که به صورت تجربی تعیین می‌شوند. مدل Hunyuan-Large بر استفاده از داده‌های مصنوعی به حجم ۱٫۵ تریلیون توکن تأکید دارد — چند مرتبه بیشتر از انتشارات قبلی در حوزه MoE.[2]

مسیر آموزش و هم‌راستاسازی

فرآیند آموزش مدل‌های Hunyuan شامل چندین مرحله متداول در LLM‌های مدرن است:[2][7]

پیش‌آموزش (Pre-training)

آموزش در مقیاس بزرگ بر روی پیکره چندزبانه گسترده (چینی، انگلیسی و زبان‌های دیگر). Hunyuan-Large بر روی ۷ تریلیون توکن (شامل ۱٫۵ تریلیون مصنوعی) پیش‌آموزش دیده است. TurboS — بر روی ۱۶ تریلیون توکن. ترکیب دقیق مجموعه داده‌ها فاش نشده است.[2][6]

تنظیم دقیق با نظارت (Supervised Fine-Tuning، SFT)

تنظیم دقیق بر روی بیش از ۱ میلیون دستورالعمل (جفت‌های «دستورالعمل — پاسخ») که مدل را به پیروی از دستورالعمل‌های کاربر سوق می‌دهد.[2]

هم‌راستاسازی با استفاده از یادگیری تقویتی

برای هم‌راستاسازی رفتار مدل با ترجیحات انسانی از روش‌های زیر استفاده می‌شود:

Direct Preference Optimization (DPO) — روش هم‌راستاسازی بدون مدل پاداش صریح که در Hunyuan-Large به کار رفته است.[2]

Reinforcement Learning (RL) — در Hunyuan-T1 از یادگیری تقویتی در مقیاس بزرگ با curriculum learning استفاده می‌شود؛ بنا به اظهار توسعه‌دهنده، ۹۶٫۷٪ از محاسبات پس از آموزش به RL اختصاص دارد.[7]

Adaptive Long-Short Chain-of-Thought — در TurboS مکانیزم تغییر پویا میان تفکر سریع و عمیق پیاده‌سازی شده که به مدل امکان می‌دهد عمق استنتاج را متناسب با پیچیدگی وظیفه تنظیم کند.[6]

ترکیب خانواده مدل‌ها

این خانواده به مدل‌های API ابری بسته و مدل‌های آزاد با وزن تقسیم می‌شود.[3]

مدل‌های اصلی (مرور)

مدل تاریخ انتشار معماری پارامترها (کل / فعال) متن دسترسی
Hunyuan (2023) سپتامبر ۲۰۲۳ Dense Transformer >۱۰۰ میلیارد / — فاش نشده API اختصاصی
Hunyuan-Large نوامبر ۲۰۲۴ Transformer-MoE ۳۸۹ میلیارد / ۵۲ میلیارد ۲۵۶K (pretrain)، ۱۲۸K (instruct) وزن‌های آزاد (GitHub، HF)
Hunyuan-TurboS فوریه ۲۰۲۵ Hybrid Transformer-Mamba-MoE ۵۶۰ میلیارد / ۵۶ میلیارد ۲۵۶K (معماری)، ۳۲K/۱۶K (API) API اختصاصی + نسخه‌های آزاد
Hunyuan-T1 مارس ۲۰۲۵ بر پایه TurboS + RL مقیاس‌پذیر ۳۲K/۶۴K (API) API اختصاصی
Hunyuan-A13B ژوئن ۲۰۲۵ Fine-grained MoE ۸۰ میلیارد / ۱۳ میلیارد ۲۵۶K (آزاد)، ۲۲۴K/۳۲K (API) وزن‌های آزاد + API
کوچک (0٫5–7B) ژوئیه ۲۰۲۵ Dense ۰٫۵–۷ میلیارد ۲۵۶K وزن‌های آزاد
HY 2.0 Think نوامبر ۲۰۲۵ MoE ۴۰۶ میلیارد / ۳۲ میلیارد ۱۲۸K ورودی / ۶۴K خروجی (API) API اختصاصی
HY 2.0 Instruct نوامبر ۲۰۲۵ MoE ۴۰۶ میلیارد / ۳۲ میلیارد ۱۲۸K ورودی / ۱۶K خروجی (API) API اختصاصی

منابع: arXiv:2411.02265؛ arXiv:2505.15431؛ مستندات Tencent Cloud؛ GitHub.[2][6][3][10]

توجه. برای برخی مدل‌ها، محدودیت‌های معماری متن (از گزارش‌های فنی) و محدودیت‌های سرویس API (از مستندات محصول) با هم تفاوت دارند. این تناقض نیست، بلکه تفاوت میان پیکربندی‌های پژوهشی و محصولی را نشان می‌دهد.[6][3]

مدل‌های تخصصی

Hunyuan-MT (سپتامبر ۲۰۲۵) — مدل تخصصی ترجمه ماشینی که در WMT25 در ۳۰ از ۳۱ رده مقام اول را کسب کرد.[13]

HunyuanImage، HunyuanVideo، Hunyuan3D — مدل‌های چندوجهی خانواده برای تولید تصویر، ویدئو و اشیاء سه‌بعدی به ترتیب.[14]

جایگاه‌یابی و روابط تکاملی

در مستندات Tencent Cloud روابط تکاملی زیر مشاهده می‌شود:

  • hunyuan-a13b به عنوان ارتقاء hunyuan-standard-256K معرفی شده است.
  • hunyuan-t1 بر پایه TurboS با پس‌آموزش تقویتی تقویت‌شده ساخته شده است.
  • HY 2.0 Think/Instruct — شاخه‌ای که پایه آن از TurboS به Hunyuan 2.0 به‌روز شده است.
  • شاخه آزاد (Hunyuan-Large، A13B، dense فشرده) به موازات شاخه API بسته توسعه می‌یابد و دسترسی پژوهشی را فراهم می‌کند.[3]

نوآوری‌های نسل‌های کلیدی

Hunyuan-Large (2024)

در مقایسه با نسل اول و رویکردهای قبلی MoE، Hunyuan-Large موارد زیر را معرفی می‌کند:[2][4]

  • مقیاس ۳۸۹ میلیارد پارامتر (۵۲ میلیارد فعال) — بزرگ‌ترین مدل Transformer-MoE آزاد در زمان انتشار.
  • پشتیبانی از متن ۲۵۶K (pretrain) و ۱۲۸K (instruct) — فراتر از مقادیر معمول LLM‌های انبوه در سال ۲۰۲۴.
  • فشرده‌سازی KV-cache بر پایه GQA + CLA (صرفه‌جویی حافظه ~۹۵٪).
  • داده مصنوعی در مقیاس بزرگ (۱٫۵ تریلیون توکن داده مصنوعی).
  • مسیریابی ترکیبی متخصصان و نرخ‌های یادگیری اختصاصی هر متخصص.

Hunyuan-TurboS (2025)

تغییر معماری کلیدی:[6]

  • ترکیب Mamba2 + Attention + MoE: ۵۶۰B کل / ۵۶B فعال، ۱۲۸ لایه.
  • پیش‌آموزش بر روی ۱۶ تریلیون توکن.
  • Adaptive Long-Short Chain-of-Thought برای مدیریت پویای عمق استنتاج.
  • تسریع ادعا شده رمزگشایی ۱٫۸–۲ برابر در مقایسه با نسخه قبلی Turbo.

Hunyuan-T1 (2025)

مدل reasoning بر پایه TurboS:[7]

  • ۹۶٫۷٪ از محاسبات پس از آموزش — reinforcement learning.
  • تسریع دوبرابری رمزگشایی با محیط استقرار مشابه.
  • Curriculum learning برای بهبود راهبردهای استنتاج.

HY 2.0 (2025)

به‌روزرسانی پرچم‌دار تجاری:[10][11]

  • معماری MoE: ۴۰۶B پارامتر کل / ۳۲B فعال.
  • پنجره متنی ۲۵۶K توکن.
  • رشد چشمگیر در معیارهای تخصصی: IMO-AnswerBench 73٫4٪ (+20٪ نسبت به نسخه قبلی HY)، SWE-bench Verified 53٫0 (از 6٫0)، τ²-Bench 72٫4 (از 17٫1).
  • بهبود در RLHF و راهبردهای پس‌آموزش.

ارزیابی و معیارها

ارزیابی بر روی معیارهای استاندارد با استفاده از پروتکل‌های zero-shot و few-shot انجام شد. نتایج بر اساس گزارش‌های فنی و مخازن رسمی هستند؛ برای برخی مدل‌ها، تأییدیه‌های خارجی مستقل هنوز محدود است.[2]

معیارهای Hunyuan-Large (pretrain)

معیار Hunyuan-Large Llama 3.1-405B Llama 3.1-70B Mixtral-8x22B DeepSeek-V2
MMLU 88٫4 85٫2 79٫3 77٫8 78٫5
CMMLU 90٫2 84٫0
C-Eval 91٫9 81٫7
GSM8K 92٫8 89٫0 83٫7 83٫7 79٫2
MATH 69٫8 53٫8 41٫4 42٫5 43٫6
HumanEval 71٫4 61٫0 58٫5 53٫1 48٫8

منبع: arXiv:2411.02265.[2]

بر اساس گزارش فنی، Hunyuan-Large (pretrain) در ۱۵ از ۱۹ معیار در مقایسه با Llama 3.1-405B، Mixtral-8x22B و DeepSeek-V2 پیشتاز است.[2]

معیارهای Hunyuan-Large-Instruct

معیار Hunyuan-Large-Instruct
MMLU 89٫9
MATH 77٫4
HumanEval 90٫0
Arena-Hard 81٫8

منبع: arXiv:2411.02265؛ کارت مدل Hugging Face.[2][5]

بنا به اظهار توسعه‌دهندگان، Hunyuan-Large-Instruct در معیار MMLU از LLaMA 3.1-405B با ۲٫۶ درصد امتیاز بهتر است.[4]

معیارهای TurboS و T1

معیار TurboS T1
LMSYS Chatbot Arena 1356 (جایگاه ۷ برتر)
میانگین در ۲۳ معیار 77٫9٪
MMLU-Pro 87٫2
GPQA-Diamond 69٫3
MATH-500 96٫2
LiveCodeBench 64٫9
Arena-Hard 91٫9

منابع: arXiv:2505.15431؛ صفحه رسمی T1.[6][7]

معیارهای Hunyuan-A13B

معیار Hunyuan-A13B Hunyuan-Large Qwen2.5-72B
MMLU 88٫17 88٫4
MMLU-Pro 67٫23 60٫2
BBH 87٫56 86٫3
MATH 72٫35 69٫8
GPQA 49٫12
MBPP 83٫86

منبع: README مخزن GitHub مدل Hunyuan-A13B.[8]

مدل A13B در تعدادی از وظایف حساس به پس‌آموزش (MMLU-Pro، MATH، MBPP) از Hunyuan-Large پیشی می‌گیرد، که با جایگاه آن به عنوان نسخه‌ای به‌روزتر و کاربردی‌تر سازگار است.[8]

معیارهای شاخه dense فشرده

مدل MMLU MMLU-Pro BBH GSM8K MATH
Hunyuan-0٫5B 54٫02 31٫15 45٫92 55٫64 42٫95
Hunyuan-1٫8B 64٫62 38٫65 74٫32 77٫26 62٫85
Hunyuan-4B 74٫01 51٫91 75٫17 87٫49 72٫25
Hunyuan-7B 79٫82 57٫79 82٫95 88٫25 74٫85

منبع: README مخزن GitHub مدل Hunyuan-7B.[9]

معیارهای HY 2.0

این ارقام توسط توسعه‌دهنده اعلام شده‌اند (تنها منبع صریح — حساب رسمی Hunyuan):[11]

معیار HY 2.0 نسخه قبلی HY
IMO-AnswerBench 73٫4 ~53 (تخمین، +20٪)
SWE-bench Verified 53٫0 6٫0
τ²-Bench 72٫4 17٫1

توجه. این داده‌ها به عنوان «اعلام‌شده توسط توسعه‌دهنده، در انتظار تأیید گسترده خارجی» طبقه‌بندی می‌شوند.[11]

جزئیات فنی استفاده

پنجره متنی بر اساس شاخه‌ها

مدل ورودی (توکن) خروجی (توکن)
HY 2.0 Think 128K 64K
HY 2.0 Instruct 128K 16K
T1 (API) 32K 64K
A13B (API) 224K 32K
TurboS (API) 32K 16K
Lite (API) 250K 6K
Hunyuan-Large (آزاد) 256K (pretrain) / 128K (instruct)
Compact 0٫5–7B 256K

منبع: مرور کلی محصول Tencent Cloud.[3]

ابزارهای پشتیبانی‌شده

در مستندات Tencent Cloud API موارد زیر مستند شده‌اند:[15]

  • Function Calling (tools، tool_choice).
  • AI Search Enhancement — جستجوی داخلی در منابع خارجی (retrieval-augmented generation).
  • SearchInfo و Citation — نشانه‌گذاری استناد در پاسخ‌ها.
  • EnableMultimedia — درج چندرسانه‌ای در خروجی.
  • EnableThinking — سوئیچ chain-of-thought برای A13B.
  • EnableRecommendedQuestions — تولید پرسش‌های پیشنهادی.

سازگاری API

Hunyuan API از قالب سازگار با OpenAI پشتیبانی می‌کند:[16]

  • Base URL: https://api.hunyuan.cloud.tencent.com/v1.
  • /v1/chat/completions و /v1/embeddings پشتیبانی می‌شوند.
  • مدل Embedding: hunyuan-embedding، ابعاد ۱۰۲۴.
  • پخش جریانی (Streaming) از طریق SSE.
  • همزمانی پیش‌فرض: ۵ به ازای هر حساب.

برای Hunyuan-Large (آزاد) قالب استاندارد ورودی/خروجی با چارچوب‌های PyTorch/Transformers سازگار است. کوانتیزاسیون پشتیبانی می‌شود: FP8، INT4 (GPTQ/AWQ).[5]

کاربرد و یکپارچه‌سازی

مدل‌های Hunyuan در اکوسیستم Tencent یکپارچه شده و برای توسعه‌دهندگان خارجی نیز در دسترس است. سناریوهای اصلی مستندشده:[1][17]

محصولات Tencent

  • Yuanbao — چت‌بات با پشتیبانی از Hunyuan و DeepSeek.
  • Tencent Meeting — تولید خلاصه جلسات.
  • Tencent Docs — تولید و تحلیل متن.
  • ima — دستیار هوش مصنوعی مالی و چندرسانه‌ای.

کاربردهای سازمانی

  • تولید متن: مقالات، متون تبلیغاتی، فیلمنامه‌ها، توضیحات محصول.
  • پشتیبانی هوشمند از مشتری: چت‌بات‌ها، FAQ، خودکارسازی پاسخ.
  • تولید و تحلیل کد (به‌ویژه HY 2.0 Think و T1).
  • استنتاج ریاضی و منطقی، وظایف تحلیلی.
  • ترجمه چندزبانه (بیش از ۳۰ زبان، Hunyuan-MT).

مدل‌های آزاد

نسخه‌های آزاد برای پژوهش، تنظیم دقیق و استقرار روی دستگاه‌های edge (مدل‌های dense کوچک) استفاده می‌شوند. گسترش‌های چندوجهی (HunyuanImage، HunyuanVideo، Hunyuan3D) برای مدل‌سازی سه‌بعدی و تولید ویدئو به کار می‌روند.[14]

محدودیت‌ها و مسائل باز

  • بسته بودن مدل‌های تجاری. برای HY 2.0 و T1 وزن‌های آزاد و مشخصات معماری دقیق وجود ندارد؛ دسترسی به API محدود است که بازتولید مستقل را دشوار می‌کند.[3]
  • ناشفافیت داده‌های آموزشی. اگرچه استفاده از داده‌های مصنوعی در مقیاس بزرگ مورد تأکید است، ترکیب دقیق مجموعه داده‌ها، سهم زبان‌ها و حوزه‌های موضوعی فاش نشده است.[2]
  • نیازمندی‌های محاسباتی. مدل‌های آزاد به منابع قابل توجهی نیاز دارند: حداقل ۳۲ GPU برای fine-tuning کامل Hunyuan-Large؛ ده‌ها گیگابایت VRAM حتی با FP8.[5]
  • توهم‌زایی. مانند سایر LLM‌ها، مدل‌ها مستعد تولید ادعاهای قابل باور اما واقعاً نادرست هستند. پژوهش‌های سیستماتیک در این زمینه برای Hunyuan در آثار داوری‌شده آزاد هنوز محدود است.[18]
  • تفاوت محدودیت‌های معماری و سرویس. برای برخی مدل‌ها (TurboS، A13B)، محدودیت‌های سرویس API به طور قابل توجهی پایین‌تر از قابلیت‌های معماری است.[6][3]
  • دسترسی منطقه‌ای. تمرکز اصلی بر بازار چین است؛ API برای کاربران خارج از چین دارای محدودیت‌های زبانی و حقوقی است.[17]
  • فقدان گزارش‌های ایمنی دقیق. در مستندات اصول کلی ایمنی و فیلتر محتوا بیان شده، اما گزارش‌های فنی ایمنی عمومی قابل مقایسه با برخی مدل‌های بین‌المللی وجود ندارد.[15]
  • سازگاری شاخه open-source. پس از انتشارها، مشکلاتی در یکپارچه‌سازی با transformers / vllm گزارش شد، جایی که کتابخانه‌ها نوع معماری hunyuan_v1_dense را تشخیص نمی‌دادند و نیاز به trust_remote_code یا شاخه‌های خاص داشتند.[19]

حوادث و مشکلات شناخته‌شده

تا زمان تهیه این مواد (اواخر ۲۰۲۵ — اوایل ۲۰۲۶) هیچ حادثه عمومی بزرگی که به طور خاص به Hunyuan مربوط باشد (نشت داده‌های گسترده، تهدیدات امنیتی منحصربه‌فرد) ثبت نشده است.[17]

اصلاحات مستندشده محصول

در پویایی‌های محصول Tencent Cloud اصلاحات جزئی زیر ثبت شده‌اند:[12]

  • 2024-11-20: hunyuan-turbo-latest برای رفع تکرار ناشی از کاراکترهای خاص، افزایش پایداری خروجی Markdown و کاهش رد درخواست‌های بی‌دلیل به‌روز شد.
  • 2025-04-03: به‌روزرسانی T1 با اصلاح اختلاط چینی ساده‌شده/سنتی و اختلاط چینی/انگلیسی، به علاوه بهبود تولید کد در سطح پروژه.
  • 2025-04-20: Search Enhancement از حالت پیش‌فرض فعال به پیش‌فرض غیرفعال تغییر یافت — که در واقع تغییری رفتاری در API برای یکپارچه‌سازی‌ها بود.

پژوهش‌های ایمنی MoE

در سطح نقد پژوهشی (سطح پیش‌چاپ)، Hunyuan-A13B در آثاری درباره حملات به بومی‌سازی ایمنی در مدل‌های MoE مطرح شده است. به‌ویژه در آثار Large Language Lobotomy و GateBreaker نرخ موفقیت بالای حمله در «خاموش کردن» متخصصان ایمنی گزارش شده است. این موضوع تأییدکننده یک حادثه در محیط تولید نیست، اما نشان می‌دهد که ایمنی مسیریابی MoE به عنوان یک بردار آسیب‌پذیر پژوهشی در نظر گرفته می‌شود.[20][21]

جنبه‌های اخلاقی و نظارتی

Hunyuan در بستر حقوقی و نظارتی چین فعالیت می‌کند، از جمله قوانین ملی مدیریت هوش مصنوعی مولد (CAC) و فیلتر محتوا، و همچنین سیاست‌های داخلی امنیت داده Tencent. مستندات Tencent Cloud تأکید دارند که استفاده از Hunyuan API باید با قوانین قابل اعمال و سیاست پلتفرم مطابقت داشته باشد.[1]

اقدامات مشخص عبارتند از:

  • نظارت محتوای داخلی با خروجی پخش جریانی و احتمال FinishReason=sensitive.
  • هم‌راستاسازی از طریق RLHF/DPO برای کاهش توهم‌زایی و رفتار ناخواسته.
  • فیلتر داده‌های آموزشی برای به حداقل رساندن تعصب.
  • مجوزهای آزاد (Tencent Hunyuan Community License Agreement) برای مدل‌های آزاد، با این تبصره که این توافقنامه برای برخی نسخه‌ها در اتحادیه اروپا اعمال نمی‌شود.[8][15]

گزارش‌های مستقل تخصصی درباره تعصب و انصاف برای Hunyuan هنوز اندک است؛ پژوهش‌های بیشتری با گسترش وزن‌های آزاد و آزمون‌های مستقل انتظار می‌رود.[2]

بازتاب جامعه

مهم‌ترین سیگنال خارجی برای شاخه بسته — نتیجه TurboS در LMSYS Chatbot Arena (1356، جایگاه ۷ برتر جهانی) است. برای شاخه آزاد، شاخص غیرمستقیم — فعالیت GitHub است: حدود ۱٫۶ هزار ستاره برای Hunyuan-Large، ۸۱۲ برای A13B، ۶۸۳ برای Hunyuan-MT. این سطح قابل توجه اما نه غالب در مقیاس اکوسیستم LLM آزاد را نشان می‌دهد. ارزیابی‌های ذهنی جامعه (Hugging Face، Reddit) نقاط قوت در زبان چینی و وظایف agent را برجسته می‌کنند.[22]

چشم‌انداز و جهت‌گیری‌های پژوهشی

مسیرهای توسعه بیشتر که در مواد عمومی مشخص شده‌اند:[2][6][14]

  • ترکیب بیشتر معماری‌ها (Mamba + Transformer + MoE) و بررسی قوانین مقیاس‌بندی برای MoE.
  • گسترش قابلیت‌های چندوجهی: یکپارچه‌سازی Hunyuan3D، HunyuanVideo و HunyuanImage با مدل‌های زبانی.
  • بهبود استفاده از ابزار (tool use) و قابلیت‌های عاملی.
  • کاهش هزینه‌های استنتاج: کوانتیزاسیون (۲-bit برای edge)، بهینه‌سازی از طریق TRT-LLM/vLLM.
  • گسترش پرتفوی مدل‌های آزاد.
  • توسعه و انتشار گزارش‌های دقیق ایمنی و هم‌راستاسازی.

همچنین ببینید

  • LLaMA (Meta)
  • DeepSeek

پیوندها

منابع

یادداشت‌ها

  1. 1.0 1.1 1.2 1.3 1.4 Tencent. Tencent Unveils Hunyuan, its Proprietary Large Foundation Model on Tencent Cloud. tencent.com, 7 сентября 2023. https://www.tencent.com/en-us/articles/2201685.html
  2. 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 2.20 Sun, X. et al. Hunyuan-Large: An Open-Source MoE Model with 52 Billion Activated Parameters by Tencent. arXiv:2411.02265, 2024. https://arxiv.org/abs/2411.02265
  3. 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 Tencent Cloud. «腾讯混元大模型 产品概述». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/104753
  4. 4.0 4.1 4.2 4.3 Tencent-Hunyuan. Tencent-Hunyuan-Large. GitHub, 2024. https://github.com/Tencent-Hunyuan/Tencent-Hunyuan-Large
  5. 5.0 5.1 5.2 5.3 5.4 5.5 Tencent. tencent/Tencent-Hunyuan-Large. Hugging Face. https://huggingface.co/tencent/Tencent-Hunyuan-Large
  6. 6.00 6.01 6.02 6.03 6.04 6.05 6.06 6.07 6.08 6.09 6.10 6.11 Tencent Hunyuan Team. Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought. arXiv:2505.15431, 2025. https://arxiv.org/abs/2505.15431
  7. 7.0 7.1 7.2 7.3 7.4 Tencent. llm.hunyuan.T1. Tencent GitHub Pages, 2025. https://tencent.github.io/llm.hunyuan.T1/README_EN.html
  8. 8.0 8.1 8.2 8.3 Tencent-Hunyuan. Hunyuan-A13B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-A13B
  9. 9.0 9.1 Tencent-Hunyuan. Hunyuan-7B. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-7B
  10. 10.0 10.1 10.2 TechNode. Tencent releases Hunyuan 2.0, its next-generation AI model. technode.com, 8 декабря 2025. https://technode.com/2025/12/08/tencent-releases-hunyuan-2-0-its-next-generation-ai-model/
  11. 11.0 11.1 11.2 11.3 Hunyuan Official Account. Tencent HY 2.0 is officially released. X (бывш. Twitter), 4 декабря 2025. https://x.com/TencentHunyuan/status/1996948083377332614
  12. 12.0 12.1 Tencent Cloud. «腾讯混元大模型 产品动态». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/97765
  13. Tencent-Hunyuan. Hunyuan-MT. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan-MT
  14. 14.0 14.1 14.2 Tencent-Hunyuan. Hunyuan3D-2. GitHub, 2025. https://github.com/Tencent-Hunyuan/Hunyuan3D-2
  15. 15.0 15.1 15.2 Tencent Cloud. «对话» (Chat). Tencent Cloud API Documentation. https://cloud.tencent.com/document/product/1729/105701
  16. Tencent Cloud. «混元 OpenAI 兼容接口相关调用示例». Tencent Cloud Documentation. https://cloud.tencent.com/document/product/1729/111007
  17. 17.0 17.1 17.2 Tencent Cloud. How to use Tencent Hunyuan large model for natural language processing. Tencent Cloud Techpedia. https://www.tencentcloud.com/techpedia/109099
  18. LangChain. Tencent Hunyuan integration. Docs by LangChain, 2026. https://docs.langchain.com/oss/python/integrations/chat/tencent_hunyuan
  19. GitHub Issues. Hunyuan-1.8B issues. https://github.com/Tencent-Hunyuan/Hunyuan-1.8B/issues
  20. Lintelo, J. et al. Large Language Lobotomy: Jailbreaking Mixture-of-Experts LLMs. arXiv:2602.08741, 2026. https://arxiv.org/abs/2602.08741
  21. Wu, L. et al. GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs. arXiv:2512.21008, 2025. https://arxiv.org/abs/2512.21008
  22. Tencent-Hunyuan. Hunyuan-TurboS. GitHub. https://github.com/Tencent-Hunyuan/Hunyuan-TurboS