YandexGPT (language model) (TH)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — กลุ่มโมเดลภาษาขนาดใหญ่ที่พัฒนาโดย Yandex และเปิดตัวครั้งแรกในเดือนพฤษภาคม ค.ศ. 2023[1] เครือข่าย YandexGPT ถูกนำไปใช้งานในผู้ช่วยในตัวชื่อ Alice, บริการค้นหา และบริการอื่น ๆ รวมถึงสามารถเข้าถึงได้ผ่าน API สาธารณะของแพลตฟอร์ม Yandex Cloud[2]

YaLM‑100B (2022) — โมเดลวิจัยรุ่นก่อนหน้าที่มีพารามิเตอร์ 100 พันล้านตัวและเป็นโอเพนซอร์ส ซึ่งทำหน้าที่เป็น "หลักฐานแนวคิด" แต่ YandexGPT ถูกสร้างขึ้นแยกต่างหากเพื่อการใช้งานเชิงพาณิชย์[3]

ประวัติการเปิดตัว

เวอร์ชันหลัก
วันที่ รุ่น คุณสมบัติสำคัญ
มิ.ย. 2022 YaLM‑100B พารามิเตอร์ 100B, ข้อมูล 1.7 TB; Apache 2.0[3]
17 พ.ค. 2023 YandexGPT 1.0 รวมเข้ากับ Alice[1]
7 ก.ย. 2023 YandexGPT 2 คุณภาพเพิ่มขึ้น +67% จากการทดสอบภายใน[4]
28 มี.ค. 2024 YandexGPT 3 Pro / Lite สายผลิตภัณฑ์ API ระดับองค์กรใหม่[5]
24 ต.ค. 2024 YandexGPT 4 Pro / Lite บริบท 32,000 token; การให้เหตุผลแบบซ่อน (chain‑of‑thought)[6]
25 ก.พ. 2025 YandexGPT 5 Pro เทียบเท่า GPT‑4o ใน 64% ของงาน[7]
31 มี.ค. 2025 YandexGPT 5 Lite Instruct โมเดลขนาด 8 พันล้านพารามิเตอร์ในรูปแบบสาธารณะ; รูปแบบ Llama[8]

สถาปัตยกรรมและการฝึกอบรม

  • สถาปัตยกรรมพื้นฐาน: transformer ที่ได้รับการปรับแต่งสำหรับภาษารัสเซีย
  • YandexGPT 5 Lite: รองรับ Llama; pre‑training ≈ 15 ล้านล้าน token, fine‑tuning ตามมา ≈ 320 พันล้าน[8]

บริบทและขีดจำกัด

  • ขีดจำกัดบริบทตามสถาปัตยกรรม — 32,000 token (เวอร์ชัน 4/5)[6]
  • API สาธารณะจำกัดคำขอเดียว (prompt + completion) ที่ 7,400 token[9]
  • ขนาดสูงสุดของคำตอบ — 2,000 token ตามส่วน "Quotas and limits"[10]

โมเดลปัจจุบัน (มิถุนายน 2025)

โมเดล พารามิเตอร์ บริบท สัญญาอนุญาต หมายเหตุ
YandexGPT 5 Pro ไม่ระบุ 32,000 กรรมสิทธิ์ เข้าถึงผ่าน API และ Alice Pro[7]
YandexGPT 5 Lite 8 พันล้าน 32,000 Yandex GPT‑Lite License เปิดให้ใช้งาน; รองรับ Llama[8]
YaLM‑100B 100 พันล้าน 2,048 Apache 2.0 โครงการต้นฉบับ[3]

Benchmark

  • การทดสอบภายใน: 5 Pro บรรลุความเท่าเทียมกับ GPT‑4o ใน 64% ของงาน; เหนือกว่า 4 Pro อยู่ที่ 67%[7]
  • ru‑LLM Arena: YandexGPT รักษาตำแหน่งนำโดย ELO rating ในกลุ่มโมเดลภาษารัสเซีย[11]

Fine‑tuning

สำหรับ 5 Lite รองรับวิธี LoRA อย่างเป็นทางการ; ตัวอย่างการรันได้เผยแพร่ใน model card[8]

โหมด API

  • แบบซิงโครนัส — การตอบสนองที่รวดเร็ว (Lite)
  • แบบอะซิงโครนัส — งานที่ต้องใช้ทรัพยากรมาก (Pro)[2]

Multimodality

กลุ่มโมเดล YandexGPT ยังคงเป็นแบบข้อความเท่านั้น; บริการ multimodal ("Neuro", "YandexArt", "Yandex Vision") ได้รับการพัฒนาแยกต่างหาก[6]

ลิงก์

  • YandexGPT ใน Yandex Cloud — หน้าบริการ
  • น้ำหนักโมเดล YandexGPT‑5 Lite บน Hugging Face
  • Repository ของ YaLM‑100B บน GitHub

บรรณานุกรม

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

หมายเหตุ

  1. 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]