YandexGPT (language model) (VI)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — họ các mô hình ngôn ngữ lớn do Yandex phát triển, ra mắt lần đầu vào tháng 5 năm 2023.[1] Các mạng YandexGPT được sử dụng trong trợ lý tích hợp Alice, Tìm kiếm và các dịch vụ khác, đồng thời có thể truy cập qua API công khai của nền tảng Yandex Cloud.[2]

YaLM‑100B (2022) — mô hình nghiên cứu tiền nhiệm với 100 tỷ tham số và mã nguồn mở; mô hình này đóng vai trò "bằng chứng về khái niệm", nhưng YandexGPT được xây dựng riêng biệt cho mục đích thương mại.[3]

Lịch sử phát hành

Các phiên bản chính
Ngày Phiên bản Tính năng nổi bật
Tháng 6 năm 2022 YaLM‑100B 100 tỷ tham số, 1,7 TB dữ liệu; Apache 2.0.[3]
17 tháng 5 năm 2023 YandexGPT 1.0 Tích hợp vào Alice.[1]
7 tháng 9 năm 2023 YandexGPT 2 Tăng 67% chất lượng theo kiểm thử nội bộ.[4]
28 tháng 3 năm 2024 YandexGPT 3 Pro / Lite Dòng API doanh nghiệp mới.[5]
24 tháng 10 năm 2024 YandexGPT 4 Pro / Lite Ngữ cảnh 32.000 token; suy luận ẩn (chain‑of‑thought).[6]
25 tháng 2 năm 2025 YandexGPT 5 Pro Ngang bằng GPT‑4o trong 64% tác vụ.[7]
31 tháng 3 năm 2025 YandexGPT 5 Lite Instruct Mô hình 8 tỷ tham số mã nguồn mở; định dạng Llama.[8]

Kiến trúc và huấn luyện

  • Kiến trúc nền tảng: transformer, được tối ưu hóa cho tiếng Nga.
  • YandexGPT 5 Lite: tương thích với Llama; pre‑training ≈ 15 nghìn tỷ token, fine‑tuning tiếp theo ≈ 320 tỷ.[8]

Ngữ cảnh và giới hạn

  • Giới hạn kiến trúc của ngữ cảnh — 32.000 token (phiên bản 4/5).[6]
  • API công khai giới hạn một yêu cầu (prompt + completion) ở mức 7.400 token.[9]
  • Kích thước tối đa của **phản hồi** — 2.000 token theo mục «Quotas and limits».[10]

Các mô hình hiện tại (tháng 6 năm 2025)

Mô hình Tham số Ngữ cảnh Giấy phép Ghi chú
YandexGPT 5 Pro không rõ 32.000 độc quyền Truy cập qua API và Alice Pro.[7]
YandexGPT 5 Lite 8 tỷ 32.000 Yandex GPT‑Lite License Mã nguồn mở; tương thích Llama.[8]
YaLM‑100B 100 tỷ 2.048 Apache 2.0 Dự án gốc.[3]

Benchmark

  • Kiểm thử nội bộ: 5 Pro đạt mức ngang bằng GPT‑4o trong 64% tác vụ; vượt trội so với 4 Pro là 67%.[7]
  • ru‑LLM Arena: YandexGPT dẫn đầu theo xếp hạng ELO trong số các mô hình tiếng Nga.[11]

Fine‑tuning

Đối với 5 Lite, phương pháp LoRA được hỗ trợ chính thức; ví dụ khởi chạy được công bố trong model card.[8]

Chế độ API

  • Đồng bộ — phản hồi nhanh (Lite).
  • Bất đồng bộ — các tác vụ đòi hỏi nhiều tài nguyên (Pro).[2]

Đa phương thức

Họ YandexGPT vẫn chỉ xử lý văn bản; các dịch vụ đa phương thức («Neuro», «YandexArt», «Yandex Vision») được phát triển riêng biệt.[6]

Liên kết

  • YandexGPT trong Yandex Cloud — trang dịch vụ
  • Trọng số YandexGPT‑5 Lite trên Hugging Face
  • Kho lưu trữ YaLM‑100B trên GitHub

Tài liệu tham khảo

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Ghi chú

  1. 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]