YandexGPT (language model) (CS)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — rodina velkých jazykových modelů vyvinutých společností Yandex, poprvé představená v květnu 2023.[1] Sítě YandexGPT jsou využívány ve vestavěném asistentovi Alice, ve Vyhledávání a dalších službách, a jsou také dostupné prostřednictvím veřejného API platformy Yandex Cloud.[2]

YaLM‑100B (2022) — předchozí výzkumný model se 100 miliardami parametrů a otevřeným kódem; sloužil jako „důkaz konceptu", avšak YandexGPT byl vyvíjen samostatně pro komerční využití.[3]

Historie vydání

Hlavní verze
Datum Vydání Klíčové vlastnosti
Čvn 2022 YaLM‑100B 100 B parametrů, 1,7 TB dat; Apache 2.0.[3]
17. kvě 2023 YandexGPT 1.0 Integrace do aplikace Alice.[1]
7. zář 2023 YandexGPT 2 +67 % kvality dle interních testů.[4]
28. bře 2024 YandexGPT 3 Pro / Lite Nová podniková linie API.[5]
24. říj 2024 YandexGPT 4 Pro / Lite Kontext 32 000 tokenů; skryté uvažování (chain‑of‑thought).[6]
25. úno 2025 YandexGPT 5 Pro Parita s GPT‑4o v 64 % úloh.[7]
31. bře 2025 YandexGPT 5 Lite Instruct Model s 8 miliardami parametrů ve volném přístupu; formát Llama.[8]

Architektura a trénování

  • Základní architektura: transformer optimalizovaný pro ruský jazyk.
  • YandexGPT 5 Lite: kompatibilní s Llama; pre‑training ≈ 15 bilionů tokenů, následný fine‑tuning ≈ 320 miliard.[8]

Kontext a limity

  • Architektonický limit kontextu — 32 000 tokenů (verze 4/5).[6]
  • Veřejné API omezuje jeden požadavek (prompt + completion) na 7 400 tokenů.[9]
  • Maximální velikost **odpovědi** — 2 000 tokenů dle sekce „Quotas and limits".[10]

Aktuální modely (červen 2025)

Model Parametry Kontext Licence Poznámky
YandexGPT 5 Pro neuvedeno 32 000 proprietární Přístup přes API a Alice Pro.[7]
YandexGPT 5 Lite 8 mld 32 000 Yandex GPT‑Lite License Otevřený; kompatibilní s Llama.[8]
YaLM‑100B 100 mld 2 048 Apache 2.0 Původní projekt.[3]

Benchmarky

  • Interní testy: 5 Pro dosáhl parity s GPT‑4o v 64 % úloh; převaha nad 4 Pro — 67 %.[7]
  • ru‑LLM Arena: YandexGPT si udržuje vedení podle ELO ratingu mezi ruskojazyčnými modely.[11]

Fine‑tuning

Pro 5 Lite je oficiálně podporována metoda LoRA; příklad spuštění je zveřejněn v model card.[8]

Režimy API

  • Synchronní — rychlé odpovědi (Lite).
  • Asynchronní — výpočetně náročné úlohy (Pro).[2]

Multimodalita

Rodina YandexGPT zůstává textová; multimodální služby („Neuro", „YandexArt", „Yandex Vision") se vyvíjejí samostatně.[6]

Odkazy

  • YandexGPT v Yandex Cloud — stránka služby
  • Váhy YandexGPT‑5 Lite na Hugging Face
  • Repozitář YaLM‑100B na GitHubu

Literatura

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Poznámky

  1. ↑ 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. ↑ 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. ↑ 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. ↑ «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. ↑ «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. ↑ 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. ↑ 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. ↑ 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. ↑ «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. ↑ «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. ↑ «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]
Retrieved from "https://systems-analysis.info/int/index.php?title=YandexGPT_(language_model)_(CS)&oldid=8513"