YandexGPT (language model) (SV)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — en familj av stora språkmodeller utvecklade av Yandex och presenterade för första gången i maj 2023.[1] YandexGPT-nätverken används i den inbyggda assistenten Alisa, Sök och andra tjänster, samt är tillgängliga via det publika API:et för plattformen Yandex Cloud.[2]

YaLM‑100B (2022) — en föregående forskningsmodell med 100 miljarder parametrar och öppen källkod; den fungerade som ett "konceptbevis", men YandexGPT utvecklades separat för kommersiellt bruk.[3]

Versionshistorik

Huvudversioner
Datum Version Viktigaste egenskaper
Jun 2022 YaLM‑100B 100 B parametrar, 1,7 TB data; Apache 2.0.[3]
17 maj 2023 YandexGPT 1.0 Integration i "Alisa".[1]
7 sep 2023 YandexGPT 2 +67 % kvalitet enligt interna tester.[4]
28 mar 2024 YandexGPT 3 Pro / Lite Ny företags-API-serie.[5]
24 okt 2024 YandexGPT 4 Pro / Lite Kontextfönster på 32 000 token; dolt resonemang (chain‑of‑thought).[6]
25 feb 2025 YandexGPT 5 Pro Paritet med GPT‑4o i 64 % av uppgifterna.[7]
31 mar 2025 YandexGPT 5 Lite Instruct 8‑miljardersmodell med öppen tillgång; Llama-format.[8]

Arkitektur och träning

  • Grundarkitektur: transformer optimerad för det ryska språket.
  • YandexGPT 5 Lite: Llama‑kompatibel; pre-training ≈ 15 biljoner token, efterföljande fine-tuning ≈ 320 miljarder.[8]

Kontextfönster och begränsningar

  • Arkitekturell kontextgräns — 32 000 token (version 4/5).[6]
  • Det publika API:et begränsar en enskild förfrågan (prompt + completion) till 7 400 token.[9]
  • Maximal storlek på **svar** — 2 000 token enligt avsnittet "Quotas and limits".[10]

Aktuella modeller (juni 2025)

Modell Parametrar Kontextfönster Licens Anmärkningar
YandexGPT 5 Pro ej tillgänglig 32 000 proprietär Tillgänglig via API och "Alisa Pro".[7]
YandexGPT 5 Lite 8 miljarder 32 000 Yandex GPT‑Lite License Öppen; Llama‑kompatibel.[8]
YaLM‑100B 100 miljarder 2 048 Apache 2.0 Ursprungligt projekt.[3]

Benchmark

  • Interna tester: 5 Pro uppnådde paritet med GPT‑4o i 64 % av uppgifterna; överstiger 4 Pro med 67 %.[7]
  • ru‑LLM Arena: YandexGPT håller ledarskapet i ELO-rankning bland ryskspråkiga modeller.[11]

Fine‑tuning

För 5 Lite stöds officiellt metoden LoRA; ett exempelkörningsscript har publicerats i model card.[8]

API‑lägen

  • Synkront — snabba svar (Lite).
  • Asynkront — resurskrävande uppgifter (Pro).[2]

Multimodalitet

YandexGPT-familjen förblir textbaserad; multimodala tjänster ("Neuro", "YandexArt", "Yandex Vision") utvecklas separat.[6]

Externa länkar

  • YandexGPT i Yandex Cloud — tjänstens sida
  • YandexGPT‑5 Lite-vikter på Hugging Face
  • YaLM‑100B-repositorium på GitHub

Litteratur

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Noter

  1. ↑ 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. ↑ 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. ↑ 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. ↑ «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. ↑ «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. ↑ 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. ↑ 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. ↑ 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. ↑ «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. ↑ «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. ↑ «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]
Retrieved from "https://systems-analysis.info/int/index.php?title=YandexGPT_(language_model)_(SV)&oldid=8525"