YandexGPT (language model) (PL)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — rodzina dużych modeli językowych opracowanych przez Yandex, po raz pierwszy przedstawiona w maju 2023 roku.[1] Sieci YandexGPT są wykorzystywane we wbudowanym asystencie Alisa, w Wyszukiwarce i innych usługach, a także dostępne przez publiczne API platformy Yandex Cloud.[2]

YaLM‑100B (2022) — poprzedni badawczy model o 100 miliardach parametrów i otwartym kodzie źródłowym; posłużył jako „dowód koncepcji", natomiast YandexGPT tworzony był oddzielnie z myślą o zastosowaniach komercyjnych.[3]

Historia wydań

Główne wersje
Data Wydanie Kluczowe cechy
Cze 2022 YaLM‑100B 100 B parametrów, 1,7 TB danych; Apache 2.0.[3]
17 maj 2023 YandexGPT 1.0 Integracja z „Alisą".[1]
7 wrz 2023 YandexGPT 2 +67 % jakości według testów wewnętrznych.[4]
28 mar 2024 YandexGPT 3 Pro / Lite Nowa korporacyjna linia API.[5]
24 paź 2024 YandexGPT 4 Pro / Lite Kontekst 32 000 tokenów; ukryte rozumowanie (chain‑of‑thought).[6]
25 lut 2025 YandexGPT 5 Pro Równorzędność z GPT‑4o w 64 % zadań.[7]
31 mar 2025 YandexGPT 5 Lite Instruct Model 8 mld parametrów w otwartym dostępie; format Llama.[8]

Architektura i uczenie

  • Podstawowa architektura: transformer zoptymalizowany pod język rosyjski.
  • YandexGPT 5 Lite: kompatybilny z Llama; pre‑training ≈ 15 bln tokenów, następnie fine‑tuning ≈ 320 mld.[8]

Kontekst i limity

  • Architektoniczny limit kontekstu — 32 000 tokenów (wersje 4/5).[6]
  • Publiczne API ogranicza jedno zapytanie (prompt + completion) do 7 400 tokenów.[9]
  • Maksymalny rozmiar odpowiedzi — 2 000 tokenów zgodnie z sekcją „Quotas and limits".[10]

Aktualne modele (czerwiec 2025)

Model Parametry Kontekst Licencja Uwagi
YandexGPT 5 Pro n/d 32 000 własnościowa Dostęp przez API i „Alisa Pro".[7]
YandexGPT 5 Lite 8 mld 32 000 Yandex GPT‑Lite License Otwarty; kompatybilny z Llama.[8]
YaLM‑100B 100 mld 2 048 Apache 2.0 Projekt pierwotny.[3]

Benchmarki

  • Testy wewnętrzne: 5 Pro osiągnął równorzędność z GPT‑4o w 64 % zadań; przewaga nad 4 Pro — 67 %.[7]
  • ru‑LLM Arena: YandexGPT utrzymuje prowadzenie według rankingu ELO wśród modeli rosyjskojęzycznych.[11]

Fine‑tuning

Dla 5 Lite oficjalnie wspierana jest metoda LoRA; przykład uruchomienia opublikowano w model card.[8]

Tryby API

  • Synchroniczny — szybkie odpowiedzi (Lite).
  • Asynchroniczny — zadania wymagające dużych zasobów (Pro).[2]

Multimodalność

Rodzina YandexGPT pozostaje tekstowa; usługi multimodalne („Neuro", „YandexArt", „Yandex Vision") rozwijane są oddzielnie.[6]

Linki

  • YandexGPT w Yandex Cloud — strona usługi
  • Wagi YandexGPT‑5 Lite na Hugging Face
  • Repozytorium YaLM‑100B na GitHub

Literatura

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Przypisy

  1. 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]