YandexGPT (Sprachmodell)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — eine Familie von großen Sprachmodellen, die von Yandex entwickelt und erstmals im Mai 2023 vorgestellt wurde.[1] Die YandexGPT-Modelle werden im integrierten Assistenten Alisa, in der Yandex-Suche und anderen Diensten eingesetzt und sind auch über die öffentliche API der Yandex Cloud-Plattform verfügbar.[2]

YaLM‑100B (2022) war ein früheres Forschungsmodell mit 100 Milliarden Parametern und Open Source. Es diente als „Proof of Concept“, aber YandexGPT wurde separat für die kommerzielle Anwendung entwickelt.[3]

Veröffentlichungsgeschichte

Hauptversionen
Datum Version Wichtige Merkmale
Juni 2022 YaLM‑100B 100 Mrd. Parameter, 1,7 TB Daten; Apache 2.0.[3]
17. Mai 2023 YandexGPT 1.0 Integration in „Alisa“.[1]
7. Sep. 2023 YandexGPT 2 +67 % Qualitätssteigerung laut internen Tests.[4]
28. März 2024 YandexGPT 3 Pro / Lite Neue API-Produktlinie für Unternehmenskunden.[5]
24. Okt. 2024 YandexGPT 4 Pro / Lite Kontextfenster von 32.000 Tokens; verdecktes Schlussfolgern (Chain-of-Thought).[6]
25. Feb. 2025 YandexGPT 5 Pro Parität mit GPT-4o bei 64 % der Aufgaben.[7]
31. März 2025 YandexGPT 5 Lite Instruct 8-Milliarden-Parameter-Modell als Open Source verfügbar; Llama-Format.[8]

Architektur und Training

  • Grundarchitektur: Transformer, optimiert für die russische Sprache.
  • YandexGPT 5 Lite: Llama-kompatibel; Pre-Training mit ≈ 15 Billionen Tokens, anschließendes Fine-Tuning mit ≈ 320 Milliarden Tokens.[8]

Kontext und Limits

  • Architektonisches Kontextlimit: 32.000 Tokens (Versionen 4/5).[6]
  • Die öffentliche API beschränkt eine einzelne Anfrage (Prompt + Completion) auf 7.400 Tokens.[9]
  • Maximale Länge der **Antwort**: 2.000 Tokens gemäß dem Abschnitt „Quotas and limits“.[10]

Aktuelle Modelle (Juni 2025)

Modell Parameter Kontext Lizenz Anmerkungen
YandexGPT 5 Pro k. A. 32.000 proprietär Zugriff über API und „Alisa Pro“.[7]
YandexGPT 5 Lite 8 Mrd. 32.000 Yandex GPT‑Lite License Open Source; Llama-kompatibel.[8]
YaLM‑100B 100 Mrd. 2.048 Apache 2.0 Ursprüngliches Projekt.[3]

Benchmarks

  • Interne Tests: 5 Pro erreichte Parität mit GPT-4o bei 64 % der Aufgaben; eine Leistungssteigerung von 67 % gegenüber 4 Pro.[7]
  • ru-LLM Arena: YandexGPT hält die Führungsposition nach Elo-Rating unter den russischsprachigen Modellen.[11]

Fine-Tuning

Für 5 Lite wird die LoRA-Methode offiziell unterstützt; ein Anwendungsbeispiel ist in der Model Card veröffentlicht.[8]

API-Modi

  • Synchron: für schnelle Antworten (Lite).
  • Asynchron: für ressourcenintensive Aufgaben (Pro).[2]

Multimodalität

Die YandexGPT-Familie bleibt textbasiert; multimodale Dienste („Neuro“, „YandexArt“, „Yandex Vision“) werden separat entwickelt.[6]

Literatur

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Einzelnachweise

  1. ↑ 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. ↑ 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. ↑ 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. ↑ «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. ↑ «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. ↑ 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. ↑ 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. ↑ 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. ↑ «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. ↑ «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. ↑ «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]
Retrieved from "https://systems-analysis.info/int/index.php?title=YandexGPT_(Sprachmodell)&oldid=8510"