YandexGPT (modelo de lenguaje)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) es una familia de grandes modelos de lenguaje desarrollados por Yandex y presentados por primera vez en mayo de 2023.[1] Los modelos YandexGPT se utilizan en el asistente integrado Alisa, en la Búsqueda y en otros servicios, y también están disponibles a través de la API pública de la plataforma Yandex Cloud.[2]

YaLM-100B (2022) fue un modelo de investigación predecesor con 100 mil millones de parámetros y código abierto; sirvió como una «prueba de concepto», pero YandexGPT se creó por separado para aplicaciones comerciales.[3]

Historial de lanzamientos

Versiones principales
Fecha Versión Características clave
Jun 2022 YaLM-100B 100 B de parámetros, 1.7 TB de datos; Apache 2.0.[3]
17 may 2023 YandexGPT 1.0 Integración en «Alisa».[1]
7 sep 2023 YandexGPT 2 +67 % de calidad según pruebas internas.[4]
28 mar 2024 YandexGPT 3 Pro / Lite Nueva línea de API corporativa.[5]
24 oct 2024 YandexGPT 4 Pro / Lite Contexto de 32 000 tokens; razonamiento oculto (chain-of-thought).[6]
25 feb 2025 YandexGPT 5 Pro Paridad con GPT-4o en el 64 % de las tareas.[7]
31 mar 2025 YandexGPT 5 Lite Instruct Modelo de 8 mil millones de parámetros de acceso abierto; formato Llama.[8]

Arquitectura y entrenamiento

  • Arquitectura base: transformer, optimizado para el idioma ruso.
  • YandexGPT 5 Lite: compatible con Llama; preentrenamiento ≈ 15 billones de tokens, fine-tuning posterior ≈ 320 mil millones.[8]

Contexto y límites

  • Límite de contexto arquitectónico: 32 000 tokens (versiones 4/5).[6]
  • La API pública limita una única solicitud (prompt + completion) a 7400 tokens.[9]
  • El tamaño máximo de la **respuesta** es de 2000 tokens, según la sección «Quotas and limits».[10]

Modelos actuales (junio 2025)

Modelo Parámetros Contexto Licencia Notas
YandexGPT 5 Pro n/d 32 000 Propietaria Acceso a través de API y «Alisa Pro».[7]
YandexGPT 5 Lite 8 mil millones 32 000 Yandex GPT-Lite License Abierta; compatible con Llama.[8]
YaLM-100B 100 mil millones 2048 Apache 2.0 Proyecto original.[3]

Benchmarks

  • Pruebas internas: 5 Pro alcanzó la paridad con GPT-4o en el 64 % de las tareas; superando a 4 Pro en un 67 %.[7]
  • ru-LLM Arena: YandexGPT mantiene el liderazgo en la clasificación ELO entre los modelos en ruso.[11]

Fine-tuning

Para 5 Lite, se admite oficialmente el método LoRA; un ejemplo de ejecución está publicado en la model card.[8]

Modos de API

  • Síncrono: para respuestas rápidas (Lite).
  • Asíncrono: para tareas que consumen muchos recursos (Pro).[2]

Multimodalidad

La familia YandexGPT sigue siendo textual; los servicios multimodales («Neuro», «YandexArt», «Yandex Vision») se desarrollan por separado.[6]

Enlaces externos

Bibliografía

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Referencias

  1. 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]