YandexGPT (modelo de linguagem)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) é uma família de grandes modelos de linguagem desenvolvida pela Yandex e apresentada pela primeira vez em maio de 2023.[1] As redes YandexGPT são utilizadas na assistente integrada Alisa, na Busca Yandex e em outros serviços, além de estarem disponíveis através da API pública da plataforma Yandex Cloud.[2]

YaLM-100B (2022) foi um modelo de pesquisa anterior com 100 bilhões de parâmetros e código aberto; ele serviu como uma "prova de conceito", mas o YandexGPT foi criado separadamente para aplicação comercial.[3]

História de lançamentos

Versões principais
Data Lançamento Principais características
Jun 2022 YaLM-100B 100 B parâmetros, 1,7 TB de dados; Apache 2.0.[3]
17 de maio de 2023 YandexGPT 1.0 Integração na 'Alisa'.[1]
7 de set de 2023 YandexGPT 2 +67% de qualidade em testes internos.[4]
28 de mar de 2024 YandexGPT 3 Pro / Lite Nova linha de API corporativa.[5]
24 de out de 2024 YandexGPT 4 Pro / Lite Contexto de 32.000 tokens; raciocínio oculto (chain-of-thought).[6]
25 de fev de 2025 YandexGPT 5 Pro Paridade com o GPT-4o em 64% das tarefas.[7]
31 de mar de 2025 YandexGPT 5 Lite Instruct Modelo de 8 bilhões de parâmetros em acesso aberto; formato Llama.[8]

Arquitetura e treinamento

  • Arquitetura base: transformer, otimizado para o idioma russo.
  • YandexGPT 5 Lite: compatível com Llama; pré-treinamento ≈ 15 trilhões de tokens, fine-tuning subsequente ≈ 320 bilhões.[8]

Contexto e limites

  • Limite arquitetônico de contexto — 32.000 tokens (versões 4/5).[6]
  • A API pública limita uma única solicitação (prompt + completion) a 7.400 tokens.[9]
  • O tamanho máximo da **resposta** é de 2.000 tokens, de acordo com a seção “Quotas and limits”.[10]

Modelos atuais (junho de 2025)

Modelo Parâmetros Contexto Licença Observações
YandexGPT 5 Pro n/d 32.000 proprietária Acesso via API e 'Alisa Pro'.[7]
YandexGPT 5 Lite 8 bilhões 32.000 Yandex GPT-Lite License Aberta; compatível com Llama.[8]
YaLM-100B 100 bilhões 2.048 Apache 2.0 Projeto original.[3]

Benchmarks

  • Testes internos: o 5 Pro alcançou paridade com o GPT-4o em 64% das tarefas; superou o 4 Pro em 67%.[7]
  • ru-LLM Arena: O YandexGPT mantém a liderança no ranking ELO entre os modelos de língua russa.[11]

Fine-tuning

Para o 5 Lite, o método LoRA é oficialmente suportado; um exemplo de execução está publicado no model card.[8]

Modos de API

  • Síncrono — respostas rápidas (Lite).
  • Assíncrono — tarefas que consomem muitos recursos (Pro).[2]

Multimodalidade

A família YandexGPT permanece baseada em texto; os serviços multimodais ('Neuro', 'YandexArt', 'Yandex Vision') são desenvolvidos separadamente.[6]

Ligações externas

Literatura

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

Notas

  1. 1.0 1.1 “Yandex adiciona análogo do ChatGPT à Alisa”. RBC. [1]
  2. 2.0 2.1 “Getting started with YandexGPT (Quickstart)”. Yandex Cloud Docs. [2]
  3. 3.0 3.1 3.2 “yandex/YaLM-100B: Pretrained language model with 100B”. GitHub. [3]
  4. “Como a Yandex decidiu lucrar com seu análogo do ChatGPT”. RBC. [4]
  5. “Yandex apresenta a terceira geração das redes neurais YandexGPT”. RBC. [5]
  6. 6.0 6.1 6.2 “Uma família de modelos mais poderosa: YandexGPT 4”. Habr. [6]
  7. 7.0 7.1 7.2 “Yandex integra YandexGPT 5 Pro ao chat com 'Alisa Pro'”. AdIndex. [7]
  8. 8.0 8.1 8.2 8.3 “yandex/YandexGPT-5-Lite-8B-pretrain”. Hugging Face. [8]
  9. “ChatYandexGPT API Reference (max_tokens = 7400)”. LangChain Docs. [9]
  10. “Yandex Cloud service quotas and limits → Foundation Models”. Yandex Cloud Docs. [10]
  11. “llmarena/llmarena — plataforma russa de avaliação de LLMs por crowdsourcing”. GitHub. [11]