YandexGPT (language model) (KO)

From Systems analysis Wiki
Jump to navigation Jump to search

YandexGPT (Yet another GPT) — Yandex가 개발하여 2023년 5월에 처음 공개한 대형 언어 모델(LLM) 패밀리입니다.[1] YandexGPT 네트워크는 내장 어시스턴트 Алиса(알리사), 검색 및 기타 서비스에 사용되며, Yandex Cloud 플랫폼의 공개 API를 통해서도 이용할 수 있습니다.[2]

YaLM‑100B (2022) — 1,000억 개의 파라미터를 갖춘 오픈 소스 선행 연구 모델로, "개념 증명"의 역할을 했습니다. 그러나 YandexGPT는 상업적 활용을 위해 별도로 개발되었습니다.[3]

릴리스 역사

주요 버전
날짜 릴리스 주요 특징
2022년 6월 YaLM‑100B 파라미터 1,000억 개, 데이터 1.7 TB; Apache 2.0.[3]
2023년 5월 17일 YandexGPT 1.0 알리사(Алиса)에 통합.[1]
2023년 9월 7일 YandexGPT 2 내부 테스트 기준 품질 +67%.[4]
2024년 3월 28일 YandexGPT 3 Pro / Lite 새로운 기업용 API 라인업.[5]
2024년 10월 24일 YandexGPT 4 Pro / Lite 컨텍스트 32,000 token; 숨겨진 추론(chain‑of‑thought).[6]
2025년 2월 25일 YandexGPT 5 Pro 64%의 과제에서 GPT‑4o와 동등한 성능.[7]
2025년 3월 31일 YandexGPT 5 Lite Instruct 80억 파라미터 모델 공개 공개; Llama 형식.[8]

아키텍처 및 학습

  • 기본 아키텍처: 러시아어에 최적화된 transformer.
  • YandexGPT 5 Lite: Llama 호환; pre-training ≈ 15조 token, 이후 fine-tuning ≈ 3,200억 token.[8]

컨텍스트 및 제한 사항

  • 아키텍처상 컨텍스트 한도 — 32,000 token (버전 4/5).[6]
  • 공개 API는 단일 요청(prompt + completion)을 7,400 token으로 제한합니다.[9]
  • 응답 최대 크기 — "Quotas and limits" 섹션에 따라 2,000 token.[10]

현재 모델 (2025년 6월)

모델 파라미터 컨텍스트 라이선스 비고
YandexGPT 5 Pro 미공개 32,000 독점 API 및 알리사 Pro를 통해 접근 가능.[7]
YandexGPT 5 Lite 80억 32,000 Yandex GPT‑Lite License 공개; Llama 호환.[8]
YaLM‑100B 1,000억 2,048 Apache 2.0 원본 프로젝트.[3]

Benchmark

  • 내부 테스트: 5 Pro는 64%의 과제에서 GPT‑4o와 동등한 성능을 달성했으며, 4 Pro 대비 67% 초과.[7]
  • ru‑LLM Arena: YandexGPT는 러시아어 모델 중 ELO 레이팅 1위를 유지하고 있습니다.[11]

Fine‑tuning

5 Lite에 대해 LoRA 방법이 공식 지원되며, 실행 예시는 model card에 게시되어 있습니다.[8]

API 모드

  • 동기식 — 빠른 응답 (Lite).
  • 비동기식 — 리소스 집약적 작업 (Pro).[2]

멀티모달리티

YandexGPT 패밀리는 텍스트 전용으로 유지됩니다. 멀티모달 서비스("Neuro", "YandexArt", "Yandex Vision")는 별도로 개발되고 있습니다.[6]

외부 링크

  • Yandex Cloud의 YandexGPT — 서비스 페이지
  • Hugging Face의 YandexGPT‑5 Lite 가중치
  • GitHub의 YaLM‑100B 저장소

참고 문헌

  • Matkin, N. et al. (2024). Comparative Analysis of Encoder-Based NER and Large Language Models for Skill Extraction from Russian Job Vacancies. arXiv:2407.19816.
  • Tsanda, A.; Bruches, E. (2024). Russian-Language Multimodal Dataset for Automatic Summarization of Scientific Papers. arXiv:2405.07886.
  • Goloburda, M. et al. (2025). Qorǵau: Evaluating LLM Safety in Kazakh-Russian Bilingual Contexts. arXiv:2502.13640.
  • Togmanov, M. et al. (2025). KazMMLU: Evaluating Language Models on Kazakh, Russian, and Regional Knowledge of Kazakhstan. arXiv:2502.12829.
  • Noels, S. et al. (2025). What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices. arXiv:2504.03803.

각주

  1. ↑ 1.0 1.1 «“Яндекс” добавил в “Алису” аналог ChatGPT». РБК. [1]
  2. ↑ 2.0 2.1 «Getting started with YandexGPT (Quickstart)». Yandex Cloud Docs. [2]
  3. ↑ 3.0 3.1 3.2 «yandex/YaLM‑100B: Pretrained language model with 100B». GitHub. [3]
  4. ↑ «Как “Яндекс” решил зарабатывать на своём аналоге ChatGPT». РБК. [4]
  5. ↑ «“Яндекс” представил третье поколение нейросетей YandexGPT». РБК. [5]
  6. ↑ 6.0 6.1 6.2 «Более мощное семейство моделей YandexGPT 4». Habr. [6]
  7. ↑ 7.0 7.1 7.2 «“Яндекс” внедрил YandexGPT 5 Pro в чат с “Алисой Про”». AdIndex. [7]
  8. ↑ 8.0 8.1 8.2 8.3 «yandex/YandexGPT‑5‑Lite‑8B‑pretrain». Hugging Face. [8]
  9. ↑ «ChatYandexGPT API Reference (max_tokens = 7400)». LangChain Docs. [9]
  10. ↑ «Yandex Cloud service quotas and limits → Foundation Models». Yandex Cloud Docs. [10]
  11. ↑ «llmarena/llmarena — российская краудсорсинговая платформа оценки LLM». GitHub. [11]
Retrieved from "https://systems-analysis.info/int/index.php?title=YandexGPT_(language_model)_(KO)&oldid=8521"