Kimi K1.5
Kimi k1.5 — мультимодальная размышляющая модель китайской компании Moonshot AI, первая публично описанная размышляющая модель компании; обучена масштабированным на длинный контекст обучением с подкреплением без применения дерева поиска Монте-Карло, функций ценности и моделей вознаграждения за процесс и, по заявлениям Moonshot, сопоставима с OpenAI o1 по математике, программированию и мультимодальному рассуждению. Представлена 20 января 2025 года — в один день с публикацией DeepSeek-R1; весовые коэффициенты не публиковались, модель была доступна в чатботе Kimi, а с 25 января 2025 года — бесплатно в веб-версии на Kimi.ai.
Технические характеристики
- Поколение: Kimi (доклассовая линия k1.5; первая размышляющая модель Moonshot, предшествовавшая открытой серии K2)
- Идентификатор: kimi-k1.5 (приложение Kimi); открытых вес и отдельного API-идентификатора нет
- Параметры: публично не раскрыты (архитектура и число параметров не раскрывались, весовые коэффициенты не публиковались)
- Контекстное окно: 131 072 токена (128 тыс.; в том числе контекст RL-обучения масштабирован до 128 тыс.)
- Модальности: текст и изображения на входе (совместное обучение на текстовых и визуальных данных), текст на выходе
- Режим мышления: две версии — long-CoT (пошаговые рассуждения) и short-CoT (краткие ответы)
- Граница знаний: публично не раскрыта
- Выпуск: 20 января 2025
- Стоимость: доступна бесплатно в чатботе Kimi (веб-версия с 25 января 2025 года — поиск по более чем 100 сайтам в реальном времени, до 50 файлов одновременно); весовые коэффициенты для самостоятельного развёртывания не предоставлялись
- Ключевые элементы метода, по техническому отчёту: масштабирование контекста RL до 128 тыс. токенов с переиспользованием частичных rollouts, устойчивая оптимизация стратегии вариантом онлайн зеркального спуска, штраф за длину ответа и оптимизация рецептуры данных; сильный результат достигается без сложных техник — дерева поиска Монте-Карло, функций ценности и моделей вознаграждения за процесс.
- Технические характеристики — технический отчёт (arXiv:2501.12599).
История и разработка
Kimi k1.5 была представлена 20 января 2025 года, в один день с публикацией DeepSeek-R1, — на следующий день Moonshot опубликовала технический отчёт «Kimi k1.5: Scaling Reinforcement Learning with LLMs»[1][2]. Версия long-CoT, по данным компании, сопоставима с o1 на мультимодальных и рассуждающих бенчмарках (MathVista, AIME, Codeforces), а short-CoT превосходит GPT-4o и Claude 3.5 Sonnet на AIME, MATH-500 и LiveCodeBench с отрывом до +550 %[3]. 25 января 2025 года модель стала доступна всем через Kimi.ai, в том числе на английском языке, без лимитов использования; веб-версия получила поиск в реальном времени по более чем 100 сайтам, обработку до 50 файлов и улучшенное понимание изображений[4].
Методика k1.5 выделялась на фоне同期 аналогов: после предобучения на большом корпусе текстов и изображений модель прошла SFT с «отбором отклонением» (rejection sampling), а затем RL с вознаграждением за конечный результат — без оценки промежуточных шагов, что, по мнению команды, даёт модели свободу поиска разных путей к верному ответу; short-CoT-версия получена переносом знаний из long-CoT через слияние моделей и «кратчайший отбор отклонением»[4]. Отчёт показал, что длина контекста является ключевым измерением масштабирования RL: рост контекста действует как увеличение числа шагов поиска, порождая цепочки рассуждений с планированием, рефлексией и самокоррекцией[3].
В отличие от DeepSeek-R1, k1.5 обрабатывала и текст, и изображения (особенно сильные результаты на MathVista и MMMU), однако веса модели не были открыты — на момент выпуска Moonshot ещё не публиковала модели для свободного скачивания[4]. Релиз укрепил позиции Moonshot, привлекшей к тому времени более $1 млрд при оценке $3,3 млрд[5]. Подход k1.5 к RL повлиял на последующую открытую серию K2, а сама компания перешла к политике открытых весов начиная с Kimi K2 (июль 2025)[1].
Ссылки
- Kimi k1.5: Scaling Reinforcement Learning with LLMs — технический отчёт (arXiv:2501.12599)
- Kimi k1.5 — репозиторий технического отчёта на GitHub
См. также
Примечания
- ↑ 1,0 1,1 Kimi (AI). Wikipedia.
- ↑ Kimi Team (2025). Kimi k1.5: Scaling Reinforcement Learning with LLMs. arXiv:2501.12599 [cs.AI], 22 января 2025. https://arxiv.org/abs/2501.12599
- ↑ 3,0 3,1 Kimi k1.5: Scaling Reinforcement Learning with LLMs. MoonshotAI, GitHub.
- ↑ 4,0 4,1 4,2 Chinese OpenAI o1 challenger Kimi k1.5 now available as free web version. The Decoder. 25 января 2025.
- ↑ Moonshot AI’s updated Kimi model offers expanded context window, improved coding. South China Morning Post. 4 сентября 2025.