Muse Glimmer

Материал из Systems analysis Wiki
Перейти к навигации Перейти к поиску

Muse Glimmer — открытая мультимодальная модель Meta Superintelligence Labs с 30 млрд параметров, дистиллированная из Muse Spark и сочетающая плотную каузальную языковую модель с выделенным энкодером восприятия; оптимизирована для локальных постоянно активных агентных рабочих процессов и способна работать офлайн на одном графическом процессоре потребительского класса. Весовые коэффициенты модели были опубликованы 10 августа 2026 года на Hugging Face под лицензией Apache 2.0, став первым выпуском открытых весов Meta Superintelligence Labs.

Технические характеристики

  • Поколение: Muse (первая открытая модель линейки Muse)
  • Идентификатор: meta-models/Muse-Glimmer-30B
  • Параметры: ~29,6 млрд (включая ~1,8 млрд параметров энкодера восприятия ViT-G/14); плотная каузальная трансформерная архитектура, 52 слоя, скрытая размерность 6656, GQA (32 query- / 2 KV-головы), скользящее окно 2048, RoPE с θ = 500 000 на локальных слоях
  • Контекстное окно: 131 072 токена (поддерживаются расширенные контексты)
  • Модальности: текст и изображения на входе (до 4096 визуальных токенов на изображение), текст на выходе
  • Режим мышления: поддержка регулируемой глубины рассуждения (controllable effort); результаты бенчмарков приведены для режима High Reasoning
  • Граница знаний: 4 января 2026
  • Выпуск: 10 августа 2026
  • Стоимость: веса распространяются свободно под Apache License 2.0 (разрешены коммерческое использование, модификация и распространение); собственный API Meta для модели отсутствует, размещение возможно локально либо у сторонних провайдеров (Together AI, Fireworks AI, OpenRouter)
  • Обучена дистилляцией из Muse Spark (logit-дистилляция на выходах учителя, затем mid-training на длинноконтекстных агентных данных и постобучение: SFT, on-policy дистилляция и обучение с подкреплением); данных более чем на 100 языках. Квантизация примерно до 4 бит сжимает языковую модель до менее чем 20 ГБ с деградацией ~1,0 % на K-Quant-17GB (24 ГБ VRAM); ускорение вывода — блок-диффузионный драфтер DFlash (блоки по 16 токенов), до 3,1× на Nvidia RTX 5090. Оценена по стандартам Meta Advanced AI Scaling Framework и не соответствует определению Frontier AI.
  • Технические характеристики — Muse Glimmer в документации Meta.

История и разработка

Muse Glimmer была выпущена 10 августа 2026 года с публикацией весов на Hugging Face под Apache License 2.0[1]. Это стал первый выпуск открытых весов Meta Superintelligence Labs и первая полностью открытая модель Meta с момента завершения линейки Llama[2]; в день запуска модель была доступна для локального запуска через Ollama и LM Studio, а интеграции с llama.cpp, ExecuTorch и MLX появились в течение нескольких дней[1].

Модель обучалась на выходах Muse Spark методом logit-дистилляции, затем прошла mid-training на длинноконтекстных агентных данных с расширенными следами рассуждения и постобучение, сочетающее SFT, on-policy дистилляцию и обучение с подкреплением по направлениям общего назначения, рассуждений, программирования и агентных задач[1]. Для локального запуска применены квантизация примерно до 4 бит (языковая модель сжимается до менее чем 20 ГБ, что помещается вместе с KV-кэшем, энкодером восприятия и драфтером в 24 или 32 ГБ памяти) и спекулятивное декодирование на основе блок-диффузионной модели DFlash, предсказывающей блоки по 16 токенов за один проход[3].

В сравнении с Gemma4-31B и Qwen3.6-27B (режимы Thinking) Muse Glimmer лидирует на агентных бенчмарках: MCP Atlas — 75,5 (54,2 и 62,5), DeepSearch QA — 74,6, GAIA2 — 43,3, SWE-Bench Pro — 51,2, а на AIME 2026 набирает 94,7[4]. В отличие от последующего полноформатного открытого чекпойнта Muse Spark Open, выпущенного в октябре 2026 года под лицензией Muse Model License, Glimmer распространяется по стандартной Apache License 2.0 без дополнительных условий.

Ссылки

См. также

Примечания

  1. ↑ 1,0 1,1 1,2 Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device. Meta AI Research. 10 августа 2026.
  2. ↑ Muse Glimmer 30B Is Meta's First Open-Weight Model Since Llama 4. Mervin Praison. 10 августа 2026.
  3. ↑ Muse Glimmer Model Card. Hugging Face. Август 2026.
  4. ↑ Muse Glimmer. Meta AI Developer Center.