Gemini 2.5 Flash

Материал из Systems analysis Wiki
Перейти к навигации Перейти к поиску

Gemini 2.5 Flash — мультимодальная большая языковая модель (LMM) компании Google DeepMind из семейства Gemini 2.5, первая полностью гибридная модель рассуждений Google, в которой формирование внутренних рассуждений («thinking») может отключаться и ограничиваться настраиваемым бюджетом токенов в обмен на снижение стоимости и задержки. Модель была представлена и выпущена в предварительной версии 17 апреля 2025 года в Google AI Studio, Vertex AI и приложении Gemini, а её стабильная общедоступная версия вышла 17 июня 2025 года.

Оценка

Gemini 2.5 Flash оценивалась по широкому набору тестов (бенчмарков), охватывающих рассуждение, научные знания, математику, генерацию и редактирование кода, агентное программирование, фактичность, мультимодальные возможности, работу с длинным контекстом и многоязычную обработку. Все результаты Gemini получены в режиме pass@1 через AI Studio API со стандартными настройками сэмплирования; результаты сторонних моделей взяты из отчётов их разработчиков, если не указано иное. Возможность генерации изображений (Gemini 2.5 Flash Image) оценивалась отдельно — соответствующие таблицы приведены ниже.

Согласно Model Card Google DeepMind, Gemini 2.5 Flash и её предварительная версия (Preview 09-2025) показали сильные результаты в ряде бенчмарков. Приведённые ниже результаты актуальны по состоянию на май и сентябрь 2025 года.[1]

Benchmark Description Gemini 2.5 Flash Preview
(09-2025) Thinking
Gemini 2.5 Flash
GA Thinking
Gemini 2.5 Flash Preview
(04-17) Thinking
Gemini 2.0 Flash
Non-thinking
OpenAI o4-mini Claude 3.7 Sonnet
(64K Extended thinking)
Grok 3 Beta
(Extended thinking)
DeepSeek R1
Humanity’s Last Exam (no tools) Reasoning & Knowledge 13.2% 11.0% 12.1% 5.1% 14.3% 8.9% — 8.6%*
GPQA Diamond Science single attempt (pass@1)
multiple attempts
80.8%
—
82.8%
—
78.3%
—
60.1%
—
81.4%
—
78.2%
84.8%
80.2%
84.6%
71.5%
—
AIME 2025 Mathematics single attempt (pass@1)
multiple attempts
75.6%
—
72.0%
—
78.0%
—
27.5%
—
92.7%
—
49.5%
—
77.3%
93.3%
70.0%
—
LiveCodeBench v5 Code generation single attempt (pass@1)
multiple attempts
71.7%
—
63.9%
—
63.5%
—
34.5%
—
—
—
—
—
70.6%
79.4%
64.3%
—
Aider Polyglot Code editing whole / diff — 61.9% / 56.7%
(whole/diff)
51.1% / 44.2%
(whole/diff)
22.2% (whole) 68.9% / 58.2%
(whole/diff)
64.9% (diff) 53.3% (diff) 56.9% (diff)
SWE-Bench Verified Agentic coding 54.0% 60.4% — — 68.1% 70.3% — 49.2%
SimpleQA Factuality 25.3% 26.9% 29.7% 29.9% — — 43.6% 30.1%
SimpleQA Verified Factuality 27.8% — — — — — — —
FACTS Grounding Factuality 87.5% 85.3% — 84.6% 62.1% 78.8% 74.8% 56.8%
MMMU Visual reasoning single attempt (pass@1)
multiple attempts
80.3%
—
79.7%
—
76.7%
—
71.7%
—
81.6%
—
75.0%
—
76.0%
78.0%
no MM support
no MM support
Vibe-Eval (Reka) Image understanding 62.0% 65.4% 62.0% 56.4% — — — no MM support
MRCR v2 Long context 128k (average)
1M (pointwise)
—
—
74%
32%
—
—
36%
6%
49%
—
—
—
54%
—
45%
—
MRCR v2 (8-needle)* Long context 128k (average)
1M (pointwise)
52.4%
16.3%
—
—
—
—
—
—
—
—
—
—
—
—
—
—
Global MMLU (Lite) Multilingual performance 87.9% 88.4% 88.4% 83.4% — — — —
* Оценка выполнена только на текстовых задачах (без изображений).

См. также

  1. ↑ Google DeepMind. Gemini 2.5 Flash — Model Card. Обновление: декабрь 2025 года. С. 3–6.