---
title: "Phi"
source: "https://systems-analysis.info/wiki/Phi"
wiki: "systems-analysis.info/wiki"
article: "Phi"
language: "ru"
categories:
  - "Категория:Russian"
  - "Категория:Большие языковые модели"
  - "Категория:Машинное обучение"
  - "Категория:Семейства LLM"
revision_id: 164
wiki_created_at: 2026-09-06T22:04:41Z
wiki_modified_at: 2026-09-06T22:04:41Z
downloaded_at: 2026-09-07T22:17:57Z
---

# Phi

**Phi** — это семейство малых языковых моделей (Small Language Models, SLM), разработанное Microsoft Research. Эти модели представляют собой парадигмальный сдвиг в разработке ИИ и показывают, что компактные и вычислительно эффективные модели могут достигать производительности, сопоставимой с гораздо более крупными системами. В отличие от традиционного подхода, основанного на масштабировании числа параметров, философия Phi фокусируется на качестве обучающих данных и инновационных методах тренировки<sup>[\[1\]](https://systems-analysis.info/wiki/Phi#cite_note-1)</sup>.

Модели Phi оптимизированы для задач, требующих глубоких логических рассуждений, таких как программирование, математика и анализ текста. Благодаря своему небольшому размеру, они идеально подходят для развертывания на локальных устройствах (on-device AI), включая смартфоны и ноутбуки, что открывает новые возможности для демократизации ИИ<sup>[\[2\]](https://systems-analysis.info/wiki/Phi#cite_note-2)</sup>.

## Философия: «Учебники — это всё, что вам нужно»

Центральная гипотеза, лежащая в основе проекта Phi, заключается в том, что для обучения высокопроизводительной модели важнее качество данных, а не их объём. Эта идея была впервые сформулирована в исследовательской работе **«Textbooks Are All You Need»**<sup>[\[3\]](https://systems-analysis.info/wiki/Phi#cite_note-3)</sup>. Вместо того чтобы обучаться на триллионах [токенов](https://systems-analysis.info/wiki/%D0%A2%D0%BE%D0%BA%D0%B5%D0%BD "Токен") из нефильтрованного веба, модели Phi обучаются на тщательно отобранном и синтетически сгенерированном датасете, который по качеству напоминает учебник.

Ключевые принципы этого подхода:

- **Данные «качества учебника»:** Обучающий корпус состоит из чистого, логически последовательного и объясняющего материала, вдохновлённого детскими книгами.
- **Синтетические данные:** Значительная часть данных генерируется с помощью крупных моделей (например, GPT-4). Например, для обучения **Phi-4** было создано 400 миллиардов токенов высококачественного синтетического контента через более чем 50 пользовательских конвейеров<sup>[\[4\]](https://systems-analysis.info/wiki/Phi#cite_note-4)[\[5\]](https://systems-analysis.info/wiki/Phi#cite_note-5)</sup>.
- **Итеративное обучение:** Процесс создания данных и обучения модели происходит итеративно, что позволяет постоянно улучшать качество как данных, так и самой модели.

Этот подход позволяет моделям Phi развивать глубокие способности к рассуждению, а не просто запоминать статистические паттерны.

## Эволюция моделей Phi

- **Phi-1 (1.3 млрд параметров):** Первая модель, представленная в июне 2023 года, была сфокусирована на программировании на языке Python. Она продемонстрировала превосходную производительность на бенчмарках HumanEval и MBPP, доказав эффективность подхода, основанного на качественных данных<sup>[\[6\]](https://systems-analysis.info/wiki/Phi#cite_note-6)</sup>.

<!-- -->

- **Phi-2 (2.7 млрд параметров):** Выпущенная в декабре 2023 года, Phi-2 расширила свои возможности до общего понимания языка, сохранив компактную архитектуру. Эта модель показала, что SLM могут достигать производительности, сравнимой с моделями, которые в десятки раз больше<sup>[\[7\]](https://systems-analysis.info/wiki/Phi#cite_note-7)</sup>.

<!-- -->

- **Phi-3 (3.8 - 14 млрд параметров):** Семейство, представленное в апреле 2024 года, стало прорывом в области мобильного ИИ. **Phi-3-mini** (3.8 млрд) способна работать на смартфонах, достигая производительности, сравнимой с [Mixtral](https://systems-analysis.info/wiki/Mixtral "Mixtral") 8x7B и GPT-3.5<sup>[\[8\]](https://systems-analysis.info/wiki/Phi#cite_note-8)</sup>. Семейство также включает версии **Phi-3-small** (7 млрд) и **Phi-3-medium** (14 млрд).

<!-- -->

- **Phi-3.5 (3.8 - 6.6 млрд активных параметров):** Анонсированное в 2024 году, это семейство включает три ключевые модели:
  - **Phi-3.5-mini-instruct:** Оптимизированная версия с улучшенной многоязыковой поддержкой.
  - **Phi-3.5-MoE-instruct:** Модель на основе архитектуры Mixture-of-Experts с 16 экспертами и 6.6 млрд активных параметров.
  - **Phi-3.5-Vision-instruct:** Мультимодальная модель для обработки текста и изображений<sup>[\[9\]](https://systems-analysis.info/wiki/Phi#cite_note-9)</sup>.

<!-- -->

- **Phi-4 (14 млрд параметров):** Модель, специализированная на сложных математических рассуждениях. Она демонстрирует производительность, сравнимую с Gemini-1.5-Flash и [GPT-4o](https://systems-analysis.info/wiki/GPT-4o "GPT-4o")-mini, при значительно меньшем размере. **Phi-4-reasoning** превосходит DeepSeek-R1-Distill-Llama-70B<sup>[\[10\]](https://systems-analysis.info/wiki/Phi#cite_note-10)</sup>.
- **Phi-4-Multimodal (5.6 млрд параметров):** Первая полностью мультимодальная модель семейства, способная одновременно обрабатывать текст, изображения и аудио. Она использует инновационный подход **Mixture-of-LoRAs** для эффективной обработки различных модальностей без взаимных помех<sup>[\[11\]](https://systems-analysis.info/wiki/Phi#cite_note-11)</sup>.

## Архитектура и технические особенности

- **Архитектура:** Модели Phi используют стандартную архитектуру трансформера типа «только декодер» ([decoder-only](https://systems-analysis.info/wiki/Decoder-only "Decoder-only")) с ключевыми оптимизациями, такими как **Grouped Query Attention** и **Flash Attention** для повышения эффективности<sup>[\[12\]](https://systems-analysis.info/wiki/Phi#cite_note-12)</sup>.
- **Локальное развертывание:** Модели оптимизированы для работы на устройствах с ограниченными ресурсами. Например, **Phi-3-mini** требует всего 1.8 ГБ памяти при 4-битном квантовании и может работать на iPhone 14<sup>[\[13\]](https://systems-analysis.info/wiki/Phi#cite_note-13)</sup>.
- **Поддержка фреймворков:** Модели Phi доступны через **Microsoft Azure AI Model Catalog**, **Hugging Face**, **Ollama** и **NVIDIA NIM microservices**, что обеспечивает их широкую интеграцию и доступность для разработчиков<sup>[\[14\]](https://systems-analysis.info/wiki/Phi#cite_note-14)</sup>.

## Производительность и бенчмарки

| Модель           | Параметры | MMLU | MT-Bench | HumanEval         |
|------------------|-----------|------|----------|-------------------|
| **Phi-3-mini**   | 3.8B      | 69%  | 8.38     | \-                |
| **Phi-3-small**  | 7B        | 75%  | 8.7      | \-                |
| **Phi-3-medium** | 14B       | 78%  | 8.9      | \-                |
| **Phi-4**        | 14B       | \-   | \-       | Превосходит GPT-4 |

Сравнительная производительность моделей Phi на ключевых бенчмарках

**Phi-4** демонстрирует исключительные результаты в математических задачах, включая American Mathematics Competitions (AMC), показывая производительность, сравнимую с Gemini-1.5-Flash<sup>[\[15\]](https://systems-analysis.info/wiki/Phi#cite_note-15)</sup>. Мультимодальная **Phi-3.5-Vision** превосходит конкурентов аналогичного размера, достигая 57.0% на бенчмарке BLINK<sup>[\[16\]](https://systems-analysis.info/wiki/Phi#cite_note-16)</sup>.

## Специализированные применения

Модели Phi демонстрируют высокую эффективность в нишевых областях:

- **Медицина:** Исследования показывают умеренную корреляцию ответов Phi-3 с оценками экспертов в медицинских и спортивных текстах<sup>[\[17\]](https://systems-analysis.info/wiki/Phi#cite_note-17)</sup>.
- **Обнаружение ненавистнических высказываний:** Модель HateTinyLLM, основанная на Phi-2, достигает более 80% точности в этой задаче с использованием LoRA [fine-tuning](https://systems-analysis.info/wiki/Fine-tuning "Fine-tuning")<sup>[\[18\]](https://systems-analysis.info/wiki/Phi#cite_note-18)</sup>.
- **Игровые стратегии:** Модель SC-Phi2 показала возможности в предсказании стратегий в игре StarCraft II<sup>[\[19\]](https://systems-analysis.info/wiki/Phi#cite_note-19)</sup>.

## Ответственный ИИ и безопасность

Семейство Phi разработано в соответствии со стандартами **Microsoft Responsible AI**, которые включают принципы подотчетности, прозрачности, справедливости и безопасности. Модели проходят многогранную оценку безопасности, включая **Supervised Fine-Tuning (SFT)** и **[Direct Preference Optimization](https://systems-analysis.info/wiki/Direct_Preference_Optimization "Direct Preference Optimization") (DPO)**, а также тестирование на различных языках и в категориях рисков<sup>[\[20\]](https://systems-analysis.info/wiki/Phi#cite_note-20)</sup>.

## Ограничения

Несмотря на впечатляющие результаты, модели Phi могут уступать специализированным крупным моделям в некоторых сложных задачах. Например, **Phi-4** показывает хорошие результаты в рассуждениях типа chain-of-thought, но ограничен отсутствием возможности вызова функций ([function calling](https://systems-analysis.info/wiki/Function_Calling "Function Calling"))<sup>[\[21\]](https://systems-analysis.info/wiki/Phi#cite_note-21)</sup>. Кроме того, хотя **Phi-3.5** поддерживает более 20 языков, его производительность может варьироваться, и исследования показывают неточности в ответах на языках, отличных от английского<sup>[\[22\]](https://systems-analysis.info/wiki/Phi#cite_note-22)</sup>.

## См. также

- [BERT](https://systems-analysis.info/wiki/BERT "BERT")
- [BLOOM](https://systems-analysis.info/wiki/BLOOM "BLOOM")
- [Chinchilla](https://systems-analysis.info/wiki/Chinchilla "Chinchilla")
- [Claude](https://systems-analysis.info/wiki/Claude "Claude")
- [Cohere](https://systems-analysis.info/wiki/Cohere "Cohere")

## Литература

- Gunasekar, S.; et al. (2023). *Textbooks Are All You Need*. <a href="https://arxiv.org/abs/2306.11644" class="external text" rel="nofollow">arXiv:2306.11644</a>.
- Gunasekar, S.; et al. (2023). *Textbooks Are All You Need II: phi‑1.5 Technical Report*. <a href="https://arxiv.org/abs/2309.05463" class="external text" rel="nofollow">arXiv:2309.05463</a>.
- Dao, T.; et al. (2022). *FlashAttention: Fast and Memory‑Efficient Exact Attention with IO‑Awareness*. <a href="https://arxiv.org/abs/2205.14135" class="external text" rel="nofollow">arXiv:2205.14135</a>.
- Zheng, S.; et al. (2023). *GQA: Training Generalized Multi‑Query Transformer Models for Faster Decoding*. <a href="https://arxiv.org/abs/2305.13245" class="external text" rel="nofollow">arXiv:2305.13245</a>.
- Feng, W.; et al. (2024). *Mixture‑of‑LoRAs: An Efficient Multitask Tuning for Large Language Models*. <a href="https://arxiv.org/abs/2403.03432" class="external text" rel="nofollow">arXiv:2403.03432</a>.
- Wu, X.; et al. (2024). *Mixture of LoRA Experts*. <a href="https://arxiv.org/abs/2404.13628" class="external text" rel="nofollow">arXiv:2404.13628</a>.
- Microsoft Research (2024). *Phi‑3 Technical Report*. <a href="https://arxiv.org/abs/2404.14219" class="external text" rel="nofollow">arXiv:2404.14219</a>.
- Abdin, M.; et al. (2024). *Phi‑4 Technical Report*. <a href="https://arxiv.org/abs/2412.08905" class="external text" rel="nofollow">arXiv:2412.08905</a>.
- Microsoft Research (2025). *Phi‑4‑reasoning Technical Report*. <a href="https://www.microsoft.com/en-us/research/wp-content/uploads/2025/04/phi_4_reasoning.pdf" class="external text" rel="nofollow">PDF</a>.
- Microsoft Research (2025). *Phi‑4‑Multimodal: Mixture‑of‑Modality‑LoRAs*. <a href="https://arxiv.org/abs/2503.01743" class="external text" rel="nofollow">arXiv:2503.01743</a>.

## Примечания

1.  <span id="cite_note-1">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-1) «The Phi-3 small language models with big potential». *Microsoft Source Features*. <a href="https://news.microsoft.com/source/features/ai/the-phi-3-small-language-models-with-big-potential/" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-2">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-2) «Microsoft's Phi-3: Revolutionising AI with efficient and accessible small language models». *Landing.Jobs Blog*. <a href="https://landing.jobs/blog/microsofts-phi-3-revolutionising-ai-with-efficient-and-accessible-small-language-models/" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-3">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-3) «Textbooks Are All You Need». *Microsoft Research*. <a href="https://www.microsoft.com/en-us/research/publication/textbooks-are-all-you-need/" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-4">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-4) «Introducing Phi-4: Microsoft’s newest Small Language Model, specializing in complex reasoning». *Microsoft Tech Community*. <a href="https://techcommunity.microsoft.com/t5/ai-at-microsoft/introducing-phi-4-microsoft-s-newest-small-language-model/ba-p/4357090" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-5">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-5) «Exploring Phi-4: A Deep Dive into Microsoft's Latest Language Model». *OpenCV Blog*. <a href="https://opencv.org/blog/phi-4/" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-6">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-6) «Unlocking the Power of Small Language Models (SLMs): The Evolution of Phi». *LinkedIn*. <a href="https://www.linkedin.com/pulse/unlocking-power-small-language-models-slms-evolution-vijay-ru4xc" class="external autonumber" rel="nofollow">[6]</a></span>
7.  <span id="cite_note-7">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-7) «Новая ИИ-модель Phi-2 от Microsoft училась по учебникам». *TechInsider*. <a href="https://www.techinsider.ru/news/news-1625165-novaya-ii-model-phi-2-ot-microsoft-uchilas-po-uchebnikam/" class="external autonumber" rel="nofollow">[7]</a></span>
8.  <span id="cite_note-8">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-8) «Phi-3 Technical Report». *arXiv*. <a href="https://arxiv.org/abs/2404.14219" class="external autonumber" rel="nofollow">[8]</a></span>
9.  <span id="cite_note-9">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-9) «Discover the new multi-lingual, high-quality Phi-3.5 SLMs». *Microsoft Tech Community*. <a href="https://techcommunity.microsoft.com/blog/azure-ai-services-blog/discover-the-new-multi-lingual-high-quality-phi-3-5-slms/4225280" class="external autonumber" rel="nofollow">[9]</a></span>
10. <span id="cite_note-10">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-10) «Phi-4 Technical Report». *arXiv*. <a href="https://arxiv.org/abs/2412.08905" class="external autonumber" rel="nofollow">[10]</a></span>
11. <span id="cite_note-11">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-11) «Mixture-of-Modality-LoRAs: A Low-Rank Approach to Natively Multimodal Foundation Models». *arXiv*. <a href="https://arxiv.org/abs/2503.01743" class="external autonumber" rel="nofollow">[11]</a></span>
12. <span id="cite_note-12">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-12) «Phi-3: A Tutorial on Microsoft's Small Language Models (SLMs)». *DataCamp*. <a href="https://www.datacamp.com/tutorial/phi-3-tutorial" class="external autonumber" rel="nofollow">[12]</a></span>
13. <span id="cite_note-13">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-13) «Unlocking the Power of Small Language Models (SLMs): The Evolution of Phi». *LinkedIn*. <a href="https://www.linkedin.com/pulse/unlocking-power-small-language-models-slms-evolution-vijay-ru4xc" class="external autonumber" rel="nofollow">[13]</a></span>
14. <span id="cite_note-14">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-14) «Microsoft Phi». *Microsoft Azure*. <a href="https://azure.microsoft.com/en-us/products/phi" class="external autonumber" rel="nofollow">[14]</a></span>
15. <span id="cite_note-15">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-15) «Exploring Phi-4: A Deep Dive into Microsoft's Latest Language Model». *OpenCV Blog*. <a href="https://opencv.org/blog/phi-4/" class="external autonumber" rel="nofollow">[15]</a></span>
16. <span id="cite_note-16">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-16) «Phi-3.5-vision-instruct». *Hugging Face*. <a href="https://huggingface.co/microsoft/Phi-3.5-vision-instruct" class="external autonumber" rel="nofollow">[16]</a></span>
17. <span id="cite_note-17">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-17) «Small But Mighty: Exploring the Capabilities of Small Language Models in Medical and Sport-Specific Applications». *arXiv*. <a href="https://arxiv.org/abs/2504.08764" class="external autonumber" rel="nofollow">[17]</a></span>
18. <span id="cite_note-18">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-18) «HateTinyLLMs: A Small Language Model for Hate Speech Detection». *arXiv*. <a href="https://arxiv.org/abs/2405.01577" class="external autonumber" rel="nofollow">[18]</a></span>
19. <span id="cite_note-19">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-19) «SC-Phi2: A Specialized Small Language Model for StarCraft II». *MDPI*. <a href="https://www.mdpi.com/2673-2688/5/4/115" class="external autonumber" rel="nofollow">[19]</a></span>
20. <span id="cite_note-20">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-20) «Microsoft’s Phi-3.5: a responsible, small language model». *Skymod*. <a href="https://skymod.tech/microsofts-phi-3-5-small-language-models/" class="external autonumber" rel="nofollow">[20]</a></span>
21. <span id="cite_note-21">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-21) «Phi-4: A New Era of Small Language Models». *Meta-quantum.today*. <a href="https://meta-quantum.today/?p=3386" class="external autonumber" rel="nofollow">[21]</a></span>
22. <span id="cite_note-22">[↑](https://systems-analysis.info/wiki/Phi#cite_ref-22) «A Multi-faceted Analysis of Language-specific Bias in Large Language Models». *U.S. Securities and Exchange Commission*. <a href="https://www.sec.gov/Archives/edgar/data/789019/000119312524242883/d858775ddef14a.htm" class="external autonumber" rel="nofollow">[22]</a></span>