Phi (Microsoft) — فاي

From Systems analysis Wiki
Jump to navigation Jump to search

Phi هي عائلة من نماذج اللغة الصغيرة (Small Language Models, SLM) التي طورتها Microsoft Research. تمثل هذه النماذج نقلة نوعية في تطوير الذكاء الاصطناعي، وتُظهر أن النماذج المدمجة والفعالة من حيث الحوسبة يمكن أن تحقق أداءً يضاهي الأنظمة الأكبر حجمًا بكثير. على عكس النهج التقليدي القائم على زيادة عدد المعلمات، تركز فلسفة Phi على جودة بيانات التدريب والأساليب المبتكرة في التدريب[1].

تم تحسين نماذج Phi للمهام التي تتطلب استدلالًا منطقيًا عميقًا، مثل البرمجة والرياضيات وتحليل النصوص. وبفضل حجمها الصغير، فهي مثالية للنشر على الأجهزة المحلية (on-device AI)، بما في ذلك الهواتف الذكية وأجهزة الكمبيوتر المحمولة، مما يفتح آفاقًا جديدة لإضفاء الطابع الديمقراطي على الذكاء الاصطناعي[2].

الفلسفة: «الكتب المدرسية هي كل ما تحتاجه»

الفرضية المركزية التي يقوم عليها مشروع Phi هي أن جودة البيانات أهم من حجمها لتدريب نموذج عالي الأداء. طُرحت هذه الفكرة لأول مرة في ورقة بحثية بعنوان «Textbooks Are All You Need»[3]. فبدلاً من التدرب على تريليونات التوكنات من بيانات الويب غير المفلترة، يتم تدريب نماذج Phi على مجموعة بيانات منسقة بعناية ومولّدة اصطناعيًا، تشبه في جودتها الكتب المدرسية.

المبادئ الأساسية لهذا النهج:

  • بيانات بجودة «الكتب المدرسية»: تتكون مجموعة بيانات التدريب من مواد نقية ومتسقة منطقيًا وتفسيرية، مستوحاة من كتب الأطفال.
  • البيانات الاصطناعية: يتم توليد جزء كبير من البيانات باستخدام نماذج كبيرة (مثل GPT-4). على سبيل المثال، لتدريب Phi-4، تم إنشاء 400 مليار توكن من المحتوى الاصطناعي عالي الجودة عبر أكثر من 50 مسارًا مخصصًا[4][5].
  • التدريب التكراري: تتم عملية إنشاء البيانات وتدريب النموذج بشكل تكراري، مما يسمح بتحسين جودة كل من البيانات والنموذج نفسه باستمرار.

يتيح هذا النهج لنماذج Phi تطوير قدرات استدلال عميقة بدلاً من مجرد حفظ الأنماط الإحصائية.

تطور نماذج Phi

  • Phi-1 (1.3 مليار معلمة): كان النموذج الأول، الذي تم تقديمه في يونيو 2023، يركز على البرمجة بلغة Python. وقد أظهر أداءً متفوقًا على مقاييس HumanEval وMBPP، مما أثبت فعالية النهج القائم على البيانات عالية الجودة[6].
  • Phi-2 (2.7 مليار معلمة): صدر في ديسمبر 2023، ووسع Phi-2 قدراته لتشمل فهم اللغة العام مع الحفاظ على بنيته المدمجة. أظهر هذا النموذج أن نماذج اللغة الصغيرة (SLM) يمكن أن تحقق أداءً يضاهي النماذج الأكبر حجمًا بعشرات المرات[7].
  • Phi-3 (3.8 - 14 مليار معلمة): كانت هذه العائلة، التي تم تقديمها في أبريل 2024، بمثابة طفرة في مجال الذكاء الاصطناعي المحمول. يستطيع Phi-3-mini (3.8 مليار) العمل على الهواتف الذكية، محققًا أداءً يضاهي Mixtral 8x7B وGPT-3.5[8]. تشمل العائلة أيضًا إصدارات Phi-3-small (7 مليار) وPhi-3-medium (14 مليار).
  • Phi-3.5 (3.8 - 6.6 مليار معلمة نشطة): أُعلن عنها في عام 2024، وتتضمن هذه العائلة ثلاثة نماذج رئيسية:
    • Phi-3.5-mini-instruct: إصدار محسن مع دعم متعدد اللغات مُحسَّن.
    • Phi-3.5-MoE-instruct: نموذج يعتمد على بنية Mixture-of-Experts مع 16 خبيرًا و6.6 مليار معلمة نشطة.
    • Phi-3.5-Vision-instruct: نموذج متعدد الوسائط لمعالجة النصوص والصور[9].
  • Phi-4 (14 مليار معلمة): نموذج متخصص في الاستدلال الرياضي المعقد. يُظهر أداءً يضاهي Gemini-1.5-Flash وGPT-4o-mini، بحجم أصغر بكثير. يتفوق Phi-4-reasoning على DeepSeek-R1-Distill-Llama-70B[10].
  • Phi-4-Multimodal (5.6 مليار معلمة): أول نموذج متعدد الوسائط بالكامل في العائلة، قادر على معالجة النصوص والصور والصوت في وقت واحد. يستخدم نهجًا مبتكرًا يسمى Mixture-of-LoRAs لمعالجة الوسائط المختلفة بفعالية دون تداخل متبادل[11].

البنية والميزات التقنية

  • البنية: تستخدم نماذج Phi بنية المحولات القياسية من نوع «المُفَكِّك فقط» (decoder-only) مع تحسينات رئيسية مثل Grouped Query Attention وFlash Attention لزيادة الكفاءة[12].
  • النشر المحلي: تم تحسين النماذج للعمل على الأجهزة ذات الموارد المحدودة. على سبيل المثال، يتطلب Phi-3-mini فقط 1.8 جيجابايت من الذاكرة مع تكميم 4-بت ويمكن تشغيله على iPhone 14[13].
  • دعم أطر العمل: تتوفر نماذج Phi عبر Microsoft Azure AI Model Catalog وHugging Face وOllama وNVIDIA NIM microservices، مما يضمن تكاملها الواسع وتوافرها للمطورين[14].

الأداء والمقاييس المرجعية

مقارنة أداء نماذج Phi على المقاييس المرجعية الرئيسية
النموذج المعلمات MMLU MT-Bench HumanEval
Phi-3-mini 3.8 مليار 69% 8.38 -
Phi-3-small 7 مليار 75% 8.7 -
Phi-3-medium 14 مليار 78% 8.9 -
Phi-4 14 مليار - - تتفوق على GPT-4

يُظهر Phi-4 نتائج استثنائية في المسائل الرياضية، بما في ذلك American Mathematics Competitions (AMC)، حيث يُظهر أداءً يضاهي Gemini-1.5-Flash[15]. يتفوق النموذج متعدد الوسائط Phi-3.5-Vision على المنافسين من نفس الحجم، محققًا 57.0% على مقياس BLINK[16].

التطبيقات المتخصصة

تُظهر نماذج Phi كفاءة عالية في المجالات المتخصصة:

  • الطب: تُظهر الدراسات ارتباطًا معتدلًا بين إجابات Phi-3 وتقييمات الخبراء في النصوص الطبية والرياضية[17].
  • اكتشاف خطاب الكراهية: يحقق نموذج HateTinyLLM، القائم على Phi-2، دقة تزيد عن 80% في هذه المهمة باستخدام الضبط الدقيق LoRA fine-tuning[18].
  • استراتيجيات الألعاب: أظهر نموذج SC-Phi2 قدرات في التنبؤ بالاستراتيجيات في لعبة StarCraft II[19].

الذكاء الاصطناعي المسؤول والسلامة

تم تطوير عائلة Phi وفقًا لمعايير Microsoft Responsible AI، والتي تشمل مبادئ المساءلة والشفافية والعدالة والسلامة. تخضع النماذج لتقييم سلامة متعدد الأوجه، بما في ذلك Supervised Fine-Tuning (SFT) وDirect Preference Optimization (DPO)، بالإضافة إلى الاختبار بلغات مختلفة وضمن فئات المخاطر[20].

القيود

على الرغم من النتائج المثيرة للإعجاب، قد تكون نماذج Phi أقل أداءً من النماذج الكبيرة المتخصصة في بعض المهام المعقدة. على سبيل المثال، يُظهر Phi-4 نتائج جيدة في الاستدلال من نوع chain-of-thought، ولكنه محدود بسبب عدم قدرته على استدعاء الدوال (function calling)[21]. بالإضافة إلى ذلك، على الرغم من أن Phi-3.5 يدعم أكثر من 20 لغة، إلا أن أداءه قد يختلف، وتشير الأبحاث إلى عدم دقة في الإجابات باللغات غير الإنجليزية[22].

المراجع

  • Gunasekar, S.; et al. (2023). Textbooks Are All You Need. arXiv:2306.11644.
  • Gunasekar, S.; et al. (2023). Textbooks Are All You Need II: phi‑1.5 Technical Report. arXiv:2309.05463.
  • Dao, T.; et al. (2022). FlashAttention: Fast and Memory‑Efficient Exact Attention with IO‑Awareness. arXiv:2205.14135.
  • Zheng, S.; et al. (2023). GQA: Training Generalized Multi‑Query Transformer Models for Faster Decoding. arXiv:2305.13245.
  • Feng, W.; et al. (2024). Mixture‑of‑LoRAs: An Efficient Multitask Tuning for Large Language Models. arXiv:2403.03432.
  • Wu, X.; et al. (2024). Mixture of LoRA Experts. arXiv:2404.13628.
  • Microsoft Research (2024). Phi‑3 Technical Report. arXiv:2404.14219.
  • Abdin, M.; et al. (2024). Phi‑4 Technical Report. arXiv:2412.08905.
  • Microsoft Research (2025). Phi‑4‑reasoning Technical Report. PDF.
  • Microsoft Research (2025). Phi‑4‑Multimodal: Mixture‑of‑Modality‑LoRAs. arXiv:2503.01743.

ملاحظات

  1. ↑ «The Phi-3 small language models with big potential». Microsoft Source Features. [١]
  2. ↑ «Microsoft's Phi-3: Revolutionising AI with efficient and accessible small language models». Landing.Jobs Blog. [٢]
  3. ↑ «Textbooks Are All You Need». Microsoft Research. [٣]
  4. ↑ «Introducing Phi-4: Microsoft’s newest Small Language Model, specializing in complex reasoning». Microsoft Tech Community. [٤]
  5. ↑ «Exploring Phi-4: A Deep Dive into Microsoft's Latest Language Model». OpenCV Blog. [٥]
  6. ↑ «Unlocking the Power of Small Language Models (SLMs): The Evolution of Phi». LinkedIn. [٦]
  7. ↑ «Новая ИИ-модель Phi-2 от Microsoft училась по учебникам». TechInsider. [٧]
  8. ↑ «Phi-3 Technical Report». arXiv. [٨]
  9. ↑ «Discover the new multi-lingual, high-quality Phi-3.5 SLMs». Microsoft Tech Community. [٩]
  10. ↑ «Phi-4 Technical Report». arXiv. [١٠]
  11. ↑ «Mixture-of-Modality-LoRAs: A Low-Rank Approach to Natively Multimodal Foundation Models». arXiv. [١١]
  12. ↑ «Phi-3: A Tutorial on Microsoft's Small Language Models (SLMs)». DataCamp. [١٢]
  13. ↑ «Unlocking the Power of Small Language Models (SLMs): The Evolution of Phi». LinkedIn. [١٣]
  14. ↑ «Microsoft Phi». Microsoft Azure. [١٤]
  15. ↑ «Exploring Phi-4: A Deep Dive into Microsoft's Latest Language Model». OpenCV Blog. [١٥]
  16. ↑ «Phi-3.5-vision-instruct». Hugging Face. [١٦]
  17. ↑ «Small But Mighty: Exploring the Capabilities of Small Language Models in Medical and Sport-Specific Applications». arXiv. [١٧]
  18. ↑ «HateTinyLLMs: A Small Language Model for Hate Speech Detection». arXiv. [١٨]
  19. ↑ «SC-Phi2: A Specialized Small Language Model for StarCraft II». MDPI. [١٩]
  20. ↑ «Microsoft’s Phi-3.5: a responsible, small language model». Skymod. [٢٠]
  21. ↑ «Phi-4: A New Era of Small Language Models». Meta-quantum.today. [٢١]
  22. ↑ «A Multi-faceted Analysis of Language-specific Bias in Large Language Models». U.S. Securities and Exchange Commission. [٢٢]
Retrieved from "https://systems-analysis.info/int/index.php?title=Phi_(Microsoft)_—_فاي&oldid=5620"