Meta Prompting — التوجيه الفوقي
التوجيه الفوقي (بالإنجليزية: meta-prompting) هو أسلوب متقدم في هندسة الموجّهات، حيث تُستخدم نماذج اللغة الكبيرة (LLM) لإنشاء وتعديل وتحسين تعليماتها الخاصة (الموجّهات)[1]. على عكس الأساليب التقليدية، حيث يكتب الإنسان تعليمات مفصلة يدويًا، يركز التوجيه الفوقي على تحديد هيكل حل المشكلة والأدوار التي يجب على النموذج أن يؤديها. بعبارة أخرى، يصف كيفية حل المشكلة، وليس ما يجب فعله بالضبط في كل حالة محددة[2].
يسمح هذا المنهج لنماذج LLM بتفكيك المشكلات المعقدة بشكل مستقل، وتوضيح الاستعلامات، وتحسين إجاباتها بشكل تكراري، مما يمهد الطريق لإنشاء أنظمة ذكاء اصطناعي أكثر استقلالية وتكيفًا.
الأساليب والمناهج الرئيسية
انتشر مصطلح "التوجيه الفوقي" في الأدبيات العلمية في أواخر عام 2023 وأوائل عام 2024، عندما قدمت عدة مجموعات بحثية مناهج متشابهة لإدارة نماذج LLM.
Scaffolding - التوجيه الهيكلي
اقترح باحثون من جامعة ستانفورد وشركة OpenAI أحد المناهج الرئيسية[3]. في هذا المخطط، الذي أطلق عليه اسم scaffolding، يلعب نفس نموذج اللغة (GPT-4 في التجارب) عدة أدوار في وقت واحد:
- المايسترو (Conductor): يتلقى الموجه الفوقي عالي المستوى ويقسم المهمة المعقدة إلى سلسلة من المهام الفرعية الأبسط.
- الخبراء (Experts): يقوم "المايسترو" بتهيئة عدة نسخ من نفسه كـ "خبراء"، حيث يحل كل منهم مهمة فرعية منفصلة وفقًا لتعليمات محددة.
- التكامل (Integration): ينسق "المايسترو" عمل "الخبراء" ويدمج إجاباتهم في الحل النهائي.
وقد أدى هذا النهج التنسيقي إلى زيادة كبيرة في كفاءة حل المشكلات المعقدة. على سبيل المثال، في التجارب، تفوق التوجيه الفوقي على الاستعلامات العادية ذات الخطوة الواحدة بنسبة 17.1% وعلى الأساليب المتقدمة الأخرى بنسبة 15–17% في مجموعات المهام التي تتطلب تفكيرًا متعدد المكونات (مثل لعبة "24" وألغاز الشطرنج)[3]. من المهم ملاحظة أن هذه الطريقة مستقلة عن المهمة وتعمل في وضعية التعلم بدون أمثلة (zero-shot), دون الحاجة إلى أمثلة محددة لكل مهمة جديدة.
النهج النظري والقوالب الهيكلية
بالتوازي مع ذلك، اقترحت مجموعة من الباحثين من جامعة تسينغهوا مفهومهم الخاص للتوجيه الفوقي، محولين التركيز من الجزء الموضوعي للمهمة إلى صياغتها وشكل تمثيل البيانات[4]. بالاعتماد على نموذج فئوي، أثبتوا أن الوصف المجرد لهيكل المشكلة يمكّن النموذج من بناء استدلالات قريبة في عمقها من التفكير البشري، وتفكيك الأسئلة المعقدة بفعالية إلى خطوات أبسط.
مفاهيم ذات صلة
تتجلى أفكار التوجيه الفوقي في أساليب أخرى أيضًا:
- Automatic Prompt Engineer (APE): طريقة يقوم فيها نموذج LLM بإنشاء واختيار التعليمات الفعالة لنفسه تلقائيًا، مقيّمًا إياها بناءً على جودة النتائج التي يتم الحصول عليها[5].
- Self-Refine: نهج يقوم فيه النموذج بتحسين إجابته بشكل تكراري، من خلال تحليل النسخة السابقة بشكل نقدي وإنشاء تصحيحات بناءً على هذا النقد[6].
التطبيقات والمزايا
أظهر التوجيه الفوقي فعالية عالية في المهام التي تتطلب استدلالًا معقدًا متعدد المكونات، مثل البراهين الرياضية والبرمجة وحل الألغاز خطوة بخطوة. المزايا الرئيسية لهذه الطريقة هي:
- الكفاءة في استخدام التوكنات: التركيز على الهيكل العام للمهمة بدلاً من سرد العديد من الأمثلة يقلل من حجم الموجّه. يمثل الموجه الفوقي قالبًا عالميًا يتطلب عددًا أقل من التوكنات[7].
- الاستقرار والحيادية: تتجنب هذه الطريقة الاعتماد على أمثلة محددة، مما يجعل النموذج أقل عرضة للتحيز نحو تفاصيل عينات التدريب[7].
- التكيف الديناميكي: على عكس الموجّه الثابت، يسمح التوجيه الفوقي بالتحسين التكراري. يمكن للنموذج أثناء الحل توضيح التعليمات، وطلب المعلومات الناقصة، وتعديل استراتيجيته[2].
- التعميم على المهام الجديدة: يمكن نقل التعليمات عالية المستوى بسهولة أكبر إلى مهام جديدة لم يسبق رؤيتها، مما يجعل التوجيه الفوقي شكلاً محسنًا من نهج التعلم بدون أمثلة (zero-shot).
القيود والمخاطر
- التكلفة والتعقيد الحسابي: تتطلب هذه الطريقة استدعاءات متعددة للنموذج لمهمة واحدة، مما يزيد من استهلاك الوقت وطلبات API. تعمل التطبيقات الحالية بشكل تسلسلي، مما يجعل الموازاة (parallelization) صعبة[8].
- الاعتماد على قدرات النموذج: تعتمد فعالية التوجيه الفوقي بشكل كبير على جودة نموذج LLM الأساسي. أظهرت الأبحاث أن GPT-3.5 لا يستفيد كثيرًا من هذه الطريقة، بينما تزداد الفائدة بشكل ملحوظ مع GPT-4 والنماذج الأحدث[8].
- القيود الأساسية لنماذج LLM: التوجيه الفوقي ليس حلاً سحريًا. إذا كانت المهمة خارج نطاق معرفة النموذج الأساسي، فحتى الموجه الفوقي المصاغ بشكل مثالي لا يضمن نتيجة صحيحة. في مثل هذه الحالات، يتطلب الأمر إما إعادة تدريب النموذج أو التكامل مع أدوات خارجية (مثل البحث على الإنترنت أو مفسر الأكواد)[3].
روابط خارجية
- مثال على التوجيه الفوقي في OpenAI Cookbook
- وصف الطريقة في دليل هندسة الموجهات (Prompt Engineering Guide)
المراجع
- Suzgun, M.; Kalai, A. T. (2024). Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding. arXiv:2401.12954.
- Zhang, Y.; Yuan, Y.; Yao, A. C.-C. (2023). Meta Prompting for AGI Systems. arXiv:2311.11482.
- Zhou, Y. et al. (2022). Large Language Models Are Human-Level Prompt Engineers. arXiv:2211.01910.
- Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
- Ning, X. et al. (2023). Skeleton-of-Thought: Prompting LLMs for Efficient Parallel Generation. arXiv:2307.15337.
- Chen, X. et al. (2023). Universal Self-Consistency for Large Language Model Generation. arXiv:2311.17311.
- Wang, X. et al. (2022). Self-Consistency Improves Chain-of-Thought Reasoning in Language Models. arXiv:2203.11171.
- Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
- Zhou, P. et al. (2024). Self-DISCOVER: Large Language Models Self-Compose Reasoning Structures. arXiv:2402.03620.
- Chen, J. et al. (2024). Thought-Augmented Reasoning with Large Language Models. arXiv:2406.04271.
ملاحظات
- ↑ «Enhance your prompts with meta prompting». OpenAI Cookbook. [١]
- ↑ 2.0 2.1 «Meta-Prompting: LLMs Crafting & Enhancing Their Own Prompts». Intuition Labs. [٢]
- ↑ 3.0 3.1 3.2 Suzgun, Mirac; Kalai, Adam T. (2024). «Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding». arXiv:2401.12954.
- ↑ Zhang, Yifan, et al. (2023). «Meta Prompting for AGI Systems». arXiv:2311.11482.
- ↑ Zhou, Y., et al. (2022). «Large Language Models Are Human-Level Prompt Engineers». arXiv:2211.01910.
- ↑ Madaan, A., et al. (2023). «Self-Refine: Iterative Refinement with Self-Feedback». arXiv:2303.17651.
- ↑ 7.0 7.1 «Meta Prompting». Prompt Engineering Guide. [٣]
- ↑ 8.0 8.1 «AI within an AI: Meta-prompting can improve the reasoning capabilities of large language models». The Decoder.