Core prompt engineering techniques — پرامپٹ انجینئرنگ کے بنیادی طریقے

پرامپٹ انجینئرنگ میں متنوع تکنیکیں اور طریقہ کار شامل ہیں جو بڑے زبانی ماڈلز (LLM) کے ساتھ تعامل کو بہتر بنانے اور مطلوبہ نتائج حاصل کرنے کے لیے وضع کی گئی ہیں۔ یہ طریقے درخواستوں کی ساخت بنانے، سیاق و سباق فراہم کرنے، آؤٹ پٹ کے انداز کو کنٹرول کرنے اور ماڈل کی استدلالی صلاحیت کو بہتر بنانے سے متعلق ہیں۔ چونکہ LLM ان پٹ prompt کی بنیاد پر اگلے token کی پیشگوئی کرتے ہوئے جواب تیار کرتے ہیں، اس لیے prompt کا معیار اور ساخت براہ راست نتیجے پر اثر انداز ہوتی ہے۔ پرامپٹ انجینئرنگ کے بنیادی طریقے ڈویلپرز اور صارفین کو ماڈل کے رویے کو مؤثر طریقے سے کنٹرول کرنے، غلطیاں کم کرنے اور ماڈل کے اندرونی پیرامیٹرز تبدیل کیے بغیر اسے مخصوص کاموں کے لیے ڈھالنے کی سہولت دیتے ہیں۔

بنیادی اصول اور Prompt کی ساخت

گرچہ مخصوص نفاذ مختلف ہو سکتے ہیں، مؤثر prompt اکثر عمومی اصولوں اور ساخت کو مدنظر رکھ کر تیار کیے جاتے ہیں:

• تجرباتی رہنما اصول: ایک عملی ڈھانچے کے طور پر (نہ کہ صنعتی معیار کے طور پر) درج ذیل اصولوں کی پیروی تجویز کی جاتی ہے: سمت دیں، فارمیٹ بتائیں، مثالیں فراہم کریں، معیار جانچیں اور کام تقسیم کریں۔
• مؤثر prompt میں اکثر درج ذیل اجزاء شامل ہوتے ہیں:
  • تعارف/کردار: کام کا سیاق و سباق یا ماڈل کا کردار/شخصیت طے کرتا ہے۔
  • ہدایات: واضح رہنمائی کہ کیا کرنا ہے۔
  • سیاق و سباق: ضروری معلومات (جامد یا RAG کے ذریعے متحرک طور پر حاصل شدہ)۔
  • مثالیں (Few-shot): مطلوبہ فارمیٹ/انداز کا مظاہرہ۔
  • جواب کی درخواست: واضح اشارہ کہ ماڈل کو کیا تیار کرنا ہے۔

• سسٹم پیغام (System Prompt): چیٹ انٹرفیس API میں (مثلاً OpenAI، Anthropic کے ماڈلز میں) پوری سیشن کے لیے عمومی ہدایات اور کردار طے کرنے کی سہولت دیتا ہے۔
• فارمیٹنگ: Markdown، JSON، XML یا YAML کا استعمال prompt کو منظم بنانے اور جواب کی پارسنگ آسان بنانے میں مدد کرتا ہے۔ حد بندیاں (```, `"""`, XML ٹیگز) ہدایات کو ڈیٹا سے الگ کرنے کے لیے اہم ہیں۔

ہدایات اور مثالوں کی بنیادی تکنیکیں

• واضح اور مخصوص ہدایات: کام، مطلوبہ نتیجے اور حدود کو زیادہ سے زیادہ درستگی سے بیان کریں۔ ابہام سے گریز کریں۔
• کردار سازی (Role Prompting): ماڈل کو ایک کردار سونپنا ("آپ ... کے ماہر ہیں") تاکہ لہجے، انداز اور معلومات کی بنیاد کو کنٹرول کیا جا سکے۔
• Zero-shot Prompting: بغیر مثالوں کے درخواست۔ سادہ یا ماڈل کے لیے مانوس کاموں کے لیے مؤثر ہے۔
• Few-Shot Prompting: کام کے مظاہرے کے لیے چند (عموماً 2 سے 5) "سوال-جواب" کی مثالیں فراہم کرنا۔ اس کی ایک خاص صورت One-shot Prompting ہے جس میں ایک مثال ہوتی ہے۔ پیچیدہ فارمیٹس یا اسلوب کے لیے خاص طور پر مفید ہے۔ مثالوں سے غلط نمونے (anchoring) اپنانے سے بچنے کے لیے احتیاط ضروری ہے۔

سیاق و سباق کے انتظام کی تکنیکیں

• Retrieval-Augmented Generation (RAG): LLM کو بھیجنے سے پہلے prompt میں بیرونی علمی ذخائر سے متعلقہ معلومات کا متحرک اضافہ۔ 2020 میں Meta AI کی طرف سے پہلی بار پیش کردہ یہ طریقہ فریب آمیز جوابات (hallucinations) سے نمٹنے اور ڈیٹا کی تازگی یقینی بنانے کے لیے کلیدی اہمیت رکھتا ہے۔
• چنکنگ (Chunking): بڑے متون کو چھوٹے حصوں (chunks) میں تقسیم کرنا تاکہ ماڈل کی context window میں سما سکیں۔ حکمت عملیوں میں جملوں، پیراگرافوں اور token (اوورلیپ کے ساتھ) کے مطابق تقسیم شامل ہے۔
• خلاصہ سازی: محدود context میں بنیادی مفہوم منتقل کرنے کے لیے طویل متون یا مکالمے کی تاریخ کو سکیڑنا۔

استدلال (Reasoning) کو بہتر بنانے کی تکنیکیں

یہ تکنیکیں ماڈل کو زیادہ محتاط اور منظم انداز میں "سوچنے" پر مجبور کرنے کے لیے وضع کی گئی ہیں۔ ان میں سے بہت سی تکنیکوں، خاص طور پر CoT کی افادیت، بڑے پیمانے کے ماڈلز (عموماً 100 ارب سے زائد پیرامیٹرز) میں ظاہر ہوتی ہے۔

• Chain-of-Thought (CoT): ماڈل کو حتمی جواب سے پہلے مرحلہ وار استدلال تیار کرنے کی ہدایت۔ ریاضی، منطق اور کثیر مرحلی کاموں میں نتائج کو نمایاں طور پر بہتر بناتا ہے۔
  • Zero-shot CoT: سادہ ترین شکل جس میں مثالوں کی ضرورت نہیں۔ prompt میں "آئیں قدم بہ قدم سوچتے ہیں" (Let's think step by step) جیسا جملہ شامل کرنا ہی استدلال کا سلسلہ شروع کر سکتا ہے۔
• CoT کی اقسام:
  • Auto-CoT: few-shot prompting کے لیے استدلال کی مثالیں خودکار طریقے سے تیار کرنا۔
  • Self-Consistency: کئی استدلالی سلسلے تیار کرنا اور "ووٹنگ" کے ذریعے سب سے عام جواب کا انتخاب، جو قابل اعتماد پن بڑھاتا ہے۔
  • Tree-of-Thoughts (ToT): درخت کی شکل میں کئی استدلالی راستوں کی چھان بین، واپس جانے اور درمیانی مراحل کی جانچ کی سہولت کے ساتھ۔ یہ تکنیک پیچیدہ کاموں میں اعلیٰ کارکردگی ظاہر کرتی ہے، مثلاً "Game of 24" حل کرنے کی کامیابی کی شرح تقریباً 4% سے بڑھا کر تقریباً 74% تک لے جاتی ہے۔
  • Graph-of-Thought (GoT)، LogiCoT اور دیگر، جو زیادہ پیچیدہ یا منطقی طور پر تصدیق شدہ استدلال کے لیے وضع کیے گئے ہیں۔
• ReAct (Reason and Act): CoT کو آگے بڑھانے والی تکنیک۔ یہ ایک تکراری چکر ہے جس میں ماڈل استدلال (Thought) اور اوزار استعمال کرتے ہوئے عمل (Act) کے مراحل کو باری باری دہراتا ہے اور مشاہدات (Observation) کی بنیاد پر اپنی سمجھ کو تازہ کرتا ہے۔
• Self-Refine: ایک تکراری عمل جس میں ماڈل پہلے جواب تیار کرتا ہے، پھر اس پر تنقید کرتا ہے اور آخر میں اپنی تنقید کی بنیاد پر اسے بہتر بناتا ہے۔ یہ "تیاری-تنقید-بہتری" کا چکر کئی بار دہرایا جا سکتا ہے۔
• Take a Step Back Prompting: ماڈل پہلے عمومی اصول یا تجرید بیان کرتا ہے، پھر انہیں مخصوص کام پر لاگو کرتا ہے۔

پیشرفتہ تکنیکیں: ایجنٹس اور اوزار

• اوزار کا استعمال (Tool Usage) / فنکشن کال (Function Calling): LLM کو بیرونی API (تلاش، کیلکولیٹر، ڈیٹا بیس) کال کرنے کی سہولت دینا۔ ماڈل اوزار کے لیے منظم درخواست تیار کرتا ہے جو ایپلیکیشن چلاتی ہے اور نتیجہ ماڈل کو واپس بھیجا جاتا ہے۔ جدید LLM (GPT-4، Claude 3) میں اس فنکشن کی بنی ہوئی سپورٹ موجود ہے۔
• ایجنٹس (Agents): LLM پر مبنی نظام جو کسی ہدف کے حصول کے لیے خود مختارانہ طور پر منصوبہ بنا سکتے ہیں، اوزار استعمال کر سکتے ہیں اور عمل کر سکتے ہیں۔ اکثر ReAct جیسے چکر استعمال کرتے ہیں۔ فریم ورکس (LangChain، AutoGen، CrewAI) ان کی تخلیق کو آسان بناتے ہیں۔
• کثیر ایجنٹ نظام: پیچیدہ مسائل حل کرنے کے لیے کئی مخصوص ایجنٹس کا باہمی تعامل۔

غلطیوں اور فریب آمیز جوابات کم کرنے کی تکنیکیں

• RAG: جوابات کو حاصل شدہ حقیقی ڈیٹا سے منسلک کرنا۔
• جواب محدود کرنے کی ہدایات: صرف فراہم کردہ سیاق و سباق کی بنیاد پر جواب دینے یا غیر یقینی صورت میں اشارہ دینے کی ضرورت ("اگر جواب معلوم نہ ہو تو کہو 'مجھے نہیں معلوم'")۔
• حوالہ جات کی درخواست: ماڈل سے ذرائع بتانے یا جواب کی بنیاد بننے والے سیاق و سباق کے حصوں کو نقل کرنے کی ضرورت۔
• تصدیق اور خود تنقیدی: تکنیکوں کا استعمال جیسے Chain-of-Verification (CoVe) (جواب تیار کرنا پھر اس کی جانچ اور اصلاح کرنا)، Self-Refine یا ماڈل سے براہ راست اپنے جواب کی غلطیوں کی جانچ کرنے کی درخواست۔
• CoT: مرحلہ وار استدلال خود بخود منطقی غلطیاں کم کر سکتا ہے۔

جانچ اور اصلاح کی تکنیکیں

گرچہ جانچ ایک الگ عمل ہے، اس کے بعض پہلو پرامپٹ انجینئرنگ کا حصہ ہیں:

• prompt کا A/B تجربہ: ایک جیسے کاموں پر مختلف prompt ورژنز کی کارکردگی کا موازنہ۔
• جانچ کے لیے LLM کا استعمال: کسی طاقتور ماڈل (مثلاً GPT-4) کو دوسرے prompt یا ماڈل سے تیار کردہ جوابات کے معیار کی جانچ کے لیے استعمال کرنا (LLM-as-a-Judge)۔

Prompt کے نمونے

عام طور پر دوبارہ استعمال ہونے والے ڈھانچے:

• شخصیت کا نمونہ (Persona Pattern)۔
• آؤٹ پٹ حسب ضرورت بنانے کا نمونہ (Output Customization Pattern)۔
• وضاحت طلبی کا نمونہ (Question Refinement Pattern)۔
• علمی تصدیق / خود تنقیدی نمونہ (Cognitive Verifier / Self-Critique Pattern)۔
• مرحلہ وار استدلال کا نمونہ (Step-by-Step / Chain-of-Thought Pattern)۔
• سانچے کا نمونہ (Template Pattern)۔

ادبیات

• Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
• Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
• Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401.
• Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
• Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
• Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
• Zhou, D. et al. (2022). Least-to-Most Prompting Enables Complex Reasoning in Large Language Models. arXiv:2205.10625.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. arXiv:2305.18290.
• Wang, Y. et al. (2023). Self-Instruct: Aligning Language Models with Self-Generated Instructions. arXiv:2212.10560.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Chen, S. Y. et al. (2023). Extending Context Window of Large Language Models via Positional Interpolation. arXiv:2306.15595.
• Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
• Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [1].
• Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Han, H. et al. (2025). Retrieval-Augmented Generation with Graphs (GraphRAG). arXiv:2501.00309.
• Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
• Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.

مزید دیکھیں

• بڑے زبانی ماڈلز
• Chain-of-Thought Prompting
• LLM کے فریب آمیز اور غلط جوابات