Core prompt engineering techniques — प्रमुख तकनीकें

Prompt Engineering में विविध तकनीकें और पद्धतियाँ शामिल हैं, जो बड़े भाषा मॉडलों (LLM) के साथ अंतःक्रिया को अनुकूलित करने और वांछित परिणाम प्राप्त करने के लिए उपयोग की जाती हैं। ये तकनीकें अनुरोधों की संरचना, संदर्भ प्रदान करने, आउटपुट शैली के प्रबंधन और मॉडल की तर्क-क्षमता में सुधार से संबंधित हैं। चूँकि LLM इनपुट prompt के आधार पर अगले token की भविष्यवाणी करके उत्तर उत्पन्न करते हैं, इसलिए इस prompt की गुणवत्ता और संरचना सीधे परिणाम को प्रभावित करती है। Prompt Engineering की प्रमुख तकनीकें डेवलपर्स और उपयोगकर्ताओं को मॉडल के व्यवहार को प्रभावी ढंग से नियंत्रित करने, त्रुटियाँ कम करने और मॉडल के आंतरिक मापदंडों को बदले बिना उसे विशिष्ट कार्यों के अनुकूल बनाने में सक्षम बनाती हैं।

Prompt की मूल संरचना और आधारभूत सिद्धांत

हालाँकि विशिष्ट कार्यान्वयन भिन्न होते हैं, प्रभावी prompt अक्सर सामान्य सिद्धांतों और संरचना को ध्यान में रखकर बनाए जाते हैं:

• व्यावहारिक दिशानिर्देश: एक व्यावहारिक संरचना (किंतु उद्योग-मानक नहीं) के रूप में निम्नलिखित सिद्धांतों का पालन करने का सुझाव दिया जाता है: दिशा दें, प्रारूप निर्दिष्ट करें, उदाहरण प्रदान करें, गुणवत्ता का मूल्यांकन करें और कार्य को विभाजित करें।
• एक प्रभावी prompt में अक्सर निम्नलिखित घटक होते हैं:
  • परिचय/भूमिका: कार्य का संदर्भ या मॉडल की भूमिका/व्यक्तित्व निर्धारित करता है।
  • निर्देश: स्पष्ट संकेत कि क्या करना है।
  • संदर्भ: आवश्यक जानकारी (स्थैतिक या RAG के माध्यम से गतिशील रूप से प्राप्त)।
  • उदाहरण (Few-shot): वांछित प्रारूप/शैली का प्रदर्शन।
  • उत्तर का अनुरोध: स्पष्ट निर्देश कि मॉडल को क्या उत्पन्न करना है।

• System Prompt: API के चैट-इंटरफेस में (उदाहरण के लिए OpenAI, Anthropic के मॉडलों में) पूरे सत्र के लिए वैश्विक निर्देश और भूमिका निर्धारित करने की अनुमति देता है।
• प्रारूपण: Markdown, JSON, XML या YAML का उपयोग prompt को संरचित करने और उत्तर के पार्सिंग को सरल बनाने में सहायता करता है। सीमांकक (```, `"""`, XML टैग) निर्देशों को डेटा से अलग करने के लिए महत्वपूर्ण हैं।

निर्देशों और उदाहरणों की प्रमुख तकनीकें

• स्पष्ट और विशिष्ट निर्देश: कार्य, वांछित परिणाम और सीमाओं का यथासंभव सटीक वर्णन करें। अस्पष्टता से बचें।
• Role Prompting: मॉडल को एक भूमिका सौंपना ("तुम एक विशेषज्ञ हो...") जिससे उसके स्वर, शैली और ज्ञान आधार को नियंत्रित किया जा सके।
• Zero-shot Prompting: बिना उदाहरणों के अनुरोध। सरल या मॉडल के लिए सुपरिचित कार्यों के लिए प्रभावी।
• Few-Shot Prompting: कार्य प्रदर्शित करने के लिए कुछ (सामान्यतः 2 से 5) "प्रश्न-उत्तर" उदाहरण प्रदान करना। इसका एक विशेष मामला एक उदाहरण के साथ One-shot Prompting है। जटिल प्रारूपों या शैलियों के लिए विशेष रूप से उपयोगी। उदाहरणों से गलत पैटर्न (anchoring) को आत्मसात करने से बचने के लिए सावधानी आवश्यक है।

संदर्भ प्रबंधन की तकनीकें

• Retrieval-Augmented Generation (RAG): LLM को भेजने से पहले बाह्य ज्ञान-आधारों से प्रासंगिक जानकारी को prompt में गतिशील रूप से जोड़ना। 2020 में Meta AI द्वारा पहली बार प्रस्तावित, यह तकनीक भ्रामक उत्तरों (hallucinations) से निपटने और डेटा की अद्यतनता सुनिश्चित करने के लिए मुख्य विधि है।
• Chunking: बड़े पाठों को छोटे भागों (chunks) में विभाजित करना ताकि वे मॉडल की संदर्भ विंडो में समा सकें। रणनीतियों में वाक्यों, अनुच्छेदों, token (ओवरलैप सहित) द्वारा विभाजन शामिल है।
• Sumarization (सारांशीकरण): सीमित संदर्भ में मुख्य अर्थ संप्रेषित करने के लिए लंबे पाठों या संवाद इतिहास को संपीड़ित करना।

तर्क-क्षमता (Reasoning) सुधार की तकनीकें

ये तकनीकें मॉडल को अधिक सावधानी और संरचित तरीके से "सोचने" के लिए प्रेरित करती हैं। इनमें से कई तकनीकें, विशेष रूप से CoT, बड़े पैमाने के मॉडलों (सामान्यतः 100 अरब से अधिक मापदंड) पर प्रभावशीलता प्रदर्शित करती हैं।

• Chain-of-Thought (CoT): मॉडल को अंतिम उत्तर से पहले चरण-दर-चरण तर्क उत्पन्न करने का निर्देश। गणित, तर्कशास्त्र और बहु-चरणीय कार्यों में परिणामों में उल्लेखनीय सुधार करता है।
  • Zero-shot CoT: सबसे सरल रूप, जिसके लिए उदाहरणों की आवश्यकता नहीं। Prompt में "चलो चरण-दर-चरण सोचते हैं" (Let's think step by step) जैसा वाक्यांश जोड़ना ही तर्क-श्रृंखला शुरू करने के लिए पर्याप्त हो सकता है।
• CoT की विविधताएँ:
  • Auto-CoT: Few-shot prompting के लिए तर्क उदाहरणों का स्वचालित निर्माण।
  • Self-Consistency: कई तर्क-श्रृंखलाएँ उत्पन्न करना और "मतदान" द्वारा सबसे अधिक बार आने वाला उत्तर चुनना, जिससे विश्वसनीयता बढ़ती है।
  • Tree-of-Thoughts (ToT): तर्क के कई मार्गों को एक वृक्ष के रूप में खोजना, जिसमें वापस लौटने और मध्यवर्ती चरणों का मूल्यांकन करने की क्षमता हो। यह तकनीक जटिल कार्यों में उच्च दक्षता प्रदर्शित करती है, उदाहरण के लिए "Game of 24" को हल करने की सफलता दर ~4% से ~74% तक बढ़ाती है।
  • Graph-of-Thought (GoT), LogiCoT और अन्य, जो अधिक जटिल या तार्किक रूप से सत्यापित तर्क के लिए उपयोगी हैं।
• ReAct (Reason and Act): CoT को विस्तारित करने वाली तकनीक। यह एक पुनरावृत्त चक्र है जिसमें मॉडल तर्क (Thought) और उपकरणों का उपयोग करके क्रिया (Act) के चरणों को बारी-बारी से दोहराता है और अवलोकनों (Observation) के आधार पर अपनी समझ अद्यतन करता है।
• Self-Refine: एक पुनरावृत्त प्रक्रिया जिसमें मॉडल पहले उत्तर उत्पन्न करता है, फिर उसकी आलोचना करता है, और अंततः अपनी आलोचना के आधार पर उसे बेहतर बनाता है। यह "उत्पन्न करें-आलोचना करें-सुधारें" चक्र कई बार दोहराया जा सकता है।
• Take a Step Back Prompting: मॉडल पहले सामान्य सिद्धांत या अमूर्त अवधारणाएँ तैयार करता है, फिर उन्हें विशिष्ट कार्य पर लागू करता है।

उन्नत तकनीकें: एजेंट और उपकरण

• Tool Usage / Function Calling: LLM को बाह्य API (खोज, कैलकुलेटर, डेटाबेस) को कॉल करने की क्षमता प्रदान करना। मॉडल उपकरण-कॉल के लिए एक संरचित अनुरोध उत्पन्न करता है, जिसे एप्लिकेशन निष्पादित करता है और परिणाम मॉडल को वापस भेजता है। आधुनिक LLM (GPT-4, Claude 3) में इस कार्यक्षमता के लिए अंतर्निहित समर्थन है।
• Agents: LLM-आधारित प्रणालियाँ जो लक्ष्य प्राप्त करने के लिए स्वायत्त रूप से योजना बना सकती हैं, उपकरणों का उपयोग कर सकती हैं और कार्य कर सकती हैं। अक्सर ReAct-जैसे चक्रों का उपयोग करती हैं। Framework (LangChain, AutoGen, CrewAI) उनके निर्माण को सरल बनाते हैं।
• बहु-एजेंट प्रणालियाँ: जटिल कार्यों को हल करने के लिए कई विशेषीकृत एजेंटों की परस्पर क्रिया।

त्रुटियाँ और भ्रामक उत्तर (Hallucinations) कम करने की तकनीकें

• RAG: उत्तरों को प्राप्त तथ्यात्मक डेटा से जोड़ना।
• उत्तर-सीमा के निर्देश: केवल प्रदत्त संदर्भ के आधार पर उत्तर देने या अनिश्चितता व्यक्त करने की आवश्यकता ("यदि उत्तर ज्ञात न हो, तो कहें 'मुझे नहीं पता'")।
• उद्धरण का अनुरोध: मॉडल से स्रोत बताने या उत्तर के आधार बने संदर्भ के अंश उद्धृत करने की माँग।
• सत्यापन और आत्म-आलोचना: Chain-of-Verification (CoVe) जैसी तकनीकों का उपयोग (उत्तर उत्पन्न करना और फिर उसे जाँचना और सुधारना), Self-Refine या मॉडल से सीधे अपने उत्तर की त्रुटियाँ जाँचने का अनुरोध।
• CoT: चरण-दर-चरण तर्क स्वयं ही तार्किक त्रुटियों को कम कर सकता है।

मूल्यांकन और पुनरावृत्ति की तकनीकें

हालाँकि मूल्यांकन एक अलग प्रक्रिया है, इसके कुछ पहलू Prompt Engineering का हिस्सा हैं:

• Prompt का A/B परीक्षण: एक ही कार्यों पर prompt के विभिन्न संस्करणों की प्रभावशीलता की तुलना।
• मूल्यांकन के लिए LLM का उपयोग: किसी अन्य prompt या मॉडल द्वारा उत्पन्न उत्तरों की गुणवत्ता का मूल्यांकन करने के लिए एक शक्तिशाली मॉडल (जैसे GPT-4) का उपयोग (LLM-as-a-Judge)।

Prompt के पैटर्न

सामान्यतः पुनः उपयोग की जाने वाली संरचनाएँ:

• Persona Pattern (व्यक्तित्व पैटर्न)।
• Output Customization Pattern (आउटपुट अनुकूलन पैटर्न)।
• Question Refinement Pattern (प्रश्न परिष्करण पैटर्न)।
• Cognitive Verifier / Self-Critique Pattern (संज्ञानात्मक सत्यापन / आत्म-आलोचना पैटर्न)।
• Step-by-Step / Chain-of-Thought Pattern (चरण-दर-चरण तर्क पैटर्न)।
• Template Pattern (टेम्पलेट पैटर्न)।

साहित्य

• Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
• Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
• Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401.
• Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
• Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
• Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
• Zhou, D. et al. (2022). Least-to-Most Prompting Enables Complex Reasoning in Large Language Models. arXiv:2205.10625.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. arXiv:2305.18290.
• Wang, Y. et al. (2023). Self-Instruct: Aligning Language Models with Self-Generated Instructions. arXiv:2212.10560.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Chen, S. Y. et al. (2023). Extending Context Window of Large Language Models via Positional Interpolation. arXiv:2306.15595.
• Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
• Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [१].
• Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
• Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
• Han, H. et al. (2025). Retrieval-Augmented Generation with Graphs (GraphRAG). arXiv:2501.00309.
• Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
• Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.

यह भी देखें

• बड़े भाषा मॉडल
• Chain-of-Thought Prompting
• LLM के भ्रामक और अनुचित उत्तर