Role Prompting (HI)

From Systems analysis Wiki
Jump to navigation Jump to search

रोल प्रॉम्प्टिंग (अंग्रेज़ी: role prompting), जिसे पर्सोना प्रॉम्प्टिंग (अंग्रेज़ी: persona prompting) के नाम से भी जाना जाता है, — यह बड़े भाषा मॉडलों (LLM) के लिए prompt engineering का एक तरीका है, जिसमें मॉडल को कोई कार्य सौंपने से पहले उसे स्पष्ट रूप से एक निश्चित भूमिका, पर्सोना या विशेषज्ञ पहचान दी जाती है[1]। दूसरे शब्दों में, अनुरोध के पाठ या system instruction में यह लिखा जाता है कि मॉडल — उदाहरण के लिए — एक «शिक्षक», «इतिहासकार» या «समुद्री डाकू» है, और इस प्रकार उत्पन्न उत्तर की शैली, स्वर और व्यवहार निर्धारित किया जाता है[2]।

यह तरीका संवाद प्रणालियों में व्यापक रूप से उपयोग किया जाता है। उदाहरण के लिए, ChatGPT का मानक system prompt «You are a helpful assistant» («आप एक सहायक सहायक हैं») वास्तव में संचार में मॉडल की मूलभूत भूमिका निर्धारित करता है[3]।

उद्देश्य और उपयोग

रोल प्रॉम्प्टिंग का लक्ष्य मॉडल को उत्तर की एक निश्चित शैली और फोकस की ओर निर्देशित करना है, ताकि उत्तर अधिक उचित और कार्य के अनुकूल हो। भूमिका निर्धारित करने से मॉडल को उपयुक्त स्वर और शब्दावली मिलती है। यह विशेष रूप से रचनात्मक और खुले प्रश्नों में उपयोगी है, जहाँ भूमिका पाठ को अधिक जीवंत और शैलीगत रूप से विविध बनाने में मदद करती है[4]।

यह तरीका पेशेवर परिदृश्यों में भी उपयोग किया जाता है। उदाहरण के लिए, तकनीकी सहायता chatbot को एक विनम्र सेवा प्रतिनिधि की भूमिका दी जा सकती है, और मल्टी-एजेंट प्रणालियों में प्रत्येक agent को अपना पर्सोना दिया जाता है (जैसे «प्रबंधक», «डेवलपर»), ताकि वे प्रभावी ढंग से सहयोग कर सकें[1]। आधुनिक LLM की लचीलापन उन्हें लगभग किसी भी भूमिका — काल्पनिक पात्र से लेकर किसी विशेष क्षेत्र के विशेषज्ञ तक — में ढलने और दी गई छवि के अनुरूप उत्तर उत्पन्न करने की अनुमति देती है[1]।

गुणवत्ता और सटीकता पर प्रभाव

उत्तरों की वस्तुनिष्ठ सटीकता में सुधार के लिए रोल प्रॉम्प्टिंग की प्रभावशीलता का प्रश्न सक्रिय शोध का विषय बना हुआ है, और परिणाम अक्सर परस्पर विरोधाभासी होते हैं।

परस्पर विरोधाभासी परिणाम

एक ओर, ऐसे शोध हैं जो परिणामों में सुधार दर्शाते हैं। उदाहरण के लिए, Zheng और सह-लेखकों (2023) के कार्य में पाया गया कि यदि मॉडल की भूमिका कार्य के विषय से मेल खाती है, तो उसका प्रदर्शन बढ़ सकता है[5]। Kong और अन्य (2024) के कार्य में दावा किया गया है कि रोल प्रॉम्प्टिंग सही पर्सोना चुनने पर मॉडल के zero-shot तर्क को बेहतर बना सकती है[5]।

दूसरी ओर, बड़े पैमाने के शोध अधिक जटिल तस्वीर दिखाते हैं। 162 विभिन्न भूमिकाओं के साथ एक व्यवस्थित प्रयोग में तटस्थ परिदृश्य की तुलना में सटीकता में कोई उल्लेखनीय लाभ नहीं पाया गया[3]। इससे भी अधिक, औसतन role-prompt ने उत्तरों की सटीकता को थोड़ा कम भी किया[3]।

Kim और अन्य (2024) का कार्य रोल हस्तक्षेप को «दोधारी तलवार» के रूप में वर्णित करता है: प्रयोग में दिखाया गया कि role instruction के साथ GPT-4 मॉडल कुछ प्रश्नों को सही हल करता है जो बिना भूमिका के गलत थे (≈15.8% सुधार), लेकिन लगभग उतने ही कार्य भूमिका के कारण «बिगड़» जाते हैं (≈13.8% गिरावट)[5]। यह इस बात पर जोर देता है कि भूमिका जोड़ना स्वयं गुणवत्ता में वृद्धि की गारंटी नहीं देता और मॉडल के व्यवहार को अप्रत्याशित रूप से प्रभावित कर सकता है।

रोल प्रॉम्प्टिंग का निस्संदेह लाभ उत्तर की शैली और प्रारूप पर नियंत्रण है। यदि तथ्यों की सटीकता के लिए भी भूमिका कोई लाभ नहीं देती, तो भी यह निर्धारित स्वर (मित्रवत, आधिकारिक, शिक्षाप्रद) के उत्तर प्राप्त करने की अनुमति देती है, जो उत्तरों को उपयोगकर्ता के लिए अधिक सुसंगत और रोचक बनाता है[4]।

भूमिकाएँ बनाने की अनुशंसाएँ

शोध रोल प्रॉम्प्टिंग के प्रभावी उपयोग के लिए कुछ व्यावहारिक सुझाव देते हैं:

  • भूमिका का चयन: तटस्थ सामाजिक भूमिकाएँ (जैसे «सहकर्मी», «मार्गदर्शक») चुनने की अनुशंसा की जाती है, अत्यधिक अंतरंग या अति-विशिष्ट भूमिकाओं से बचते हुए[6]।
  • शब्दरचना: भूमिका सीधे मॉडल के दृष्टिकोण से («आप — X हैं») देना बेहतर है, न कि जटिल काल्पनिक परिदृश्यों के माध्यम से («कल्पना करें कि आप हैं...»)। प्रत्यक्ष पात्र निर्धारण अधिक प्रभावी सिद्ध होता है[6]।
  • दो-चरणीय दृष्टिकोण: जटिल अनुरोधों के लिए कार्य को दो चरणों में विभाजित करने का सुझाव दिया जाता है: पहले मॉडल को उसकी भूमिका और संदर्भ के बारे में निर्देश दें, और उसके बाद ही मुख्य प्रश्न पूछें। इससे मॉडल पहले «भूमिका ग्रहण» कर सकता है और परिणाम की स्थिरता बढ़ती है[6]।

सीमाएँ और जोखिम

रोल प्रॉम्प्टिंग के उपयोग से कई प्रणालीगत जोखिम जुड़े हैं।

रूढ़िवादिता और पूर्वाग्रह का सुदृढ़ीकरण

LLM अनजाने में प्रशिक्षण डेटा में निहित रूढ़िवादिता अपना लेते हैं। किसी विशेष पेशे, लिंग या राष्ट्रीयता से जुड़ी भूमिका निर्धारित करने से उत्तरों में ये रूढ़िवादिताएँ सक्रिय और प्रबल हो सकती हैं[6]। Gupta और सहयोगियों (2023) के शोध में दिखाया गया कि भूमिका में सामाजिक विशेषताएँ (आयु, जातीयता) जोड़ने से मॉडल का निष्कर्ष बदल सकता है और तर्क की सटीकता काफी घट सकती है[5]। एक अन्य विश्लेषण (Deshpande et al., 2023) में पाया गया कि कुछ पर्सोना छवियाँ उत्पन्न उत्तरों में बढ़ी हुई विषाक्तता की ओर ले जाती हैं[5]।

सुरक्षा संबंधी कमज़ोरियाँ

दुर्भावनापूर्ण उपयोगकर्ता मॉडरेशन प्रतिबंधों को दरकिनार करने के लिए रोल प्रॉम्प्टिंग का उपयोग कर सकते हैं (यह तकनीक jailbreak के नाम से जानी जाती है)। शोध में दिखाया गया है कि एक विशेष पर्सोना (जैसे नैतिक प्रतिबंधों के बिना किसी पात्र) का निर्धारण LLM को वर्जित कार्यों की ओर धकेलना आसान बनाता है। Shah et al. (2023) ने मॉडल के प्रतिबंधों को दरकिनार करने के लिए कई «रोल-आधारित» agents के सहयोग का सफलतापूर्वक उपयोग किया, जो एक प्रणालीगत कमज़ोरी दर्शाता है[7]।

इस प्रकार, मॉडल को कोई भूमिका देते समय, उस भूमिका में निहित संभावित पूर्वाग्रहों और अवांछित प्रभावों को ध्यान में रखना और इस पद्धति का सावधानीपूर्वक उपयोग करना महत्वपूर्ण है[6]।

संदर्भ

  • Role Prompting: Guide LLMs with Persona-Based Tasks — Learn Prompting पर रोल प्रॉम्प्टिंग की मार्गदर्शिका।
  • Use role prompting with Watsonx and Granite — IBM की व्यावहारिक मार्गदर्शिका।

साहित्य

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models' Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

टिप्पणियाँ

  1. ↑ 1.0 1.1 1.2 «Use role prompting with Watsonx and Granite». IBM.
  2. ↑ «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [१]
  3. ↑ 3.0 3.1 3.2 «When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models». arXiv. [२]
  4. ↑ 4.0 4.1 «Is Role Prompting Effective?». Learn Prompting. [३]
  5. ↑ 5.0 5.1 5.2 5.3 5.4 «Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts». arXiv. [४]
  6. ↑ 6.0 6.1 6.2 6.3 6.4 «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [५]
  7. ↑ Shah, S., et al. (2023). «Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation». ACL Anthology. [६]
Retrieved from "https://systems-analysis.info/int/index.php?title=Role_Prompting_(HI)&oldid=6477"