Role Prompting (FA)

From Systems analysis Wiki
Jump to navigation Jump to search

پرامپت‌دهی نقشی (به انگلیسی: role prompting)، که با نام پرامپت‌دهی شخصیتی (به انگلیسی: persona prompting) نیز شناخته می‌شود، روشی در حوزه prompt engineering برای مدل‌های زبانی بزرگ (LLM) است که در آن به مدل به‌صورت صریح یک نقش، شخصیت یا هویت تخصصی مشخص پیش از انجام وظیفه اختصاص داده می‌شود[1]. به عبارت دیگر، در متن درخواست یا دستورالعمل سیستمی مشخص می‌شود که مدل مثلاً یک «معلم»، «مورخ» یا «دزد دریایی» است و بدین ترتیب سبک، لحن و رفتار پاسخ تولیدشده تعیین می‌گردد[2].

این رویکرد در سیستم‌های گفتگومحور به‌طور گسترده به کار می‌رود. برای مثال، دستورالعمل سیستمی پیش‌فرض ChatGPT یعنی «You are a helpful assistant» («شما یک دستیار مفید هستید») در واقع نقش پایه مدل را در تعامل تعریف می‌کند[3].

هدف و کاربرد

هدف از پرامپت‌دهی نقشی، هدایت مدل به سمت سبک و تمرکز مشخصی در پاسخ است تا پاسخ مناسب‌تر و متناسب‌تر با بافت وظیفه باشد. اختصاص نقش به مدل امکان می‌دهد لحن و واژگان متناسب را به کار گیرد. این امر به‌ویژه در وظایف خلاقانه و باز سودمند است، جایی که نقش به زنده‌تر و متنوع‌تر شدن متن از نظر سبکی کمک می‌کند[4].

این روش در سناریوهای حرفه‌ای نیز استفاده می‌شود. برای مثال، به یک چت‌بات پشتیبانی فنی می‌توان نقش یک نماینده خدمات مؤدب را داد، و در سیستم‌های چندعاملی به هر عامل شخصیت خاص خود (مثلاً «مدیر»، «توسعه‌دهنده») اختصاص داده می‌شود تا همکاری مؤثری داشته باشند[1]. انعطاف‌پذیری LLM‌های مدرن به آن‌ها امکان می‌دهد تقریباً هر نقشی را بپذیرند — از شخصیت‌های داستانی تا متخصصان حوزه‌های باریک — و پاسخ‌هایی تولید کنند که بیشترین تطابق را با تصویر تعریف‌شده دارند[1].

تأثیر بر کیفیت و دقت

پرسش درباره اثربخشی پرامپت‌دهی نقشی در بهبود دقت عینی پاسخ‌ها همچنان موضوع تحقیقات فعال است و نتایج اغلب با یکدیگر در تضاد هستند.

نتایج متناقض

از یک سو، پژوهش‌هایی وجود دارند که بهبود نتایج را نشان می‌دهند. برای مثال، در پژوهش Zheng و همکاران (2023) مشخص شد که اگر نقش مدل از نظر موضوعی با وظیفه همخوانی داشته باشد، عملکرد آن ممکن است افزایش یابد[5]. در پژوهش Kong و دیگران (2024) ادعا می‌شود که پرامپت‌دهی نقشی می‌تواند استدلال zero-shot مدل را با انتخاب مناسب شخصیت بهبود دهد[5].

از سوی دیگر، پژوهش‌های در مقیاس بزرگ تصویر پیچیده‌تری ارائه می‌دهند. در یک آزمایش منظم با 162 نقش مختلف، هیچ سود قابل توجهی در دقت نسبت به سناریوی بی‌طرف مشاهده نشد[3]. علاوه بر این، به‌طور میانگین پرامپت نقشی حتی دقت پاسخ‌ها را اندکی کاهش می‌داد[3].

پژوهش Kim و دیگران (2024) مداخله نقشی را به عنوان «شمشیری دو لبه» توصیف می‌کند: آزمایش نشان داد که در مدل GPT-4 با دستورالعمل نقشی بخشی از پرسش‌ها درست حل می‌شوند، اگرچه بدون آن اشتباه بودند (≈۱۵٫۸٪ بهبود)، اما تقریباً به همان اندازه از وظایف، برعکس، توسط نقش «خراب می‌شوند» (≈۱۳٫۸٪ افت)[5]. این نشان می‌دهد که افزودن نقش به‌خودی‌خود تضمینی برای افزایش کیفیت نیست و می‌تواند به شیوه‌ای غیرقابل پیش‌بینی بر رفتار مدل تأثیر بگذارد.

مزیت انکارناپذیر پرامپت‌دهی نقشی کنترل بر سبک و قالب پاسخ است. حتی اگر نقش سودی برای دقت واقعیت‌ها نداشته باشد، امکان دریافت پاسخ با لحن مشخص (دوستانه، رسمی، راهنمایانه) را فراهم می‌کند و پاسخ‌ها را برای کاربر منسجم‌تر و جذاب‌تر می‌سازد[4].

توصیه‌های ساخت نقش

پژوهش‌ها چند توصیه عملی برای استفاده مؤثر از پرامپت‌دهی نقشی ارائه می‌دهند:

  • انتخاب نقش: توصیه می‌شود نقش‌های اجتماعی بی‌طرف (مثلاً «همکار»، «راهنما») انتخاب شوند و از شخصیت‌های بیش از حد صمیمی یا بیش از حد تخصصی پرهیز شود[6].
  • صورت‌بندی: بهتر است نقش مستقیماً از زبان خود مدل تعریف شود («شما یک X هستید») نه از طریق سناریوهای تخیلی پیچیده («تصور کنید که شما...»). اختصاص مستقیم شخصیت اثربخشی بیشتری نشان داده است[6].
  • رویکرد دو مرحله‌ای: برای درخواست‌های پیچیده پیشنهاد می‌شود وظیفه به دو گام تقسیم شود: ابتدا تنظیمات نقش و زمینه به مدل داده شود و سپس پرسش اصلی مطرح شود. این کار به مدل اجازه می‌دهد ابتدا «شخصیت را بپذیرد» و پایداری نتیجه را افزایش می‌دهد[6].

محدودیت‌ها و خطرات

استفاده از پرامپت‌دهی نقشی با چندین خطر سیستماتیک همراه است.

تقویت کلیشه‌ها و سوگیری

LLM‌ها ناخواسته کلیشه‌های موجود در داده‌های آموزشی را جذب می‌کنند. اختصاص نقشی مرتبط با حرفه، جنسیت یا ملیت خاص می‌تواند این کلیشه‌ها را در پاسخ‌ها فعال و تقویت کند[6]. پژوهش Gupta و همکاران (2023) نشان داد که افزودن ویژگی‌های اجتماعی (سن، قومیت) به نقش می‌تواند خروجی مدل را منحرف کرده و دقت استدلال را به‌طور قابل توجهی کاهش دهد[5]. تحلیل دیگری (Deshpande و دیگران، 2023) آشکار کرد که برخی تصویرهای شخصیتی به افزایش سمیت در پاسخ‌های تولیدشده منجر می‌شوند[5].

آسیب‌پذیری‌های امنیتی

بدخواهان می‌توانند از پرامپت‌دهی نقشی برای دور زدن محدودیت‌های اعتدال‌سنجی (تکنیکی که با نام jailbreak شناخته می‌شود) استفاده کنند. پژوهش‌ها نشان داده‌اند که اختصاص شخصیت ویژه (مثلاً شخصیتی بدون محدودیت‌های اخلاقی) سوق دادن LLM به سمت اقدامات ممنوع را آسان‌تر می‌کند. Shah و دیگران (2023) با موفقیت از همکاری چند عامل «نقشی» برای دور زدن محدودیت‌های مدل استفاده کردند که آسیب‌پذیری سیستماتیک را نمایان می‌سازد[7].

بنابراین، هنگام اختصاص نقش به مدل، توجه به تعصبات احتمالی و اثرات ناخواسته نهفته در آن نقش اهمیت دارد و این روش باید با احتیاط به کار گرفته شود[6].

پیوندها

  • Role Prompting: Guide LLMs with Persona-Based Tasks — راهنمای پرامپت‌دهی نقشی در Learn Prompting.
  • Use role prompting with Watsonx and Granite — راهنمای عملی از IBM.

منابع

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models' Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

یادداشت‌ها

  1. ↑ 1.0 1.1 1.2 «Use role prompting with Watsonx and Granite». IBM.
  2. ↑ «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [۱]
  3. ↑ 3.0 3.1 3.2 «When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models». arXiv. [۲]
  4. ↑ 4.0 4.1 «Is Role Prompting Effective?». Learn Prompting. [۳]
  5. ↑ 5.0 5.1 5.2 5.3 5.4 «Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts». arXiv. [۴]
  6. ↑ 6.0 6.1 6.2 6.3 6.4 «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [۵]
  7. ↑ Shah, S., et al. (2023). «Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation». ACL Anthology. [۶]
Retrieved from "https://systems-analysis.info/int/index.php?title=Role_Prompting_(FA)&oldid=6474"