Role Prompting (HE)

פרומפטינג תפקידים (באנגלית: role prompting), המכונה גם פרומפטינג פרסונה (באנגלית: persona prompting), הוא טכניקה בתחום prompt engineering עבור מודלים שפתיים גדולים (LLM), שבה מוקצה למודל בצורה מפורשת תפקיד, פרסונה או זהות מומחה מסוימת לפני ביצוע המשימה. במילים אחרות, בגוף הבקשה או בהוראת המערכת נכתב שהמודל הוא, לדוגמה, «מורה», «היסטוריון» או «פיראט», ובכך נקבעים סגנון, טון והתנהגות התגובה המיוצרת.

גישה זו נפוצה מאוד במערכות שיחה. לדוגמה, הוראת המערכת הסטנדרטית של ChatGPT «You are a helpful assistant» («אתה עוזר מועיל») למעשה מגדירה את התפקיד הבסיסי של המודל בתקשורת.

ייעוד ושימוש

מטרת פרומפטינג התפקידים היא לכוון את המודל לסגנון ולמיקוד תגובה מסוימים, כך שתהיה מתאימה יותר להקשר ולמשימה. הקצאת תפקיד מאפשרת להגדיר למודל את הטון ואוצר המילים המתאים. הדבר שימושי במיוחד במשימות יצירתיות ופתוחות, שבהן התפקיד מסייע להפוך את הטקסט לחי ומגוון יותר מבחינה סגנונית.

הטכניקה משמשת גם בתרחישים מקצועיים. לדוגמה, לצ'אטבוט תמיכה טכנית ניתן להקצות את תפקיד נציג שירות מנומס, ובמערכות רב-סוכניות כל סוכן מקבל פרסונה משלו (לדוגמה, «מנהל», «מפתח»), כדי שיוכלו לשתף פעולה ביעילות. הגמישות של LLM מודרניים מאפשרת להם לאמץ כמעט כל תפקיד — מדמות בדיונית ועד מומחה צר תחום — ולייצר תגובות התואמות בצורה מרבית לדמות שהוגדרה.

השפעה על איכות ודיוק

שאלת יעילות פרומפטינג התפקידים לשיפור הדיוק האובייקטיבי של התגובות נותרת נושא למחקר פעיל, והתוצאות לעיתים קרובות סותרות.

תוצאות סותרות

מצד אחד, קיימים מחקרים המדגימים שיפור בתוצאות. לדוגמה, במחקרם של Zheng ועמיתים (2023) נמצא שאם תפקיד המודל תואם נושאית למשימה, ביצועיו עשויים לעלות. במחקרם של Kong ואחרים (2024) נטען שפרומפטינג תפקידים מסוגל לשפר את יכולת ה-zero-shot reasoning של המודל בבחירת פרסונה מוצלחת.

מצד שני, מחקרים בקנה מידה גדול מציגים תמונה מורכבת יותר. בניסוי שיטתי עם 162 תפקידים שונים לא נמצא יתרון משמעותי בדיוק בהשוואה לתרחיש ניטרלי. יתר על כן, בממוצע פרומפט התפקיד אף הפחית מעט את דיוק התגובות.

מחקרם של Kim ואחרים (2024) מתאר את ההתערבות באמצעות תפקיד כ«חרב פיפיות»: הניסוי הראה שבמודל GPT-4 עם הוראת תפקיד חלק מהשאלות נפתרות נכון אף שבלעדיה היו שגויות (≈15.8% שיפור), אך כמעט חלק שווה של משימות, להיפך, «נהרס» על ידי התפקיד (≈13.8% הידרדרות). דבר זה מדגיש שהוספת תפקיד כשלעצמה אינה מבטיחה עלייה באיכות ועלולה להשפיע על התנהגות המודל בצורה בלתי צפויה.

יתרון בלתי מוטל בספק של פרומפטינג תפקידים הוא שליטה בסגנון ובפורמט התגובה. גם אם לדיוק עובדתי התפקיד אינו תורם, הוא מאפשר לקבל תגובות בטון מוגדר (ידידותי, רשמי, הדרכתי), מה שהופך את התגובות לקוהרנטיות ומרתקות יותר עבור המשתמש.

המלצות ליצירת תפקידים

מחקרים מספקים מספר עצות מעשיות לשימוש יעיל בפרומפטינג תפקידים:

• בחירת תפקיד: מומלץ לבחור תפקידים חברתיים ניטרליים (לדוגמה, «עמית», «מנטור»), תוך הימנעות מאמפלואות אינטימיות מדי או מתמחות מדי.
• ניסוח: עדיף להגדיר את התפקיד ישירות מנקודת מבט המודל («אתה X»), ולא דרך תרחישים מדומיינים מורכבים («דמיין שאתה...»). הקצאה ישירה של הדמות מוכחת כיעילה יותר.
• גישה דו-שלבית: עבור בקשות מורכבות מוצע לחלק את המשימה לשני שלבים: תחילה לתת למודל את ההגדרה של תפקידו והקשרו, ורק לאחר מכן לשאול את השאלה הראשית. הדבר מאפשר למודל «לאמץ תחילה את הדמות» ומגביר את יציבות התוצאה.

מגבלות וסיכונים

שימוש בפרומפטינג תפקידים כרוך במספר סיכונים מערכתיים.

חיזוק סטריאוטיפים והטיות

LLM מאמצים שלא במכוון סטריאוטיפים הטמונים בנתוני האימון. הקצאת תפקיד הקשור למקצוע, מגדר או לאום מסוים עלולה להפעיל ולחזק סטריאוטיפים אלה בתגובות. מחקרם של Gupta ועמיתים (2023) הראה שהוספת מאפיינים חברתיים (גיל, מוצא אתני) לתפקיד עלולה להטות את פלט המודל ולהפחית משמעותית את דיוק ההיסק. ניתוח נוסף (Deshpande et al., 2023) גילה שדמויות פרסונה מסוימות מובילות לרמת רעילות מוגברת בתגובות המיוצרות.

פגיעויות אבטחה

גורמים זדוניים יכולים להשתמש בפרומפטינג תפקידים לעקיפת הגבלות המודרציה (טכניקה המוכרת כ-jailbreak). מחקרים הראו שהקצאת פרסונה מיוחדת (לדוגמה, דמות ללא מגבלות אתיות) מקלה על הנעת LLM לפעולות אסורות. Shah et al. (2023) הצליחו להשתמש בשיתוף פעולה של מספר סוכנים «מבוססי תפקיד» לעקיפת הגבלות המודל, מה שממחיש פגיעות מערכתית.

לפיכך, בעת הקצאת תפקיד למודל חשוב להביא בחשבון את ההטיות האפשריות והאפקטים הבלתי רצויים הגלומים בתפקיד זה, וליישם שיטה זו בתבונה.

קישורים

• Role Prompting: Guide LLMs with Persona-Based Tasks — מדריך לפרומפטינג תפקידים ב-Learn Prompting.
• Use role prompting with Watsonx and Granite — מדריך מעשי של IBM.

ספרות

• Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
• Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
• Zheng, M. et al. (2023). When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
• Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
• Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
• Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
• Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
• Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
• Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models' Ability to Simulate Human Personas. PDF.
• Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
• Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
• Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.