Role Prompting (CS)

From Systems analysis Wiki
Jump to navigation Jump to search

Rolové promptování (angl. role prompting), také známé jako personální promptování (angl. persona prompting), je technika v oblasti prompt engineeringu pro velké jazykové modely (LLM), při níž je modelu explicitně přiřazena určitá role, persona nebo odborná identita před plněním úkolu[1]. Jinými slovy, v textu dotazu nebo systémové instrukci je uvedeno, že model je například „učitel", „historik" nebo „pirát", čímž je určen styl, tón a chování generované odpovědi[2].

Tento přístup je široce využíván v dialogových systémech. Například standardní systémová výzva ChatGPT „You are a helpful assistant" („Jste nápomocný asistent") fakticky definuje základní roli modelu v komunikaci[3].

Účel a použití

Cílem rolového promptování je nasměrovat model na určitý styl a zaměření odpovědi tak, aby byla vhodná a kontextově odpovídající danému úkolu. Přiřazení role umožňuje modelu nastavit odpovídající tón a slovní zásobu. To je zvláště užitečné při kreativních a otevřených úkolech, kde role pomáhá obohatit text a učinit jej stylisticky různorodějším[4].

Technika se používá i v profesionálních scénářích. Například chatbotu technické podpory lze přiřadit roli zdvořilého servisního zástupce, a v multi-agentních systémech je každému agentovi přidělena vlastní persona (například „manažer", „vývojář"), aby mohli efektivně spolupracovat[1]. Flexibilita moderních LLM jim umožňuje přijímat prakticky jakoukoli roli – od fiktivní postavy až po úzkého specialistu – a generovat odpovědi co nejvíce odpovídající zadanému obrazu[1].

Vliv na kvalitu a přesnost

Otázka účinnosti rolového promptování pro zlepšení objektivní přesnosti odpovědí zůstává předmětem aktivního výzkumu a výsledky jsou často protichůdné.

Protichůdné výsledky

Na jedné straně existují studie prokazující zlepšení výsledků. Například práce Zheng a kol. (2023) zjistila, že pokud role modelu tematicky odpovídá zadání, jeho výkon může vzrůst[5]. Práce Kong a kol. (2024) tvrdí, že rolové promptování může zlepšit zero-shot uvažování modelu při vhodné volbě persony[5].

Na druhé straně rozsáhlé studie ukazují složitější obraz. V systematickém experimentu se 162 různými rolemi nebyl zjištěn výrazný přínos v přesnosti ve srovnání s neutrálním scénářem[3]. Navíc v průměru role-prompt mírně snižoval přesnost odpovědí[3].

Práce Kim a kol. (2024) popisuje rolové zasahování jako „dvojsečnou zbraň": experiment ukázal, že u modelu GPT-4 s rolovou instrukcí je část otázek zodpovězena správně, přestože bez ní docházelo k chybám (≈15,8 % zlepšení), avšak téměř stejně velká část úloh je naopak rolí „narušena" (≈13,8 % zhoršení)[5]. To zdůrazňuje, že přidání role samo o sobě nezaručuje růst kvality a může nepředvídatelně ovlivňovat chování modelu.

Nespornou předností rolového promptování je kontrola nad stylem a formátem odpovědi. I když role nepřináší nárůst faktické přesnosti, umožňuje získávat odpovědi v požadovaném tónu (přátelském, oficiálním, mentorském), čímž jsou odpovědi pro uživatele koherentnější a poutavější[4].

Doporučení pro tvorbu rolí

Výzkumy poskytují řadu praktických rad pro efektivní využití rolového promptování:

  • Výběr role: Doporučuje se volit neutrální sociální role (například „kolega", „mentor") a vyhýbat se příliš intimním nebo vysoce specializovaným rolím[6].
  • Formulace: Roli je lépe zadávat přímo v první osobě modelu („Jste X"), nikoli prostřednictvím složitých imaginárních scénářů („Představte si, že jste..."). Přímé přiřazení postavy prokazuje vyšší účinnost[6].
  • Dvoustupňový přístup: Pro složité dotazy se doporučuje rozdělit úkol do dvou kroků: nejprve modelu poskytnout instrukci o jeho roli a kontextu, a teprve poté položit hlavní otázku. To umožňuje modelu nejprve „přijmout roli" a zvyšuje stabilitu výsledku[6].

Omezení a rizika

Používání rolového promptování je spojeno s řadou systémových rizik.

Posilování stereotypů a předpojatosti

LLM nevědomky přejímají stereotypy zakořeněné v trénovacích datech. Přiřazení role spojené s určitou profesí, pohlavím nebo národností může tyto stereotypy v odpovědích aktivovat a posílit[6]. Studie Gupta a kol. (2023) ukázala, že přidání sociálních atributů (věk, etnicita) k roli může ovlivnit výstup modelu a výrazně snížit přesnost uvažování[5]. Další analýza (Deshpande et al., 2023) odhalila, že některé personální obrazy vedou ke zvýšené toxicitě generovaných odpovědí[5].

Bezpečnostní zranitelnosti

Útočníci mohou rolové promptování využít k obcházení omezení moderace (technika známá jako jailbreak). Výzkumy ukázaly, že přiřazení zvláštní persony (například postavy bez etických omezení) usnadňuje přimět LLM k zakázanému jednání. Shah et al. (2023) úspěšně využili spolupráci několika „rolových" agentů k obcházení omezení modelu, čímž byla demonstrována systémová zranitelnost[7].

Při přiřazování role modelu je tedy důležité brát v úvahu možné předsudky a nežádoucí efekty zakotvené v dané roli a tuto metodu používat obezřetně[6].

Odkazy

  • Role Prompting: Guide LLMs with Persona-Based Tasks — průvodce rolovým promptováním na Learn Prompting.
  • Use role prompting with Watsonx and Granite — praktický průvodce od IBM.

Literatura

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When \"A Helpful Assistant\" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models' Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

Poznámky

  1. ↑ 1.0 1.1 1.2 «Use role prompting with Watsonx and Granite». IBM.
  2. ↑ «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [1]
  3. ↑ 3.0 3.1 3.2 «When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models». arXiv. [2]
  4. ↑ 4.0 4.1 «Is Role Prompting Effective?». Learn Prompting. [3]
  5. ↑ 5.0 5.1 5.2 5.3 5.4 «Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts». arXiv. [4]
  6. ↑ 6.0 6.1 6.2 6.3 6.4 «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [5]
  7. ↑ Shah, S., et al. (2023). «Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation». ACL Anthology. [6]
Retrieved from "https://systems-analysis.info/int/index.php?title=Role_Prompting_(CS)&oldid=6470"