Role Prompting (NL)

From Systems analysis Wiki
Jump to navigation Jump to search

Rolegerichte prompting (Engels: role prompting), ook wel bekend als persona-gebaseerde prompting (Engels: persona prompting), is een techniek binnen prompt engineering voor grote taalmodellen (LLM), waarbij het model expliciet een bepaalde rol, persona of expertidentiteit krijgt toegewezen vóór de uitvoering van een taak[1]. Met andere woorden: in de tekst van de opdracht of de systeeminstructie wordt vastgelegd dat het model bijvoorbeeld een 'leraar', 'historicus' of 'piraat' is, en zo worden de stijl, toon en het gedrag van het gegenereerde antwoord bepaald[2].

Deze aanpak wordt veel toegepast in conversatiesystemen. Zo stelt de standaard systeemprompt van ChatGPT 'You are a helpful assistant' feitelijk de basisrol van het model in de communicatie vast[3].

Doel en toepassing

Het doel van rolegerichte prompting is het model te sturen naar een bepaalde stijl en focus in het antwoord, zodat dit relevanter en contextueel passender wordt voor de taak. Door een rol toe te wijzen kan het model de bijbehorende toon en woordenschat aannemen. Dit is vooral nuttig bij creatieve en open opdrachten, waarbij de rol helpt de tekst levendiger en stilistisch gevarieerder te maken[4].

De techniek wordt ook in professionele scenario's gebruikt. Zo kan een chatbot voor technische ondersteuning de rol krijgen van een beleefde servicevertegenwoordiger, en in multi-agent systemen krijgt elke agent een eigen persona (bijvoorbeeld 'manager' of 'ontwikkelaar'), zodat ze effectief kunnen samenwerken[1]. De flexibiliteit van moderne LLM stelt hen in staat vrijwel elke rol aan te nemen — van een fictief personage tot een smalle specialist — en antwoorden te genereren die maximaal aansluiten bij het opgegeven beeld[1].

Invloed op kwaliteit en nauwkeurigheid

De vraag naar de effectiviteit van rolegerichte prompting voor het verbeteren van de objectieve nauwkeurigheid van antwoorden is onderwerp van actief onderzoek, en de resultaten zijn vaak tegenstrijdig.

Tegenstrijdige resultaten

Enerzijds zijn er studies die verbeteringen aantonen. Zo stelden Zheng et al. (2023) vast dat wanneer de rol van het model thematisch aansluit bij de taak, de prestaties kunnen toenemen[5]. Kong et al. (2024) stellen dat rolegerichte prompting het zero-shot redeneren van het model kan verbeteren bij een gelukkige keuze van de persona[5].

Anderzijds laten grootschalige studies een complexer beeld zien. In een systematisch experiment met 162 verschillende rollen werd geen significante winst in nauwkeurigheid gevonden ten opzichte van een neutraal scenario[3]. Bovendien verlaagde een rol-prompt de nauwkeurigheid van antwoorden gemiddeld zelfs licht[3].

Kim et al. (2024) omschrijven rolegerichte interventie als een 'tweesnijdend zwaard': het experiment toonde aan dat bij het model GPT-4 met een rolgebonden instructie een deel van de vragen correct werd opgelost terwijl ze zonder die instructie fout werden beantwoord (≈15,8% verbetering), maar dat bijna even veel taken door de rol juist werden 'beschadigd' (≈13,8% verslechtering)[5]. Dit onderstreept dat het toevoegen van een rol op zichzelf geen kwaliteitsverbetering garandeert en het gedrag van het model op onvoorspelbare wijze kan beïnvloeden.

Een onmiskenbaar voordeel van rolegerichte prompting is controle over stijl en opmaak van het antwoord. Zelfs als een rol geen verbetering oplevert voor de feitelijke nauwkeurigheid, maakt ze het mogelijk antwoorden te ontvangen met een gewenste toon (vriendelijk, formeel, coachend), waardoor antwoorden voor de gebruiker samenhangender en boeiender worden[4].

Aanbevelingen voor het opstellen van rollen

Onderzoek biedt een aantal praktische adviezen voor effectieve toepassing van rolegerichte prompting:

  • Keuze van de rol: Het wordt aanbevolen neutrale sociale rollen te kiezen (bijvoorbeeld 'collega', 'mentor'), waarbij te intieme of te specialistische rollen worden vermeden[6].
  • Formulering: Een rol kan beter direct vanuit het perspectief van het model worden opgegeven ('U bent X'), in plaats van via complexe imaginaire scenario's ('Stel u voor dat u...'). Directe toewijzing van een personage blijkt effectiever[6].
  • Tweestappenbenadering: Voor complexe opdrachten wordt voorgesteld de taak in twee stappen te verdelen: geef het model eerst de instructie over zijn rol en context, en stel daarna pas de hoofdvraag. Dit stelt het model in staat eerst 'in de rol te stappen' en vergroot de stabiliteit van het resultaat[6].

Beperkingen en risico's

Het gebruik van rolegerichte prompting brengt een aantal systemische risico's met zich mee.

Versterking van stereotypen en vooroordelen

LLM nemen onbewust stereotypen over die in de trainingsdata zijn ingebed. Het toewijzen van een rol die gekoppeld is aan een bepaald beroep, geslacht of nationaliteit kan deze stereotypen in de antwoorden activeren en versterken[6]. Onderzoek van Gupta et al. (2023) toonde aan dat het toevoegen van sociale kenmerken (leeftijd, etniciteit) aan een rol de output van het model kan verschuiven en de nauwkeurigheid van het redeneren aanzienlijk kan verlagen[5]. Een andere analyse (Deshpande et al., 2023) wees uit dat bepaalde persona's leiden tot een hogere toxiciteit in de gegenereerde antwoorden[5].

Beveiligingskwetsbaarheden

Kwaadwillenden kunnen rolegerichte prompting gebruiken om moderatiebeperkingen te omzeilen (een techniek die bekend staat als jailbreaking). Onderzoek heeft aangetoond dat het toewijzen van een bijzondere persona (bijvoorbeeld een personage zonder ethische beperkingen) het gemakkelijker maakt om LLM tot verboden handelingen aan te zetten. Shah et al. (2023) gebruikten met succes de samenwerking van meerdere 'rolgebonden' agenten om de beperkingen van het model te omzeilen, wat een systemische kwetsbaarheid aantoont[7].

Het is dan ook van belang dat men bij het toewijzen van een rol aan een model rekening houdt met mogelijke vooroordelen en ongewenste effecten die in die rol zijn ingebed, en deze methode zorgvuldig toepast[6].

  • Role Prompting: Guide LLMs with Persona-Based Tasks — handleiding voor rolegerichte prompting op Learn Prompting.
  • Use role prompting with Watsonx and Granite — praktische handleiding van IBM.

Literatuur

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models' Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

Noten

  1. 1.0 1.1 1.2 «Use role prompting with Watsonx and Granite». IBM.
  2. «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [1]
  3. 3.0 3.1 3.2 «When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models». arXiv. [2]
  4. 4.0 4.1 «Is Role Prompting Effective?». Learn Prompting. [3]
  5. 5.0 5.1 5.2 5.3 5.4 «Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts». arXiv. [4]
  6. 6.0 6.1 6.2 6.3 6.4 «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [5]
  7. Shah, S., et al. (2023). «Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation». ACL Anthology. [6]