Role Prompting (PT)

From Systems analysis Wiki
Jump to navigation Jump to search

Role Prompting, também conhecido como persona prompting, é uma técnica no campo da engenharia de prompts para grandes modelos de linguagem (LLMs), na qual um papel, persona ou identidade de especialista é explicitamente atribuído ao modelo antes da execução de uma tarefa[1]. Em outras palavras, o texto do prompt ou a instrução de sistema especifica que o modelo é, por exemplo, um "professor", um "historiador" ou um "pirata", definindo assim o estilo, o tom e o comportamento da resposta gerada[2].

Essa abordagem é amplamente utilizada em sistemas de diálogo. Por exemplo, o prompt de sistema padrão do ChatGPT "You are a helpful assistant" ("Você é um assistente prestativo") estabelece de fato um papel básico para o modelo na comunicação[3].

Propósito e Aplicação

O objetivo do role prompting é direcionar o modelo para um estilo e foco de resposta específicos, tornando-a mais relevante e contextualmente apropriada para a tarefa. A atribuição de um papel permite definir o tom e o vocabulário apropriados para o modelo. Isso é especialmente útil em tarefas criativas e abertas, onde o papel ajuda a tornar o texto mais vívido e estilisticamente diversificado[4].

A técnica também é utilizada em cenários profissionais. Por exemplo, a um chatbot de suporte técnico pode ser atribuído o papel de um representante de atendimento educado, e em sistemas multiagente, cada agente recebe sua própria persona (por exemplo, "gerente", "desenvolvedor") para que colaborem de forma eficaz[1]. A flexibilidade dos LLMs modernos permite que eles assumam praticamente qualquer papel — de um personagem fictício a um especialista de nicho — e gerem respostas que correspondam ao máximo à imagem definida[1].

Impacto na Qualidade e Precisão

A questão da eficácia do role prompting para melhorar a precisão objetiva das respostas continua sendo objeto de pesquisa ativa, e os resultados são frequentemente contraditórios.

Resultados Contraditórios

Por um lado, existem estudos que demonstram uma melhoria nos resultados. Por exemplo, no trabalho de Zheng et al. (2023), descobriu-se que se o papel do modelo corresponde tematicamente à tarefa, seu desempenho pode aumentar[5]. No trabalho de Kong et al. (2024), afirma-se que o role prompting pode melhorar o raciocínio zero-shot do modelo com uma escolha bem-sucedida de persona[5].

Por outro lado, estudos em larga escala mostram um quadro mais complexo. Em um experimento sistemático com 162 papéis diferentes, não foi identificado um ganho significativo de precisão em comparação com um cenário neutro[3]. Além disso, em média, o role prompt chegou a reduzir ligeiramente a precisão das respostas[3].

O trabalho de Kim et al. (2024) descreve a intervenção de papel como uma "faca de dois gumes": o experimento mostrou que, com o modelo GPT-4 recebendo uma instrução de papel, parte das perguntas foi resolvida corretamente, embora houvesse erros sem ela (uma melhoria de ≈15,8%), mas uma proporção quase tão grande de tarefas foi, ao contrário, "prejudicada" pelo papel (uma piora de ≈13,8%)[5]. Isso ressalta que a adição de um papel por si só não garante um aumento na qualidade e pode influenciar o comportamento do modelo de forma imprevisível.

Uma vantagem inegável do role prompting é o controle sobre o estilo e o formato da resposta. Mesmo que o papel não traga ganhos na precisão dos fatos, ele permite obter respostas com um tom específico (amigável, formal, professoral), o que torna as respostas mais coesas e envolventes para o usuário[4].

Recomendações para a Criação de Papéis

As pesquisas oferecem uma série de dicas práticas para a aplicação eficaz do role prompting:

  • Escolha do Papel: Recomenda-se escolher papéis sociais neutros (por exemplo, "colega", "mentor"), evitando personas excessivamente íntimas ou de nicho[6].
  • Formulação: É melhor definir o papel diretamente na perspectiva do modelo ("Você é X"), em vez de usar cenários imaginários complexos ("Imagine que você é..."). A atribuição direta da persona demonstra maior eficácia[6].
  • Abordagem em Duas Etapas: Para prompts complexos, sugere-se dividir a tarefa em duas etapas: primeiro, dar ao modelo a instrução sobre seu papel e contexto e, só então, fazer a pergunta principal. Isso permite que o modelo "assuma o personagem" primeiro e aumenta a estabilidade do resultado[6].

Limitações e Riscos

A aplicação do role prompting está associada a uma série de riscos sistêmicos.

Reforço de Estereótipos e Vieses

Os LLMs involuntariamente adotam estereótipos enraizados nos dados de treinamento. Atribuir um papel associado a uma determinada profissão, gênero ou nacionalidade pode ativar e reforçar esses estereótipos nas respostas[6]. Um estudo de Gupta e colegas (2023) mostrou que adicionar atributos sociais (idade, etnia) ao papel pode enviesar a saída do modelo e reduzir significativamente a precisão do raciocínio[5]. Outra análise (Deshpande et al., 2023) revelou que certas personas levam a uma maior toxicidade nas respostas geradas[5].

Vulnerabilidades de Segurança

Atacantes podem usar o role prompting para contornar as restrições de moderação (uma técnica conhecida como jailbreak). Estudos mostraram que a atribuição de uma persona especial (por exemplo, um personagem sem restrições éticas) facilita a indução do LLM a realizar ações proibidas. Shah et al. (2023) usaram com sucesso a cooperação de múltiplos agentes "com papéis" para contornar as restrições do modelo, o que demonstra uma vulnerabilidade sistêmica[7].

Portanto, ao atribuir um papel a um modelo, é importante considerar os possíveis vieses e efeitos indesejados incorporados nesse papel e aplicar este método com cautela[6].

Ligações externas

Literatura

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When “A Helpful Assistant” Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models’ Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

Notas

  1. 1.0 1.1 1.2 «Use role prompting with Watsonx and Granite». IBM.
  2. «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [1]
  3. 3.0 3.1 3.2 «When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models». arXiv. [2]
  4. 4.0 4.1 «Is Role Prompting Effective?». Learn Prompting. [3]
  5. 5.0 5.1 5.2 5.3 5.4 «Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts». arXiv. [4]
  6. 6.0 6.1 6.2 6.3 6.4 «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [5]
  7. Shah, S., et al. (2023). «Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation». ACL Anthology. [6]