Identifying and Mitigating Bottlenecks in Role-Playing Agents: A Systematic Study of Disentangling Character Profile Axes

Título: Identificação e Mitigação de Gargalos em Agentes de Role-Playing: Um Estudo Sistemático sobre a Desvinculação dos Eixos de Perfis de Personagem

1. Problema e Motivação

Os avanços em Agentes de Role-Playing (RPAs) baseados em Grandes Modelos de Linguagem (LLMs) têm focado em diversas metodologias de construção. No entanto, permanece incerto quais aspectos específicos dos perfis de personagem (como atributos, estrutura de prompt e natureza moral) realmente impulsionam a qualidade da interpretação de papéis.

• ** lacuna atual:** Os conjuntos de dados existentes não desvinculam sistematicamente fatores como familiaridade (personagens conhecidos vs. desconhecidos), estrutura do prompt (estruturado vs. não estruturado) e disposição moral (moral vs. imoral) sob condições controladas.
• Objetivo: Determinar quais configurações de perfil são os principais gargalos para a fidelidade do role-playing e propor uma estratégia para mitigar esses gargalos, especialmente relacionados a alinhamentos de segurança que suprimem personagens "imorais".

2. Metodologia

A. Desvinculação de Eixos (Framework Diagnóstico)
Os autores propõem um framework que analisa o impacto do perfil do personagem ao longo de três eixos estratégicos, mapeados para as fases de treinamento de LLMs:

1. Familiaridade (Pre-treinamento): Personagens Conhecidos (traços codificados nos pesos do modelo, ex: Harry Potter) vs. Desconhecidos (personagens sintéticos novos).
2. Estrutura (Instruction Tuning): Perfis Estruturados (esquema hierárquico padronizado) vs. Não Estruturados (narrativa livre).
3. Disposição (Alinhamento de Valores): Personagens Morais vs. Imorais (vilões, anti-heróis).

B. Construção do Conjunto de Dados Controlado

• Esquema de Perfil: Foi criado um esquema hierárquico padronizado com 5 dimensões principais e 28 campos detalhados (atributos pessoais, traços de personalidade, relacionamentos, motivações e habilidades).
• Dataset: Foi gerado um conjunto controlado de 211 personas (109 conhecidos, 102 sintéticos), variando sistematicamente nos três eixos.
  • Conhecidos: Extraídos de wikis (Fandom) e resumidos para o esquema.
  • Desconhecidos: Gerados sinteticamente via LLM, garantindo coerência lógica.
  • Classificação Moral: Utilizou-se um classificador (GPT-4o) para rotular perfis como Morais ou Imorais com base em valores intrínsecos, ignorando o papel canônico original.
• Validação: O dataset foi validado quanto à independência dos campos (via t-SNE), confiabilidade (precisão de 0,95 contra metadados) e concordância humano-LLM na classificação moral (Kappa de 0,80).

C. Avaliação Experimental

• Modelos: 5 LLMs de ponta (Qwen3-8B, Qwen3-235B, Mistral-Small, GPT-oss-120B, Deepseek-v3.2).
• Benchmarks:
  • PersonaGym: Entrevistas de turno único.
  • CoSER: Interações multi-turno e multi-personagem em cenários narrativos.
• Métricas: Consistência da persona, fidelidade do personagem, qualidade da história, entre outras.

3. Resultados Principais

A. Assimetria nos Eixos
Os resultados revelaram uma assimetria striking:

1. Familiaridade e Estrutura: Tiveram impacto negligenciável na qualidade do role-playing. Personagens conhecidos não mantiveram vantagem significativa em interações de múltiplos turnos (o contexto acumulado supera o conhecimento paramétrico), e perfis estruturados não superaram consistentemente os não estruturados.
2. Disposição (Moral vs. Imoral): Este foi o gargalo dominante. Personagens imorais sofreram uma degradação de desempenho substancial e consistente em todos os modelos e benchmarks.
   • Exemplo: No benchmark CoSER, a pontuação de personagens imorais caiu entre 5,89 e 9,22 pontos em comparação aos morais.

B. Análise de Campos Específicos
A degradação não foi uniforme em todo o perfil:

• Traços de Personalidade: Permaneceram relativamente estáveis (o modelo consegue simular traços como "extroversão" mesmo em vilões).
• Motivações: Apresentaram a queda mais acentuada. Campos como Objetivos e Moralidade foram severamente suprimidos, indicando que os priores de alinhamento ("ajudante útil") bloqueiam ativamente os tokens necessários para retratar motivações imorais.

4. Contribuição: Mitigação do Gargalo (FACD)

Para resolver a supressão de tokens imorais sem fine-tuning, os autores propuseram a Decodificação Contrastiva Consciente de Campos (Field-Aware Contrastive Decoding - FACD).

• Mecanismo: Uma estratégia de decodificação sem treinamento que amplifica seletivamente os sinais comportamentais suprimidos.
• Funcionamento:
  1. Executa duas passagens forward paralelas: uma com o prompt completo (incluindo traços imorais) e outra com um prompt "negativo" que contém apenas traços morais e neutros (excluindo os campos imorais específicos).
  2. Calcula a diferença entre as logits (distribuições de probabilidade) para isolar os tokens que representam os traços imorais suprimidos.
  3. Amplifica seletivamente esses tokens durante a geração.
• Resultados da Mitigação:
  • Reduziu significativamente a lacuna de desempenho entre personagens morais e imorais (redução relativa de 25% a 62% na lacuna).
  • Melhorou drasticamente a Fidelidade do Personagem (Character Fidelity), permitindo que o agente expressasse traços prescritos no perfil imoral sem violar a coerência narrativa.
  • Não sacrificou o desempenho de personagens morais; em alguns casos, a pontuação média geral aumentou.

5. Significância e Conclusão

• Descoberta Fundamental: A fidelidade do role-playing não é limitada pela familiaridade do personagem ou pela formatação do prompt, mas sim pelos viéses de alinhamento de segurança que impedem a representação fiel de personagens imorais, especialmente em suas motivações.
• Solução Prática: O FACD oferece um "blueprint" prático para implantar uma diversidade de personagens, incluindo antagonistas complexos, sem a necessidade de retreinamento custoso do modelo.
• Impacto: Este trabalho fornece uma base diagnóstica sólida para entender as limitações atuais dos RPAs e demonstra que é possível mitigar a "taxa de segurança" (safety tax) que degrada a qualidade da interpretação de papéis, mantendo a utilidade e segurança do sistema.

Em resumo, o paper demonstra que para criar RPAs de alta fidelidade, o foco deve sair da estrutura do prompt e ir para a gestão inteligente dos conflitos entre o alinhamento de segurança do modelo e a necessidade de representar a complexidade moral (incluindo a imoralidade) dos personagens.