Resumo Técnico: Reduzindo a Escalada Conversacional em Diálogos de LLM com Restrições de Comunicação Não Violenta

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais implantados em contextos emocionalmente carregados que envolvem conflitos interpessoais, frustração e angústia. Embora as pesquisas de segurança existentes tenham se concentrado amplamente na prevenção de danos explícitos — como linguagem tóxica, viés ou violações de políticas — há uma lacuna significativa no tratamento de comportamentos conversacionais que, inadvertidamente, escalam o conflito. Os modelos atuais podem reforçar involuntariamente a culpa, atribuir intenção maliciosa ou encorajar respostas confrontadoras, ampliando a tensão em vez de facilitar uma resolução construtiva. Este artigo identifica a escalada conversacional como um modo de falha de segurança subexplorado em diálogos de LLM.

Metodologia

Os autores propõem uma intervenção leve, ao nível de prompt, que operacionaliza os princípios da Comunicação Não Violenta (CNV) para guiar o comportamento do LLM em interações propensas a conflitos.

1. Prompting com Restrições de CNV

Em vez de realizar o ajuste fino (fine-tuning) dos modelos, o estudo implementa os princípios da CNV como um prompt de sistema contendo restrições orientadas a processos. Essas restrições são projetadas para serem agnósticas à arquitetura e evitar os custos de retreinamento. O prompt instrui o assistente a:

• Atentar-se aos estados emocionais: Reconhecer explicitamente os sentimentos e preocupações expressos pelo usuário.
• Evitar culpa e julgamento: Abster-se de absolutismo moral, atribuição especulativa de intenção ou ataques de caráter.
• Priorizar o esclarecimento: Buscar a compreensão e separar a observação do julgamento antes de oferecer conselhos ou sugestões orientadas à ação.
• Preservar a agência: Oferecer opções em vez de prescrições e evitar encorajar o confronto direto ou a punição social.

2. Estrutura de Avaliação

O estudo utiliza um Pipeline de Simulação de Agentes Duplos para automatizar a avaliação de diálogos de múltiplos turnos:

• Cenários: Um conjunto de dados sintético de cenários curtos e propensos a conflitos (ex: desentendimentos no ambiente de trabalho, tensões familiares) foi gerado. Estes foram parafraseados para variar em tom e intensidade, preservando a estrutura de conflito subjacente.
• Simuladores de Usuário: Três Simuladores de Usuário distintos foram utilizados para representar diferentes níveis de resistência do usuário (Baixa, Média e Alta).
• Modelos Assistentes: A estrutura foi testada em três modelos de código aberto instruídos, de diferentes tamanhos: Qwen2.5-1.5B (Baixa Resistência), Qwen3-4B (Média Resistência) e Llama-3.1-8B (Alta Resistência).
• Mecanismo de Julgamento: A avaliação automatizada foi conduzida utilizando DeepSeek-V3 e Claude-4.5-Sonnet como modelos juízes. Os juízes avaliaram o histórico completo do diálogo para determinar a Pontuação de Trajetória de Conflito.

3. Métricas

A métrica primária é a Pontuação de Trajetória de Conflito, uma escala de 5 pontos que quantifica a mudança no sentimento do usuário do estado inicial para o final:

• -2: Escalada Significativa (hostilidade/recusa).
• -1: Escalação (aumento da defensividade).
• 0: Estagnação (repetição sem resolução).
• +1: Desescalada (reconhecimento de perspectiva).
• +2: Desescalada Significativa (resolução de problemas colaborativa).

Principais Resultados

A avaliação, abrangendo 500 episódios através de nove combinações de modelo-usuário, rendeu os seguintes achados:

• Redução da Escalada: O prompting com restrições de CNV reduziu consistentemente a escalada conversacional em comparação com a Linha de Base Vanilla. Em cenários de alta resistência (Usuário 3), a Linha de Base Vanilla frequentemente resultou em médias negativas (indicando resultados adversos), enquanto a condição CNV melhorou essas pontuações (ex: Llama-3.1-8B melhorou de -0,526 para -0,346).
• Distribuição de Resultados: O prompt de CNV deslocou significativamente os resultados das interações. Em casos de alta resistência, ele reduziu a incidência de "Escalada" e aumentou a proporção de "Estagnação" ou "Desescalada". Para usuários de média resistência, a melhoria foi impulsionada por uma mudança de Escalada para Desescalada.
• Robustez: Os efeitos positivos foram observados em todas as três arquiteturas de assistentes e em ambos os modelos de julgamento (DeepSeek-V3 e Claude-4.5-Sonnet), confirmando que os benefícios não são artefatos de um modelo ou avaliador específico.
• Evidência Qualitativa: Estudos de caso (ex: Cenário P16) demonstraram que modelos Vanilla frequentemente desencadeavam resistência ao listar imediatamente soluções logísticas, enquanto modelos com restrição de CNV priorizaram a validação emocional, levando a uma mudança de linguagem acusatória para negociação.

Significância e Alegações

O artigo afirma que simples restrições de comunicação podem melhorar significativamente a confiabilidade do diálogo de LLM em contextos propensos a conflitos.

• Contribuição para a Segurança: Ao identificar a escalada como um modo de falha crítico, este trabalho expande o escopo da segurança de LLM além da toxicidade explícita para incluir a gestão de dinâmicas de conflito interpessoal.
• Praticidade: A abordagem demonstra que a orientação leve, ao nível de prompt, é suficiente para operacionalizar estruturas psicológicas complexas como a CNV sem a necessidade de ajuste fino dispendioso.
• Estabilização: O método prova-se particularmente eficaz em estabilizar interações com usuários altamente resistentes, prevenindo a "espiral de conflito" que frequentemente ocorre quando assistentes padrão falham em desescalar entradas emocionalmente carregadas.

Os autores observam que, embora a avaliação baseada em simulação forneça evidências robustas, trabalhos futuros são necessários para validar esses achados através de avaliação humana em larga escala em diversos contextos culturais e de interação.