Generating Place-Based Compromises Between Two Points of View

1. Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) destacam-se no raciocínio acadêmico, mas lutam com a inteligência social, particularmente na geração de compromissos empaticamente neutros entre pontos de vista opostos. Embora os LLMs possam produzir declarações de consenso ou respostas empáticas, eles frequentemente falham em atuar como mediadores neutros que propõem resoluções aceitáveis para ambas as partes sem favorecer um lado.

• A Lacuna: Os métodos existentes frequentemente focam em consenso amplo ou empatia simples, mas gerar um compromisso exige propor uma solução onde ambas as partes saiam em melhor situação do que sem o compromisso, requerendo um equilíbrio de empatia em relação a posições conflitantes.
• O Desafio: Os LLMs tendem a ancorar-se em um ponto de vista ou falham em equilibrar o peso emocional de argumentos opostos, levando a resultados enviesados ou inaceitáveis.

2. Metodologia

Os autores propõem um framework de duas etapas: (1) Engenharia de Prompt para gerar dados sintéticos de alta qualidade usando um modelo proprietário grande e (2) Alinhamento de Modelo para destilar essas capacidades em modelos menores e de código aberto, sem exigir feedback externo durante a inferência.

A. Conjunto de Dados: ContrastingViews

O estudo utiliza um subconjunto do conjunto de dados EmpathyFromPerspectives (Chen et al., 2025), contendo 2.400 pares de pontos de vista contrastantes sobre espaços públicos (por exemplo, parques, trilhas).

• Visão A: Perspectiva positiva (sentindo-se seguro/bem-vindo).
• Visão B: Perspectiva negativa (sentindo-se inseguro/excluído).
• Cada visão inclui uma descrição do local, raciocínio e melhorias sugeridas.

B. Etapa 1: Engenharia de Prompt e Geração de Dados

Os autores avaliaram quatro estratégias de prompt usando o Claude 3 Opus para gerar compromissos:

1. Prompt Único: Instrução básica para gerar um compromisso.
2. Cadeia de Pensamento (CoT): Pedir explicitamente ao modelo para identificar similaridades antes de gerar.
3. CoT + Autoavaliação do LLM: O modelo gera um compromisso e depois autoavalia sua similaridade empática.
4. CoT + Feedback (Iterativo): O método mais eficaz. Utiliza um Modelo de Similaridade Empática externo (baseado no modelo de incorporação e5-large) para pontuar o compromisso gerado contra a Visão A e a Visão B.
   • Mecanismo: O sistema calcula a diferença absoluta entre as pontuações de similaridade ($|score_A - score_B|$). Se a diferença for alta, o modelo é instruído a refinar a resposta para minimizar essa lacuna, iterando até que o compromisso seja empaticamente neutro.

C. Etapa 2: Avaliação Humana

Um estudo com 50 participantes avaliou a aceitabilidade dos compromissos gerados pelas diferentes estratégias.

• Método: Os participantes foram atribuídos a um ponto de vista específico (seja o positivo ou o negativo) e solicitados a classificar a aceitabilidade dos compromissos a partir dessa perspectiva.
• Métrica: Pontuação de aceitabilidade (1-100) e classificação de preferência (Primeira/Segunda escolha).

D. Etapa 3: Alinhamento de Modelos Menores

Para tornar o sistema eficiente e remover a necessidade do modelo proprietário e da pontuação de similaridade externa durante a inferência, os autores treinaram modelos menores de código aberto (Llama-3.1 8B e Mistral-7B).

• Abordagem: Em vez de ajuste fino padrão (imitação), eles utilizaram alinhamento baseado em Estimativa de Contraste com Ruído (NCE).
• Racional: Inspirado na forma como os humanos aprendem normas sociais distinguindo entre comportamentos conformes e violadores, o modelo é treinado para discriminar entre compromissos "bons" (validados por humanos) e saídas "ruins" (do modelo base).
• Função de Perda: A perda NCE maximiza a probabilidade do compromisso alvo (bom) enquanto minimiza a probabilidade da saída do modelo base. Isso preserva o conhecimento mundial amplo do modelo (evitando o esquecimento catastrófico) enquanto internaliza a preferência pela neutralidade.
• Alternativa: Eles também exploraram um alinhamento baseado em Perda de Tarefa que incorpora pontuações ROUGE para garantir fidelidade semântica ao compromisso alvo.

3. Principais Contribuições

1. Framework de Neutralidade Empática: Introduziu um método inovador para gerar compromissos equilibrados não apenas logicamente, mas emocionalmente, minimizando a lacuna de empatia entre pontos de vista opostos.
2. Engenharia de Prompt Iterativa: Demonstrou que CoT + Feedback Externo (usando um modelo de similaridade de empatia) supera significativamente os métodos padrão de CoT e autoavaliação na geração de compromissos neutros.
3. Alinhamento Baseado em NCE: Propôs um método para alinhar LLMs menores para gerar compromissos empaticamente neutros sem exigir modelos de recompensa externos ou estimadores de similaridade no momento da inferência. Esta abordagem supera o ajuste fino padrão e evita os problemas de esquecimento catastrófico associados à Otimização Direta de Preferência (DPO) neste contexto.
4. Criação de Conjunto de Dados Sintético: Gerou um conjunto de dados de alta qualidade com mais de 2.400 compromissos baseados em locais, validados por preferência humana, para treinar e avaliar a inteligência social em LLMs.

4. Resultados

Avaliação Humana (Engenharia de Prompt)

• Preferência: O método CoT+Feedback foi o claro vencedor.
  • Primeira Preferência: CoT+Feedback 1 (37%) e CoT+Feedback 2 (40%).
  • Comparação: Superou significativamente o CoT (18%) e o Prompt Único (5%).
  • Significância Estatística: A preferência pelo CoT+Feedback sobre o Prompt Único foi estatisticamente significativa ($p \le 0,002$).
• Aceitabilidade: Compromissos gerados com feedback de neutralidade empática foram classificados como altamente aceitáveis tanto por detentores de pontos de vista positivos quanto negativos.

Alinhamento de Modelo (Modelos Menores)

• Qualidade de Geração: Modelos alinhados (Llama+NCE e Mistral+NCE) alcançaram as maiores pontuações ROUGE (por exemplo, Llama NCE: 0,315 ROUGE-1 vs. Base: 0,164), indicando melhor alinhamento semântico com compromissos validados por humanos.
• Neutralidade Empática: Os modelos alinhados produziram compromissos com uma "lacuna de neutralidade" ($|score_A - score_B|$) significativamente menor, aproximando-se do desempenho das saídas de prompt engenheirado iterativo.
• Retenção de Conhecimento: Ao contrário do DPO, que causou esquecimento catastrófico em experimentos iniciais, as abordagens NCE e Perda de Tarefa preservaram o conhecimento pré-treinado dos modelos (verificado via testes de verossimilhança WikiText).

5. Significado e Trabalho Futuro

• Aplicação Prática: Este trabalho fornece um pipeline escalável para implantar IA socialmente inteligente em resolução de conflitos, tomada de decisão colaborativa e cenários de mediação onde a imparcialidade é crítica.
• Eficiência: Ao destilar as capacidades de um grande modelo proprietário em modelos menores de código aberto via alinhamento NCE, o sistema torna-se implantável sem o custo computacional de loops iterativos de feedback externo.
• Limitações e Direções Futuras:
  • O conjunto de dados atual é limitado a conflitos baseados em locais (segurança/acolhimento). O trabalho futuro visa expandir para domínios abstratos como debates de políticas e dilemas éticos.
  • O estudo reconhece potenciais vieses nos dados de treinamento e a necessidade de abordar assimetrias de poder em futuras iterações.
  • Os autores planejam explorar diálogos de múltiplas voltas para simular negociações contínuas em vez de compromissos de tiro único.

Em conclusão, o artigo estabelece que o feedback empático externo é crucial para treinar LLMs a gerar compromissos neutros e que o alinhamento baseado em NCE é um método eficaz e eficiente para transferir essas capacidades de inteligência social para modelos menores e de código aberto.