Discourse Coherence and Response-Guided Context Rewriting for Multi-Party Dialogue Generation

1. O Problema

A geração de diálogo multi-participante (MDG) é uma tarefa complexa devido à presença de múltiplos interlocutores e estruturas discursivas intrincadas. Embora pesquisas anteriores tenham focado em incorporar informações estruturais (explícitas ou implicitamente) para gerar respostas, elas frequentemente falham em lidar com as características naturais da linguagem humana em diálogos, especificamente:

• Expressões coloquiais e incompletas: Diálogos reais contêm gírias, elipses e referências ambíguas.
• Quebra de coerência: Essas características dificultam a compreensão do contexto e enfraquecem a representação da estrutura do diálogo.
• Impacto na geração: A baixa coerência do discurso interfere na codificação da estrutura, levando a respostas geradas que não são contínuas ou semanticamente alinhadas com o histórico do diálogo (ex: ignorar quem é o destinatário ou o que foi dito anteriormente).

O objetivo central é melhorar a qualidade da geração de respostas em diálogos multi-participantes através da reescrita do contexto para torná-lo mais coerente e claro antes da geração da resposta.

2. Metodologia: Framework DRCR

Os autores propõem um novo framework chamado DRCR (Discourse coherence and Response-guided Context Rewriting). O sistema opera em três estágios principais, utilizando dois modelos de linguagem (LLMs) atuando como Reescritor (Rewriter) e Respondedor (Responder).

A. Reconhecimento de Destinatário (Addressee Recognition - AR)

Para quantificar a coerência do discurso, o DRCR utiliza o reconhecimento de destinatário como um proxy.

• Um classificador é treinado para identificar a quem cada fala é dirigida.
• Lógica: Se o modelo consegue identificar com alta confiança o destinatário correto, isso indica que o discurso é coerente e lógico. A probabilidade prevista para o destinatário verdadeiro serve como uma métrica de coerência.

B. Construção de Dados de Preferência (Warm-up)

Para inicializar os modelos, o DRCR gera dados de preferência usando um LLM externo (como professor):

1. Amostragem Árvore Top-Down: O reescritor gera múltiplas versões reescritas do contexto, explorando diferentes caminhos de reescrita.
2. Filtragem (NLI): Usa Inferência de Linguagem Natural (NLI) para podar candidatos que desviam do significado original.
3. Avaliação Dual: As candidatas são avaliadas em duas dimensões:
   • Coerência do Discurso (DC): Medida pela precisão do classificador de destinatário na versão reescrita.
   • Qualidade da Resposta (RQ): Medida pela similaridade (BLEU/ROUGE) entre a resposta gerada pelo modelo e a resposta de referência (ground truth).
4. Calibração de Importância: Utiliza o Coeficiente de Variação (CoV) para calcular pesos dinâmicos ($\alpha_c$ e $\alpha_r$) para DC e RQ, ajustando a importância de cada dimensão dependendo da variabilidade dos dados.
5. Treinamento Inicial: Os dados são ordenados para criar conjuntos de preferência (escolhido vs. rejeitado) e os modelos são treinados usando DPO (Direct Preference Optimization).

C. Auto-Evolução Mútua (Mutual Self-Evolution - MSE)

Para reduzir a dependência de dados externos e adaptar-se ao estado de alinhamento do modelo, o DRCR implementa um loop iterativo:

• O reescritor e o respondedor interagem mutuamente.
• O reescritor gera novos contextos candidatos; o respondedor gera respostas para eles.
• Os scores de coerência e qualidade são recalculados.
• Se um contexto reescrito tiver um score superior ao original, ele substitui o contexto original.
• Novos dados de preferência são construídos a partir dessas interações e os modelos são atualizados iterativamente.
• Inferência: Durante a geração, se o score de coerência do contexto original estiver abaixo de um limiar ($\phi$), o contexto é reescrito antes de gerar a resposta.

3. Contribuições Principais

1. Novo Framework DRCR: Primeiro método a incorporar reescrita de contexto explicitamente para melhorar a geração de diálogo multi-participante.
2. Sinais de Feedback Duplo: Introduz a Coerência do Discurso e a Qualidade da Resposta como sinais de otimização conjuntos para guiar a reescrita.
3. Auto-Evolução Mútua: Propõe um método de aprendizado dinâmico onde o reescritor e o respondedor evoluem juntos, reduzindo a dependência de dados de preferência estáticos e externos.
4. Métrica de Coerência Quantificável: Utiliza o reconhecimento de destinatário como uma medida objetiva e eficiente de coerência do discurso, evitando o alto custo computacional de usar LLMs para pontuar coerência diretamente.

4. Resultados Experimentais

O DRCR foi avaliado em quatro conjuntos de dados multi-participantes: Ubuntu IRC-16, Ubuntu IRC-19, HLA-Chat++ e Friends.

• Desempenho Automático: O DRCR superou significativamente os baselines de última geração (como GSN, HeterMPC, SS-MPC) e modelos LLMs ajustados apenas com Supervised Fine-Tuning (SFT).
  • Houve ganhos consistentes em métricas como BLEU, ROUGE-L e METEOR.
  • Modelos baseados em LLM (Llama-3.2, Qwen) equipados com DRCR superaram modelos SOTA anteriores.
• Avaliação Humana: Em uma avaliação com 4 dimensões (Coerência, Fluência, Informatividade, Utilidade), o DRCR obteve os melhores resultados, especialmente em Coerência, superando o melhor baseline em 0.06 pontos e alcançando qualidade próxima a respostas anotadas por humanos.
• Estudos de Ablação:
  • A remoção de qualquer um dos sinais de feedback (Coerência ou Qualidade) degradou o desempenho, confirmando a necessidade de ambos.
  • A calibração via Coeficiente de Variação (CoV) provou ser crucial para equilibrar os sinais.
  • A fase de Warm-up e a Auto-Evolução Mútua são ambas essenciais; a remoção da fase inicial causou uma queda maior no desempenho.
• Análise de Coerência: A reescrita aumentou significativamente a precisão do reconhecimento de destinatários no contexto, provando que o discurso se tornou mais claro e estruturado.

5. Significado e Conclusão

O trabalho demonstra que a reescrita de contexto é uma estratégia eficaz para mitigar os desafios de ambiguidade e estrutura complexa em diálogos multi-participantes. Ao transformar um contexto "ruidoso" em um discurso coerente, o modelo consegue gerar respostas mais alinhadas e lógicas.

Limitações e Futuro:

• Ainda depende de um LLM poderoso para inicializar os dados de preferência.
• A reescrita introduz uma sobrecarga de tempo computacional para amostras que não necessitam de reescrita.
• Trabalhos futuros podem focar em reescrita seletiva (reescrita apenas de falas específicas) e adaptação a cenários com múltiplos tópicos.

Em resumo, o DRCR estabelece um novo paradigma onde a melhoria da estrutura do discurso (via reescrita) é tratada como um pré-requisito fundamental para a geração de respostas de alta qualidade em sistemas de diálogo complexos.