G^2C-MT: Graph-Guided Context Selection for Document-Level Machine Translation

Resumo Técnico: G2C-MT

Definição do Problema
A tradução automática em nível de documento (DocMT) requer a captura de dependências de discurso de longo alcance para garantir consistência lexical, resolução de correferência e coerência lógica. Embora os Grandes Modelos de Linguagem (LLMs) tenham mostrado promessa no tratamento de contextos longos, traduzir documentos inteiros em uma única passagem frequentemente leva a omissões de sentenças, diluição de contexto e custos de decodificação proibitivos devido à complexidade quadrática dos LLMs em relação ao comprimento da entrada. Soluções existentes tentam mitigar isso via métodos baseados em recuperação ou estratégias baseadas em grafos. No entanto, abordagens baseadas em recuperação frequentemente tratam as sentenças como uma coleção não estruturada, falhando em preservar estruturas de discurso explícitas. Por outro via, métodos baseados em grafos existentes frequentemente dependem de classificação de relações dispendiosa via LLM para definições de arestas e são limitados à seleção de vizinhos de primeira ordem, impedindo a captura de caminhos de discurso de múltiplos saltos (multi-hop) essenciais para a estrutura global do documento.

Metodologia
Os autores propõem o G2C-MT (Graph-Guided Context for Machine Translation), um framework que reformula a seleção de contexto como um problema de descoberta de caminhos estruturados em um grafo de discurso leve. O pipeline consiste em três estágios:

1. Construção de Grafo de Discurso Direcionado:
   O documento de origem é modelado como um grafo acíclico direcionado (DAG) ponderado, onde cada parágrafo é um nó. Arestas direcionadas conectam um parágrafo alvo a parágrafos anteriores ($j < i$), refletindo a natureza sequencial da tradução. Os pesos das arestas ($w_{ij}$) são calculados através da fusão de três fatores:

   • Relevância Semântica ($S_{sem}$): Similaridade de cosseno entre embeddings de parágrafos, truncada por um limiar para reduzir o ruído.
   • Adjacência Sequencial ($S_{seq}$): Um peso fixo para parágrafos imediatamente adjacentes para garantir coerência local.
   • Sobreposição de Palavras-chave ($S_{key}$): Uma pontuação baseada em TF-IDF para capturar a consistência de termos (ex: nomes próprios) que a similaridade semântica pode omitir.
     Esta construção é leve, baseando-se em embeddings pré-treinados e TF-IDF em vez de inferência dispendiosa de LLM.

2. Amostragem de Caminho de Contexto com Viés de Profundidade:
   Para selecionar o contexto histórico para um parágrafo alvo, o método emprega um passeio aleatório com viés de profundidade (depth-biased random walk) partindo do nó alvo e retrocedendo.

   • Heurística de Profundidade: Uma abordagem de programação dinâmica calcula $\phi(v)$, representando o comprimento do caminho mais longo de volta de um nó, estimando seu potencial de fornecer um contexto histórico rico.
   • Transição Probabilística: O caminhante transita para nós anteriores com base em uma distribuição de probabilidade que combina o peso da aresta ($w_{ij}$) com um termo de viés $(\phi(v_{next}) + 1)^\lambda$. O hiperparâmetro $\lambda$ controla a preferência por caminhos de contexto mais profundos e informativos em vez de vizinhos imediatos.
   • Amostragem de Múltiplos Caminhos: Devido à natureza estocástica do passeio, múltiplos caminhos de contexto distintos podem ser amostrados para um único alvo.

3. Geração Contextual Baseada em Caminhos:
   O caminho amostrado é revertido para restaurar a ordem natural do documento e formatado em um prompt estruturado contendo os parágrafos de origem e suas respectivas traduções. Este prompt é enviado a um LLM para gerar a tradução para o parágrafo alvo atual.

   • Robustez via Agregação: Para entradas ambíguas, o framework pode gerar múltiplas traduções a partir de diferentes caminhos amostrados. O output final é selecionado através do agrupamento (clustering) desses candidatos (via k-means) e escolhendo aquele mais próximo do centroide do cluster.

Principais Contribuições

• Modelagem de Grafo Leve: O artigo introduz um framework inovador que modela o contexto do documento como um DAG usando um processo de construção computacionalmente eficiente (embedding + TF-IDF) em vez de classificação de relação dispendiosa via LLM.
• Travessia com Viés de Profundidade: Um mecanismo de passeio aleatório enviesado é projetado para favorecer explicitamente caminhos de contexto mais profundos, permitindo a recuperação de dependências de longo alcance e não lineares que métodos de janela fixa ou de vizinhos de primeira ordem perdem.
• Robustez de Múltiplos Caminhos: A travessia probabilística suporta naturalmente a amostragem de múltiplos caminhos, permitindo a agregação de diversos candidatos de tradução para melhorar a robustez contra ambiguidades de nível de discurso.

Resultados Experimentais
O método foi avaliado em dois benchmarks: o conjunto de dados SAP (domínio técnico de TI) e o conjunto de dados IWSLT 2017 (narrativa/palestras TED), utilizando vários backbones de LLM (DeepSeek-V3, Gemini-2.5-Flash-lite, série Qwen-2.5/3).

• Desempenho: O G2C-MT superou consistentemente baselines fortes, incluindo modelos de nível de sentença, baseados em janela, recuperação baseada em semântica e frameworks agênticos como GRAFT e DelTA. Alcançou as maiores pontuações de d-BLEU em todas as direções de tradução e backbones de modelo.
• Métricas de Discurso: Em métricas específicas de discurso (BlonDe, d-Prism, d-Comet), o G2C-MT obteve as melhores pontuações, demonstrando tratamento superior de entidades, tempos verbais e pronomes em comparação com métodos que dependem apenas de janelas locais ou similaridade semântica global.
• Eficiência: Diferente de métodos baseados em agentes que exigem múltiplas chamadas de LLM para curadoria de contexto, o G2C-MT exige exatamente $N$ chamadas de LLM para $N$ parágrafos, visto que a construção do grafo e a amostragem de caminho são etapas de pré-processamento.
• Ablação: A remoção da aresta de palavra-chave ou do passeio aleatório com viés de profundidade resultou nas maiores quedas de desempenho, destacando a importância da consistência terminológica e da recuperação de contexto profundo.

Significância e Alegações
O artigo afirma que o G2C-MT fornece uma solução robusta e computacionalmente eficiente para tradução em nível de documento ao modelar explicitamente dependências estruturadas de discurso. Ao visualizar a seleção de contexto como um problema de descoberta de caminhos em um grafo, o método consegue unir a lacuna entre a coerência local (capturada por arestas sequenciais) e a relevância global (capturada por arestas semânticas e de palavras-chave). Os autores asseguram que sua abordagem evita o trade-off entre as limitações de janela fixa e o ruído da recuperação semântica não estruturada, oferecendo uma alternativa escalável a frameworks multi-agentes complexos, mantendo alta qualidade de tradução e coerência.