G^2C-MT: Graph-Guided Context Selection for Document-Level Machine Translation

Resumen Técnico: G2C-MT

Planteamiento del Problema
La traducción automática a nivel de documento (DocMT) requiere capturar dependencias de discurso de largo alcance para asegurar la consistencia léxica, la resolución de correferencias y la coherencia lógica. Aunque los Modelos de Lenguaje de Gran Escala (LLMs) han mostrado potencial en el manejo de contextos extensos, traducir documentos enteros en una sola pasada suele derivar en omisiones de oraciones, dilución del contexto y costos de decodificación prohibitivos debido a la complejidad cuadrática de los LLMs en relación con la longitud de la entrada. Las soluciones existentes intentan mitigar esto mediante métodos basados en la recuperación o estrategias basadas en grafos. Sin embargo, los enfoques basados en la recuperación suelen tratar las oraciones como una colección no estructurada, fallando en preservar las estructuras de discurso explícitas. Por el contrario, los métodos basados en grafos existentes dependen frecuentemente de una costosa clasificación de relaciones basada en LLMs para la definición de aristas, y están limitados a la selección de vecinos de primer orden, lo que impide la captura de rutas de discurso de múltiples saltos (multi-hop) esenciales para la estructura global del documento.

Metodología
Los autores proponen G2C-MT (Contexto Guiado por Grafos para la Traducción Automática), un marco que redefine la selección de contexto como un problema de descubrimiento de rutas estructuradas en un grafo de discurso ligero. El flujo de trabajo consta de tres etapas:

1. Construcción de un Grafo de Discurso Dirigido:
   El documento fuente se modela como un grafo acíclico dirigido (DAG) ponderado donde cada párrafo es un nodo. Las aristas dirigidas conectan un párrafo objetivo con párrafos anteriores ($j < i$), reflejando la naturaleza secuencial de la traducción. Los pesos de las aristas ($w_{ij}$) se calculan mediante la fusión de tres factores:

   • Relevancia Semántica ($S_{sem}$): Similitud de coseno entre los embeddings de los párrafos, truncada por un umbral para reducir el ruido.
   • Adyacencia Secuencial ($S_{seq}$): Un peso fijo para los párrafos inmediatamente adyacentes para asegurar la coherencia local.
   • Solapamiento de Palabras Clave ($S_{key}$): Una puntuación basada en TF-IDF para capturar la consistencia terminológica (por ejemplo, nombres propios) que la similitud semántica podría omitir.
     Esta construcción es ligera, apoyándose en embeddings pre-entrenados y TF-IDF en lugar de una costosa inferencia de LLM.

2. Muestreo de Ruta de Contexto con Sesgo de Profundidad:
   Para seleccionar el contexto histórico de un párrafo objetivo, el método emplea un camino aleatorio con sesgo de profundidad (depth-biased random walk) comenzando desde el nodo objetivo y retrocediendo.

   • Heurística de Profundidad: Un enfoque de programación dinámica calcula $\phi(v)$, que representa la longitud de la ruta más larga hacia atrás desde un nodo, estimando su potencial para proporcionar un contexto histórico rico.
   • Transición Probabilística: El caminante transiciona a nodos previos basándose en una distribución de probabilidad que combina el peso de la arista ($w_{ij}$) con un término de sesgo $(\phi(v_{next}) + 1)^\lambda$. El hiperparámetro $\lambda$ controla la preferencia por rutas de contexto más profundas e informativas sobre los vecinos inmediatos.
   • Muestreo de Multi-ruta: Debido a la naturaleza estocástica del camino, se pueden muestrear múltiples rutas de contexto distintas para un mismo objetivo.

3. Generación de Contexto Basada en Rutas:
   La ruta muestreada se invierte para restaurar el orden natural del documento y se formatea en un prompt estructurado que contiene los párrafos fuente y sus traducciones correspondientes. Este prompt se introduce en un LLM para generar la traducción del párrafo objetivo actual.

   • Robustez mediante Agregación: Para entradas ambiguas, el marco puede generar múltiples traducciones a partir de diferentes rutas muestreadas. La salida final se selecciona agrupando estos candidatos (mediante k-means) y eligiendo el más cercano al centroide del grupo.

Contribuciones Clave

• Modelado de Grafo Ligero: El artículo introduce un marco novedoso que modela el contexto del documento como un DAG utilizando un proceso de construcción computacionalmente eficiente (embedding + TF-IDF) en lugar de una costosa clasificación de relaciones mediante LLM.
• Recorrido con Sesgo de Profundidad: Se diseña un mecanismo de camino aleatorio con sesgo que favorece explícitamente las rutas de contexto más profundas, permitiendo la recuperación de dependencias de largo alcance y no lineales que los métodos de ventana fija o de vecinos de primer orden omiten.
• Robustez de Multi-ruta: El recorrido probabilístico soporta naturalmente el muestreo de multi-ruta, permitiendo la agregación de diversos candidatos de traducción para mejorar la robustez frente a la ambigüedad a nivel de discurso.

Resultados Experimentales
El método fue evaluado en dos benchmarks: el conjunto de datos SAP (dominio técnico de TI) y el conjunto de datos IWSLT 2017 (narrativa/charlas TED), utilizando varios backbones de LLM (DeepSeek-V3, Gemini-2.5-Flash-lite, serie Qwen-2.5/3).

• Rendimiento: G2C-MT superó consistentemente a los fuertes baselines, incluyendo niveles de oración (Sentence-level), basados en ventana (Window-Based), recuperación basada en semántica (Semantic-Based) y marcos agénticos como GRAFT y DelTA. Alcanzó las puntuaciones de d-BLEU más altas en todas las direcciones de traducción y backbones de modelos.
• Métricas de Discurso: En métricas específicas de discurso (BlonDe, d-Prism, d-Comet), G2C-MT obtuvo las mejores puntuaciones, demostrando un manejo superior de entidades, tiempos verbales y pronombres en comparación con los métodos que dependen únicamente de ventanas locales o similitud semántica global.
• Eficiencia: A diferencia de los métodos agénticos que requieren múltiples llamadas a LLM para la curación de contexto, G2C-MT requiere exactamente $N$ llamadas a LLM para $N$ párrafos, ya que la construcción del grafo y el muestreo de rutas son pasos de pre-procesamiento.
• Ablación: Eliminar la arista de palabras clave o el camino aleatorio con sesgo de profundidad resultó en las mayores caídas de rendimiento, resaltando la importancia de la consistencia terminológica y la recuperación de contexto profundo.

Significancia y Reivindicaciones
El artículo afirma que G2C-MT proporciona una solución robusta y computacionalmente eficiente para la traducción a nivel de documento al modelar explícitamente las dependencias de discurso estructuradas. Al ver la selección de contexto como un problema de descubrimiento de rutas en un grafo, el método logra cerrar la brecha entre la coherencia local (capturada por las aristas secuenciales) y la relevancia global (capturada por las aristas semánticas y de palabras clave). Los autores sostienen que su enfoque evita el compromiso entre las limitaciones de la ventana fija y el ruido de la recuperación semántica no estructurada, ofreciendo una alternativa escalable a los complejos marcos multi-agente mientras mantiene una alta calidad de traducción y coherencia.