Just Use XML: Revisiting Joint Translation and Label Projection

O artigo apresenta o LabelPigeon, um novo framework que utiliza tags XML para realizar tradução e projeção de rótulos de forma conjunta, demonstrando que essa abordagem supera os métodos existentes ao melhorar a transferência cruzada de idiomas sem comprometer, e até aprimorando, a qualidade da tradução.

O essencial

Imagine que você é um tradutor muito talentoso, mas que só fala inglês e alemão. Agora, imagine que você precisa ensinar um computador a entender textos em 200 idiomas diferentes, mas você só tem livros de instrução (dados rotulados) em inglês. Como fazer isso?

A solução tradicional é como se você pegasse o livro em inglês, traduzisse para o alemão com uma máquina, e depois tentasse "colar" as etiquetas originais (como "Nome de Pessoa" ou "Data") no texto traduzido, usando uma régua de alinhamento de palavras. O problema? Essa régua muitas vezes quebra. As palavras mudam de lugar, o sentido se perde e, às vezes, a tradução fica ruim porque o computador ficou tão focado em colar as etiquetas que esqueceu de traduzir bem.

A "LabelPigeon": O Tradutor que Pensa em Duas Coisas ao Mesmo Tempo

Este artigo apresenta uma nova ideia chamada LabelPigeon. A equipe do Laboratório de Tecnologia de Linguagem da Universidade de Hamburgo decidiu testar uma hipótese ousada: e se, em vez de traduzir primeiro e colar as etiquetas depois, a gente pedisse para o computador fazer as duas coisas ao mesmo tempo?

Para fazer isso, eles usaram uma técnica simples, mas genial: etiquetas XML.

A Analogia do "Livro com Marcadores Mágicos"

Pense no texto original em inglês como um livro de receitas.

• O jeito antigo: Você traduz a receita para outra língua. Depois, pega um canetão e tenta riscar onde estava "farinha" no texto original e riscar onde está "flour" no texto traduzido. Se a palavra mudou de lugar ou se a frase ficou diferente, você erra o risco.
• O jeito LabelPigeon: Antes de traduzir, você coloca caixinhas coloridas (as tags XML) ao redor dos ingredientes no livro original.
  • Exemplo: <ingrediente>farinha</ingrediente>.

Agora, você pede para o computador: "Traduza este livro, mas mantenha as caixinhas coloridas no lugar certo".

O computador, ao ser treinado com milhões de exemplos assim (usando dados reais de tradução de documentos técnicos), aprende uma lição valiosa: "Ah, quando vejo uma caixinha <ingrediente> aqui, eu preciso colocar uma caixinha correspondente lá na tradução, mesmo que a palavra mude de lugar ou o tempo verbal mude".

Por que isso é um "Superpoder"?

O artigo desmonta um mito antigo da área. Antes, achavam que colocar essas "caixinhas" (tags) no texto atrapalhava a tradução, deixando o texto final estranho ou sem graça.

Os autores provaram que isso é mentira. Na verdade, ao ensinar o computador a respeitar essas caixinhas, a tradução ficou melhor do que a original em muitos casos!

Pense assim: é como se você estivesse ensinando um aluno a desenhar.

• Se você disser: "Desenhe um cachorro" (tradução pura), ele pode desenhar um cachorro, mas esquecer o rabo.
• Se você disser: "Desenhe um cachorro, mas não esqueça de pintar o rabo de vermelho" (tradução com tags), o aluno presta mais atenção em todos os detalhes. O resultado final é um desenho mais completo e fiel.

Os Resultados na Prática

A equipe testou essa "LabelPigeon" em 203 idiomas e em três tarefas diferentes:

1. Reconhecimento de Entidades (NER): Identificar nomes de pessoas, lugares e empresas.
2. Resolução de Correferência: Saber que "ele", "o menino" e "João" são a mesma pessoa no texto.
3. Perguntas e Respostas: Encontrar a resposta certa em um texto.

O que eles descobriram?

• Precisão: O LabelPigeon foi muito melhor em transferir as etiquetas corretamente do que os métodos antigos. Em alguns casos, a pontuação de precisão subiu quase 40 pontos!
• Qualidade da Tradução: Ao contrário do que se pensava, a tradução não ficou pior. Pelo contrário, em 11 idiomas, a tradução ficou melhor do que a do modelo base.
• Simplicidade: Não é necessário um sistema complexo de duas etapas. É uma única passada (uma única vez que o computador lê o texto) para traduzir e rotular ao mesmo tempo.

Conclusão

A mensagem principal é: Não precisamos complicar para ter resultados bons.

Ao invés de criar máquinas complexas que traduzem e depois tentam "costurar" as informações, basta ensinar o tradutor a olhar para o texto como um todo, respeitando as estruturas (as caixinhas XML) desde o início. É como se o computador aprendesse a dançar com a música, em vez de tentar seguir a música e depois tentar adivinhar os passos.

Essa técnica, chamada LabelPigeon, é uma forma eficiente, barata e muito eficaz de levar inteligência artificial de alta qualidade para idiomas que têm poucos dados disponíveis, sem sacrificar a qualidade da tradução.

Resumo técnico

1. O Problema

A transferência cruzada de idiomas (cross-lingual transfer) para tarefas de Processamento de Linguagem Natural (PLN) que dependem de anotações de nível de span (como Reconhecimento de Entidades Nomeadas - NER, extração de argumentos de eventos, etc.) geralmente envolve dois passos: traduzir os dados de uma língua de alto recurso (ex: inglês) para uma língua de baixo recurso e, em seguida, projetar os rótulos (labels) para o texto traduzido.

O estado da arte tradicional separa esses dois passos, utilizando modelos de alinhamento de palavras para mapear os rótulos após a tradução. Trabalhos mais recentes tentaram realizar a tradução e a projeção de rótulos em um único passo (juntos), inserindo marcadores (como colchetes []) no texto antes da tradução. No entanto, esses trabalhos anteriores concluíram que a inserção de marcadores degradava a qualidade da tradução, levando a comunidade a abandonar a abordagem conjunta em favor de pipelines complexos de múltiplos estágios.

O artigo questiona essa premissa fundamental, argumentando que a degradação da qualidade não é inerente à abordagem conjunta, mas sim um resultado de escolhas inadequadas de marcadores, dados de treinamento ou falta de ajuste fino (fine-tuning) apropriado.

2. Metodologia: LabelPigeon

Os autores propõem o LabelPigeon, um framework simples que realiza a tradução e a projeção de rótulos simultaneamente em uma única passagem, utilizando tags XML como marcadores.

• Escolha do Marcador (XML vs. Colchetes): Diferente do método anterior EasyProject (que usava colchetes []), o LabelPigeon utiliza tags XML (ex: <a>, <b>, <c>).
  • Vantagens: As tags XML fornecem uma correspondência direta entre os spans de origem e tradução, lidam elegantemente com aninhamento e sobreposição de spans, e podem carregar informações semânticas. Além disso, evitam a necessidade de correspondência de strings difusa (fuzzy matching) pós-tradução.
• Dados de Treinamento: O modelo é ajustado (fine-tuned) no conjunto de dados Salesforce Localization XML MT, um corpus paralelo de alta qualidade com tags XML nativas.
  • Pré-processamento: As tags originais (focadas em UI e estilo) são substituídas por tags alfabéticas genéricas (<a>, <b>, etc.) para generalização. O conjunto é filtrado para manter apenas exemplos com tags.
  • Seleção de Idiomas: Para evitar o "esquecimento catastrófico" (catastrophic forgetting) ao treinar em muitos idiomas, o modelo final é ajustado apenas em pares de inglês com três idiomas de alto recurso: Alemão, Russo e Chinês.
• Arquitetura Base: O modelo base utilizado é o NLLB-200 3.3B.
• Inferência: O processo é direto: inserir tags XML nos spans anotados da fonte, traduzir com o modelo LabelPigeon e extrair as tags usando um parser XML padrão. Não há sobrecarga computacional adicional em comparação com a tradução padrão.

3. Contribuições Principais

1. Reavaliação da Abordagem Conjunta: Demonstram que a tradução conjunta com projeção de rótulos não precisa degradar a qualidade da tradução; pelo contrário, pode melhorá-la com o treinamento adequado.
2. Novo Esquema de Avaliação Direta: Introduzem uma métrica direta para avaliar a precisão da projeção de rótulos (Label Match F1), utilizando conjuntos de dados paralelos anotados (XQuAD e MLQA), em vez de depender apenas de métricas de tarefas downstream como proxy.
3. LabelPigeon: Apresentam um método simples, eficiente e de baixo custo computacional que supera métodos baseados em alinhamento e métodos de projeção com marcadores anteriores.
4. Descoberta de Melhoria na Tradução: Revelam que o ajuste fino em dados com marcadores (mesmo que sintéticos ou adaptados) atua como um regularizador, melhorando a qualidade da tradução em 203 idiomas, inclusive naqueles não vistos durante o treinamento.

4. Resultados Experimentais

Os resultados foram avaliados em três frentes distintas:

• Avaliação Direta de Projeção (11 idiomas):

  • No conjunto de dados XQuAD e MLQA, o LabelPigeon atingiu um F1 de correspondência de rótulos de 79.2% e 79.9%, superando consistentemente o Awesome-align (baseado em alinhamento), o Gemma 3 (LLM) e o EasyProject (colchetes).
  • O método demonstrou capacidade de generalização para quantidades de tags únicas muito maiores do que as vistas no treinamento (até 24 tags por exemplo).

• Impacto na Qualidade da Tradução (203 idiomas):

  • Ao contrário do EasyProject, que degradou a qualidade da tradução ao inserir marcadores, o LabelPigeon melhorou os scores de BLEU e chrF++ em relação ao modelo base NLLB para a maioria dos idiomas.
  • A análise de ablação mostrou que a melhoria na tradução é um resultado direto do ajuste fino adicional (o modelo Non-marker Fine-tuned também teve desempenho superior ao base), indicando que o treinamento em dados estruturados beneficia a capacidade geral do modelo.

• Experimentos em Tarefas Downstream (27 idiomas):

  • NER (Reconhecimento de Entidades Nomeadas): Ganhos substanciais, com melhoria média de +14.2 F1 e picos de +39.9 F1 em idiomas de baixo recurso (ex: Tagalo).
  • Resolução de Coreferência: O LabelPigeon superou significativamente o EasyProject, evitando falhas completas (score 0.0) em idiomas históricos onde o método concorrente falhou.
  • Resposta a Perguntas (QA): Desempenho comparável ou ligeiramente superior ao EasyProject.

5. Significado e Conclusão

O trabalho desafia o consenso recente de que a tradução e a projeção de rótulos devem ser separadas para preservar a qualidade. Ao utilizar tags XML e um conjunto de dados de alta qualidade para ajuste fino, os autores demonstram que é possível obter:

1. Transferência de rótulos superior (maior precisão na projeção de spans).
2. Qualidade de tradução melhorada (devido ao efeito de regularização do ajuste fino).
3. Eficiência operacional, eliminando a necessidade de pipelines complexos de múltiplos estágios ou decodificação restrita (constrained decoding).

O LabelPigeon oferece uma alternativa simples e robusta para a construção de conjuntos de dados anotados em línguas de baixo recurso, provando que a simplicidade, aliada a dados de treinamento adequados, pode superar abordagens mais complexas e engenhosas.