💬 NLP

GemDetox at TextDetox CLEF 2025: Enhancing a Massively Multilingual Model for Text Detoxification on Low-resource Languages

O sistema GemDetox, que utiliza um modelo Gemma-3 de 12 bilhões de parâmetros aprimorado com ajuste fino eficiente em parâmetros, prompting de poucos disparos e contexto de recuperação aumentada, alcançou as primeiras colocações no desafio CLEF 2025 TextDetox ao reescrever eficazmente textos tóxicos em paráfrases neutras em idiomas de altos e baixos recursos.

Autores originais: Trung Duc Anh Dang, Ferdinando Pio D'Elia

Publicado 2026-02-03

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Trung Duc Anh Dang, Ferdinando Pio D'Elia

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine as redes sociais como uma praça pública imensa e movimentada. Às vezes, as pessoas gritam insultos, espalham ódio ou usam linguagem obscena que faz com que outros se sintam inseguros. A equipe "GemDetox", da Universidade de Copenhague, construiu um "pacificador" digital para ajudar a limpar essa praça sem silenciar as pessoas que estão falando.

Aqui está como eles fizeram isso, explicado de forma simples:

A Missão: Limpar a Sujeira Sem Apagar a Mensagem

O desafio era pegar uma única frase cheia de palavras tóxicas (como insultos ou xingamentos) e reescrevê-la para que soasse educada e neutra, mas que ainda mantivesse o significado original.

A Analogia: Imagine alguém gritando: "Você é um idiota inútil!" O objetivo não é deletar a frase inteira (o que seria censura) ou mudar o assunto. Em vez disso, o sistema a reescreve para: "Estou frustrado com o seu desempenho." A raiva desapareceu, mas a reclamação permanece.

O Cérebro: Um Supertradutor com Memória

A equipe não construiu um novo cérebro do zero. Eles usaram um modelo de IA pré-existente e muito inteligente chamado Gemma-3 (que possui 12 bilhões de "neurônios" ou parâmetros). Pense neste modelo como um poliglota que já fala fluentemente 15 idiomas diferentes, do inglês e espanhol ao tártaro e Hinglish (uma mistura de hindi com inglês).

No entanto, esse poliglota precisava aprender um trabalho específico: como ser educado.

O Treinamento: Ensinando a IA a Ser Gentil

Para ensinar a IA, a equipe criou um manual de treinamento especial usando três métodos diferentes:

O Manual Humano: Eles começaram com 3.600 exemplos reais escritos por humanos, mostrando exatamente como transformar uma frase tóxica em uma frase gentil.
O Tradutor Automático: Como não tinham exemplos humanos para seis dos idiomas, eles usaram um tradutor automático para converter esses 3.600 exemplos para os idiomas que faltavam. É como fotocopiar um livro de receitas e traduzir a lista de ingredientes para um novo idioma.
Os Treinos Práticos: Eles geraram frases de prática extras usando a própria IA, mas foram muito rigorosos ao filtrá-las. Se a reescrita da IA fosse muito semelhante ao insulto original (como apenas mudar uma letra), eles a descartavam. Eles só mantiveram as que eram verdadeiramente diferentes, mas que ainda significavam a mesma coisa.

O Truque do "Pensamento":
A equipe ensinou à IA uma forma especial de pensar chamada Chain-of-Thought (Cadeia de Pensamento). Em vez de apenas adivinhar a resposta, a IA foi instruída a seguir um checklist de quatro etapas antes de falar:

Identificar as palavras ruins.
Entender sobre o que a frase realmente trata.
Reescrever usando palavras gentis.
Verificar duas vezes se a nova frase não é ofensiva.

Os Resultados: Uma Vitória para a Maioria, Mas Não Para Todos

Quando testaram seu sistema na competição:

O Vencedor: O sistema deles ficou em primeiro lugar na maioria dos idiomas, especialmente naqueles com muitos dados (como inglês, alemão e francês).
A Dificuldade: O sistema teve mais dificuldades com idiomas de "baixos recursos" (idiomas com menos dados disponíveis, como o amárico ou o tártaro). Nesses casos, a IA às vezes produzia algo sem sentido ou deixava passar insultos sutis.
A Lacuna: A equipe descobriu que o maior fator que influenciou o desempenho da IA foi simplesmente quanto dado existia para aquele idioma. Se um idioma tinha muitos exemplos de treinamento, a IA ia muito bem. Se tinha poucos, a IA tropeçava.

O Choque de Realidade: Não é Perfeito

Os autores são honestos sobre as falhas:

O Desacordo do "Juiz": Quando pediram a uma outra IA altamente avançada para avaliar o trabalho deles (atuando como um juiz humano), o sistema deles caiu do 1º para o 3º lugar. Isso sugere que, embora o sistema seja bom em seguir regras, pode perder o "sentimento humano" do que é verdadeiramente ofensivo.
Pontos Cegos Culturais: A IA às vezes perdia gírias ou insultos regionais porque foi treinada principalmente em linguagem padrão. Por exemplo, ela perdeu uma gíria argentina específica para "sem valor" porque não estava em seus dados de treinamento.
O Problema do Viés: O modelo de IA subjacente que eles usaram foi treinado em uma quantidade massiva de dados da internet que não podemos ver. Isso significa que a IA pode já ter vieses embutidos que a equipe não conseguiu corrigir totalmente.

A Conclusão

A equipe GemDetox construiu uma ferramenta poderosa que pode limpar automaticamente postagens tóxicas de redes sociais em 15 idiomas diferentes. Funciona melhor quando há muitos dados para aprender e quando a IA é ensinada a "pensar passo a passo". Embora não seja perfeita e ainda lute com nuances culturais complexas, representa um passo significativo para ajudar os moderadores a manter os espaços online seguros sem silenciar a liberdade de expressão.

Resumo Técnico: GemDetox no TextDetox CLEF 2025

Definição do Problema
O artigo aborda a necessidade urgente de desintoxicação automatizada de textos em plataformas de redes sociais, especificamente no contexto do desafio PAN 2025 Multilingual Text Detoxification. A tarefa consiste em reescrever entradas de frase única tóxicas em paráfrases neutras, preservando o significado original em 15 línguas tipologicamente diversas. O desafio é restrito à "toxicidade explícita" (léxico obsceno ou ofensivo contendo conteúdo neutro significativo), excluindo toxicidade implícita, como sarcasmo ou discurso de ódio codificado. Uma dificuldade crítica reside na disparidade entre línguas de altos recursos (ex: inglês, espanhol) e línguas de baixos recursos (ex: tártaro, hinglish, amárico), onde a escassez de dados frequentemente prejudica o desempenho do modelo.

Metodologia
Os autores propõem o "GemDetox", um sistema construído sobre o transformador multilíngue Gemma-3 de 12B parâmetros. A metodologia é estruturada em torno de três componentes principais:

Construção e Aumento de Dados:
- Dados Elaborados por Humanos: O sistema utiliza o corpus ParaDetox-9 fornecido pelos organizadores, contendo 3.600 pares paralelos tóxico-neutros em nove línguas.
- Extensão por Tradução Automática: Para cobrir as seis línguas ausentes no corpus original (italiano, francês, hebraico, hinglish, japonês, tártaro), os autores traduziram todos os 3.600 pares originais usando RLM-Hinglish e NLLB-200, gerando 21.600 pares sintéticos (ParaDetox-MT6).
- Geração Sintética: Supervisão adicional foi derivada de um Conjunto de Dados de Toxicidade Multilíngue. O modelo gerou candidatos de neutralização para sentenças apenas tóxicas, que foram filtrados com base em limiares de similaridade de Jaccard (≥0,90 para tradução automática, ≥0,80 para sintéticos) para garantir divergência lexical e preservação semântica.
- Enriquecimento Contextual: Durante o treinamento e inferência, as entradas foram enriquecidas com três vizinhos semânticos recuperados via LaBSE e anotações explícitas de spans tóxicos extraídas através de um detector baseado em regras.
Arquitetura do Modelo e Treinamento:
- Modelo Base: Gemma-3-12B-Instruct, quantizado para precisão de 4 bits para caber em 24 GB de VRAM.
- Ajuste Fino Eficiente em Parâmetros (PEFT): Os autores empregaram Low-Rank Adaptation (LoRA) com um rank de 16, tornando apenas 0,55% (≈65M) dos parâmetros treináveis. Os adaptadores foram inseridos em todos os submódulos de linguagem, atenção e MLP.
- Estratégia de Treinamento de Três Fases:
  - Fase 1: Ajuste fino em todas as 15 línguas para estabelecer um alinhamento de base.
  - Fase 2: Ajuste fino especializado em dados para línguas que carecem de anotações humanas paralelas para evitar interferência catastrófica.
  - Fase 3: Ajuste fino em dados sintéticos de alta qualidade (filtrados por Jaccard > 0,9) para refinar ainda mais o desempenho.
- Estratégia de Prompting: O sistema utiliza uma instrução de prompting de Cadeia de Pensamento (CoT) de quatro etapas (identificar toxicidade, recuperar semântica, reescrever neutramente, verificar não-toxicidade) combinada com exemplos de poucos disparos (few-shot) — três vizinhos semanticamente mais próximos — recuperados do corpus de treinamento.
Inferência:
- O sistema amostra três reescritas candidatas por entrada. A saída final é selecionada com base no maior escore conjunto ( $J$ ), calculado usando Precisão de Transferência de Estilo (STA), Preservação de Conteúdo (SIM via LaBSE) e Fluência (xCOMET).

Principais Resultados

Avaliação Automática: O sistema GemDetox classificou-se em primeiro lugar geral tanto nos grupos de línguas de altos recursos quanto de baixos recursos. Alcançou um escore conjunto ( $J$ $J$ ) de 0,685 nas línguas com dados anotados por humanos e 0,643 nas línguas sem eles.
- O desempenho atingiu o pico no alemão ( $J=0,798$ ) e no francês ( $J=0,802$ ).
- Estudos de ablação indicaram que os exemplos de poucos disparos (few-shot) contribuíram com um aumento de +0,081 no escore conjunto, enquanto o prompting CoT básico adicionou +0,088.
Avaliação LLM-as-a-Judge: Quando reavaliado utilizando um Llama-3.1-8B-Instruct ajustado para atuar como juiz (treinado em preferências humanas), o ranking do sistema caiu para terceiro lugar em ambos os subgrupos, com um $J$ médio de 0,7669. Este valor foi significativamente inferior ao escore da "Anotação de Ouro" (0,8233), mas competitivo contra outras equipes de topo.
Análise Estatística: Uma análise ANOVA revelou que o "status de recurso da língua" foi o preditor mais forte de desempenho ( $\eta^2 = 0,667, p < 0,01$ ), seguido pela afiliação genética ( $\eta^2 = 0,592$ ).

Significância e Alegações
O artigo alega que sua principal contribuição é demonstrar que o ajuste fino eficiente de parâmetros de um modelo massivamente multilíngue, combinado com aumento estratégico de dados e prompting, pode efetivamente reduzir a lacuna de desempenho entre línguas de altos e baixos recursos em tarefas de desintoxicação.

Os autores observam modestamente que, embora sua abordagem tenha alcançado resultados automáticos fortes, os ganhos do aumento de dados foram "especialmente pronunciados para as línguas de baixos recursos para as quais foram projetados". Eles reconhecem que o desempenho do sistema depende fortemente das capacidades base do modelo pré-treinado Gemma-3, visto que o baseline zero-shot mT0 já alcançava escores competitivos (0,675).

O artigo destaca que, embora o sistema tenha reduzido com sucesso a lacuna para línguas de baixos recursos, análises qualitativas revelaram desafios persistentes, incluindo:

Falha na detecção de toxicidade composta em línguas de scripts mistos, como o hinglish.
Geração de saídas sem sentido em línguas de baixíssimo recurso, como o amárico.
Ambiguidade nas definições de toxicidade, levando a excesso ou falta de desintoxicação em contextos politicamente carregados (ex: hebraico).

Os autores concluem que uma desintoxicação robusta requer adaptações conscientes de viés nas etapas de pré-treinamento, pós-treinamento e avaliação, observando que os vieses estruturais no corpus de treinamento do modelo de fundação são irreversíveis e só podem ser mitigados downstream. Eles sugerem que trabalhos futuros explorem otimização baseada em preferência (ex: DPO, GRPO) e pipelines de raciocínio de múltiplos estágios para lidar com a obscuridade criativa e o slang emergente.