ToxiFrench: Benchmarking and Enhancing Language Models via CoT Fine-Tuning for French Toxicity Detection

1. Problema e Motivação

A detecção de conteúdo tóxico (discurso de ódio, insultos, ameaças) é crucial para a segurança em plataformas online. Embora existam avanços significativos em inglês e chinês, a detecção em francês permanece subdesenvolvida devido a:

• Falta de dados: Ausência de grandes conjuntos de dados humanos, culturalmente relevantes e anotados manualmente em francês.
• Limitações de recursos existentes: Os conjuntos de dados atuais são frequentemente traduções de benchmarks em inglês (que perdem nuances culturais), baseados em pequenas coleções ou anotados automaticamente por classificadores externos (como a API Perspective), o que falha em capturar sarcasmo, eufemismos e ofensas codificadas específicas da cultura francesa.
• Desempenho de Modelos: Há uma suposição comum de que modelos grandes (LLMs) são sempre superiores, mas o custo computacional e ecológico é alto, e sua robustez em tarefas específicas de segurança não é garantida.

2. Metodologia

A. Construção do Dataset TOXIFRENCH

Os autores lançaram o TOXIFRENCH, um conjunto de dados com 53.622 comentários online em francês, coletados de fóruns de alta tráfego (2011–2025).

• Pipeline Semi-automatizado: Para reduzir o esforço manual, utilizaram um pipeline híbrido:
  1. Pré-anotação com LLM: O modelo GPT-4o-mini gerou análises estruturadas (Chain-of-Thought - CoT) e pontuações de toxicidade (0-10).
  2. Regra de Alta Confiança: Comentários onde o modelo previu "não tóxico" ou deu uma pontuação ≤ 3 foram automaticamente rotulados como não tóxicos (cobrindo ~90% dos dados).
  3. Validação Humana: Apenas os casos difíceis (~10%) foram anotados manualmente por falantes nativos.
• Qualidade: O pipeline garantiu alinhamento estatístico quase perfeito com anotações puramente humanas (97% de concordância intra-avaliador e 90% inter-avaliador), mantendo o custo manual em apenas 10% do total.

B. Estratégia de Ajuste Fino (Fine-Tuning)

O trabalho propõe uma nova estratégia para melhorar a detecção de toxicidade usando Small Language Models (SLMs), especificamente o Qwen3-4B.

• Chain-of-Thought (CoT): O modelo é treinado para gerar raciocínio estruturado antes de decidir se o conteúdo é tóxico.
• Dynamic Weighted Loss (DWL): Um componente central da metodologia. Em vez de tratar todos os tokens igualmente, o DWL ajusta dinamicamente os pesos da função de perda durante o treinamento:
  • No início, o modelo aprende o formato de raciocínio.
  • Progressivamente, o peso é deslocado para a decisão final (o rótulo binário), garantindo que o raciocínio seja fiel à conclusão e melhorando a precisão.
• Otimização: Utilização de Oversampling para lidar com desequilíbrio de classes, otimizador SOAP (em vez de Adam) e DPO (Direct Preference Optimization) para alinhamento final.

3. Contribuições Principais

1. Dataset TOXIFRENCH: O maior conjunto de dados público de alta qualidade para toxicidade em francês, capturando nuances culturais e linguísticas que traduções não conseguem.
2. Benchmark Abrangente: Avaliação de uma vasta gama de modelos, incluindo LLMs comerciais (GPT-4o, Gemini), SLMs de código aberto (Qwen, Mistral), classificadores BERT e APIs de moderação.
3. Descoberta Contra-intuitiva: Demonstração de que SLMs (como o Qwen3-4B) podem superar LLMs muito maiores em robustez e generalização para detecção de toxicidade em francês.
4. Framework de Ajuste Fino: Uma abordagem inovadora combinando CoT, DWL e DPO que alcança desempenho de ponta (SOTA) com um modelo de apenas 4 bilhões de parâmetros.

4. Resultados

• Desempenho do Modelo: O modelo Qwen3-4B ajustado alcançou uma acurácia balanceada de 87% no benchmark TOXIFRENCH.
• Comparação: Superou modelos massivos como GPT-4o (84%) e DeepSeek-R1, além de superar o baseline do próprio modelo sem ajuste fino em 10%.
• Eficiência: O modelo ajustado é significativamente mais leve e energeticamente eficiente do que os LLMs que superou.
• Generalização Cruzada: Apesar de treinado apenas em francês, o modelo demonstrou capacidade de transferência zero-shot para detectar toxicidade em outros idiomas (alemão, chinês, italiano, espanhol) ao manter a estrutura lógica de raciocínio, indicando que aprendeu a "lógica da toxicidade" e não apenas um vocabulário estático.

5. Significado e Impacto

• Viabilidade de SLMs para Segurança: O trabalho desafia a narrativa de que apenas modelos gigantes são adequados para tarefas de segurança complexas, mostrando que modelos menores, bem ajustados com raciocínio estruturado, são mais robustos e ecológicos.
• Importância Cultural: Reforça a necessidade de dados nativos e culturalmente contextualizados para idiomas como o francês, onde a toxicidade muitas vezes depende de nuances linguísticas (homófonos, gírias regionais) que modelos treinados apenas em inglês falham em detectar.
• Método Reprodutível: O pipeline de anotação semi-automatizado e a estratégia de perda dinâmica (DWL) oferecem um roteiro escalável para criar sistemas de NLP seguros e eficientes para outras línguas e tarefas de classificação.

Em resumo, o artigo estabelece um novo estado da arte para a detecção de toxicidade em francês, provando que a combinação de dados culturalmente ricos e técnicas avançadas de ajuste fino em modelos pequenos pode superar soluções baseadas em modelos massivos.