Real-Time Toxicity Filtering for Open-Source Code Reviews

1. Problema e Motivação

O desenvolvimento de Software de Código Aberto (OSS) depende criticamente da colaboração, mas interações tóxicas em plataformas como o GitHub prejudicam essa dinâmica. Essas interações resultam em redução de produtividade, barreiras para novos contribuidores, conflitos e degradação da qualidade do software.
As abordagens existentes para gerenciar toxicidade são predominantemente post hoc (após o fato), intervindo apenas após o dano ter ocorrido. Além disso, soluções anteriores careciam de explicabilidade e integração em tempo real. O objetivo deste trabalho é preencher essa lacuna, oferecendo uma ferramenta que não apenas identifique, mas também mitigue e explique a toxicidade durante o processo de revisão de código.

2. Metodologia: O Framework ToxiShield

Os autores propõem o ToxiShield, uma extensão de navegador que opera em três módulos sequenciais para detectar, classificar e reescrever comentários tóxicos em tempo real:

Módulo 1: Filtro de Toxicidade (Detecção Binária)

• Objetivo: Identificar se um comentário de revisão é tóxico ou não.
• Abordagem: Utilização de Modelos de Linguagem com Máscara (MLMs) e Modelos de Linguagem de Grande Escala (LLMs).
• Dados: Foi criado um novo conjunto de dados curado, filtrando 15 milhões de comentários de pull requests para anotar 10.120 instâncias tóxicas e 28.641 não tóxicas.
• Modelo: Um modelo BERT-base-uncased foi ajustado (fine-tuned) e superou outros modelos (como Xtreme-DistilBERT e GPT-4o em zero-shot).
• Desafios: O modelo teve dificuldades com sarcasmo, termos específicos de domínio interpretados erroneamente como profanidade e agressividade passiva.

Módulo 2: Treinador de Comunicação (Classificação Multiclasse e Explicação)

• Objetivo: Categorizar o comentário tóxico em subcategorias específicas e fornecer feedback explicativo.
• Taxonomia: Baseada em 11 subcategorias de toxicidade propostas por Sarker et al.
• Dados: Devido à escassez de dados anotados finamente, os autores combinaram 600 comentários anotados manualmente com 600 não tóxicos, totalizando 1.200 amostras para um problema de classificação multiclasse multirrótulo.
• Abordagem: Em vez de fine-tuning tradicional (devido à falta de dados), utilizou-se Engenharia de Prompt com LLMs. O processo envolveu a otimização iterativa de prompts (definindo papel, tarefa, definições e especificações de saída XML) para simular um mantenedor experiente de OSS.
• Modelo Selecionado: O Claude 3.5 Sonnet obteve o melhor desempenho com in-context learning.

Módulo 3: O Reformulador (Detoxificação / Transferência de Estilo)

• Objetivo: Reescrever automaticamente o comentário tóxico em uma alternativa civil e construtiva, preservando o significado técnico original.
• Abordagem: Tratado como uma tarefa de Transferência de Estilo de Texto (TST).
• Geração de Dados: Como não existia corpus paralelo (tóxico vs. não tóxico) para o domínio de engenharia de software, os autores sintetizaram um dataset. Usaram o conjunto de dados tóxicos do Módulo 1 e solicitaram a LLMs (GPT-4o, Qwen 2.5, etc.) que reescrevessem os comentários mantendo a intenção técnica.
• Modelo de Aluno: Um modelo Llama 3.2 3B foi ajustado (fine-tuned) neste corpus sintetizado para atuar como o mecanismo de detoxificação em tempo real na extensão.

3. Resultados Principais

Módulo	Métrica	Resultado	Observações
Módulo 1 (Detecção)	F1-Score (Classe Tóxica)	97%	Precisão: 0.98, Recall: 0.96.
Módulo 2 (Classificação)	Macro-F1	42%
	Macro-MCC	39%	O modelo struggled com casos ambíguos (ex: toxicidade direcionada a objetos).
Módulo 3 (Detoxificação)	Precisão de Transferência de Estilo	95.27%
	Fluência	97.03%
	Preservação de Conteúdo	67.07%
	J-score (Métrica Agregada)	84%	Equilíbrio entre estilo, fluência e conteúdo.

• Validação com Usuários: Uma avaliação com 10 desenvolvedores profissionais utilizando o Modelo de Aceitação de Tecnologia (TAM) mostrou que a ferramenta foi bem recebida, com destaque para a facilidade de uso e satisfação geral, embora haja espaço para melhorar a eficiência de tarefas e mecanismos de gerenciamento de erros.

4. Contribuições Chave

1. Ferramenta em Tempo Real: Primeiro estudo a fornecer uma extensão de navegador funcional para detoxificação de revisão de código em tempo real, com explicação integrada.
2. Pipeline Híbrido: Combinação eficaz de classificadores BERT ajustados, LLMs com engenharia de prompt avançada e modelos de transferência de estilo (Llama) para um fluxo de trabalho completo (Detectar -> Explicar -> Corrigir).
3. Dataset Sintético e Curado: Criação de um novo dataset de 38.761 comentários para classificação binária e um corpus paralelo sintetizado para treinamento de modelos de reescrita, superando a falta de dados no domínio de SE.
4. Avaliação Abrangente: Inclui métricas quantitativas rigorosas (F1, MCC, J-score) e validação qualitativa com desenvolvedores reais.

5. Significado e Impacto

O ToxiShield representa um avanço significativo na cultura de desenvolvimento de software aberto. Ao mudar o paradigma de uma intervenção punitiva post hoc para uma assistência proativa e educativa em tempo real, a ferramenta visa:

• Fomentar a Inclusão: Reduzir barreiras para novos contribuidores que muitas vezes são desencorajados por comentários hostis.
• Melhorar a Qualidade do Software: Ao manter o foco na colaboração técnica e reduzir conflitos, a qualidade das revisões e, consequentemente, do código, tende a aumentar.
• Educação: Ao fornecer explicações sobre por que um comentário é tóxico e sugerir alternativas, a ferramenta atua como um mentor, ajudando os desenvolvedores a aprimorarem suas habilidades de comunicação.

Os autores disponibilizaram publicamente o dataset, o código-fonte e a ferramenta para replicação e uso pela comunidade.