Hybrid Feature Combinations with CNN for Bangla Fake News Classification

Resumo Técnico: Combinações Híbridas de Características com CNN para Classificação de Notícias Falsas em Bangla

Declaração do Problema
A proliferação de notícias falsas em redes sociais e portais online em Bangladesh representa riscos significativos para a credibilidade da mídia autêntica e para a vida diária dos cidadãos. A detecção de notícias falsas na língua Bangla apresenta desafios únicos devido às suas estruturas de escrita complexas e vocabulário diversificado, que diferem do inglês. Embora existam inúmeros estudos para detecção de notícias falsas em inglês, pesquisas específicas para Bangla permanecem limitadas. Abordagens existentes frequentemente dependem de uma única ou de poucas técnicas de extração de características (por exemplo, TF-IDF, Word2Vec ou fastText) sem comparar sistematicamente sua eficácia ou explorar combinações híbridas. Além disso, conjuntos de características de alta dimensão podem introduzir ruído e reduzir a eficiência do modelo, tornando necessárias estratégias robustas de seleção de características.

Metodologia
Esta pesquisa propõe um framework abrangente para classificação de notícias falsas em Bangla utilizando o conjunto de dados BanFakeNews-2.0, que compreende 48.678 artigos reais e 12.903 artigos de notícias falsas anotados manualmente. A metodologia segue um pipeline estruturado:

1. Pré-processamento: O texto bruto em Bangla é limpo removendo pontuação, palavras de parada, caracteres especiais e tags HTML, mantendo os dígitos.
2. Extração de Características: Seis métodos distintos de extração de características são empregados para converter texto em representações numéricas:
   • TF-IDF: Utilizando unigramas e bigramas (top 5.000 tokens).
   • Word2Vec: Usando a arquitetura CBOW com um espaço vetorial de 100 dimensões.
   • FastText: Aproveitando informações de subpalavras para melhor tratamento de palavras não vistas.
   • Características N-Gram: Extraindo sequências até o tamanho 3.
   • TF-IDF em Nível de Caractere: Focando em n-gramas de caracteres (comprimento 2–4) para capturar padrões de subpalavras.
   • Características Estatísticas: Descritores construídos manualmente incluindo contagens de caracteres/palavras/frases, comprimento médio da palavra e proporções de pontuação.
3. Seleção de Características: Para identificar as características mais informativas e reduzir a complexidade, cinco abordagens de seleção são aplicadas:
   • Métodos estatísticos (teste F de ANOVA, Qui-quadrado, Informação Mútua).
   • Importância baseada em ensemble (Random Forest).
   • Eliminação Recursiva de Características (RFE).
   • Seleção baseada em correlação (coeficiente de Pearson).
   • Seleção Forward e Teste de Combinação Abrangente (avaliação exaustiva de todos os subconjuntos).
4. Modelo de Classificação: Uma Rede Neural Convolucional (CNN) com arquitetura multirramo é proposta. Este design processa diferentes tipos de características de entrada através de pipelines convolucionais separados, comprime-os via max pooling global e concatena os vetores resultantes para classificação binária (Autêntico vs. Falso). O modelo é treinado usando a função de perda Entropia Cruzada Binária, o otimizador Adam e mecanismos de parada antecipada.

Principais Contribuições

• Avaliação Sistemática de Características: O estudo fornece uma análise comparativa de seis técnicas diversas de extração de características especificamente para texto em Bangla, indo além da dependência de abordagens de método único comuns na literatura anterior.
• Combinações Híbridas de Características: A pesquisa demonstra a eficácia de combinar características semânticas (Word2Vec, FastText), estatísticas (TF-IDF, N-Gram) e estruturais (em nível de caractere, Estatísticas).
• Estratégia Rigorosa de Seleção: Ao empregar múltiplos algoritmos de seleção de características e um teste de combinação exaustivo, o estudo identifica subconjuntos de características ótimos que maximizam o desempenho de classificação enquanto minimizam a redundância.
• Implementação de Código Aberto: O código e a configuração experimental estão disponíveis publicamente para facilitar pesquisas adicionais neste domínio.

Resultados Experimentais
O modelo CNN proposto foi avaliado no conjunto de dados BanFakeNews-2.0 usando Acurácia, Precisão, Revocação (Recall) e Pontuação F1.

• Desempenho Individual vs. Híbrido: Características individuais como FastText e Word2Vec alcançaram desempenho comparável (Pontuação F1 ~0,80). No entanto, a combinação de características resultou em melhorias significativas.
• Combinação Ótima: O desempenho mais alto foi alcançado integrando TF-IDF, Word2Vec, FastText, TF-IDF em Nível de Caractere e Características Estatísticas. Esta abordagem híbrida resultou em:
  • Acurácia: 0,91
  • Precisão: 0,90
  • Revocação (Recall): 0,79
  • Pontuação F1: 0,83
• Específicos da Classe Falsa: Para a detecção específica de notícias falsas, o modelo híbrido melhorou a Pontuação F1 para 0,73 e a Revocação para 0,61, um aumento marcante sobre características individuais (por exemplo, Word2Vec sozinho teve uma revocação de 0,55 e Pontuação F1 de 0,67).
• Estabilidade do Treinamento: As curvas de treinamento indicaram comportamento de aprendizado estável, sem sinais de sobreajuste ao longo de 50 épocas.

Significância e Alegações
O artigo afirma que a principal significância deste trabalho reside em demonstrar que combinar múltiplos tipos de características melhora significativamente a revocação e as Pontuações F1 da detecção de notícias falsas em Bangla em comparação com o uso de características individuais isoladamente. Os autores enfatizam que integrar diversas características semânticas e estatísticas permite que o modelo capture informações complementares, levando a uma classificação mais robusta.

O estudo conclui que, embora embeddings individuais de aprendizado profundo performem razoavelmente bem, eles frequentemente perdem uma parte significativa de instâncias falsas (baixa revocação). A abordagem híbrida proposta aborda essa limitação. Os autores notam modestamente que seu estudo é limitado a um classificador CNN e sugerem que trabalhos futuros poderiam explorar outras arquiteturas de aprendizado de máquina e profundo, bem como técnicas adicionais de extração e seleção de características.