Hybrid Feature Combinations with CNN for Bangla Fake News Classification

Resumen Técnico: Combinaciones de Características Híbridas con CNN para la Clasificación de Noticias Falsas en Bangla

Planteamiento del Problema
La proliferación de noticias falsas en las redes sociales y portales en línea en Bangladesh plantea riesgos significativos para la credibilidad de los medios auténticos y la vida diaria de los ciudadanos. Detectar noticias falsas en el idioma bangla presenta desafíos únicos debido a sus estructuras de escritura complejas y su vocabulario diverso, que difieren del inglés. Aunque existen numerosos estudios para la detección de noticias falsas en inglés, la investigación específica para el bangla sigue siendo limitada. Los enfoques existentes a menudo dependen de una o pocas técnicas de extracción de características (por ejemplo, TF-IDF, Word2Vec o fastText) sin comparar sistemáticamente su eficacia ni explorar combinaciones híbridas. Además, los conjuntos de características de alta dimensionalidad pueden introducir ruido y reducir la eficiencia del modelo, lo que hace necesarias estrategias robustas de selección de características.

Metodología
Esta investigación propone un marco integral para la clasificación de noticias falsas en bangla utilizando el conjunto de datos BanFakeNews-2.0, que comprende 48.678 artículos reales y 12.903 artículos de noticias falsas anotados manualmente. La metodología sigue una tubería estructurada:

1. Preprocesamiento: El texto en bangla sin procesar se limpia eliminando puntuación, palabras vacías, caracteres especiales y etiquetas HTML, mientras se conservan los dígitos.
2. Extracción de Características: Se emplean seis métodos distintos de extracción de características para convertir el texto en representaciones numéricas:
   • TF-IDF: Utilizando unigramas y bigramas (los 5.000 tokens principales).
   • Word2Vec: Utilizando la arquitectura CBOW con un espacio vectorial de 100 dimensiones.
   • FastText: Aprovechando la información de subpalabras para un mejor manejo de palabras no vistas.
   • Características N-Gram: Extrayendo secuencias hasta un tamaño de 3.
   • TF-IDF a Nivel de Caracteres: Centrándose en n-gramas de caracteres (longitud 2–4) para capturar patrones de subpalabras.
   • Características Estadísticas: Descriptores construidos manualmente que incluyen conteos de caracteres/palabras/oraciones, longitud promedio de palabras y ratios de puntuación.
3. Selección de Características: Para identificar las características más informativas y reducir la complejidad, se aplican cinco enfoques de selección:
   • Métodos estadísticos (prueba F de ANOVA, Chi-cuadrado, Información Mutua).
   • Importancia basada en conjuntos (Random Forest).
   • Eliminación Recursiva de Características (RFE).
   • Selección basada en correlación (coeficiente de Pearson).
   • Selección hacia adelante y Prueba de Combinación Exhaustiva (evaluación por fuerza bruta de todos los subconjuntos).
4. Modelo de Clasificación: Se propone una Red Neuronal Convolucional (CNN) con una arquitectura de múltiples ramas. Este diseño procesa diferentes tipos de características de entrada a través de tuberías de convolución separadas, las comprime mediante agrupación máxima global y concatena los vectores resultantes para la clasificación binaria (Auténtico vs. Falso). El modelo se entrena utilizando la función de pérdida de Entropía Cruzada Binaria, el optimizador Adam y mecanismos de parada temprana.

Contribuciones Clave

• Evaluación Sistemática de Características: El estudio proporciona un análisis comparativo de seis técnicas diversas de extracción de características específicamente para texto en bangla, superando la dependencia de enfoques de un solo método comunes en la literatura anterior.
• Combinaciones de Características Híbridas: La investigación demuestra la eficacia de combinar características semánticas (Word2Vec, FastText), estadísticas (TF-IDF, N-Gram) y estructurales (a nivel de caracteres, estadísticas).
• Estrategia de Selección Rigurosa: Al emplear múltiples algoritmos de selección de características y una prueba de combinación por fuerza bruta, el estudio identifica subconjuntos óptimos de características que maximizan el rendimiento de clasificación mientras minimizan la redundancia.
• Implementación de Código Abierto: El código y la configuración experimental se ponen a disposición del público para facilitar futuras investigaciones en este dominio.

Resultados Experimentales
El modelo CNN propuesto se evaluó en el conjunto de datos BanFakeNews-2.0 utilizando Precisión, Recall, Exactitud y Puntuación F1.

• Rendimiento Individual vs. Híbrido: Las características individuales como FastText y Word2Vec lograron un rendimiento comparable (Puntuación F1 ~0.80). Sin embargo, la combinación de características produjo mejoras significativas.
• Combinación Óptima: El rendimiento más alto se logró integrando TF-IDF, Word2Vec, FastText, TF-IDF a nivel de caracteres y características estadísticas. Este enfoque híbrido resultó en:
  • Exactitud: 0.91
  • Precisión: 0.90
  • Recall: 0.79
  • Puntuación F1: 0.83
• Especificidades de la Clase Falsa: Para la detección específica de noticias falsas, el modelo híbrido mejoró la puntuación F1 a 0.73 y el recall a 0.61, un aumento notable sobre las características individuales (por ejemplo, Word2Vec por sí solo tuvo un recall de 0.55 y una puntuación F1 de 0.67).
• Estabilidad del Entrenamiento: Las curvas de entrenamiento indicaron un comportamiento de aprendizaje estable sin signos de sobreajuste a lo largo de 50 épocas.

Significado y Afirmaciones
El artículo afirma que el significado principal de este trabajo radica en demostrar que combinar múltiples tipos de características mejora significativamente el recall y las puntuaciones F1 de la detección de noticias falsas en bangla en comparación con el uso de características individuales por sí solas. Los autores enfatizan que integrar diversas características semánticas y estadísticas permite al modelo capturar información complementaria, lo que lleva a una clasificación más robusta.

El estudio concluye que, si bien las incrustaciones individuales de aprendizaje profundo funcionan razonablemente bien, a menudo pasan por alto una parte significativa de instancias falsas (bajo recall). El enfoque híbrido propuesto aborda esta limitación. Los autores notan modestamente que su estudio se limita a un clasificador CNN y sugieren que el trabajo futuro podría explorar otras arquitecturas de aprendizaje automático y aprendizaje profundo, así como técnicas adicionales de extracción y selección de características.