A Systematic Comparison between Extractive Self-Explanations and Human Rationales in Text Classification

Resumen Técnico: Una Comparación Sistemática entre Autoexplicaciones Extractivas y Razonamientos Humanos en la Clasificación de Texto

Planteamiento del Problema
Los Modelos de Lenguaje de Gran Escala (LLM) ajustados mediante instrucciones pueden generar autoexplicaciones (razonamientos) para sus salidas sin requerir técnicas externas complejas de interpretabilidad. Sin embargo, la fiabilidad, la plausibilidad y la fidelidad de estas autoexplicaciones generadas por el modelo permanecen poco exploradas. La investigación existente se centra a menudo en textos cortos o tareas basadas en palabras clave, careciendo de comparaciones sistemáticas en dominios diversos y realistas con longitudes y complejidades de texto variables. Además, existe la necesidad de comprender cómo estas autoexplicaciones se comparan con los razonamientos anotados por humanos y los métodos de atribución post-hoc en cuanto a su capacidad para reflejar el proceso real de toma de decisiones del modelo.

Metodología
Los autores realizan un estudio controlado que evalúa cuatro LLM ajustados mediante instrucciones de pesos abiertos (Gemma3, Llama3, Mistral y Qwen3) en tres tareas distintas de clasificación de texto:

1. Clasificación de Sentimiento (SST/mSST): Clasificación binaria de reseñas de películas en inglés, danés e italiano.
2. Detección de Trabajo Forzado (RaFoLa): Clasificación multietiqueta de artículos de noticias que identifican indicadores específicos de riesgo de trabajo forzoso.
3. Verificación de Afirmaciones (Climate-Fever): Verificación de afirmaciones sobre el cambio climático frente a fragmentos de evidencia de Wikipedia.

Para las dos primeras tareas, el estudio utiliza anotaciones de razonamientos humanos existentes. Para Climate-Fever, los autores recopilaron nuevas anotaciones de razonamientos humanos para un subconjunto de 104 afirmaciones (520 evidencias) utilizando tres anotadores instruidos personalmente.

El marco de evaluación valora dos dimensiones principales:

• Plausibilidad: Medida mediante el acuerdo (Kappa de Cohen) entre los razonamientos generados por el modelo y las anotaciones humanas.
• Fidelidad: Medida mediante sondeo basado en intervención. Los autores enmascaran los tokens identificados por los razonamientos humanos, las autoexplicaciones del modelo y los métodos de atribución post-hoc (Propagación de Relevancia por Capas [LRP] y Gradiente×Entrada) para observar la caída resultante en la probabilidad de predicción del modelo.

El estudio también incluye un análisis estadístico de estrategias a nivel de token, comparando la diversidad léxica, las fracciones de palabras vacías y las distribuciones de entidades entre razonamientos humanos, del modelo y post-hoc.

Contribuciones Clave

1. Nuevas Anotaciones de Conjuntos de Datos: La recopilación y publicación de anotaciones de razonamientos humanos para un subconjunto del conjunto de datos Climate-Fever, abordando una brecha en la verdad fundamental disponible para tareas de verificación de afirmaciones.
2. Estudio Comparativo Controlado: Una comparación sistemática de anotaciones humanas, autoexplicaciones de LLM y métodos de atribución post-hoc en tres dominios con longitudes de texto y complejidades de tarea variables.
3. Análisis de Fidelidad: Una evaluación que demuestra que las autoexplicaciones producen subconjuntos fieles de razonamientos a nivel de token, mientras que los métodos de atribución post-hoc a menudo priorizan tokens estructurales y de formato sobre la evidencia semántica.
4. Caracterización de Estrategias: Un análisis detallado que revela que los razonamientos humanos enfatizan el contenido narrativo y las experiencias vividas, los razonamientos del modelo proporcionan detalles fácticos y analíticos, y los razonamientos post-hoc se centran en tokens de evidencia aislados y artefactos estructurales.

Resultados Clave

• Plausibilidad: El acuerdo entre los razonamientos humanos y del modelo varía significativamente según la longitud del texto y la complejidad de la tarea.
  • SST: Acuerdo moderado (Kappa 0.4–0.6) para los subconjuntos en inglés; menor para los danés e italiano.
  • RaFoLa: Alta varianza entre artículos; el acuerdo oscila entre bajo (0.12) y moderado (0.48), correlacionándose con la dificultad de la tarea y la distintividad de las palabras clave.
  • Climate-Fever: Acuerdo generalmente bajo (0.12–0.24), atribuido a la complejidad intrínseca y la ambigüedad de la tarea de verificación de afirmaciones en lugar de propiedades superficiales del texto.
• Fidelidad:
  • Las autoexplicaciones del modelo (específicamente cuando se clasifican mediante la maximización codiciosa de la diferencia de probabilidad) demuestran alta fidelidad, a menudo causando una caída más pronunciada en la probabilidad de predicción al enmascarar que los razonamientos humanos, particularmente en el primer 10% de los tokens.
  • Los métodos post-hoc (LRP, Gradiente×Entrada) muestran menor fidelidad en la identificación de los tokens iniciales más relevantes en comparación con las autoexplicaciones. Frecuentemente asignan alta importancia a tokens estructurales (por ejemplo, <s>, <|begin_of_text|>) requeridos para la delimitación de secuencias en lugar del contenido semántico.
• Estrategias de Token:
  • Razonamientos Humanos: Mayor diversidad léxica y uso de palabras vacías; enfoque en narrativa y contexto humano (por ejemplo, "víctimas", "pobreza").
  • Razonamientos del Modelo: Diversidad léxica similar a la de los humanos pero con redacción más densa y técnica, enfocándose en mecanismos y evidencia cuantitativa (por ejemplo, "trata", "OIT").
  • Razonamientos Post-hoc: Menor diversidad léxica y uso de palabras vacías; mayor concentración de entidades nombradas y tokens de formato (por ejemplo, "Reuters", "https://").

Significado y Afirmaciones
El artículo postula que las autoexplicaciones ofrecen una vía prometedora para la interpretabilidad, ya que pueden producir razonamientos fieles a nivel de token que interrumpen eficazmente las predicciones del modelo cuando se enmascaran. Sin embargo, el estudio destaca una divergencia fundamental en las estrategias de explicación: mientras que las autoexplicaciones comunican evidencia coherente a través del lenguaje natural, los métodos de atribución post-hoc a menudo resaltan señales estructurales.

Los autores concluyen que su trabajo constituye un "primer paso" hacia la caracterización de la fiabilidad de las autoexplicaciones en entornos realistas de clasificación de texto. Enfatizan que, aunque las autoexplicaciones son fieles, pueden no ser siempre plausibles para los humanos, y viceversa. El estudio respalda la necesidad de una evaluación rigurosa de las autoexplicaciones y sugiere que la investigación futura debería explorar cómo estos hallazgos se transfieren a explicaciones de texto libre abstractivas y a análisis orientados al proceso de integración de evidencia compleja. Los autores evitan explícitamente afirmar que las autoexplicaciones son universalmente superiores o que resuelven completamente el problema de la interpretabilidad; en su lugar, enmarcan sus resultados como una base para una mayor investigación sobre la confiabilidad y la transparencia del modelo.