Resumo Técnico: Da Pontuação às Explicações

Problema

Modelos de pontuação automatizados são cada vez mais implementados para atribuir classificações de qualidade baseadas em rubricas a desempenhos linguísticos complexos, como transcrições de sala de aula. No entanto, esses sistemas geralmente funcionam como "caixas pretas", fornecendo pontuações escalares sem fornecer insights sobre o raciocínio por trás delas. Essa falta de transparência é particularmente problemática em contextos educacionais de alto risco, onde as partes interessadas devem compreender, confiar e, potencialmente, contestar julgamentos automatizados. O que se faz com uma vez que os Grandes Modelos de Linguagem (LLMs) podem gerar justificativas de forma livre, a literatura recente sugere que essas explicações podem ser persuasivas, mas não fiéis ao processo de decisão real do modelo. O desafio central abordado é determinar quais partes de um texto realmente impulsionam a pontuação baseada em rubrica de um modelo e como avaliar se uma explicação captura fielmente esses impulsionadores.

Metodologia

Os autores propõem um framework unificado para interpretabilidade ao nível de sentença de pontuação baseada em rubricas, instanciado na dimensão de Qualidade do Feedback (QoF) do Sistema de Avaliação de Sala de Aula (CLASS) utilizando o corpus NCTE (6.005 segmentos de transcrição de sala de aula de matemática elementar anotados).

Configuração Experimental

O estudo compara duas famílias de modelos:

1. Modelos de Linguagem Pré-treinados (PLMs) com Ajuste Fino (Fine-tuning): Incluindo BERT, ALBERT, RoBERTa e DeBERTa (variantes base e large). Esses modelos são ajustados para regressão para prever uma pontuação de QoF de 1 a 7.
2. Grandes Modelos de Linguagem (LLMs) com Ajuste de Instrução (Instruction-tuned): Incluindo variantes de Llama 3.1, Mixtral, Qwen 3 e Mistral. Estes modelos realizam a pontuação via prompting de poucos disparos (few-shot) e o ranqueamento de sentenças via prompting de disparo zero (zero-shot).

Protocolos de Interpretabilidade e Avaliação

O framework avalia as explicações usando três mecanismos primários:

• Geração de Explicação:
  • SHAP (SHapley Additive exPlanations): Aplicado ao nível de embedding de sentença dentro de uma arquitetura de PLM hierárquica para gerar atribuições de características agnósticas ao modelo.
  • Racionais de LLM: LLMs são instruídos a ranquear as 10 sentenças mais influentes para uma determinada pontuação.
• Análise de Fidelidade (Baseada em Deleção): O sistema remove progressivamente as $k$ principais (onde $k=10$) sentenças identificadas por um método de explicação e reexecuta o modelo de pontuação. A magnitude da mudança na previsão ($\Delta$) serve como um proxy para a fidelidade; mudanças maiores indicam que a explicação identificou com sucesso o texto influente.
• Avaliação Cross-Model (Entre Modelos): Explicações geradas por uma família de modelos (ex: SHAP de um PLM) são usadas para perturbar a entrada da outra família (ex: um LLM), e vice-versa. Isso testa se as explicações transferem de forma robusta entre arquiteturas ou se permanecem específicas do modelo.
• Métricas de Alinhamento: Similaridade de Jaccard e correlação de Spearman são computadas para medir a sobreposição na seleção de sentenças entre SHAP e LLMs.

Contribuições Principais

1. Framework Geral: Um framework principiado para interpretabilidade ao nível de sentença que combina atribuições de valores de Shapley agnósticas ao modelo com racionais gerados por LLM, especificamente adaptado para pontuação baseada em rubricas.
2. Análise Comparativa: Uma comparação sistemática de PLMs especializados com ajuste fino versus LLMs via prompting, tanto no desempenho de pontuação quanto na fidelidade da explicação.
3. Avaliação de Fidelidade: Uma avaliação empírica dos métodos de explicação usando testes baseados em deleção, revelando que o SHAP identifica sentenças que impulsionam as previsões de forma confiável, enquanto os racionais de LLM frequentemente induzem mudanças menores e menos coerentes.
4. Consistência Cross-Model: Um protocolo inovador demonstrando que as atribuições SHAP transferem de forma robusta entre arquiteturas, enquanto os racionais de LLM exercem influência limitada e inconsistente em outros modelos.
5. Implicações Educacionais: Uma discussão sobre o design de ferramentas de feedback transparentes, alertando contra o uso de racionais de LLM não validados como justificativas autoritativas em ambientes de alto risco.

Resultados

Desempenho de Pontuação (RQ1)

• PLMs: Os PLMs com ajuste fino superam significativamente os LLMs em precisão de previsão. O melhor PLM (DeBERTaV3 large) atinge um Erro Médio Absoluto (MAE) de 0,96, comparável a uma linha de base constante. No entanto, os PLMs com ajuste fino exibem compressão de rótulo, raramente prevendo pontuações nos extremos (1 ou 7) e colapsando em direção à faixa média (3–5).
• LLMs: LLMs via prompting mostram taxas de erro mais altas (melhor MAE: 1,02 para Mistral Small), mas produzem previsões que abrangem toda a escala de 1 a 7, preservando melhor a variabilidade da pontuação do que os PLMs.

Fidelidade da Explicação (RQ2)

• SHAP vs. LLMs: Testes baseados em deleção mostram que as sentenças identificadas pelo SHAP produzem mudanças de previsão maiores e mais coerentes do que as selecionadas pelos LLMs.
• Alinhamento: A sobreposição entre as seleções de sentenças do SHAP e do LLM é baixa (média de similaridade de Jaccard: 0,085; média de correlação de Spearman: 0,062).
• Estabilidade: Os LLMs exibem controle limitado, frequentemente falhando em retornar o número exato de sentenças solicitado, e seus racionais induzem mudanças de previsão menores e muitas vezes instáveis, mesmo quando aplicados aos modelos que os geraram.

Transferência Cross-Model (RQ3)

• PLM para LLM: Remover sentenças identificadas pelo SHAP (de um PLM) causa mudanças significativas e imediatas nas previsões do LLM, sugerindo que o SHAP identifica características relevantes entre arquiteturas.
• LLM para PLM: Remover sentenças identificadas pelos LLMs produz mudanças de previsão substancialmente menores nos PLMs em comparação com a remoção baseada em SHAP. Os racionais de LLM frequentemente resultam em trajetórias não monotônicas, indicando que eles não capturam de forma confiável as características que impulsionam as previsões dos PLMs.

Significância e Alegações

O artigo conclui que o SHAP fornece explicações mais fiéis e transferíveis para a pontuação baseada em rubricas em comparação com os racionais gerados por LLM. Embora os LLMs ofereçam usabilidade pronta para uso e distribuições de pontuação mais amplas, suas explicações são frequentemente infiéis ao cálculo subjacente e não generalizam bem entre arquiteturas de modelos.

Os autores afirmam que o framework proposto oferece uma base principiada para avaliar modelos de pontuação e suas explicações em ambientes educacionais de alto risco. Eles enfatizam que, em contextos como o feedback de professores, onde a confiança e a contestabilidade são vitais, a dependência de racionais de LLM não validados é arriscada. Em vez disso, métodos de atribuição agnósticos ao modelo, como o SHAP, fornecem uma fundação mais estável para uma avaliação automatizada transparente e acionável. O trabalho não alega que os LLMs sejam inúteis para a pontuação, mas destaca que seus racionais atuais não devem ser tratados como justificativas autoritativas para julgamentos automatizados sem uma rigorosa avaliação de fidelidade.