Measuring What Matters -- or What's Convenient?: Robustness of LLM-Based Scoring Systems to Construct-Irrelevant Factors

Título: Medindo o que Importa — ou o que é Conveniente?: Robustez de Sistemas de Pontuação Baseados em LLM a Fatores Irrelevantes ao Construto

1. Problema e Contexto

Os sistemas de avaliação automatizada de respostas abertas (como redações e questões dissertativas) são amplamente utilizados na indústria de testes educacionais. Embora esses sistemas frequentemente atinjam níveis de desempenho comparáveis ou superiores aos de avaliadores humanos treinados, estudos anteriores demonstraram que eles são vulneráveis a fatores irrelevantes ao construto (construct-irrelevant factors).

Fatores irrelevantes são características da resposta que não têm relação com a habilidade ou competência que o teste visa medir. Exemplos históricos incluem:

• Tamanho do texto: A repetição de frases ou parágrafos para inflar artificialmente a pontuação.
• Padrões de linguagem: O uso de frases feitas ou vocabulário sofisticado que não agrega conteúdo real.
• Erros ortográficos: Penalização excessiva de erros que não afetam o entendimento do conteúdo.

Com o aumento da adoção de Grandes Modelos de Linguagem (LLMs) em sistemas de pontuação, há uma preocupação renovada sobre a robustez desses modelos, especialmente frente a "alucinações" e condições adversas. O objetivo deste estudo é investigar se os sistemas baseados em LLMs superam as vulnerabilidades dos sistemas tradicionais (baseados em redes neurais ou transformadores mais antigos) ao serem submetidos a manipulações que não refletem a competência real do aluno.

2. Metodologia

Dados e Instrumento:

• Avaliação: Os dados foram coletados de um teste de Julgamento Situacional (SJT) com 30 itens de resposta aberta, projetado para avaliar habilidades pessoais e profissionais (ex: colaboração, pensamento crítico, responsabilidade ética).
• Construto: Diferente de testes de proficiência em escrita, neste SJT, a sofisticação da escrita (gramática, vocabulário, estrutura) é considerada irrelevante ao construto. O foco é no conteúdo e na aplicação de habilidades.
• Amostra: Foi selecionado um subconjunto de 545 respostas de 318 alunos. As respostas foram originalmente pontuadas por avaliadores humanos (escala 1-5) e usadas para treinar/validar o sistema automatizado.
• Sistema de Pontuação: Um sistema de arquitetura dual que utiliza LLMs como "Juiz" para extração de características, combinado com algoritmos de regressão de caixa clara (clear-box) para ponderação e pontuação final. O modelo subjacente utiliza a família GPT-5.X.

Experimentos Realizados:
Os autores criaram versões alteradas das respostas originais para testar três fatores específicos:

1. Experimento 1: Texto Sem Significado (Padding)

   • A. Duplicação completa da resposta original.
   • B. Adição de uma frase declarando a competência avaliada (ex: "Esta questão avalia colaboração").
   • C. Repetição/paráfrase do cenário da questão.
   • D. Adição de frases formulaicas memorizadas (ex: "Eu abordaria a situação com respeito...").

2. Experimento 2: Sofisticação da Escrita

   • A. Erros de Ortografia: Introdução de erros aleatórios (substituição, deleção, inserção) com taxas de erro de caracteres (CER) variando de 5% a 50%.
   • B. Nível de Leitura (Reading Level): Reescrever as respostas usando um LLM para ajustar o nível de leitura (Flesch-Kincaid) para níveis mais simples ou mais complexos, mantendo o significado original.

3. Experimento 3: Respostas Fora do Tópico (Off-Topic)

   • Permutação aleatória das respostas com os itens (questões).
   • Cenário A: Resposta alinhada a uma competência diferente da original.
   • Cenário B: Resposta alinhada à mesma competência, mas para um item diferente.

3. Resultados Principais

A. Robustez a Texto Sem Significado

• Duplicação de Texto: Ao contrário de estudos anteriores com sistemas não-LLM (onde a duplicação inflava a nota), a duplicação de texto neste sistema baseou-se em LLM reduziu a pontuação média (d de Cohen = -0.24). O sistema penalizou a redundância.
• Frases de Preenchimento: Adicionar frases declarando a competência ou reescrevendo o cenário teve impacto negligenciável nas notas (|d| ≤ 0.01).
• Frases Formulaicas: A adição de frases clichês causou um viés positivo muito pequeno (d = 0.16), mas não suficiente para inflar artificialmente a nota de forma significativa.

B. Robustez à Sofisticação da Escrita

• Erros de Ortografia: O sistema foi altamente robusto a erros de digitação. Até uma taxa de erro de caracteres (CER) de 30%, a pontuação permaneceu estável. Efeitos significativos só apareceram acima de 35-40%, quando o texto se tornou ilegível. Isso contrasta com avaliadores humanos, que tendem a penalizar severamente erros ortográficos.
• Nível de Leitura (Vocabulário e Estrutura): Alterar a complexidade das sentenças e o vocabulário (variando o nível de leitura em até 6 pontos) teve impacto quase nulo nas pontuações (d < 0.11). Respostas com linguagem simples receberam notas comparáveis às de linguagem complexa, desde que o conteúdo e a lógica fossem mantidos.

C. Penalização de Respostas Fora do Tópico

• O sistema penalizou severamente respostas que não abordavam a questão correta.
• Respostas alinhadas a uma competência diferente da original tiveram uma queda drástica na pontuação média (de 3.11 para 1.69; d = -1.33).
• Mesmo quando alinhadas à mesma competência, mas para um item diferente, a pontuação caiu (para 2.38; d = -0.62).
• A frequência de pontuação mínima (1.0) aumentou drasticamente para respostas fora do tópico (de 3.7% no baseline para 35% no cenário de competência diferente).

4. Contribuições e Significância

• Superação de Vulnerabilidades Anteriores: O estudo demonstra que sistemas baseados em LLMs podem superar limitações de sistemas anteriores, especificamente a tendência de inflar notas baseadas apenas no comprimento do texto ou na repetição de conteúdo.
• Foco no Construto Real: Os resultados validam que é possível construir sistemas de pontuação automatizada que ignoram fatores irrelevantes (como erros de ortografia e sofisticação vocabular) em testes de habilidades não-linguísticas (como SJTs), focando estritamente na qualidade do raciocínio e na aplicação de competências.
• Segurança contra Adversários: O sistema demonstrou ser robusto contra tentativas de "hacking" de pontuação através de preenchimento de texto ou uso de frases memorizadas.
• Implicações para o Futuro: Os autores sugerem que os desenvolvedores de sistemas de avaliação devem adotar testes de robustez semelhantes para garantir que os sistemas medem o que pretendem medir e não apenas proxies exploráveis.

5. Limitações e Trabalhos Futuros

• O estudo focou em um único sistema de pontuação e um único tipo de avaliação (SJT).
• O uso de modelos GPT-5.X (muito capazes) pode não representar a robustez de modelos menores ou menos avançados.
• A investigação sobre frases formulaicas foi limitada a um único exemplo; mais pesquisa é necessária para entender o impacto de padrões de "má-fé" em larga escala.
• Recomenda-se o desenvolvimento de sistemas que não apenas pontuem, mas também identifiquem e sinalizem respostas "inusitadas" ou fora do tópico para revisão humana.

Conclusão: O estudo fornece evidências encorajadoras de que, quando projetados com foco na relevância do construto, os sistemas de pontuação baseados em LLMs oferecem uma robustez superior a fatores irrelevantes, aumentando a confiança na medição justa e precisa de competências complexas.