Measuring What Matters -- or What's Convenient?: Robustness of LLM-Based Scoring Systems to Construct-Irrelevant Factors

Título: ¿Medir lo que importa o lo que es conveniente?: Robustez de los Sistemas de Puntuación Basados en LLM frente a Factores Irrelevantes para el Constructo

1. Planteamiento del Problema

Los sistemas de puntuación automática (AES) se han adoptado ampliamente en la industria de pruebas educativas para evaluar respuestas abiertas y ensayos. Aunque estos sistemas suelen alcanzar un rendimiento comparable o superior al de evaluadores humanos, han demostrado ser vulnerables a factores irrelevantes para el constructo (características de la respuesta no relacionadas con la habilidad que se mide).

• Problemas históricos: Estudios previos han mostrado que sistemas tradicionales (basados en redes neuronales o transformadores no LLM) pueden inflar artificialmente las puntuaciones mediante la repetición de texto, la longitud excesiva o la inserción de frases estereotipadas.
• El nuevo contexto: Con el auge de los Modelos de Lenguaje Grande (LLM) en sistemas de puntuación, surge la preocupación sobre su robustez frente a estas manipulaciones adversarias y las "alucinaciones".
• Objetivo específico: Este estudio investiga cómo un sistema de puntuación basado en LLM, diseñado para una Prueba de Juicio Situacional (SJT) que evalúa habilidades personales y profesionales (no redacción), se comporta frente a factores irrelevantes como el relleno de texto sin sentido, la sofisticación de la escritura y las respuestas fuera de tema.

2. Metodología

• Datos de origen: Se utilizaron 26,571 respuestas de 910 estudiantes de seis escuelas (negocios, ingeniería, ciencias de la salud y medicina) en una SJT de 30 ítems. La prueba evalúa cuatro dimensiones: habilidades intrapersonales, interpersonales, responsabilidad social/ética y pensamiento crítico.
• Sistema de Puntuación: Se desarrolló un sistema de arquitectura dual que utiliza LLMs como componentes de extracción de características ("LLM-as-a-Judge") combinados con algoritmos de regresión de caja clara. El sistema fue entrenado para priorizar comportamientos relacionados con las habilidades (ej. colaboración) y no la competencia lingüística.
• Muestra para el estudio: Se seleccionó un subconjunto de 545 respuestas de 318 estudiantes, estratificadas por ítem y puntuación predicha para asegurar diversidad de calidad.
• Diseño Experimental: Se realizaron tres experimentos modificando las respuestas originales y reevaluándolas con el sistema:
  1. Texto sin sentido: Se añadieron copias de la respuesta original, declaraciones de la competencia evaluada, reescrituras del escenario o frases formulaicas memorizadas.
  2. Sofisticación de la escritura:
     • Errores ortográficos: Se introdujeron ediciones aleatorias (sustituciones, borrados, inserciones) con tasas de error de caracteres (CER) del 5% al 50%.
     • Nivel de lectura: Se reescribieron las respuestas usando un LLM para ajustar el nivel de lectura (Flesch-Kincaid) manteniendo el significado, variando la complejidad del vocabulario y la estructura de las oraciones.
  3. Respuestas fuera de tema: Se emparejaron respuestas con ítems que evaluaban competencias diferentes (o la misma competencia pero en un contexto distinto) para ver si el sistema penalizaba la falta de alineación temática.

3. Contribuciones Clave

• Validación de robustez en LLMs: Proporciona evidencia empírica de que los sistemas de puntuación basados en LLM modernos (usando modelos GPT-5.X) son significativamente más robustos a manipulaciones de longitud y contenido irrelevante que los sistemas anteriores basados en transformadores.
• Distinción de constructos: Demuestra la viabilidad de construir sistemas automatizados que evalúen constructos complejos (habilidades blandas) ignorando deliberadamente la sofisticación lingüística, diferenciándose así de los sistemas tradicionales de evaluación de escritura.
• Análisis de adversarios: Ofrece un marco para probar la resistencia de los sistemas de IA ante ataques de "relleno" y manipulación de estilo, crucial para la confianza en evaluaciones de alto impacto.

4. Resultados Principales

• Resistencia al relleno de texto:
  • Duplicación de texto: A diferencia de estudios previos donde repetir texto inflaba la puntuación, aquí la duplicación de grandes pasajes disminuyó ligeramente la puntuación promedio (d de Cohen = -0.24).
  • Texto irrelevante: Añadir declaraciones de competencia o reescrituras de escenarios no tuvo impacto significativo en las puntuaciones.
  • Frases formulaicas: Añadir frases memorizadas tuvo un sesgo positivo muy pequeño (d = 0.16), pero no suficiente para inflar artificialmente la nota de manera drástica.
• Robustez ante errores y estilo:
  • Errores ortográficos: El sistema fue extremadamente robusto. Las puntuaciones permanecieron estables hasta un 30% de tasa de error de caracteres (CER). Solo cuando el texto se volvió casi ilegible (>35-40% CER) las puntuaciones cayeron drásticamente.
  • Sofisticación lingüística: Variar el nivel de lectura (palabras más simples o complejas, oraciones más largas o cortas) tuvo un impacto nulo o insignificante en las puntuaciones. El sistema ignoró la complejidad gramatical y vocabular, enfocándose únicamente en el contenido de la habilidad.
• Penalización de respuestas fuera de tema:
  • El sistema penalizó severamente las respuestas que no abordaban el escenario.
  • Las respuestas emparejadas con ítems de competencias diferentes obtuvieron una puntuación promedio de 1.69 (frente a 3.11 en el emparejamiento correcto), con un efecto grande (d = -1.33).
  • La frecuencia de puntuaciones mínimas (1.0) aumentó del 3.7% en la línea base al 35% en respuestas totalmente desalineadas.

5. Significado e Implicaciones

• Superación de limitaciones anteriores: Los resultados sugieren que los sistemas basados en LLM pueden superar la vulnerabilidad histórica de los sistemas AES ante la manipulación de la longitud del texto, ofreciendo una vía para evaluar constructos reales sin ser engañados por "relleno".
• Equidad en la evaluación: La capacidad de ignorar errores ortográficos y sofisticación de escritura es una ventaja crítica para las SJT y evaluaciones de habilidades blandas, donde estos factores son irrelevantes para el constructo medido. Esto reduce el sesgo contra estudiantes con menor dominio del idioma o dificultades de escritura, centrándose en su juicio y razonamiento.
• Confianza y seguridad: La robustez demostrada frente a ataques adversarios (como la duplicación de texto) aumenta la confianza en la validez de estas herramientas para uso en contextos educativos y de contratación.
• Límites y futuro: Aunque robusto, el sistema aún requiere investigación sobre el uso de frases hechas en combinación con otros factores. Los autores recomiendan que todos los desarrolladores de sistemas de puntuación adopten pruebas similares de factores irrelevantes para garantizar la transparencia y la confianza pública.

En conclusión, el estudio valida que los sistemas de puntuación basados en LLM, cuando se diseñan con un enfoque en la relevancia del constructo, pueden ser herramientas robustas y justas para medir habilidades complejas, minimizando el ruido introducido por la forma de la escritura y maximizando la evaluación del contenido sustantivo.