Resumen Técnico: Revisión de Arcade

Declaración del Problema

El artículo aborda la creciente dependencia de los Modelos de Lenguaje Grandes (LLM) en el ecosistema de revisión por pares académica. Plantea un escenario de adopción dual donde tanto los autores utilizan LLMs para revisar manuscritos como los revisores emplean LLMs para generar o asistir en la redacción de revisiones. Esta dinámica genera preocupaciones respecto a la ley de Goodhart: si los autores optimizan los artículos específicamente para satisfacer los criterios de revisión de los LLMs, las puntuaciones resultantes podrían dejar de ser una medida válida de la calidad del artículo. Los autores investigan tres preguntas de investigación (PR) centrales:

1. Validez: ¿Pueden los LLMs producir revisiones suficientemente alineadas con las revisiones humanas?
2. Estabilidad: ¿Son las revisiones de los LLMs consistentes entre diferentes modelos, prompts y ejecuciones repetidas?
3. Jugabilidad: ¿Pueden las revisiones de los LLMs ser "manipuladas" mediante flujos de trabajo automatizados de edición iterativa que buscan maximizar las puntuaciones de revisión?

Metodología

El estudio realiza experimentos empíricos en 984 envíos reales de la Revisión Rodante de ACL (ARR) de 2025. El conjunto de datos incluye artículos aceptados y rechazados, con un enfoque específico en la puntuación "General" como métrica principal.

Configuración Experimental

• Modelos: Los autores evaluaron cinco modelos (tres de pesos abiertos: Gemma-3-27B, Qwen-3.6-35B, Llama-3.3-70B; y dos de pesos cerrados: GPT-5.4-mini, GPT-5.4).
• Prompts: Se probaron cinco estrategias de prompting distintas, que van desde un prompt "simple" mínimo hasta prompts complejos impulsados por personajes ("acl_senior") adaptados a las directrices de la ARR.
• Métricas:
  • Alineación: Medida mediante el Error Absoluto Medio (MAE) frente a las puntuaciones humanas y la correlación de Pearson ($r$) con la revisión humana mejor coincidente.
  • Contenido: Superposición semántica de fortalezas y debilidades identificadas utilizando un juez LLM (métrica basada en recuperación).
  • Estabilidad: Variación en las puntuaciones a través de ejecuciones repetidas y diferentes prompts.

Mejora Iterativa de Envíos (ISI)

Para abordar la PR3, los autores simularon un flujo de trabajo adversario donde un autor edita iterativamente un envío basándose en la retroalimentación del LLM. Este proceso se ejecutó durante 10 iteraciones bajo tres configuraciones distintas:

1. Restringido: Solo se permiten ediciones superficiales y cosméticas (por ejemplo, gramática, aclaración); no se permiten nuevos experimentos ni cambios de contenido.
2. Predeterminado: Un enfoque intermedio inspirado en trabajos anteriores, que permite ediciones pero prohíbe cambios no cosméticos como la fabricación de resultados.
3. Adversario: Se permite explícitamente al LLM "jugar" con el sistema, incluyendo la fabricación de evidencia, la modificación de resultados y la invención de citas para satisfacer las preocupaciones de los revisores.

Se estableció una taxonomía de ediciones, categorizando acciones desde "Corrección de Estilo" y "Aclaración" hasta "Aumento Metodológico" y "Evidencia Alucinada".

Resultados Clave

1. Validez de la Revisión por LLM (PR1)

• Alineación de Puntuaciones: Los LLMs generalmente no logran coincidir con los juicios humanos en términos de MAE. Los modelos de mejor rendimiento (variantes de GPT-5.4) lograron un MAE de ~0.7, mientras que los revisores humanos lograron ~0.17. Cabe destacar que una línea base ingenua (predecir la puntuación media de 2.5) superó a los mejores LLMs en MAE (0.64 vs. 0.70).
• Correlación: Aunque el MAE es deficiente, la correlación de Pearson es más competitiva. GPT-5.4 alcanzó una correlación de 0.276 frente a las revisiones humanas. Sin embargo, esto es comparable a la baja correlación entre humanos observada en el conjunto de datos (0.312), lo que sugiere que los LLMs no son significativamente mejores ni peores que la variación natural entre revisores humanos.
• Disparidad de División: El rendimiento varió significativamente entre artículos aceptados y rechazados. El acuerdo humano fue mucho mayor para los artículos rechazados (0.408) que para los aceptados (0.210), y los LLMs reflejaron esta tendencia, teniendo más dificultades para diferenciar artículos de alta calidad.

2. Estabilidad de la Revisión por LLM (PR2)

• Sensibilidad al Prompt: Las revisiones de los LLMs son altamente inestables entre diferentes prompts. Por ejemplo, el MAE de un modelo podría variar drásticamente dependiendo de si se utilizó un prompt "simple" o "senior".
• Inestabilidad de Ejecución: Incluso con el mismo prompt y modelo, las ejecuciones repetidas produjeron puntuaciones inconsistentes. Aproximadamente el 36.9% de los artículos recibieron puntuaciones diferentes en tres ejecuciones, con un 20% mostrando una diferencia mayor a 0.5 puntos. Esto indica que las revisiones de los LLMs son actualmente demasiado inestables para ser fiables como métrica independiente.

3. Jugabilidad de la Revisión por LLM (PR3)

• Configuración Restringida: La edición iterativa con solo cambios superficiales llevó a un aumento estadísticamente significativo en las puntuaciones. Aproximadamente el 35% de los artículos mejoraron después de 10 iteraciones, mientras que el 22% vio una disminución. El tamaño del efecto fue de pequeño a medio.
• Configuración Adversaria: Sorprendentemente, permitir que el LLM fabrique evidencia o resultados no produjo los mayores aumentos de puntuación. El tamaño del efecto fue más débil que en la configuración restringida. Los autores hipotetizan que las barreras de seguridad del modelo previenen alucinaciones significativas y que las inconsistencias metodológicas introducidas por datos falsos pueden penalizar el artículo en revisiones posteriores de LLM.
• Tipos de Edición: La estrategia de "juego" más exitosa se basó en la Aclaración y la Refactorización (reestructuración sin cambiar el significado), en lugar de la fabricación sustantiva de contenido.

Contribuciones Clave

1. Evaluación Empírica a Gran Escala: El primer estudio extenso que evalúa revisiones de LLM en envíos reales de la ARR, abarcando múltiples modelos, prompts y ejecuciones.
2. Simulación de Ataque Adversario: Una investigación sobre la edición automatizada de artículos como método para manipular las puntuaciones de revisión de LLM, demostrando que "jugar" es factible incluso con ediciones superficiales.
3. Taxonomía de Ediciones: Una taxonomía fundamentada para categorizar las ediciones de artículos, distinguiendo entre cambios cosméticos y modificaciones sustantivas (o fabricadas).

Significado y Afirmaciones

El artículo concluye que, aunque los LLMs pueden producir revisiones que se correlacionan con los juicios humanos en escenarios específicos de mejor caso, no son universalmente fiables debido a la inestabilidad entre prompts y ejecuciones. Los autores argumentan que el estado actual de las revisiones por LLM es insuficiente para una adopción oficial sin salvaguardas rigurosas.

Crucialmente, el estudio destaca una vulnerabilidad en el proceso de revisión por pares: las revisiones de LLM pueden ser manipuladas. Los autores pueden refinar iterativamente los artículos utilizando la retroalimentación de los LLM para inflar artificialmente las puntuaciones, particularmente a través de aclaraciones superficiales y reorganización estructural. Los autores invocan la ley de Goodhart para advertir que, a medida que los LLMs se convierten en un objetivo de optimización, su utilidad como medida de la verdadera calidad del artículo se degradará. Instan a la comunidad a ejercer extrema precaución con respecto a las revisiones automatizadas, enfatizando que las implementaciones oficiales deben diseñarse para prevenir la jugabilidad y asegurar perspectivas diversas, en lugar de depender únicamente de métricas basadas en puntuaciones.