Failure Modes of Large Language Models on Research-Level Mathematics: A Taxonomy and an Empirical Characterisation

Resumen Técnico: Modos de Fallo de los Modelos de Lenguaje Extensos en Matemáticas de Nivel de Investigación

Planteamiento del Problema
Benchmarks recientes sugieren que los Modelos de Lenguaje Extensos (LLMs) están alcanzando competencia en el razonamiento matemático, particularmente en problemas de estilo de competición. Sin embargo, el benchmark "First Proof" [1] reveló una brecha crítica: cuando se les presentaron diez preguntas de matemáticas genuinas de nivel de investigación (lemas genuinos de proyectos activos sin respuestas públicas), los modelos de vanguardia fallaron consistentemente. Crucialmente, los modelos no admitieron incertidumbre; en su lugar, generaron demostraciones largas, formalmente estructuradas y escritas con fluidez que eran sustantivamente incorrectas. El problema central que este artículo aborda es la caracterización de por qué estos modelos fallan de esta manera específica, yendo más allá de las simples tasas de error para comprender la naturaleza estructural de las alucinaciones en las demostraciones matemáticas.

Metodología
El artículo emplea un enfoque de dos vertientes: la derivación de una taxonomía cualitativa y una auditoría empírica cuantitativa.

1. Derivación de la Taxonomía: El autor analizó las post-mortems por pregunta proporcionadas en el Apéndice A del estudio "First Proof". A partir de estos análisis expertos, se identificaron y formalizaron cuatro modos de fallo distintos.
2. Auditoría Empírica: Para probar la validez de esta taxonomía, el autor generó un corpus de ocho demostraciones de un solo paso (one-shot) utilizando Gemini 2.5 Flash sobre tres preguntas específicas del benchmark (Preguntas 1, 2 y 5).
3. Instrumentación: Se construyeron dos herramientas específicas para detectar los modos de fallo más prevalentes:
   • Instrumento de Verificación de Citas: Un pipeline que extrae citas de las demostraciones y las coteja contra arXiv para detectar artículos o lemas fabricados (F1).
   • Instrumento de Auditoría de Premisas: Un pipeline de dos etapas diseñado para detectar el "contrabando de premisas" (F2). Primero, utiliza regex para marcar sentencias que contienen frases universalizantes (p. ej., "resultado fundamental", "argumento estándar", "bien conocido") y luego emplea un juez de LLM para determinar si la frase marcada afirma un reclamo no trivial y de carga estructural (load-bearing) sin justificación ni cita.

Contribuciones Clave
La contribución principal del artículo es la Taxonomía de Modos de Fallo, que categoriza los fallos matemáticos de los LLM en cuatro tipos:

• F1 (Fabricación de Citas): El modelo inventa artículos, lemas o atribuciones. Esto es verificable comprobando si la cita existe y contiene el resultado reclamado.
• F2 (Contrabando de Premisas): El modelo afirma un reclamo no trivial como conocimiento de base (p. ej., "es un resultado fundamental...") sin demostración ni cita. Este es el modo más insidioso porque no hay una cita que verificar; el error se esconde en la afirmación misma.
• F3 (Reformulación Silenciosa del Problema): El modelo resuelve un problema relacionado pero más fácil (p. ej., eliminando restricciones de no trivialidad o cambiando el objeto matemático) y lo presenta como la solución al original.
• F4 (Brecha de Compatibilidad Local-Global): El modelo ejecuta pasos locales correctamente pero falla al verificar que estos pasos sean mutuamente compatibles a lo largo de toda la estructura de la demostración (p. ej., mapas superpuestos en geometría).

El artículo también introduce el Instrumento de Auditoría de Premisas como un método para operacionalizar la detección de F2, un modo de fallo ampliamente ignorado por las estrategias de mitigación actuales.

Resultados
La auditoría empírica de las ocho demostraciones de Gemini 2.5 Flash arrojó los siguientes hallazgos:

• Fallo Universal: Ninguna de las ocho demostraciones produjo una respuesta final correcta.
• Dominancia de F2: Mientras que el instrumento de Verificación de Citas encontró muy pocas citas fabricadas (solo 6 de 22 requerían verificación web, y ninguna fue confirmada como fabricación en el subconjunto de Q1/Q2), el instrumento de Auditoría de Premisas encontró que cada una de las ocho demostraciones contenía al menos una premisa de carga estructural contrabandeada como un "resultado fundamental" o "argumento estándar".
• Rendimiento del Instrumento: El instrumento de Auditoría de Premisas logró una precisión del 100% (5 de 5 marcas confirmadas por el juez fueron verdaderos positivos), pero solo una exhaustividad (recall) del 50% a nivel de demostración. Los casos omitidos fueron "contrabandos implícitos" donde el modelo aplicó un teorema nombrado fuera de sus hipótesis o utilizó manipulaciones formales sin lenguaje universalizante, lo que el primer estadio basado en regex no logró captar.
• Limitaciones de RAG: Los resultados indican que la Generación Aumentada por Recuperación (RAG), la solución estándar propuesta para las alucinaciones de los LLM, probablemente fallaría en abordar el modo de fallo dominante (F2). Dado que los modelos en este corpus no citaron artículos falsos sino que afirmaron premisas falsas como hechos establecidos, el simple hecho de recuperar artículos correctos no evitaría que el modelo realizara afirmaciones injustificadas.

Significancia y Reivindicaciones
El artículo argumenta que la narrativa actual de progreso constante en el razonamiento matemático de los LLM es engañosa cuando se aplica a tareas de investigación. La significancia específica de este trabajo radica en:

1. Reencuadrar el Fallo: Demostrar que la barrera principal para que los LLM resuelvan matemáticas de investigación no es necesariamente la invención de citas falsas (F1), sino la afirmación confiada de premisas falsas como hechos establecidos (F2).
2. Crítica a RAG: Desafiar la suposición de que fundamentar los modelos en bases de datos externas es una solución suficiente. El artículo postula que RAG aborda F1 pero deja sin resolver F2, F3 y F4.
3. Dirección Futura: El autor concluye que el objetivo a largo plazo debe cambiar de detectar estos fallos a posteriori a construir pipelines de inferencia que prevengan la ocurrencia de estos modos. Tales sistemas tendrían que asegurar que cada reclamo de carga estructural sea derivado de premisas establecidas, esté fundamentado en una fuente verificada, o sea explícamente marcado como no verificado antes de la salida.

El autor mantiene una postura modesta, reconociendo que el corpus es pequeño (8 demostraciones) y utiliza un modelo de nivel medio (Flash) en lugar de los modelos de frontera probados en "First Proof". Sin embargo, el artículo afirma que los modos de fallo identificados son reales, que F2 es precisamente definible, y que el panorama de mitigación actual está desalineado con la naturaleza real de los errores.