Large Language Models are Algorithmically Blind

Resumen Técnico: Los Modelos de Lenguaje Grande son Algorítmicamente Ciegos

1. El Problema

Aunque los Modelos de Lenguaje Grande (LLMs) poseen una amplia base de conocimientos declarativos, su capacidad para razonar sobre procesos computacionales y predecir el rendimiento de algoritmos en instancias específicas sigue siendo poco comprendida.

• La pregunta central: ¿Pueden los LLMs predecir de manera calibrada cómo se desempeñará un algoritmo (por ejemplo, en la selección de algoritmos zero-shot) antes de su ejecución empírica?
• La hipótesis de trabajo: Existe una brecha fundamental entre el conocimiento declarativo sobre los algoritmos (saber qué son) y la capacidad de generar predicciones procedimentales calibradas (saber cómo se comportarán numéricamente en datos nuevos).
• El riesgo: Si los LLMs se utilizan para guiar la selección y despliegue de algoritmos sin una validación rigurosa, podrían llevar a decisiones subóptimas basadas en patrones superficiales o memorización en lugar de razonamiento real.

2. Metodología

Los autores utilizaron la descubrimiento causal como banco de pruebas riguroso debido a su diversidad algorítmica, métricas estandarizadas y la presencia de conjuntos de datos de referencia en los corpus de entrenamiento.

• Configuración Experimental:

  • Modelos Evaluados: 8 LLMs de vanguardia (incluyendo Claude-Opus-4.6, GPT-5.2, DeepSeek-V3.2, Qwen3, Gemini-3, LLaMA-3.3, etc.).
  • Algoritmos: 4 algoritmos de descubrimiento causal: PC, FCI, LiNGAM y NOTEARS.
  • Datos: 13 conjuntos de datos (9 benchmarks reales de bnlearn y 4 sintéticos generados con DAGs aleatorios de diferentes tamaños: 12, 30, 50 y 60 nodos).
  • Métricas de Rendimiento: Precisión, Recall, F1 y Distancia de Hamming Estructural (SHD).
  • Ground Truth (Verdad Terrenal): Se ejecutó cada algoritmo 100 veces con remuestreo bootstrap para cada condición experimental, generando 5,200 ejecuciones totales. Se calcularon las medias empíricas y los intervalos de confianza del 95%.

• Protocolo de Evaluación:

  • Se consultaron los LLMs con 3 formulaciones de prompt distintas para predecir rangos de rendimiento para las 4 métricas.
  • Métrica Principal: Cobertura Calibrada. Se define como la fracción de comparaciones donde el rango predicho por el LLM contiene la media algorítmica real.
  • Líneas Base: Se comparó el rendimiento contra un azar uniforme y una heurística conservadora basada en estadísticas de la literatura.

3. Contribuciones Clave

1. Establecimiento de un Banco de Pruebas Riguroso: El uso del descubrimiento causal para evaluar el razonamiento algorítmico, combinando diversidad de paradigmas y métricas objetivas.
2. Estudio de Calibración a Gran Escala: La primera evaluación de este tipo que abarca 8 modelos, 13 conjuntos de datos, 4 algoritmos y 5,200 ejecuciones reales.
3. Descubrimiento de la "Ceguera Algorítmica": Demostración empírica de que los LLMs de vanguardia fallan sistemáticamente en predecir el rendimiento algorítmico, obteniendo una cobertura calibrada media de solo el 15.9%.
4. Evidencia de Memorización vs. Razonamiento: Análisis que demuestra que el ligero rendimiento superior de algunos modelos se debe a la recuperación de estadísticas de benchmarks memorizados, no a un entendimiento estructural de los algoritmos.

4. Resultados Principales

• Fallo Sistemático en la Calibración:

  • La cobertura calibrada media de todos los modelos fue del 15.9%. Esto significa que en más del 84% de los casos, el rango predicho por el LLM no contenía el valor real.
  • 7 de los 8 modelos rindieron por debajo de la línea base de "adivinación aleatoria" (36.5%).
  • El mejor modelo (Claude) alcanzó un 39.4%, apenas superando ligeramente el azar, pero insuficiente para una utilidad práctica en selección de algoritmos.

• Rangos Excesivamente Amplios pero Incorrectos:

  • Los rangos predichos por los LLMs fueron 8 a 27 veces más amplios que los intervalos de confianza reales derivados de las ejecuciones.
  • A pesar de esta amplitud (que debería aumentar la probabilidad de contener el valor real), los modelos fallaron consistentemente, indicando una mala calibración de creencias y no una incertidumbre conservadora.

• Evidencia de Memorización (No Razonamiento):

  • Degradación en Datos Sintéticos: La cobertura cayó drásticamente en datos sintéticos (11.7%) en comparación con benchmarks (17.7%).
  • Colapso Específico por Algoritmo: El algoritmo LiNGAM, que tiene la literatura de benchmarks más extensa, mostró un colapso total en datos sintéticos (-23.2% de cobertura), mientras que NOTEARS (más nuevo y menos documentado) mostró estabilidad o incluso mejora. Esto sugiere que los modelos "recuerdan" estadísticas de papers específicos en lugar de razonar sobre las propiedades del algoritmo.
  • Inconsistencia en la SHD: La cobertura para la métrica SHD (Distancia de Hamming Estructural) fue casi nula para algoritmos clásicos (PC, FCI) pero alta para NOTEARS, correlacionándose con la frecuencia de aparición de estos datos en el entrenamiento, no con la dificultad del problema.

• Inestabilidad ante Prompts:

  • Los modelos mostraron alta sensibilidad a la formulación del prompt (Coeficiente de Variación alto), lo que indica una falta de creencias algorítmicas estables.

5. Significado e Implicaciones

• Definición de "Ceguera Algorítmica": El artículo acuña este término para describir la incapacidad de los LLMs de traducir el conocimiento declarativo de las suposiciones algorítmicas en expectativas calibradas sobre el rendimiento empírico basándose únicamente en la estructura del problema.
• Advertencia para la Práctica: Los LLMs no deben utilizarse como predictores de rendimiento zero-shot para la selección de algoritmos en descubrimiento causal. Su uso podría ser peor que la adivinanza aleatoria para la mayoría de los modelos actuales.
• Naturaleza del Fallo: El problema no es solo una falta de conocimiento factual (que se podría resolver con RAG - Generación Aumentada por Recuperación), sino la ausencia de un modelo de rendimiento estructurado que vincule las propiedades del algoritmo con los datos.
• Futuro: Se requiere un enfoque diferente, como utilizar LLMs como extractores de características para modelos estadísticos calibrados, o investigar si expertos humanos también sufren de esta ceguera (lo que indicaría que el problema es inherentemente difícil).

Conclusión:
El estudio concluye que existe una brecha fundamental entre el conocimiento superficial de los algoritmos en los LLMs y la capacidad de realizar predicciones cuantitativas calibradas. La "mejor" performance observada es consistente con la memorización de estadísticas de benchmarks, no con un razonamiento algorítmico genuino, lo que invalida su uso actual para la selección automática de algoritmos en dominios críticos.