Contemporary AI lacks the imagination to diverge or negate in science

Resumen Técnico: La IA contemporánea carece de la imaginación para la divergencia o la negación en la ciencia

Planteamiento del problema
A pesar de las audaces proyecciones de que la inteligencia artificial (IA) acelerará el descubrimiento científico, el campo carece de evidencia a gran escala con científicos en el bucle (scientist-in-the-loop) para validar estas afirmaciones. Los bancos de pruebas automatizados actuales suelen fallar al capturar los matices del juicio experto, y existe el riesgo de que la fluidez textual sustituya a la verdadera perspicacia. El problema central abordado es si los modelos de lenguaje extensos (LLM) actuales pueden divergir genuinamente del conocimiento establecido para proponer hipótesis científicas novedosas, factibles y probables, o si simplemente recombinan patrones existentes. Además, no está claro si los evaluadores automatizados (LLM-como-juez, métricas) pueden sustituir de manera fiable la evaluación de expertos humanos en la generación de ideas científicas.

Metodología
Los autores llevaron a cabo la auditoría de expertos sobre IA para la ciencia más grande hasta la fecha, involucrando un flujo de evaluación de "humano en el bucle":

1. Recopilación de datos: El estudio reunió 121,640 preimpresiones empíricas de texto completo publicadas después de 2023 de seis plataformas distintas de arXiv (BioRxiv, MedRxiv, ChemRxiv, SocArXiv, PsyArXiv, EdArXiv). Se excluyó deliberadamente arXiv para evitar la contaminación de datos, ya que su contenido domina los corpus de preentrenamiento de los LLM.
2. Extracción de contexto: Utilizando el modelo de razonamiento o3-mini, los autores extrajeron el rompecabezas científico central, el contexto fáctico circundante y las propias hipótesis de los autores de cada artículo. Un detector de filtraciones basado en paráfrasis aseguró que el contexto extraído no contuviera las hipótesis originales de los autores (tasa de confirmación de los autores del 99.7%).
3. Generación de hipótesis: 26 LLM diversos (incluyendo 19 modelos de chat de no-razonamiento, 5 modelos de razonamiento y 2 sistemas de "investigación profunda" agénticos) fueron instados a generar hipótesis de seguimiento basadas únicamente en el contexto y el rompecabezas extraídos.
4. Evaluación de expertos: 6,749 científicos (autores de los artículos originales) calificaron 25,139 hipótesis generadas por IA. Cada hipótesis fue puntuada en cuatro dimensiones: Novedad Conceptual, Factibilidad Empírica, Probabilidad de Ser Verdadera y Favorabilidad de Adopción.
5. Benchmarking automatizado: El estudio evaluó varios evaluadores automatizados (LLM-como-juez, novedad de n-gramas, distancia semántica, perplejidad y modelos de recompensa de última generación) contra la verdad fundamental humana.
6. Entrenamiento del modelo de recompensa: Un modelo Qwen3-14B fue post-entrenado utilizando las preferencias pareadas de los humanos mediante un objetivo de Bradley-Terry con un término de margen para capturar los matices específicos de cada campo.

Resultos Clave

• Espacio de hipótesis y divergencia: Los LLM de no-razonamiento colapsan en una "mente de colmena" estrecha, generando ideas altamente similares (alta similitud de coseno pareada). Los modelos de razonamiento exploran un espacio de hipótesis más amplio, pero aun así fallan en proponer espontáneamente hipótesis nulas (afirmaciones de ausencia de efecto o relación). Aunque los humanos formulan hipótesis nulas con poca frecuencia debido al sesgo de publicación, los LLM las formulan aún menos, lo que indica una incapacidad estructural para razonar sobre la ausencia o la negación.
• Sesgos de juicio de expertos:
  • Autosimilitud: Los científicos prefieren fuertemente las ideas de la IA que se asemejan a su propio trabajo (coeficiente = 1.28). Una alta similitud se correlaciona con una mayor percepción de factibilidad y probabilidad, pero con menor percepción de novedad.
  • Senioridad y Campo: Los científicos de mayor antigüedad son críticos más severos de las ideas de la IA, particularmente en las ciencias sociales. Los científicos sociales toleran el riesgo (menor probabilidad) más fácilmente que los científicos de la vida, quienes priorizan la factibilidad y la probabilidad debido al alto costo de los experimentos fallidos.
  • Desempeño por campo: Las ideas de la IA fueron calificadas más bajo en las ciencias sociales en todas las dimensiones (novedad, factibilidad, probabilidad), probablemente porque los campos pluralistas con interpretaciones en disputa son difíciles para los modelos optimizados para reproducir patrones modales.
• Fallo de los evaluadores automatizados: Los jueces automatizados existentes (incluyendo modelos de última generación y LLM-como-juez) muestran una correlación débil con el juicio experto humano ($r < 0.35$). Exhiben una fuerte tendencia central, agrupando las calificaciones en el medio de la escala y fallando en asignar puntuaciones extremas. Las métricas de novedad estándar (distancia semántica, perplejidad, n-gramas) funcionan cerca del azar.
• Éxito del modelo de recompensa: Un modelo de recompensa post-entrenado en las calificaciones humanas (Qwen3-14B) superó significativamente a los baselines de última generación (mejora de hasta el 27%) y logró una precisión pareada (61–69%) que excede la consistencia de los revisores pares humanos independientes (61.0% ± 0.1%). Los modelos específicos de dominio funcionaron mejor que los modelos generales cuando se disponía de suficientes datos del mismo dominio.

Contribuciones Clave

1. Auditoría empírica a gran escala: Proporcionó la primera evaluación a gran escala, con científicos en el bucle, de hipótesis científicas generadas por IA a través de múltiples disciplinas, yendo más allá de los benchmarks sintéticos o de pequeña escala.
2. Identificación de limitaciones estructurales: Demostró que la IA actual carece de la capacidad para el "cambio sustractivo" (negación/hipótesis nulas) y tiene dificultades en campos pluralistas que requieren interpretación sensible al contexto.
3. Evaluación de jueces automatizados: Mostró sistemáticamente que los métodos de evaluación automatizados actuales (LLM-como-juez, métricas) son insuficientes como proxies del juicio experto científico.
4. Destilación del gusto experto: Entrenó con éxito un modelo de recompensa que captura el "gusto" específico del campo y logra niveles de consistencia comparables a la revisión por pares humana, sugiriendo que el juicio experto puede ser parcialmente destilado en maquinaria.

Significancia y Reclamaciones
El artículo argumenta que, si bien la IA puede expandir el espacio de búsqueda y presentar direcciones candidatas, actualmente carece de la "imaginación" para divergir de los patrones establecidos o para negar el conocimiento existente. Los autores afirman que:

• La IA es un colaborador, no un reemplazo: La IA científica actual se beneficia del anclaje humano; aún no puede enmarcar preguntas de forma independiente, reconocer resultados significativos o disputar categorías.
• La brecha del "Nulo" es estructural: La incapacidad de generar hipótesis nulas no es un error menor, sino una característica estructural de cómo los LLM aprenden de corpora dominados por afirmaciones positivas y resultados nulos suprimidos.
• La curiosidad está ausente: Los modelos actuales están optimizados para predecir, no para preguntarse. La verdadera aceleración científica requiere codificar la "curiosidad computacional": un impulso intrínseco para investigar anomalías, contradicciones y ausencias.
• Reforma de la evaluación: Las afirmaciones de aceleración impulsada por la IA no pueden adjudicarse únicamente mediante la fluidez o los benchmarks automatizados; requieren validación frente a expertos de dominio que definen la contribución.

El estudio concluye que hasta que los sistemas de IA sean dirigidos hacia las violaciones de las expectativas y puedan alcanzar activamente el mundo para acumular datos sobre "qué es lo que no funciona", seguirán limitados a la recombinación de la literatura publicada en lugar de extenderla.