AutoDiscovery: Open-ended Scientific Discovery via Bayesian Surprise

Resumen Técnico: AUTODISCOVERY

1. El Problema

El descubrimiento científico autónomo (ASD) ha avanzado significativamente con el uso de Modelos de Lenguaje Grande (LLM), pero la mayoría de los enfoques actuales operan en un entorno "guiado por objetivos". En estos sistemas, un humano debe especificar una pregunta de investigación concreta para que el LLM genere hipótesis, diseñe experimentos y analice resultados.

El desafío central abordado por este trabajo es el descubrimiento científico de "ciclo abierto" (open-ended), donde el sistema debe explorar el espacio de hipótesis por sí mismo, sin una pregunta de investigación inicial, basándose en sus propios criterios de promesa científica.

• Limitaciones de los métodos actuales:
  • Las estrategias basadas en diversidad (muestreo aleatorio o algoritmos evolutivos) luchan para navegar espacios de hipótesis vastos y complejos, a menudo generando ruido sin significado.
  • Las métricas basadas en interés humano (usando al LLM como juez de "qué es interesante") son subjetivas, inconsistentes y difíciles de definir formalmente para la automatización.
  • Existe una falta de métricas automáticas robustas que guíen la exploración hacia descubrimientos genuinamente novedosos y sorprendentes.

2. Metodología: AUTODISCOVERY

El paper propone AUTODISCOVERY, un marco para el descubrimiento autónomo guiado por la Sorpresa Bayesiana (Bayesian Surprise). La premisa fundamental es que un descubrimiento científico valioso ocurre cuando la evidencia experimental provoca un cambio significativo en las creencias previas del observador (en este caso, el LLM).

Componentes Clave:

• Definición de Sorpresa Bayesiana:

  • Se modela la creencia del agente sobre una hipótesis $H$ como una distribución de probabilidad $\theta_H$ (distribución Beta).
  • Se calcula la distribución a priori $P(\theta_H)$ basándose solo en la declaración de la hipótesis.
  • Se calcula la distribución a posteriori $P(\theta_H | V_D)$ después de ejecutar un experimento de verificación $V_D$ y observar los resultados.
  • La sorpresa se cuantifica como la divergencia de Kullback-Leibler (KL) entre la posterior y la prior: $BS(H, V_D) = D_{KL}(P(\theta_H | V_D) \parallel P(\theta_H))$.
  • Se introduce un criterio de desplazamiento de creencia: solo se considera sorpresa si la creencia esperada cruza un umbral de decisión (ej. de "apoyada" a "no apoyada").

• Elicitación de Creencias mediante Muestreo:

  • Para estimar las distribuciones de creencia del LLM sin acceso a sus pesos internos, el sistema interroga al LLM $n$ veces sobre la veracidad de la hipótesis (antes y después de ver los datos).
  • Estas respuestas binarias se utilizan para actualizar la distribución Beta mediante conjugación Beta-Bernoulli, obteniendo estimaciones empíricas de la prior y la posterior.

• Búsqueda con MCTS y Ampliación Progresiva:

  • Para explorar eficientemente el vasto espacio de hipótesis anidadas, se utiliza un algoritmo de Búsqueda en Árbol de Monte Carlo (MCTS).
  • Función de Recompensa: La sorpresa bayesiana actúa como la función de recompensa.
  • Estrategia de Selección: Se utiliza el algoritmo UCT (Upper Confidence Bound for Trees) para equilibrar la exploración (nuevas ramas) y la explotación (ramas prometedoras).
  • Ampliación Progresiva (Progressive Widening): Dado que el espacio de acciones (hipótesis) es infinito, el algoritmo no genera todos los hijos de un nodo de inmediato. En su lugar, añade nuevos hijos dinámicamente a medida que un nodo es visitado más veces, permitiendo una exploración equilibrada.

• Agente de Descubrimiento Multi-Agente:

  • El sistema emplea una arquitectura de agentes colaborativos (Generador de Hipótesis, Programador de Experimentos, Ejecutor de Código, Analista y Revisor) que generan código Python, ejecutan análisis estadísticos sobre datos reales y critican/ajustan los resultados.

• Deduplicación:

  • Se utiliza un procedimiento de Agrupamiento Jerárquico Aglomerativo (HAC) basado en LLM para identificar y eliminar hipótesis semánticamente duplicadas, asegurando que la búsqueda se centre en ideas únicas.

3. Contribuciones Clave

1. Definición Formal de Sorpresa: Proporcionan la primera definición formal de "sorpresa" en el contexto del descubrimiento científico autónomo, basada en el cambio de creencias bayesianas.
2. Nuevo Método (AutoDS): Presentan un método que combina la sorpresa bayesiana con MCTS y ampliación progresiva para realizar búsquedas de hipótesis en entornos abiertos (sin objetivos predefinidos).
3. Validación Empírica a Gran Escala: Demuestran que su método supera a las líneas base existentes en la generación de descubrimientos sorprendentes, validado en 21 conjuntos de datos reales.
4. Correlación Humana: Establecen que la optimización de la sorpresa bayesiana en el LLM se correlaciona significativamente con la sorpresa percibida por expertos humanos.

4. Resultados

El sistema fue evaluado en 21 conjuntos de datos reales de dominios como biología, economía, finanzas y ciencias del comportamiento.

• Rendimiento de Búsqueda:
  • AUTODISCOVERY superó a las líneas base (muestreo repetido, búsqueda lineal, búsqueda voraz y búsqueda por haz) generando un 5% al 29% más de hipótesis sorprendentes dentro de un presupuesto fijo de 500 evaluaciones.
  • Muestra una mayor eficiencia de búsqueda a lo largo del tiempo en comparación con métodos voraces o de haz, que tienden a estancarse o perder eficiencia.
• Evaluación Humana:
  • En un estudio con más de 500 hipótesis, el 67% de los descubrimientos sorprendentes identificados por el sistema también fueron calificados como sorprendentes por expertos humanos (titulados en ciencias STEM).
  • La sorpresa bayesiana mostró una correlación mucho más alta con la sorpresa humana (0.67) que otras métricas automáticas como "interés del LLM" o "utilidad del LLM" (que rondaron el 0.11-0.22).
• Análisis de Dominios:
  • Se observó que la dirección del cambio de creencia varía según el dominio; en muchos casos, la sorpresa surge al pasar de una creencia de "apoyo" a "no apoyo" (falsificación), lo que sugiere que el sistema es efectivo para refutar hipótesis preconcebidas.

5. Significado e Impacto

Este trabajo representa un paso crucial hacia la ciencia autónoma real.

• Superación de la dependencia humana: Al eliminar la necesidad de una pregunta de investigación inicial, el sistema puede explorar áreas donde los humanos no han formulado hipótesis, potencialmente descubriendo patrones ocultos o relaciones contra-intuitivas.
• Métrica Objetiva: La sorpresa bayesiana ofrece una métrica cuantitativa y objetiva para guiar la exploración científica, superando la subjetividad de las métricas de "interés" o "novelty" tradicionales.
• Escalabilidad: La combinación de MCTS con LLMs demuestra ser una estrategia viable para navegar espacios de búsqueda combinatorios masivos, algo que los métodos de muestreo aleatorio no logran.
• Futuro: Aunque el sistema aún requiere supervisión humana para la validación final y la ética, AUTODISCOVERY demuestra que los agentes de IA pueden actuar como socios proactivos en la expansión de la frontera del conocimiento científico, acelerando el ciclo de descubrimiento.

En resumen, el paper presenta un marco robusto donde la IA no solo responde preguntas, sino que formula las preguntas correctas basándose en dónde la evidencia desafía más sus propias expectativas, un principio fundamental del método científico.