📊 statistics

Probabilistic Symbolic Regression for Equation Discovery via Operator-induced and Regularized Symbolic Forests

Este artículo introduce un marco de regresión simbólica probabilística que utiliza bosques simbólicos regularizados e inducidos por operadores para lograr simultáneamente una alta precisión predictiva, una complejidad de expresión óptima y una cuantificación de la incertidumbre robusta, proporcionando al mismo tiempo garantías teóricas de concentración posterior bajo condiciones simbólicas exactas y malespecificadas.

Autores originales: Somjit Roy, Pritam Dey, Bani K. Mallick, Debdeep Pati

Publicado 2026-07-28

📖 3 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Somjit Roy, Pritam Dey, Bani K. Mallick, Debdeep Pati

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective intentando resolver un misterio, pero en lugar de buscar huellas dactilares o pisadas, buscas las reglas matemáticas ocultas que gobiernan el universo. Este es el mundo del aprendizaje automático científico, un campo donde las computadoras intentan aprender de los datos no solo para hacer predicciones (como adivinar el clima de mañana), sino para descubrir las ecuaciones reales que explican cómo funcionan las cosas. Por lo general, las computadoras son excelentes encontrando patrones, pero a menudo nos dan respuestas que parecen una bola de estambre enredada: súper precisas pero imposibles de leer o entender para un humano. La regresión simbólica es la herramienta especial que los científicos utilizan para desenredar ese estambre. Busca fórmulas simples y limpias (como $F=ma$) que se ajusten a los datos, en lugar de modelos computacionales complejos de "caja negra". El gran desafío, sin embargo, es que existen tantas fórmulas posibles que encontrar la correcta es como buscar una sola aguja en un pajar del tamaño de una galaxia, y es fácil ser engañado por el "ruido" (erroos aleatorios en los datos) para pensar que una fórmula falsa es la verdadera.

Aquí entra BayeSymX, un nuevo método introducido por Somjit Roy y su equipo que actúa como un detective súper inteligente y cauteloso para encontrar estas leyes matemáticas. En lugar de simplemente adivinar una respuesta y esperar que sea la correcta, BayeSymX trata la búsqueda como un juego probabilístico. Imagina un bosque donde cada árbol representa una ecuación diferente. BayeSymX no solo elige el árbol más alto; cultiva todo un bosque de ecuaciones candidatas, evalúa qué tan probable es que cada una sea cierta basándose en los datos, y utiliza una regla especial de "la navaja de Occam" para podar las que son excesivamente complicadas. Los investigadores descubrieron que este enfoque es increíblemente efectivo: no solo predice los datos mejor que otros métodos de primer nivel, sino que también recupera la estructura simple y correcta de famosas ecuaciones de la física (como las de las lecciones de Feynman) incluso cuando los datos tienen ruido. En una prueba del mundo real que involucraba nuevos materiales para catalizadores de energía limpia, BayeSymX identificó con éxito "descriptores" compactos y científicamente significativos que otros métodos pasaron por alto o enterraron bajo capas de complejidad innecesaria. El equipo demostró matemáticamente que su método es confiable, mostrando que a medida que llegan más datos, la confianza del método en la ecuación correcta crece rápidamente, centrándose eficazmente en la verdad incluso cuando la fórmula perfecta no es evidente de inmediato.

Resumen Técnico: Regresión Simbólica Probabilística para el Descubrimiento de Ecuaciones mediante Bosques Simbólicos Regularizados e Inducidos por Operadores

1. Declaración del Problema

La Regresión Simbólica (SR, por sus siglas en inglés) tiene como objetivo descubrir expresiones analíticas interpretables que gobiernan las relaciones entrada-salida directamente a partir de los datos, una tarea central en el aprendizaje automático científico. Aunque los métodos de SR existentes (por ejemplo, programación genética, regresión simbólica profunda y enfoques de muestreo comprimido) han mostrado resultados prometedores, enfrentan desafíos estadísticos y computacionales significativos:

Dependencia de Heurísticas: Muchos métodos dependen de heurísticas de búsqueda estocástica que luchan por equilibrar la precisión predictiva con la complejidad de la expresión, particularmente en conjuntos de datos científicos ruidosos y de muestras pequeñas.
Caracterización de la Incertidumbre: Los enfoques actuales ofrecen una caracterización limitada de la incertidumbre simbólica, devolviendo a menudo una única expresión "óptima" sin cuantificar la plausibilidad de explicaciones estructurales alternativas.
Brechas Teóricas: Existe una escasez de tratamientos teóricos respecto a las tasas de concentración posterior en la regresión simbólica, particularmente bajo condiciones de especificación errónea o no identificabilidad (donde expresiones algebraicamente distintas producen predicciones idénticas).

El artículo aborda estas brechas proponiendo un marco probabilístico unificado que trata las expresiones simbólicas como conjuntos de árboles, permitiendo la propagación total de la incertidumbre y garantías teóricas rigurosas.

2. Metodología: El Marco de Trabajo BayeSymX

Los autores introducen BayeSymX (Bosques de regresión simbólica bayesianos para el descubrimiento de EXpresiones), un marco probabilístico que modela la superficie de regresión desconocida $f$ como una combinación afín de árboles simbólicos (un "bosque simbólico").

2.1 Estructura del Modelo

El modelo asume observaciones $y_i = f(x_i) + \epsilon_i$ , donde:
$y_i = \beta_0 + \sum_{j=1}^K g(x_i; T_j)\beta_j + \epsilon_i$
Aquí, $g(x; T_j)$ representa la evaluación del $j$ -ésimo árbol simbólico $T_j$ , y $\beta$ son los coeficientes de regresión externos. Los árboles se construyen recursivamente a partir de una biblioteca de características primarias y operadores matemáticos (unarios y binarios).

2.2 Especificaciones de la Prior (Distribución Previa)

El marco emplea una especificación bayesiana jerárquica diseñada para regularizar la complejidad y aprender preferencias adaptativas a los datos:

Prior de Topología de Árbol: Una probabilidad de división dependiente de la profundidad $p_m = \alpha_0(1+m)^{-\delta_0}$ penaliza los árboles profundos, imponiendo una forma de la navaja de Occam que favorece representaciones más simples.
Priors de Operadores y Características: A diferencia de los enfoques de pesos fijos, BayeSymX utiliza priors de Dirichlet sobre los pesos de asignación de operadores y características específicos de cada árbol. Esto permite al modelo aprender qué operadores y características son relevantes para árboles específicos de manera adaptativa a los datos.
Coeficientes de Regresión: Se colocan priors conjugados Normal-Inversa-Gamma (NIG) sobre los coeficientes externos $\beta$ y la varianza del ruido $\sigma^2$ , asegurando la propagación total de la incertididad a través de todos los parámetros del modelo.

2.3 Inferencia Posterior

Marginalización: Los parámetros continuos $(\beta, \sigma^2)$ se marginalizan analíticamente utilizando la conjugación NIG, lo que produce una posterior marginal conjunta (JMP) sobre el espacio discreto de los bosques simbólicos.
Muestreo: Se utiliza un muestreador de Gibbs de Metropolis-dentro-de-colapso-parcial para explorar el espacio de expresiones simbólicas. El muestreador emplea siete movimientos locales de árbol (crecer, podar, reemplazo de subárbol, eliminar, insertar, cambiar característica, cambiar operador) para navegar por el espacio discreto.
Selección de Modelo (Ventana de Occam): En lugar de seleccionar un solo árbol óptimo, BayeSymX utiliza un enfoque de ventana de Occam. Retiene un conjunto de bosques de alta probabilidad posterior ( $J_r$ ) para capturar la incertidumbre a través de múltiples modelos simbólicos plausibles.
Refinamiento: Un paso de refinamiento post-MCMC utiliza el Criterio de Información Bayesiano (BIC) para podar árboles redundantes y simplificar algebraicamente las expresiones finales.

3. Contribuciones Clave

3.1 Garantías Teóricas

El artículo establece nuevos resultados de concentración posterior para la regresión simbólica, un campo que carecía de un tratamiento teórico riguroso:

Realizabilidad Aproximada: Bajo supuestos de regularidad leves, los autores demuestran que la posterior se concentra alrededor de la función generadora de datos real $f_0$ a una tasa gobernada por el compromiso entre el error de aproximación empírica y una nueva escala de complejidad simbólica ( $\mathfrak{C}_{K,S,n}$ ) derivada.
Tasas Casi-Paramétricas: En el caso de representabilidad simbólica finita exacta, el marco logra una tasa de concentración casi-paramétrica de $O(n^{-1/2}(\log n \log \log n)^{1/2})$ .
Especificación Errónea e Igualdades Oráculo: Bajo especificación errónea simbólica (donde $f_0$ no está en la clase del modelo), el artículo establece un resultado de concentración oráculo agudo. La posterior se concentra alrededor del error de aproximación poblacional óptimo sin requerir la existencia de un conjunto finito de minimizadores de Kullback-Leibler o condiciones de prueba especializadas típicamente necesarias en la teoría clásica de especificación errónea.
Manejo de la No-Identificabilidad: Las garantías se formulan al nivel de las funciones predictivas, reconociendo que múltiples estructuras simbólicas distintas pueden representar la misma función.

3.2 Innovaciones Metodológicas

Bosques Inducidos por Operadores: El uso de bosques (conjuntos) en lugar de árboles únicos permite estructuras científicas aditivas manteniendo la interpretabilidad.
Aprendizaje Adaptativo a los Datos: Los priors de Dirichlet sobre los pesos de operadores/características permiten al modelo aprender adaptativamente las preferencias estructurales, evitando las restricciones rígidas de los priors de peso fijo encontrados en métodos previos de SR bayesiano (por ejemplo, BSR).
Resumen Consciente de la Incertidumbre: La estrategia de la ventana de Occam proporciona una forma fundamentada de reportar múltiples hipótesis científicas en competencia en lugar de un único estimador puntual.

4. Resultados Empíricos

Los autores evalúan BayeSymX contra competidores de vanguardia (incluyendo gplearn, operon, PySR, DSR, QLattice, SISSO++, BMS y BSR) en dos bancos de pruebas distintos:

4.1 Ecuaciones de Feynman (SRBench)

Configuración: Recuperación de 5 leyes físicas de las Lecciones de Feynman bajo niveles variables de ruido y complejidades estructurales.
Hallazgos: BayeSymX logró consistentemente un equilibrio superior entre precisión predictiva (menor RMSE de prueba), parsimonia simbólica (expresiones compactas) y recuperación estructural exacta. Los métodos competidores a menudo fallaron en recuperar la estructura correcta o produjeron expresiones excesivamente complejas para lograr una precisión similar. BayeSymX demostró robustez ante el aumento de los niveles de ruido, donde otros métodos se degradaron significativamente.

4.2 Descubrimiento de Catalizadores de Perovskita de Óxido

Configuración: Descubrimiento de "genes de materiales" (descriptores) que vinculan la composición del catalizador con la actividad de la reacción de evolución de oxígeno (OER).
Hallazgos: BayeSymX identificó expresiones de descriptores compactas e interpretables científicamente (26–40 nodos) que recuperaron relaciones conocidas de estructura-actividad (por ejemplo, involucrando el factor de tolerancia $\mu$ , electronegatividades $\chi_A, \chi_B$ ). En contraste, competidores de alta precisión como operon produjeron expresiones pesadas (90–104 nodos), mientras que métodos compactos como PySR mostraron un menor rendimiento predictivo. BayeSymX ocupó la frontera de Pareto del compromiso entre precisión y complejidad.

5. Significado y Reivindicaciones

El artículo afirma que BayeSymX representa un avance significativo en la regresión simbólica probabilística al:

Unificar Estructura e Incertidumbre: Proporcionar un marco que aprende conjuntamente la estructura simbólica, controla la complejidad mediante la regularización y cuantifica la incertidumbre a través de múltiples modelos plausibles.
Rigor Teórico: Ofrecer las primeras garantías de concentración posterior para la regresión simbólica que manejan tanto la representabilidad exacta como la especificación errónea, estableciendo tasas casi-paramétricas e igualdades oráculo agudas.
Utilidad Científica: Demostrar que los enfoques probabilísticos pueden superar a los métodos basados en heurísticas y aprendizaje profundo en la recuperación de leyes científicas interpretables, particularmente en regímenes de muestras pequeñas y ruidosas típicos del descubrimiento de materiales y la física.

Los autores concluyen que el marco es particularmente adecuado para entornos de descubrimiento científico donde el conocimiento del dominio guía la selección de características, pero la forma funcional subyacente permanece desconocida y requiere un manejo robusto de la incertidumbre estructural.