Resumen Técnico: Leyes de Escalamiento Saturantes para el Descubrimiento Equacional

Enunciado del Problema

El artículo investiga si los sistemas de descubrimiento simbólico deterministas, específicamente aquellos que crecen mediante la adición de reglas de reescritura equacional, obedecen leyes de escalamiento empíricas análogas a las encontradas en los modelos de lenguaje grandes (LLM). Si bien las leyes de escalamiento para modelos neuronales (Kaplan et al., 2020; Hoffmann et al., 2022) están bien establecidas, sigue siendo una pregunta abierta si los sustratos deterministas, como los utilizados en la programación lógica inductiva, la saturación de igualdad y la síntesis de programas, siguen dinámicas de crecimiento comparables. Los autores buscan caracterizar la fenomenología del crecimiento en estos sistemas, probando si una ley de potencias simple o una función saturante más compleja describen mejor la acumulación de reglas descubiertas a lo largo del tiempo.

Metodología

El estudio emplea un marco experimental controlado que involucra tres sustratos deterministas "de juguete" de complejidad tipada creciente:

1. Aritmética (arith): Identidades equacionales sobre una gramática tipada con suma, multiplicación y variables libres.
2. Booleana (bool): Identidades sobre operadores lógicos (and, or, not).
3. Lista de Orden Superior (list): Un dominio inspirado en DreamCoder con primitivas como map, fold y cons.

El Bucle de Descubrimiento:
El sistema hace crecer un sustrato $S$ (un conjunto de reglas de reescritura) en pasos discretos $t$. En cada paso:

• Un generador propone ecuaciones candidatas basadas en el estado actual de $S$ (utilizando estrategias como aleatoria, composicional, ponderada por frecuencia o MDL-greedy).
• Los candidatos se prueban para su corrección semántica mediante instanciación aleatoria.
• Los pares aceptados se generalizan (sustituyendo variables libres por variables de patrón).
• Un filtro de aceptación configurable (ya sea "cualquiera" o "novedad") determina si la regla se compromete con $S$.

Recopilación de Datos:
Los autores generaron 592 trayectorias de descubrimiento independientes a través de estos sustratos, variando cinco características arquitectónicas: tipo de generador, rigidez del filtro, profundidad de recursión, tamaño de lote y semilla aleatoria. midieron el conteo total de reglas $|S(t)|$ a lo largo del tiempo.

Enfoque de Modelado:
Los autores proponen un modelo heurístico de cierre de campo medio derivado de suposiciones de cobertura uniforme e independencia aproximada. Esto produce una ecuación diferencial para el crecimiento:
$$\frac{dN}{dt} = K \cdot N^k \cdot e^{-\mu N}$$
donde $N$ es el tamaño del sustrato, $k$ se relaciona con la profundidad de recombinación del generador, y $\mu$ representa la fracción de cobertura del espacio de candidatos.

• Corto alcance ($\mu N \ll 1$): La ecuación aproxima una ley de potencias pura $N(t) \propto t^b$, donde $b = 1/(1-k)$.
• Largo alcance ($\mu N \gtrsim 1$): El término exponencial induce saturación, modelado por una forma de ley de potencias logística.

El estudio ajusta tres modelos candidatos (ley de potencias pura, exponencial estirada, ley de potencias saturante) a los datos utilizando AIC para la selección de modelos y regresión impulsada por gradiente para predecir el exponente $b$ a partir de características arquitectónicas.

Contribuciones y Resultados Clave

1. Dinámicas de Ley de Potencias de Corto Alcance

A través de 592 trayectorias, el crecimiento del tamaño del sustrato $|S(t)|$ en rangos cortos (hasta 30 épocas) se ajusta consistentemente a una forma de ley de potencias $t^b$. El exponente $b$ varía continuamente entre 0 y 1.15 dependiendo del dominio y la arquitectura.

• Sensibilidad Arquitectónica: Dentro de un solo sustrato, el exponente $b$ es altamente sensible a las elecciones arquitectónicas. Un regresor impulsado por gradiente que utiliza cinco características arquitectónicas predice $b$ con un $R^2$ validado cruzadamente $\approx 0.82$ tanto para los dominios aritmético/booleano como para el de listas.
• Fallo de Transferencia entre Sustratos: Un modelo entrenado para predecir $b$ en datos aritméticos y booleanos falla completamente al aplicarse al dominio de listas ($R^2 \approx -0.84$). La arquitectura óptima para el crecimiento compuesto en sustratos de tipos planos (por ejemplo, filtros de novedad) suprime el crecimiento en sustratos de tipos de orden superior. Esto indica que las dinámicas de crecimiento son condicionales al sustrato, no universales.

2. Hipótesis de Saturación de Largo Alcance

Los autores probaron si el crecimiento eventualmente se satura como predice su modelo de cierre.

• Datos de Juguete (Dominio de Listas): Al extender cinco trayectorias del dominio de listas a 500 épocas, el modelo de ley de potencias saturante gana en las comparaciones de AIC dentro de la muestra para trayectorias más largas de 200 épocas. Sin embargo, la predicción fuera de la muestra (ajustando en las primeras 100 épocas y prediciendo las siguientes 400) es ganada por la ley de potencias pura en los 5 casos. Los autores concluyen que las trayectorias de juguete no alcanzan realmente el régimen de saturación dentro de 500 épocas; la preferencia del modelo saturante dentro de la muestra es probablemente un artefacto de ajuste que extrapola mal.
• Datos del Mundo Real (Mathlib4): El análisis de las adiciones mensuales de archivos .lean en la biblioteca Mathlib4 (60 meses, 9,701 archivos) respalda la forma saturante. El modelo saturante supera a la ley de potencias pura en la predicción fuera de la muestra por un factor de $\sim 7\times$ (RMSE 3,279 vs 23,896), lo que sugiere que Mathlib4 ha alcanzado un régimen de saturación.
• Datos del Mundo Real (Coq Mathcomp): El análisis de los commits mensuales en la biblioteca Coq Mathcomp (129 meses) favorece la ley de potencias pura. El parámetro saturante $\mu$ colapsa a cero, y la ley de potencias pura supera al modelo saturante en la predicción fuera de la muestra por $\sim 67\times$. Esto sugiere que Mathcomp aún no ha alcanzado un régimen de saturación.

3. Encuadre Fenomenológico

El artículo propone un encuadre de trabajo: "Crecimiento de ley de potencias saturante con $(k, \mu)$ condicional al sustrato, observable cuando el sustrato ha alcanzado su régimen de saturación". Las dinámicas son condicionales en dos niveles:

1. Los parámetros arquitectónicos que predicen el exponente de crecimiento no se transfieren entre diferentes tipos de sustratos.
2. La familia funcional que describe el crecimiento (ley de potencias pura vs. saturante) depende de la etapa específica del ciclo de vida del sustrato.

Significado y Afirmaciones

El artículo se posiciona como una primera investigación empírica y teórica sobre las leyes de escalamiento del descubrimiento equacional determinista, ofreciendo una fenomenología en lugar de una teoría definitiva.

• Alcance Modesto: Los autores declaran explícitamente que la evidencia se limita a tres sustratos de juguete y dos proxies del mundo real (que son gruesos, basándose en conteos de commits/archivos). Reconocen que los resultados de juguete de largo alcance son "consistentes con, no confirmados" debido al fallo de la predicción fuera de la muestra en los datos de juguete.
• Insight Clave: El hallazgo principal es que las dinámicas de descubrimiento simbólico son condicionales al sustrato. A diferencia de las leyes de escalamiento neuronales que a menudo asumen universalidad entre arquitecturas, el comportamiento de crecimiento aquí depende fuertemente de la "geometría de cierre" específica (parámetro de cobertura $\mu$) del sistema de tipos del sustrato.
• Direcciones Futuras: Los autores identifican tres mejoras concretas requeridas para elevar este trabajo de "fenomenología de juguete" a un "fenómeno genuino":
  1. Replicación en un sustrato no de juguete con granularidad a nivel de trayectoria (no solo conteos de commits).
  2. Predicción predictiva exitosa fuera de la muestra para el modelo saturante.
  3. Una derivación teórica del parámetro de saturación $\mu$ a partir de la combinatoria del sustrato (por ejemplo, entropía de tipos) para hacer falsable la transferencia entre sustratos.

El artículo concluye que, si bien el marco de ley de potencias saturante es consistente con los datos observados en regímenes donde la saturación es plausible, no es una ley universal para todos los sistemas de descubrimiento simbólico. El trabajo sirve como punto de partida para una posible "mecánica estadística del descubrimiento simbólico".