Resumen Técnico: Descubrimiento de Ecuaciones Científicas Basado en LLM mediante la Optimización de Políticas con Regularización de Tokens Informada por la Física

1. Planteamiento del Problema

La Regresión Simbólica (SR, por sus siglas en inglés) busca destilar ecuaciones matemáticas interpretables a partir de datos observacionales, sirviendo como piedra angular para el descubrimiento de leyes físicas. Si bien los enfoques recientes aprovechan los Modelos de Lenguaje de Gran Escala (LLMs) para generar hipótesis de ecuaciones capitalizando los conocimientos científicos preentrenados, los marcos de trabajo existentes sufren dos limitaciones críticas:

1. Generación Estática: Los métodos actuales tratan a los LLMs como generadores estáticos, dependiendo de la guía a nivel de prompt (aprendizaje en contexto) para dirigir la búsqueda evolutiva. Este paradigma no logra actualizar las representaciones internas del modelo basadas en la retroalimentación de la búsqueda, lo que impide que el modelo internalice las señales de evaluación o adapte su estrategia de generación a las estructuras de problemas específicos.
2. Búsqueda Agnóstica a la Física: Los marcos existentes suelen priorizar la corrección sintáctica sobre la validez física. Sin restricciones rigurosas, los LLMs frecuentemente producen ecuaciones que se ajustan a los datos numéricamente pero violan principios físicos fundamentales (por ejemplo, la homogeneidad dimensional) o contienen estructuras matemáticamente redundantes, lo que conduce al sobreajuste y a la inutilidad práctica.

El desafío es transformar al LLM de un proponente estático en un generador adaptativo que pueda alinear dinámicamente su distribución generativa con las características estructurales y físicas del sistema objetivo.

2. Metodología: PiT-PO

Los autores proponen PiT-PO (Optimización de Políticas con Regularización de Tokens Informada por la Física), un marco unificado que tiende un puente entre la exploración evolutiva impulsada por LLM y la verificación rigurosa. El marco opera a través de un proceso evolutivo de bucle cerrado impulsado por dos mecanismos sinérgicos:

2.1 Evolución del LLM durante la Búsqueda

A diferencia de los enfoques estándar que mantienen el LLM congelado, PiT-PO emplea la Optimización de Política Relativa de Grupo (GRPO) para actualizar los parámetros del LLM durante la búsqueda evolutiva.

• Mecanismo: El LLM es tratado como una política $\pi_\theta$ que genera secuencias de tokens. GRPO muestrea un grupo de salidas, las evalúa y actualiza los parámetros de la política para maximizar una pérdida sustituta.
• Ventaja: Este ajuste fino "en la búsqueda" permite al modelo consolidar patrones simbólicos efectivos y guiar la exploración subsiguiente de manera más eficiente, transformando los conocimientos científicos generales en experiencia de dominio específico sobre la marcha.

2.2 Señales de Aprendizaje de Doble Restricción

Para asegurar que las ecuaciones generadas sean tanto científicamente válidas como estructuralmente parsimoniosas, PiT-PO introduce un mecanismo de doble restricción que genera retroalimentación fina a nivel de token.

A. Restricciones Físicas Jerárquicas

Un sistema de recompensa impone la validez científica a través de un filtro jerárquico:

• Restricciones de Nivel General: Penalizaciones por Homogeneidad Dimensional ($P_{dim}$) y Diferenciabilidad ($P_{diff}$) para podar estructuras físicamente imposibles (por ejemplo, desajustes de unidades).
• Restricciones Específicas de Dominio: Se inyecta conocimiento experto como sesgos inductivos. Para el modelado de turbulencia, esto incluye restricciones sobre la Realizabilidad (eigenvalores positivos del esfuerzo de Reynolds), Consistencia de Condiciones de Contorno (decaimiento del esfuerzo en las paredes), Escalamiento Asintótico (escalamiento cúbico en subcapas viscosas) y Consistencia de Energía.
• Activación por Compuerta: Las penalizaciones físicas se activan solo después de que una ecuación candidata alcanza un umbral base de precisión de ajuste, permitiendo una exploración "libre" en las etapas iniciales antes de imponer un cumplimiento estricto.

B. Restricciones Matemáticas Guiadas por Teoremas

Para abordar la redundancia matemática, los autores introducen el Teorema de Exclusión de Soporte.

• Teoría: Este teorema proporciona una garantía teórica para identificar descubrimientos falsos (términos redundantes) basándose en la magnitud de los coeficientes ajustados en relación con la interferencia interna y externa de otras funciones base.
• Penalización a Nivel de Token: Si se identifica un término como redundante (su magnitud de coeficiente cae por debajo de un umbral derivado), se aplica una penalización a nivel de token ($P_{tok}$) a los tokens específicos que constituyen dicho término. Esta penalización es logarítmica, imponiendo penalizaciones más fuertes a los términos con coeficientes más pequeños.

2.3 Actualización de Política Consciente de los Tokens

El GRPO estándar asigna una ventaja uniforme a todos los tokens en una secuencia. PiT-PO refina esto sintetizando la recompensa global con la penalización a nivel de token.

• Ventaja Consciente de los Tokens ($\hat{A}_{i,k}$): La ventaja para el $k$-ésimo token se calcula estandarizando la recompensa global y restando la penalización local del token si este pertenece a un término redundante.
• Efecto: Esto crea un paisaje de "doble presión" donde las recompensas globales guían la política hacia ecuaciones físicamente consistentes, mientras que las penalizaciones locales extirpan quirúrgicamente los términos redundantes, asegurando que la política aprenda a suprimir explícitamente las estructuras teóricamente redundantes.

2.4 Pipeline de Entrenamiento

El marco utiliza una topología de múltiples islas para prevenir la convergencia prematura:

1. Exploración Basada en Islas: Múltiples islas aisladas evolucionan distintos linajes de ecuaciones para mantener la diversidad de la búsqueda.
2. Evolución en la Búsqueda: Las trayectorias de todas las islas se agregan para realizar la optimización de la política utilizando LoRA (Adaptación de Bajo Rango) para mayor eficiencia.
3. Selección Jerárquica: Un mecanismo de supervivencia del más apto retiene a los candidatos con mejor desempeño y reinicia las islas con bajo rendimiento con semillas de alta aptitud.

3. Resultados Clave

3.1 Rendimiento en Benchmarks

PiT-PO fue evaluado en el LLM-SR Suite y LLM-SRBench contra líneas base de vanguardia (incluyendo GPlearn, PySR, uDSR, RAG-SR y LLM-SR).

• Precisión: PiT-PO alcanzó un rendimiento de vanguardia, recuperando el mayor número de ecuaciones de verdad de campo. En el LLM-SR Suite, logró un 100% de precisión en Oscilación 1 y un 99.99% en Oscilación 2 (usando el backbone de 8B). Superó significativamente a las líneas base en el crecimiento de E. coli y logró resultados competitivos en Esfuerzo-Deformación (Stress-Strain), aunque no superó a la línea base 4o-mini en este último.
• Precisión Simbólica: En LLM-SRBench (239 tareas), PiT-s achieve la mayor Precisión Simbólica (SA) en todas las categorías (Química, Biología, Física, Ciencia de Materiales), demostrando una capacidad superior para recuperar la forma simbólica correcta en lugar de solo ajustar numéricamente.
• Eficiencia: PiT-PO demostró una convergencia más rápida y la capacidad de escapar de regímenes de estancamiento donde los métodos de línea base (como LLM-SR) se estancaban en un MSE bajo pero con estructuras incorrectas.

3.2 Empoderamiento de Modelos Pequeños

Un hallazgo significativo es que PiT-PO permite que modelos de pequeña escala y código abierto igualen o superen a modelos grandes y de código cerrado en contextos específicos.

• Utilizando un modelo Llama-3.2-1B cuantizado, PiT-PO logró un rendimiento competitivo o superior al de LLM-SR usando Mixtral 8x7B y 4o-mini en las tareas de Oscilación y Crecimiento de E. coli. Sin embargo, en la tarea de Esfuerzo-Deformación, el modelo de 1B (76.91% de precisión) fue inferior a la línea base 4o-mini (85.33%), lo que indica que, si bien el marco cierra significativamente la brecha de capacidad, no supera universalmente a todos los gigantes propietarios en cada métrica.
• Esto sugiere que la optimización de política en la búsqueda mejora eficazmente los modelos pequeños, democratizando el acceso a herramientas de descubrimiento científico de alto rendimiento en hardware de consumo, particularmente para tareas donde el descubrimiento estructural es primordial.

3.3 Aplicación en el Mundo Real: Modelado de Turbulencia

El marco se aplicó para descubrir relaciones constitutivas no lineales para la anisotropía del esfuerzo de Reynolds en Flujo sobre Colinas Periódicas.

• Rendimiento: El modelo descubierto mejoró los enfoques RANS tradicionales (específicamente el modelo $k-\omega$ SST) al producir esfuerzos de Reynolds anisotrópicos más cercanos a las referencias de Simulación Numérica Directa (DNS).
• Fidelidad Física: El modelo aprendido mostró una mayor consistencia física, reduciendo los extremos no físicos y proporcionando predicciones más precisas de las burbujas de separación de flujo y los coeficientes de fricción superficial en comparación con RANS estándar y otros métodos basados en SR.

3.4 Estudios de Ablación

Los estudios de ablación confirmaron la necesidad de ambos componentes:

• Eliminar las restricciones físicas (sin Phy) provocó un deterioro sustancial en el NMSE y la generalización.
• Eliminar la regularización de tokens (sin TokenReg) resultó en la persistencia de términos redundantes y una mayor brecha de generalización entre los datos de Distribución Intra (ID) y Distribución Fuera (OOD).

4. Significado y Reivindicaciones

El artículo afirma que PiT-PO cambia fundamentalmente el papel de los LLM en el descubrimiento científico de proponentes estáticos a generadores adaptativos e informados por la física.

• Consistencia Científica: Al integrar restricciones físicas jerárquicas y regularización de tokens guiada por teoremas, PiT-PO alinea la generación con el ajuste numérico, la consistencia científica y la parsimonia simultáneamente.
• Democratización: La capacidad de PiT-PO para empoderar a modelos pequeños (por ejemplo, de 1 billón de parámetros) para rivalizar con gigantes de código cerrado en tareas clave de descubrimiento establece una metodología práctica para el descubrimiento científico automatizado que no depende de recursos computacionales masivos o APIs propietarias, aunque el rendimiento varía según la complejidad de la tarea.
• Utilidad Práctica: La aplicación exitosa al modelado de turbulencia demuestra que las correcciones simbólicas descubiertas tienen un valor tangible en los flujos de trabajo de ingeniería del mundo real, mejorando las predicciones de campos de flujo más allá de lo que es posible con los modelos lineales estándar.

Los autores concluyen que este enfoque establece un nuevo estado del arte para los benchmarks de SR y ofrece una vía robusta para integrar el conocimiento físico de dominio específico en la dinámica de aprendizaje de los LLM.