⚛️ fenomenología

The proton structure one mode at a time: a Neural Tangent Kernel analysis of a DIS fit

Este artículo aplica el análisis del Kernel de Tangente Neuronal (NTK) al ajuste de datos de dispersión inelástica profunda, revelando que la dinámica de entrenamiento de las redes neuronales para las funciones de distribución de partones está gobernada por el aprendizaje incremental de los modos NTK, donde los modos principales reconstruyen la física objetivo mientras que los modos subdominantes capturan el ruido de los datos, proporcionando así un marco geométrico y analítico para comprender la regularización, la inicialización y la interacción entre los datos y la metodología.

Autores originales: Amedeo Chiefa, Luigi Del Debbio, Richard Kenway

Publicado 2026-10-28

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Amedeo Chiefa, Luigi Del Debbio, Richard Kenway

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el corazón de un protón, una tormenta de partículas invisibles conocidas como quarks y gluones se agita en una danza caótica. Para comprender cómo se comportan estas partículas, los físicos confían en mapas matemáticos llamados funciones de distribución de partones. Estos mapas nos indican la probabilidad de encontrar una partícula específica a una velocidad y localización determinadas dentro del protón. Sin embargo, estos mapas no pueden medirse directamente. En su lugar, los científicos deben reconstruirlos chocando protones entre sí en gigantescos aceleradores y analizando los restos. Este proceso es como intentar averiguar la forma de un objeto oculto escuchando los ecos del sonido que rebotan en él; los datos son incompletos y el camino desde el eco de vuelta al objeto está plagado de ambigüedad. Para resolver esto, los investigadores utilizan modelos informáticos sofisticados, a menudo impulsados por inteligencia artificial, para llenar los vacíos. Pero debido a que el problema es tan difícil, la forma en que se configura la computadora puede influir en la imagen final tanto como los propios datos.

Un equipo de investigadores de la Universidad de Edimburgo ha realizado una inmersión profunda en cómo estos modelos de inteligencia artificial aprenden a dibujar estos mapas. Se centraron en un tipo específico de red neuronal, un programa informático inspirado en el cerebro humano, que es actualmente la herramienta estándar para determinar la estructura del protón. Los científicos querían comprender la mecánica exacta del proceso de aprendizaje: ¿cómo decide la computadora en qué confiar de los datos y cómo evita ser engañada por el ruido? Para lograrlo, desarrollaron una nueva forma de observar cómo piensa la computadora, no mirando el resultado final, sino analizando los "músculos" y "nervios" internos de la red mientras se entrena. Trataron el proceso de aprendizaje como un sistema físico que fluye a través del tiempo, lo que les permitió predecir exactamente cómo se comportaría la computadora sin tener que ejecutar la simulación miles de veces.

Los investigadores descubrieron que la computadora no aprende toda la estructura del protón de una sola vez. En cambio, aprende por capas, comenzando con las características más obvias e importantes antes de pasar a los detalles más finos y difíciles. Encontraron que la red primero captura las formas amplias y suaves de las distribuciones de partículas, las cuales están fuertemente respaldadas por los datos experimentales. Solo más tarde comienza a captar los detalles más pequeños y difusos. Crucialmente, observaron que estos detalles posteriores suelen ser simplemente ruido: fluctuaciones aleatorias en los datos que no representan física real. Si se permite que la computadora se entrene durante demasiado tiempo, comienza a memorizar este ruido, lo que hace que el mapa final sea menos preciso. Este hallazgo confirma que detener el proceso de entrenamiento de forma temprana no es solo un truco práctico, sino un paso necesario para separar la señal verdadera de la estructura del protón del estático del experimento.

Otro gran descubrimiento se refiere a cómo se inicia la computadora. Los investigadores probaron qué sucede cuando los ajustes iniciales de la computadora son muy pequeños frente a cuando son más grandes. Encontraron que si los valores iniciales son demasiado pequeños, la computadora se queda atrapada en un modo lineal simple donde se comporta como una calculadora básica. En este estado, no puede aprender las formas complejas y curvas del interior del protón. Permanece ociosa durante mucho tiempo, incapaz de progresar, hasta que finalmente reúne suficiente impulso para salir de este estado simple y comenzar a aprender la verdadera complejidad. Esto sugiere que la configuración inicial de la computadora es crítica; una configuración demasiado conservadora puede, de hecho, retrasar el descubrimiento de nueva física.

El equipo también demostró que la capacidad de aprendizaje de la computadora está limitada por el número de direcciones independientes que puede explorar. Aunque la red neuronal tiene cientos de ajustes ajustables, los datos solo le permiten aprender eficazmente a lo largo de unas pocas docenas de rutas específicas. El resto de los ajustes son esencialmente invisibles para los datos y no contribuyen a la respuesta final. Esto significa que la computadora es mucho más eficiente de lo que parece, utilizando solo una pequeña fracción de su potencial para reconstruir el protón. Los investigadores demostraron que, al comprender estas rutas específicas, podían predecir el comportamiento de la computadora con alta precisión, creando efectivamente un plano matemático de cómo aprende la máquina.

Este trabajo proporciona una ventana clara al "caja negra" del aprendizaje automático en la física. Muestra que la fiabilidad de los mapas de protones depende en gran medida de saber cuándo detener a la computadora de aprender y cómo configurarla en primer lugar. Al demostrar que el proceso de aprendizaje sigue un patrón predecible y paso a paso, los investigadores han dado a los físicos una nueva herramienta para validar sus resultados. Ahora pueden comprobar si sus modelos están aprendiendo la física real o simplemente memorizando errores. Este nivel de control es esencial a medida que los experimentos se vuelven más precisos, asegurando que la próxima generación de descubrimientos sobre los componentes fundamentales del universo se construya sobre una base sólida y comprendida.

Resumen Técnico: La Estructura del Protón Modo a Modo

Planteamiento del Problema
La determinación de las Funciones de Distribución de Partones (PDFs) a partir de datos de Dispersión Inelástica Profunda (DIS) constituye un problema inverso clásico mal planteado. La cantidad finita de datos experimentales no puede determinar de forma unívoca la forma funcional continua de las PDFs, lo que requiere asumir metodologías implícitas y explícitas para regularizar la solución. Si bien el Aprendizaje Automático (ML), específicamente las Redes Neuronales (NN), se ha convertido en una herramienta estándar para la parametrización de PDFs (por ejemplo, en el marco de NNPDF4.0), la dinámica de entrenamiento y el papel específico de la metodología en la configuración de los resultados finales siguen siendo difíciles de desentrañar de la señal impulsada por los datos. Análisis previos utilizando el Núcleo de Tangente Neuronal (NTK) se limitaron a modelos de juguete de un solo sabor. Este trabajo aborda esta brecha extendiendo el análisis NTK a un ajuste de PDF realista de múltiples sabores para comprender cómo interactúan la optimización basada en gradientes y la parametrización para regularizar el problema inverso.

Marco Metodológico
Los autores emplean un enfoque de "prueba de clausura" (closure test), generando datos de DIS sintéticos a partir de un conjunto de PDF subyacente conocido ( $f^{(in)}$ ) para validar la metodología contra una verdad fundamental. El análisis utiliza la metodología NNPDF4.0, que presenta:

Conjunto de Datos: 2,968 puntos de datos de DIS (corrientes neutras y cargadas) restringidos a observables lineales en las PDFs.
Parametrización: Una NN de alimentación hacia adelante (feed-forward) con dos capas ocultas (25 y 20 nodos) que parametriza 8 combinaciones de sabores independientes ( $\Sigma, g, V, V_3, V_8, T_3, T_8, T_{15}$ ) en $Q_0 = 1.65$ GeV. Se incluyen factores de preprocesamiento ( $x^{1-\delta}(1-x)^\epsilon$ ).
Entrenamiento: Descenso de gradiente (GD) vanilla sin estocasticidad, momento o tasas de aprendizaje adaptativas para alinearse con las derivaciones analíticas.
Herramienta Teórica: El Núcleo de Tangente Neuronal (NTK), $\Theta_t$ , y un operador métrico $M = (FK)^T C_Y^{-1} (FK)$ , donde $FK$ representa las tablas del teorema de factorización y $C_Y$ es la covarianza experimental.

La contribución teórica central es la generalización de la solución analítica del flujo de gradiente al caso de múltiples sabores. Al asumir un régimen "congelado" donde el NTK es aproximadamente constante (congelado) tras un transitorio inicial, los autores derivan una expresión analítica exacta para las PDFs entrenadas $f_t$ como una función de la condición inicial $f_0$ y los datos $Y$ .

Contribuciones Clave y Resultados

Solución Analítica y Descomposición de Modos:
Se demuestra que la dinámica de entrenamiento está gobernada por la interacción entre el NTK (que codifica la expresividad de la arquitectura) y el operador $M$ (que codifica el poder de restricción de los datos). La solución se descompone en modos $q^{(i)}$ de un "Hamiltoniano de entrenamiento" $H_\perp$ . Cada modo se aprende en una escala de tiempo $\tau^{(i)} \propto 1/h^{(i)}$ , donde $h^{(i)}$ es el autovalor correspondiente.
- Resultado: Solo los $\sim 30$ modos principales del espectro del NTK son suficientes para reconstruir la ley subyacente. Los modos sub-dominantes, aprendidos en etapas posteriores, están pobremente restringidos por los datos y portan principalmente ruido. Esto proporciona una interpretación geométrica del paro temprano (early stopping) como un compromiso entre sesgo y varianza: detener el proceso antes de que los modos sub-dominantes se resuelvan completamente evita la inflación del ruido.
Interpretaciones Estadística y Geométrica:
- Información de Fisher: El operador $M$ se identifica como la Matriz de Información de Fisher (FIM) de las PDFs.
- Valor de Shapley: Para observables lineales, el valor de Shapley (utilizado para atribuir la importancia de los datos a sabores o regiones cinemáticas específicas) se deriva directamente de la forma cuadrática definida por $M$ .
- Geometría: El entrenamiento se visualiza como un flujo en una variedad funcional. El NTK congelado corresponde a un plano tangente; la solución analítica traza una trayectoria en el plano afín definido por la condición inicial y la imagen del NTK.
Impacto de la Inicialización:
El estudio investiga la dependencia de la dinámica de entrenamiento respecto al ancho de la distribución de inicialización de parámetros, controlado por un exponente de escala $\gamma$ aplicado a la varianza de la distribución normal de Glorot.
- Regimen Lineal ( $\gamma \gtrsim 3$ ): Las inicializaciones pequeñas fuerzan a la red hacia un régimen lineal (aproximación de Red Neuronal Lineal Profunda) donde el NTK es constante desde el principio. La función de pérdida se estanca en una meseta hasta que las capas ocultas se saturan, desencadenando un escape tipo "silla-a-silla". En este régimen, el NTK en la inicialización es un descriptor pobre de todo el entrenamiento porque la imagen inicial del NTK es demasiado de baja dimensión (limitada al span de $\{1, x, \log x\}$ ) para capturar la ley subyacente.
- Regimen Congelado ( $\gamma \lesssim 1$ ): Inicializaciones más grandes permiten que la red opere en un régimen no lineal inmediatamente. El NTK evoluciona rápidamente al inicio (fase rica) y luego se estabiliza. Aquí, la solución analítica con el NTK congelado en la inicialización proporciona una buena aproximación de la dinámica de entrenamiento.
- Optimalidad: Los autores encuentran que $\gamma \approx 0.6$ produce la convergencia más rápida y el menor error de validación, maximizando también el control analítico (acuerdo entre las soluciones analíticas y entrenadas).
Redes Anchas vs. Inicialización Pequeña:
El artículo aclara que aumentar el ancho de la red (número de nodos) no es equivalente a disminuir el ancho de la inicialización ( $\gamma$ ). Aunque ambos pueden conducir a distribuciones de pesos iniciales similares, escalan el NTK de manera diferente. Una red ancha mantiene un tamaño de espectro NTK de $O(1)$ , mientras que una inicialización pequeña reduce el espectro geométricamente, provocando dinámicas de entrenamiento distintas.

Significancia y Reivindicaciones
El artículo afirma proporcionar un marco cuantitativo y analítico para comprender la dinámica de entrenamiento de las NN en ajustes de PDF. Su principal significancia radica en:

Desmitificar la Regularización: Demostar que la regularización implícita del descenso de gradiente es la inclusión incremental de los modos del NTK, donde el régimen "congelado" permite una descripción analítica exacta de cómo los datos y las condiciones iniciales contribuyen a la solución final.
Separar Señal y Ruido: Mostrar que el valor central de las PDFs es impulsado por los datos, mientras que la condición inicial contribuye principalmente a la incertidumbre, particularmente en las regiones de extrapolación.
Utilidad Diagnóstica: Establecer el espectro del NTK y la "época de escape" (transición de la dinámica lineal a la no lineal) como herramientas diagnósticas para evaluar la eficiencia y estabilidad del entrenamiento.
Rigor Metodológico: Proporcionar una base estadística (vía la FIM y el valor de Shapley) para interpretar los ajustes de PDF y ofrecer un marco aplicable a otras parametrizaciones y aplicaciones de ML en física.

Los autores concluyen que su marco agudiza la comprensión de la dinámica de entrenamiento y ofrece una vía para someter a pruebas de estrés las metodologías contra datos inconsistentes, sin pretender que los hallazgos específicos resuelvan inmediatamente todos los desafíos en la determinación de PDFs o que los resultados se generalicen automáticamente a otros optimizadores distintos al GD vanilla (como Adam) sin mayor investigación.

Más como este