An interpretable closed form for entanglement entropy from bitstrings, guided by a graph neural network

Resumen Técnico: Una forma cerrada interpretable para la entropía de entrelazamiento a partir de cadenas de bits, guiada por una red neuronal de grafos

Planteamiento del problema
En las simulaciones cuánticas de arreglos de átomos de Rydberg, la distribución empírica de cadenas de bits (resultados de medición en la base de ocupación) es el observable más accesible. Sin embargo, la entropía de von Neumann bipartita ($S_{vN}$), un diagnóstico crítico para la materia de muchos cuerpos cuánticos, es mucho más costosa de obtener. La tomografía completa del estado escala exponencialmente con el tamaño del sistema $N$, e incluso los protocolos que no requieren tomografía exigen una carga significativa de copias, puertas o post-procesamiento. Si bien la distribución de cadenas de bits no determina de forma única la $S_{vN}$ (ya que diferentes estados pueden compartir una distribución diagonal pero diferir en entrelazamiento), esta la restringe estrechamente. Los estimadores existentes enfrentan un compromiso: los límites analíticos basados en la información mutua clásica ($I$) son interpretables pero toscos (subestiman la $S_{vN}$ en $\sim 0.10$ nats), mientras que los sustitutos de redes neuronales de grafos (GNN) precisos son cajas negras que requieren reentrenamiento para cada nuevo régimen (fase, geometría o Hamiltoniano). El objetivo es encontrar un estimador que combine la precisión de los modelos aprendidos con la interpretabilidad y portabilidad de las formas analíticas.

Metodología
Los autores emplean un enfoque "guiado por GNN" para derivar un estimador de forma cerrada:

1. Sondeo Mecanicista de la GNN: En lugar de ajustar una forma analítica a observables seleccionados a mano, los autores sondean una GNN preentrenada (de [5]) para identificar qué entradas impulsan sus predicciones de $S_{vN}$. A través de intervenciones causales (enrutamiento de atención, parcheo de activación y eliminación de aristas), establecen que la predicción de la GNN se enruta específicamente a través de las aristas de la frontera de la bipartición ($E_b = A \times B$). La red re-enruta la atención basándose en si una arista cruza el corte, y eliminar las aristas de la frontera degrada significativamente el rendimiento.
2. Restricción de Características y Búsqueda: Guiados por el enfoque de la GNN en los correladores de la frontera, los autores restringen una búsqueda exhaustiva a una lista curada de 25 escalares físicos derivados de la distribución de cadenas de bits, específicamente aquellos computados sobre el conjunto de la frontera $E_b$.
3. Búsqueda Simbólica Exhaustiva: Se realiza una búsqueda exhaustiva sobre todos los subconjuntos de seis características de $\binom{25}{6} = 177,100$ utilizando Mínimos Cuadrados Ordinarios (OLS). El ganador es una forma lineal de seis términos de seis términos (Ec. 1).
4. Validación y Escalamiento: La forma se valida contra la verdad fundamental (Diagonalización Exacta para $N \le 20$ y DMRG para $N$ hasta 100). Los autores analizan el comportamiento de escalamiento de los coeficientes y prueban la transferibilidad a través de diferentes familias de Hamiltonianos y cambios geométricos.

Contribuciones Clave

1. Una Forma Cerrada de Seis Términos (Ec. 1): Los autores presentan un estimador lineal legible y libre de hiperparámetros:
   $$\hat{S}_{vN} = b_1 \log(I+1) + b_2 \sum_{E_b} \sqrt{|c|} + b_3 \sum_{E_b} \tanh |c| + b_4 (\max_{E_b} |c|)^2 + b_5 \min_{E_b} c + b_6 \min(H_A, H_B) I$$
   donde $c$ representa correladores de dos puntos, $I$ es la información mutua y $H$ es la entropía de sitio único.
2. Caracterización Guiada por GNN: El trabajo demuestra que el sondeo causal de una red neuronal puede identificar eficazmente el subespacio físico relevante (correladores de frontera) para una tarea de predicción específica, evitando la necesidad de ingeniería de características manual.
3. Leyes de Escalamiento y Reglas de Calibración: El artículo establece que, aunque los coeficientes de la forma cerrada no son invariantes de escala (los coeficientes congelados fallan para $N$ grandes), la forma misma se mantiene hasta $N=100$. Dos coeficientes siguen leyes limpias de $1/N$ y el coeficiente ancla crece con curvatura descendente. Esto permite una "regla de presupuesto de etiquetas": unas pocas docenas de etiquetas en un tamaño objetivo pueden recalibrar la forma para que coincida con conjuntos de entrenamiento finamente ajustados.

Resultos

• Precisión: La forma cerrada logra un Error Absoluto Medio (MAE) de 0.0244 nats en el conjunto de prueba intra-distribución. Este es 6.4 veces el error de la GNN base (0.0038 nats), pero significativamente mejor que la línea base de información mutua clásica (0.1002 nats).
• Portabilidad (Fuera de Distribución): Cuando se aplica sin cambios (ajustada una vez) a seis grupos fuera de distribución (OOD) (variando tamaños de sistema, cambios estructurales y posiciones 2D aleatorias), la forma cerrada supera a la GNN base en cinco de los seis grupos y empata en el sexto. Esto se atribuye a la naturaleza no paramétrica de la geometría de la forma; a diferencia de la GNN, no ingiere coordenadas atómicas explícitas.
• Transferencia entre Hamiltonianos: Al reajustarse por familia, la forma de seis características supera a los baselines analíticos ($I$ e $I$ filtrado) en todas las familias de Hamiltonianos probadas (TFIM, XXZ, J1-J2, Rydberg y signo aleatorio). Aunque XGBoost con las mismas características es más preciso, carece de interpretabilidad.
• Escalamiento a $N=100$: Usando datos independientes de DMRG, los autores muestran que un ajuste global con coeficientes congelados falla a gran escala (el MAE crece a $>1$ nat). Sin embargo, reajustar los coeficientes por tamaño mantiene un MAE de 25–50 mnat. Las leyes de escalamiento ajustadas para los coeficientes permiten el despliegue sin etiquetas a aproximadamente 40–80 mnat.
• Robustez: La forma es robusta al ruido de disparo (shot noise), superando a los baselines de información mutua con tan solo ~160 disparos de medición.

Significancia y Reivindicaciones
El artículo afirma que la Ec. 1 ocupa un nicho único en el compromiso entre precisión e interpretabilidad. No es una "destilación" de la GNN en el sentido de reconstruir sus pesos internos; más bien, es un ajuste independiente de baja dimensión sobre las mismas cantidades físicas que utiliza la GNN. La GNN codifica estas cantidades en un código redundante y de alta dimensión, mientras que la Ec. 1 proporciona una proyección legible.

La significancia radica en proporcionar un estimador transparente, transferible y ajustable. Permite a los experimentadores inspeccionar la física que impulsa la estimación de la entropía, aplicar el modelo a través de diferentes geometrías y fases sin reentrenamiento, y calibrarlo con un número mínimo de etiquetas. Los autores concluyen que, si bien los modelos no lineales (como XGBoost o la GNN) ofrecen una mayor precisión bruta dado grandes conjuntos de datos etiquetados, la forma cerrada ofrece una transparencia superior y un comportamiento de escalamiento caracterizado, fijando una "regla de presupuesto de etiquetas" para simulaciones cuánticas a gran escala.