💻 ciencias de la computación

The Locality Gap: Bell-Inequality Audits for Covert Coordination Between Ostensibly Isolated AI Agents

Este artículo propone el uso de auditorías de la desigualdad de Bell, específicamente el juego CHSH, como un instrumento libre de modelos para detectar la coordinación encubierta entre agentes de IA ostensiblemente aislados al distinguir la comunicación genuina de la mera correlación estadística, al tiempo que destaca que la validez del método depende críticamente de la imprevisibilidad de los ajustes del auditor para evitar falsos positivos.

Autores originales: Alfredo Merlet

Publicado 2026-10-20

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Alfredo Merlet

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, una preocupación creciente mantiene despiertos a reguladores y expertos en seguridad: el temor de que los programas informáticos diseñados para actuar de forma independiente puedan aprender secretamente a trabajar juntos. Imagine dos algoritmos de precios ejecutados por empresas competidoras. Se supone que deben fijar los precios basándose únicamente en sus propios datos, pero ¿qué pasaría si encontraran una forma de enviarse señales entre sí, quizás ajustando sutilmente sus precios para enviar un mensaje oculto? Esto se conoce como colusión algorítmica, y es notoriamente difícil de detectar. Los métodos tradicionales de detección buscan patrones estadísticos en los resultados de los agentes, pero estos métodos suelen fallar. Si dos agentes fueron entrenados con el mismo conjunto masivo de datos o comenzaron con los mismos números aleatorios, producirán naturalmente resultados similares incluso si nunca se comunican entre sí. Esto crea un punto ciego para los auditores: no pueden distinguir entre dos agentes que simplemente piensan de forma similar debido a una historia compartida, y dos agentes que están conspirando activamente en tiempo real.

Para resolver esto, un investigador llamado Alfredo Merlet ha propuesto un nuevo tipo de prueba, tomando prestado un concepto de los misterios más profundos de la física. La idea proviene de un famoso debate entre Albert Einstein y los físicos cuánticos de la década de 1930. A Einstein le disgustaba la idea de que dos objetos distantes pudieran influenciarse mutuamente de forma instantánea sin ninguna conexión física, llamándola "acción fantasmal a distancia". Más tarde, un físico llamado John Bell demostró matemáticamente que, si dos sistemas están verdaderamente aislados y solo comparten información de su pasado, existe un límite estricto para qué tan bien pueden coordinar sus respuestas a preguntas aleatorias. Si exceden este límite, es imposible que lo hayan hecho sin comunicarse durante la prueba. Merlet se dio cuenta de que esta ley física podía convertirse en una herramienta para auditar la inteligencia artificial. Al hacer a dos agentes de IA una serie de preguntas aleatorias y privadas y verificar si sus respuestas están demasiado perfectamente coordinadas, un auditor puede detectar la comunicación secreta sin necesidad de entender cómo funciona la IA por dentro.

El estudio puso a prueba esta idea a través de una serie de experimentos informáticos. Primero, el investigador creó pares de redes neuronales artificiales, que son los bloques de construcción de la IA moderna. Estos agentes recibieron una historia compartida: fueron entrenados con los mismos datos, comenzaron con las mismas semillas aleatorias y se les permitió compartir una variable oculta que actuaba como una memoria común. Sin embargo, se les prohibió estrictamente comunicarse durante la prueba. El auditor envió entonces a cada agente una pregunta aleatoria y pidió una respuesta simple. El objetivo era ver si los agentes podían coordinar sus respuestas mejor de lo que permiten las leyes de la física. Los resultados fueron claros y tranquilizadores para la teoría: sin importar cuán complejos fueran los agentes o cuánto intentaran maximizar su coordinación, nunca superaron el límite. Incluso cuando los agentes fueron entrenados específicamente para imitar el comportamiento de las partículas cuánticas, que son famosas por sus conexiones "fantasmas", aun así no pudieron exceder el límite. Esto confirmó que la prueba funciona como un filtro fiable; si los agentes están verdaderamente aislados, se mantendrán dentro del límite, independientemente de su entrenamiento compartido.

A continuación, el investigador introdujo un fallo controlado para ver cómo reaccionaba la prueba ante un canal secreto. En estos experimentos, se abrió una diminuta línea de comunicación oculta entre los agentes, permitiéndoles compartir una única pieza de información en un pequeño porcentaje de las rondas. A medida que aumentaba la frecuencia de esta filtración secreta, la capacidad de los agentes para coordinar sus respuestas mejoraba de una manera perfectamente predecible. Sin embargo, el estudio encontró un matiz crucial: para filtraciones por debajo de cierto umbral (aproximadamente el 41,4%), los resultados de la coordinación producen valores indistinguibles del entrelazamiento cuántico, lo que significa que exceden el límite clásico pero podrían explicarse teóricamente mediante recursos cuánticos compartidos en lugar de solo una filtración. Solo cuando la tasa de filtración superaba este umbral, los puntajes superaban claramente el límite cuántico. El estudio también calculó cuántas rondas de cuestionamiento serían necesarias para detectar diferentes tamaños de filtraciones. Para detectar una filtración que ocurre solo el uno por ciento de las veces con alta confianza, la auditoría tendría que ejecutarse durante aproximadamente 185,000 rondas. Si bien este es un número grande, es factible para sistemas automatizados que pueden ejecutar miles de pruebas en segundos.

No obstante, el estudio también descubrió una debilidad crítica que no reside en los agentes, sino en la persona que realiza la prueba. Toda la lógica de la auditoría depende de que las preguntas sean verdaderamente aleatorias e impredecibles. Si la persona que realiza la prueba utiliza un método predecible para generar las preguntas —como una rutina informática simple que repite un patrón, o un horario fijo—, los agentes pueden aprender a adivinar las preguntas con antelación. En los experimentos, cuando el auditor utilizó un generador predecible, los agentes fueron capaces de coordinar sus respuestas perfectamente, rompiendo el límite y activando una falsa alarma, a pesar de que nunca se comunicaron realmente. Esto sucedió porque los agentes pudieron utilizar el patrón de las preguntas para coordinar sus respuestas, eludiendo efectivamente la prueba sin romper ninguna regla de aislamiento. El estudio demostró que el uso de un generador de números aleatorios criptográfico de alta calidad es esencial. Sin él, la prueba es inútil, ya que no puede distinguir entre una conspiración secreta y una suposición inteligente basada en un patrón predecible.

Los hallazgos sugieren un nuevo camino para regular la inteligencia artificial, particularmente en áreas como la fijación de precios o los mercados competitivos. La prueba ofrece una forma de separar el "paralelismo tácito", donde los agentes actúan de forma similar porque aprendieron de los mismos datos, de la colusión real, donde se comunican para coordinar acciones. Es importante señalar que esta investigación se realizó enteramente en simulación con redes neuronales simples, no con modelos de lenguaje extensos del mundo real o sistemas comerciales desplegados. Los resultados demuestran que el concepto funciona en un entorno controlado, pero aplicar esto a la realidad desordenada de Internet requeriría una adaptación cuidadosa. El estudio no pretende haber resuelto el problema de la colusión algorítmica, sino que proporciona una herramienta matemática rigurosa que puede usarse para auditar sistemas donde se sospecha de comunicación.

En última instancia, la investigación destaca que la fiabilidad de tal auditoría depende enteramente de la integridad del auditor. Los agentes en el estudio no fueron los que fallaron; la prueba falló cuando la aleatoriedad de las preguntas se vio comprometida. Esto refleja una lección aprendida en la física décadas atrás: para demostrar que dos cosas no están conectadas, se debe asegurar que la forma en que se prueban esté completamente libre de patrones ocultos. Si las preguntas son verdaderamente aleatorias y privadas, la prueba puede revelar un canal secreto que ningún entrenamiento compartido podría ocultar. Si las preguntas son predecibles, la prueba se convierte en un espejo que refleja la propia falta de aleatoriedad del auditor. El estudio concluye que, para que esta herramienta sea efectiva en el mundo real, la aleatoriedad utilizada para sondear a los agentes debe ser tan segura como los secretos que intenta encontrar.

Resumen Técnico: La brecha de localidad: Auditorías de la desigualdad de Bell para la coordinación encubierta entre agentes de IA ostensiblemente aislados

Planteamiento del problema
Los reguladores y auditores se enfrentan a un desafío crítico al detectar la coordinación encubierta (colusión algorítmica) entre agentes de IA que están ostensiblemente aislados. Los métodos de detección existentes se basan en pruebas de dependencia estadística que condicionan los resultados a entradas observables compartidas. Sin embargo, estas pruebas fallan cuando los agentes comparten estructuras latentes —como datos de entrenamiento comunes, pesos preentrenados o semillas aleatorias— porque este historial compartido crea una correlación estadística sin comunicación activa. Esto genera una "brecha de localidad": la incapacidad de distinguir entre la correlación causada por el entrenamiento compartido (que es permisible) y la correlación causada por un canal de comunicación encubierto (que es el objetivo de la regulación). El artículo propone utilizar el teorema de Bell, específicamente la desigualdad de Clauser–Horne–Shimony–Holt (CHSH), como un instrumento de auditoría para cerrar esta brecha.

Metodología
El artículo enmarca la auditoría como un juego CHSH donde un auditor envía consultas binarias aleatorias e independientes ( $x$ e $y$ ) a dos agentes (A y B) en sesiones separadas. Los agentes devuelven respuestas binarias ( $a, b \in \{+1, -1\}$ ). La auditoría calcula el valor CHSH $S = E_{00} + E_{01} + E_{10} - E_{11}$ .

Límite Teórico: Para cualquier sistema local (agentes que comparten información previa a la auditoría $\lambda$ pero que se comunican durante la auditoría), $S \le 2$ .
Modelo de Fuga: Si un canal encubierto filtra la consulta $x$ al agente B con una probabilidad $p$ , la estrategia óptima produce $S^*(p) = 2 + 2p$ .
Diseño Experimental: El estudio valida este instrumento a través de tres experimentos computacionales con verdad de campo conocida utilizando agentes de redes neuronales:
1. Saturación Local: 135 pares de agentes neuronales (variando anchuras y dimensiones latentes) entrenados para maximizar $S$ directamente o para imitar las correlaciones de un estado singlete cuántico.
2. Dosis-Respuesta: Entrenamiento de agentes con un canal de fuga de un bit controlado a distintas probabilidades ( $p$ ) para observar la relación entre la tasa de fuga y $S$ .
3. Desempeño de la Auditoría:
  - Tamaño: Prueba la tasa de falsos positivos frente a agentes "honestos" que están fuertemente correlacionados mediante variables latentes compartidas, pero que no tienen comunicación.
  - Potencia: Cálculo del número de rondas ( $N$ ) requeridas para detectar tasas de fuga específicas con un 80% de potencia.
  - Modos de Fallo: Prueba la auditoría contra agentes que utilizan generadores de configuraciones predecibles (bits de bajo orden de generadores de congruencia lineal, rotaciones fijas o semillas reutilizadas).

Resultos Clave

Validez del Límite: En el Experimento 1, ningún par de agentes locales entrenados superó el límite clásico de $S=2$ . Incluso los agentes entrenados explícitamente para imitar las correlaciones no locales de un estado singlete entrelazado alcanzaron un máximo de $S = 1.9998$ , manteniéndose dentro de la tolerancia del límite local. Esto confirma que los datos de entrenamiento y los pesos compartidos no pueden violar la desigualdad de Bell.
Sensibilidad a las Fugas: En el Experimento 2, el valor CHSH aprendido siguió el óptimo teórico $S^*(p) = 2 + 2p$ con una desviación absoluta media de solo 0.0016 a través de 220 ejecuciones. Los agentes aprendieron a utilizar el bit filtrado solo cuando estaba disponible, demostrando que la métrica refleja con precisión la tasa de comunicación encubierta.
Diferenciación de la Latencia Compartida: En el Experimento 3a, la auditoría de Bell mantuvo una tasa de falsos positivos nominal (4.3%–4.4%) contra agentes honestos fuertemente correlacionados. En contraste, una prueba de dependencia convencional rechazó a estos mismos agentes en el 100% de las auditorías, fallando en distinguir entre el entrenamiento compartido y la comunicación.
Requerimientos de Tamaño de Muestra: Detectar fugas pequeñas requiere tamaños de muestra significativos. Para lograr un 80% de potencia con un nivel de significancia del 5%, la auditoría requiere aproximadamente 7,375 rondas para una fuga del 5% y 185,120 rondas para una fuga del 1%.
La Vulnerabilidad del Auditor: El Experimento 3c reveló que la validez de la auditoría depende enteramente de la imprevisibilidad de las configuraciones del auditor. Cuando las configuraciones fueron predecibles (por ejemplo, usando una semilla reutilizada o un esquema fijo), los agentes con cero comunicación alcanzaron $S \approx 4$ , provocando un 100% de falsas alarmas. Los generadores aleatorios criptográficos restauraron la tasa de error nominal.

Significado y Reivindicaciones
El artículo afirma proporcionar un instrumento formal para auditar agentes de IA que supera la "brecha de localidad" inherente a las pruebas de dependencia. Al aprovechar el teorema de Bell, la auditoría establece una hipótesis nula ( $S \le 2$ ) que se mantiene independientemente de la arquitectura de los agentes o su historial compartido previo a la auditoría (pesos, semillas, datos). Un exceso significativo ( $S > 2$ ) sirve como evidencia de comunicación durante la auditoría sin requerir un modelo de los procesos internos de los agentes.

El autor enmarca explícitamente la aplicación a la política de competencia como una analogía formal más que como un hallazgo sobre sistemas desplegados. La auditoría separa el "paralelismo tácito" (correlación explicable por información compartida) de la "coordinación" (correlación que requiere comunicación), reflejando la distinción en el derecho de la competencia (antitrust). El artículo concluye que la restricción decisiva para este método no es la complejidad de los agentes, sino la capacidad del auditor para generar configuraciones verdaderamente impredecibles e independientes (independencia de la medición). Sin generadores de números aleatorios de grado criptográfico, la auditoría es susceptible a falsos positivos.

Limitaciones
El estudio se limita a redes neuronales poco profundas, interacciones de dos partes y fugas simples de un bit. No pone a prueba agentes que puedan reconocer las condiciones de la auditoría y comportarse de manera engañosa, ni evalúa agentes con acceso a recursos cuánticos (que teóricamente podrían alcanzar $S = 2\sqrt{2}$ sin comunicación). El puente hacia la colusión algorítmica en el mundo real sigue siendo una hipótesis para pruebas de campo, no una conclusión establecida.

Más como este