💬 NLP

Linguistic Holonomy and Statistical Watermarks: Inner Geometry of Meaning-Preserving Transformations

Este artículo demuestra que las marcas de agua estadísticas para los modelos de lenguaje son fundamentalmente vulnerables a las transformaciones que preservan el significado porque su detección depende de la similitud semántica de los extremos en lugar de la "holonomía" oculta de la trayectoria de la transformación, lo que conduce a una identidad matemática precisa que muestra que la supervivencia de la señal depende críticamente de la ubicación específica de las ediciones en lugar de solo la tasa de retención general.

Autores originales: Daniele Corradetti

Publicado 2026-08-21

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Daniele Corradetti

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el panorama moderno de la inteligencia artificial, los modelos de lenguaje de gran tamaño generan texto que es cada vez más indistinguible de la escritura humana. Para gestionar los riesgos de esta tecnología, como la propagación de la desinformación, los investigadores han desarrollado un método para marcar invisiblemente el contenido generado por máquinas. Estas marcas, conocidas como marcas de agua, no cambian el significado o la calidad del texto; en su lugar, desplazan sutilmente la probabilidad estadística de qué palabras son elegidas, creando una señal oculta que puede detectarse más tarde. El desafío central para estas marcas de agua es la robustez: deben sobrevivir cuando el texto es editado, traducido o parafraseado. Durante años, la comunidad científica ha medido el éxito de un ataque sobre una marca de agua observando únicamente el resultado final. Si una oración reescrita mantiene el mismo significado que la original, se asumía que la marca de agua había sobrevivido igual de bien, independientemente del trayecto que el texto hubiera seguido para llegar allí. Esta suposición trata los pasos intermedios de la reescritura como un mero andamiaje, irrelevante para el resultado final.

Un investigador del Instituto Superior Técnico y la Universidad de Algarve ha desafiado esta visión largamente sostenida, demostrando que el camino que recorre un texto es tan importante como su destino. Al tratar la secuencia de elecciones de palabras como un viaje geométrico, descubrieron que dos textos pueden terminar con significados idénticos pero portando cantidades de señal de marca de agua completamente diferentes. El investigador demostró que el método estándar para medir la "similitud semántica" —qué tan cerca está el significado final del inicial— es ciego a una propiedad oculta de la transformación. Encontraron que la supervivencia de la marca de agua depende enteramente de la disposición específica de las ediciones realizadas a lo largo del camino, no solo de cuántas palabras se cambiaron o de qué tan similar parece el texto final. En algunos casos, un atacante puede eliminar toda la señal de la marca de agua cambiando solo una pequeña fracción de las palabras, siempre que esos cambios se distribuyan en un patrón específico y rítmico.

El estudio comienza reexaminando las matemáticas detrás de los "bucles lingüísticos", que son cadenas de transformaciones que alteran la forma de una oración sin cambiar su núcleo de significado. El investigador mostró que las herramientas matemáticas previas utilizadas para analizar estos bucles eran defectuosas porque colapsaban en un simple recuento, perdiendo de vista la compleja estructura del trayecto. Las reemplazó con una descripción geométrica más precisa, mostrando que la transformación del texto es como un camino trazado sobre una esfera. La distancia entre el punto de partida y el de llegada te dice cuánto se desvió el significado, pero la forma del camino mismo porta una rotación oculta, una propiedad conocida como holonomía. Esta rotación es invisible para los detectores que solo miran el significado final, pero es precisamente lo que determina si la marca de agua sobrevive. El investigador probó que el punto final y el camino son independientes; se puede tener un texto que regresa a su significado original tras un viaje corto y directo o tras un desvío largo y sinuoso, y la marca de agua se comportará de manera diferente en cada caso.

En el aspecto práctico de la investigación, el investigador derivó una ley precisa que gobierna cómo se degradan las marcas de agua cuando el texto es editado. Encontró que la supervivencia de la señal no está determinada por el porcentaje global de palabras que permanecen inalteradas, sino por si las "ventanas de siembra" específicas de la marca de agua permanecen intactas. Una marca de agua a menudo depende de un grupo de palabras precedentes para decidir cuál debe ser la siguiente palabra. Si una edición rompe este grupo, la señal se pierde. El investigador demostró que un atacante que conoce el tamaño de este grupo puede colocar estratégicamente las ediciones para destruir toda la marca de agua dejando la gran mayoría del texto intacto. Por ejemplo, si la marca de agua depende de un contexto de una palabra precedente, un atacante podría eliminar cada segunda palabra y borrar completamente la señal, aun cuando la mitad del texto permanezca. Este hallazgo explica por qué las marcas de agua a veces fallan mucho más rápido de lo esperado cuando el texto se edita en bloques o patrones, en lugar de hacerlo de forma aleatoria.

Para verificar estos conocimientos teóricos, el investigador realizó extensos experimentos utilizando sistemas reales de traducción automática. Tomó miles de oraciones y las envió a través de cadenas de traducciones de ida y vuelta, moviéndolas a través de idiomas como el alemán, el francés y el español, y de vuelta al inglés. Midieron la señal de la marca de agua en cada paso y la compararon con las propiedades geométricas del camino que tomó el texto. Los resultados confirmaron su teoría: la cantidad de señal restante estaba fuertmente vinculada a la forma específica del camino, no solo a la puntuación de similitud final. En una prueba sorprendente, mantuvieron constante el significado final del texto mientras variaban la longitud y la complejidad del camino. Encontraron que textos que terminaban en el mismo significado exacto podían retener desde una señal completa hasta ninguna señal, dependiendo únicamente de la ruta tomada. Esto demuestra que el método actual de juzgar la robustez de las marcas de agua basándose en la similitud final es fundamentalmente incompleto.

Las implicaciones de este trabajo son significativas para el futuro de la procedencia digital. Sugiere que la resiliencia de una marca de agua es una función de todo el historial del texto, no solo de su estado final. El investigador mostró que las métricas estándar utilizadas para evaluar estos sistemas son insuficientes porque ignoran la estructura geométrica del lenguaje. También destacó una vulnerabilidad en los diseños actuales: debido a que la supervivencia de la señal depende de la disposición de las ediciones, un adversario con conocimientos puede explotar esto para neutralizar la marca de agua sin que el texto parezca significativamente diferente. Aunque el estudio se llevó a cabo con modelos y cadenas de traducción específicos, los principios geométricos descubiertos parecen ser universales. El trabajo concluye que para comprender verdaderamente cómo sobreviven las marcas de agua, debemos dejar de mirar únicamente el destino y empezar a mapear el viaje.

Resumen Técnico: Holonomía Lingüística y Marcas de Agua Estadísticas

Planteamiento del Problema
Los métodos actuales para evaluar la robustez de las marcas de agua estadísticas en los Modelos de Lenguaje de Gran Escala (LLM) dependen de métricas de "punto final" (endpoint). Estas métricas miden la similitud semántica entre el texto original y el texto reescrito, o simplemente cuentan el número de pasos de edición (saltos o hops). El artículo argumenta que este enfoque es fundamentalmente erróneo porque trata los estados intermedios como un mero andamiaje. Dos cadenas de transformaciones pueden resultar en textos con un significado semántico idéntico (puntos finales idénticos) pero recorrer trayectorias vastamente diferentes en el espacio de incrustación (embedding space). El artículo postula que la robustez de una marca de agua depende no solo de la distancia semántica final, sino de la trayectoria geométrica específica tomada por el "significante" (la forma del texto) mientras el "significado" permanece preservado.

Metodología
El autor adapta el formalismo de los "bucles lingüísticos" de un trabajo previo [4] para analizar la geometría de las transformaciones que preservan el significado.

Marco Geométrico: El texto se mapea a un espacio de incrustación $\mathbb{R}^n$ . Una cadena de transformaciones se visualiza como una trayectoria de vectores $v_0, \dots, v_L$ sobre la esfera unitaria.
Matriz de Bucle: La cadena se resume mediante una matriz de bucle $R_U \in SO(n)$ , construida como el producto de las rotaciones mínimas entre estados consecutivos. Esta matriz representa el transporte paralelo a lo largo del polígono geodésico formado por la cadena.
Modelado del Detector: El artículo analiza esquemas de marcas de agua de "lista verde" (green-list) y "exponenciales", que dependen de una ventana de contexto de tamaño $h$ . El estadístico de detección se modela como una función del número de "ventanas intactas": posiciones donde todo el contexto de siembra sobrevivió al ataque sin modificaciones.

Contribuciones Clave y Resultados Teóricos

Degeneración de la Invariante de la Firma:
El artículo demuestra que la invariante propuesta anteriormente para los bucles lingüísticos —la firma de Sylvester de la matriz $I - R_U^*$ — es degenerada. La matriz es siempre semidefinida positiva, lo que significa que su firma es siempre $(2p, 0, n-2p)$ , y no aporta más información que su rango. La verdadera invariante es el espectro de ángulos (el conjunto de ángulos de rotación) de la matriz de bucle.
Factorización Punto Final-Trayectoria (Holonomía):
El autor demuestra una factorización canónica de la matriz de bucle: $R_U = R_{dir} H$ .

$R_{dir}$ es la rotación mínima desde el estado inicial al estado final (determinada únicamente por el déficit semántico).
$H$ es la holonomía, un elemento del grupo estabilizador $SO(n-1)$ que fija el estado inicial.
Significado: El déficit semántico (punto final) y la holonomía (geometría de la trayectoria) son funcionalmente independientes. Una cadena puede tener un déficit semántico de cero (regresando exactamente al mismo significado) mientras acumula una holonomía arbitraria (vagando significativamente en la forma). En una 2-esfera, esta holonomía corresponde al área barrida por la trayectoria (teorema de Gauss-Bonnet).

La Identidad de la Ventana Intacta:
El artículo deriva una identidad exacta para el estadístico de detección residual esperado $E[z_{att}]$ tras un ataque:
$E[z_{att}] = \frac{|I|}{T'} E[z_0]$
donde $|I|$ es el número de posiciones cuya ventana de siembra completa de tamaño $h+1$ sobrevivió intacta.

Corolario: Si las ediciones son independientes, la señal decae como $\rho^{h+1}$ (donde $\rho$ es la tasa de retención de tokens).
Hallazgo Crítico: Si las ediciones no son independientes (como en la edición del mundo real), la tasa de retención $\rho$ es insuficiente para predecir la robustez. Un adversario puede organizar las ediciones para destruir la marca de agua por completo (reduciendo el estadístico a cero) mientras retiene una alta fracción de tokens, siempre que las ediciones estén espaciadas para romper cada ventana de contexto. Específicamente, si $1-\rho \ge 1/(h+1)$ , la señal puede ser aniquilada.

Resultos Experimentales
El autor verificó sus afirmaciones teóricas utilizando detectores exactos (claves en posesión del autor) y datos del mundo real:

Verificación Geométrica: Experimentos numéricos confirmaron la degeneración de la firma y la independencia del punto final y la holonomía. Las cadenas con idénticos déficits semánticos exhibieron variaciones en la energía de la holonomía dependiendo de la trayectoria tomada.
Verificación del Detector: Se confirmó la "ley de la ventana intacta" con alta precisión (errores < 0.01) a través de diferentes anchuras de contexto ( $h=0,1,2,3$ ) y tasas de retención.
Traducción al Mundo Real: El autor aplicó traducción automática de ida y vuelta (Inglés $\to$ $\to$ Pivote $\to$ $\to$ Inglés) a texto con marca de agua.
- Los resultados mostraron que las cadenas con el mismo déficit semántico pero diferentes longitudes de trayectoria (diferentes números de pivotes) resultaron en diferentes niveles de erosión de la marca de agua.
- Una prueba de regresión preregistrada confirmó que, manteniendo constantes el déficit semántico y la tasa de retención, una mayor energía de holonomía (trayectoria más larga/compleja) se correlaciona significativamente con una menor señal de marca de agua residual.
- La métrica de "ventana intacta" predijo la señal residual con mayor exactitud que la simple tasa de retención.

Significancia y Reivindicaciones
El artículo afirma establecer que la robustez de una marca de agua estadística es un funcional de la trayectoria, no solo del punto final.

Teórica: Replantea la analogía del "bucle de Wilson" de una metáfora a un teorema matemático, identificando el "déficit semántico" como ciego ante la "holonomía" (la rotación geométrica de la forma).
Práctica: Demuestra que las evaluaciones de robustez actuales basadas en la similitud semántica o las tasas de retención de tokens están subespecificadas. Un adversario puede preservar el significado y el conteo de tokens mientras destruye estratégicamente la marca de agua explotando la estructura de la ventana de contexto.
Limitaciones: El autor es modesto, señalando que la identidad de la ventana intacta asume sustituciones que preservan la longitud y una hipótesis de campo medio sobre la entropía. Reconoce que la energía de la holonomía es una reducción escalar con pérdida de la matriz de holonomía completa, y que sus resultados empíricos están limitados por los modelos y codificadores específicos utilizados.

El artículo concluye que el lenguaje natural para describir la erosión de las marcas de agua es el de transporte paralelo y holonomía, sugiriendo que los futuros diseños de marcas de agua podrían necesitar considerar invariantes dependientes de la trayectoria en lugar de solo propiedades estáticas de los tokens.

Resumen Técnico: Holonomía Lingüística y Marcas de Agua Estadísticas

Más como este