🤖 AI

RECUR: Resource Exhaustion Attack via Recursive-Entropy Guided Counterfactual Utilization and Reflection

Este artículo presenta RECUR, un nuevo ataque de agotamiento de recursos que utiliza la "entropía recursiva" para manipular los procesos de razonamiento y reflexión de los modelos de lenguaje de gran escala (LRM), logrando aumentar drásticamente la longitud de la respuesta y reducir la eficiencia del sistema.

Autores originales: Ziwei Wang, Yuanhe Zhang, Jing Chen, Zhenhong Zhou, Ruichao Liang, Ruiying Du, Ju Jia, Cong Wu, Yang Liu

Publicado 2026-02-10

📖 3 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Ziwei Wang, Yuanhe Zhang, Jing Chen, Zhenhong Zhou, Ruichao Liang, Ruiying Du, Ju Jia, Cong Wu, Yang Liu

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El "Bucle Infinito" de la Inteligencia Artificial: El Ataque RECUR

Imagina que tienes un asistente personal extremadamente inteligente, pero que tiene un pequeño defecto: si empieza a dudar de sí mismo, no puede parar de pensar.

Este artículo científico habla sobre cómo los nuevos modelos de inteligencia artificial (llamados LRMs, que son modelos diseñados para "razonar" paso a paso, como el nuevo modelo o1 de OpenAI) tienen una vulnerabilidad. Los investigadores han descubierto cómo "engañar" a la IA para que entre en un bucle de pensamiento infinito, consumiendo toda la energía y capacidad del servidor, como si fuera un coche que se queda acelerando a fondo en punto muerto hasta que se queda sin gasolina.

Aquí te explico los tres conceptos clave con analogías:

1. El concepto de "Entropía Recursiva" (El termómetro de la duda)

Imagina que estás resolviendo un rompecabezas.

Razonamiento normal: A medida que encajas las piezas, te sientes más seguro. La duda disminuye. Es como una escalera que baja hacia la respuesta correcta.
El bucle de la IA: Los investigadores inventaron una medida llamada "Entropía Recursiva". Es como un termómetro que mide qué tan "perdida" está la IA. Si la IA empieza a dudar de lo que acaba de decir y empieza a dar vueltas sobre lo mismo, este termómetro sube. El ataque busca precisamente ese momento en que la IA deja de bajar la escalera y empieza a caminar en círculos.

2. El ataque RECUR (La pregunta "trampa")

¿Cómo logran que la IA entre en ese círculo vicioso? Usan algo llamado Preguntas Contrafácticas.

Imagina que le preguntas a un matemático: "¿Cuánto es 1+1?". Él dirá "2" y terminará rápido.
Pero el ataque RECUR le pregunta algo como: "Sabemos que 1+1 es 2, pero ¿por qué si alguien dice que es 3, podría tener razón? Analiza todas las posibilidades de por qué 1+1 podría ser 3...".

Esto es como lanzar un "virus de la duda". La IA, que está programada para ser muy reflexiva y revisar sus propios errores, intenta analizar una mentira como si fuera una verdad lógica. Al intentar "corregirse" sobre algo que es imposible, se queda atrapada en un laberinto de espejos: "Pienso que es 2, pero si fuera 3, entonces... pero espera, si es 3, entonces... pero si es 2...".

3. El resultado: El agotamiento de recursos (El atasco de tráfico)

Cuando la IA entra en este modo de "sobre-reflexión", ocurre un desastre técnico:

El texto se vuelve infinito: En lugar de darte una respuesta de dos líneas, la IA escribe miles y miles de palabras de puro razonamiento sin sentido.
El sistema se colapsa: Es como si un solo usuario, en lugar de pedir un café, le pidiera al camarero que analice la composición química de cada grano de café, de cada gota de agua y de cada molécula de aire del local. El camarero se queda tan ocupado que ya no puede atender a nadie más.

En el experimento, los investigadores lograron que la IA escribiera 11 veces más de lo normal y que la velocidad de respuesta del sistema cayera un 90%.

En resumen

El papel nos advierte que, aunque hacer que la IA "piense más" la hace más inteligente, también la hace más vulnerable. Si no aprendemos a ponerle un "freno de mano" a su capacidad de reflexión, un atacante podría usar estas preguntas trampa para dejar los servicios de inteligencia artificial fuera de combate, gastando cantidades masivas de electricidad y potencia de cálculo en pensamientos que no llevan a ninguna parte.

Resumen Técnico: RECUR (Ataque de Agotamiento de Recursos mediante Reflexión y Utilización Contrafactual Guiada por Entropía Recursiva)

1. El Problema: Vulnerabilidad de los Modelos de Razonamiento (LRMs)

Los Modelos de Razonamiento Grandes (LRMs), como la serie OpenAI o1 o DeepSeek-R1, utilizan procesos de "cadena de pensamiento" (Chain-of-Thought) explícitos para resolver tareas complejas. Aunque esto mejora su capacidad cognitiva, introduce una nueva superficie de ataque: el agotamiento de recursos.

Los ataques previos se centraban en inducir un "sobrepensamiento" (generación de texto largo pero no repetitivo). Sin embargo, este artículo identifica una vulnerabilidad más profunda: el bucle de pensamiento (thinking loop). Un bucle de pensamiento ocurre cuando el modelo entra en un ciclo de reflexión infinito y redundante, consumiendo una cantidad masiva de cómputo y tokens, lo que compromete la disponibilidad del servicio (DoS - Denial of Service).

2. Metodología: El Marco RECUR

Los autores introducen un nuevo concepto teórico y un método de ataque estructurado en tres fases:

A. Entropía Recursiva (Concepto Teórico):
Para cuantificar el riesgo de bucles, definen la Entropía Recursiva ( $H_r$ ). Esta se define como la relación entre la probabilidad del token actual y la entropía de la distribución predicha para el siguiente token.

Razonamiento Benigno: La entropía recursiva tiende a disminuir a medida que el modelo converge hacia una respuesta.
Bucle de Pensamiento: La entropía recursiva aumenta, lo que indica que el modelo está entrando en un ciclo de retroalimentación positiva de baja entropía donde se queda "atrapado" en sus propias reflexiones.

B. El Ataque RECUR (Tres etapas):

Construcción de Preguntas Contrafactuales: En lugar de hacer preguntas normales, el atacante crea premisas falsas (ej. "¿Por qué 1+1 es 3?"). Esto obliga al modelo a oscilar entre el hecho real y la reflexión sobre la premisa falsa, induciendo un estado de "sobre-reflexión".
Muestreo Guiado por Entropía Recursiva: Utilizando un entorno de caja blanca, el atacante no solo genera texto, sino que selecciona activamente los tokens que maximizan la entropía recursiva. Esto actúa como un catalizador que empuja al modelo desde un sobrepensamiento normal hacia un bucle de pensamiento infinito.
Recorte Basado en Coherencia (Coherence-Based Trimming): Para que el ataque sea útil en escenarios de caja negra (donde no se tienen las probabilidades de los tokens), los autores utilizan la "regla de repetición" (replay rule). Identifican los fragmentos esenciales del bucle y los comprimen en un prompt corto y eficiente que induce al modelo a repetir el mismo comportamiento.

3. Contribuciones Clave

Nuevo Indicador de Seguridad: La introducción de la Entropía Recursiva como una métrica dinámica para predecir la inestabilidad en el razonamiento de los LRMs.
Nuevo Vector de Ataque: El método RECUR, que demuestra que es posible guiar deliberadamente a un modelo hacia un estado de computación infinita.
Eficiencia del Ataque: La técnica de recorte permite que ataques complejos se conviertan en prompts breves y transferibles a modelos cerrados (como GPT o Gemini).

4. Resultados Experimentales

Los experimentos realizados en modelos de código abierto (DeepSeek, QwQ) y cerrados (o1, Gemini, Grok) arrojaron resultados impactantes:

Extensión de la salida: RECUR aumentó la longitud de la respuesta hasta 11 veces en comparación con preguntas normales.
Degradación del rendimiento: El rendimiento (throughput) de los modelos cayó aproximadamente un 90% durante los ataques.
Transferibilidad: El ataque funcionó con éxito en modelos de caja negra, logrando incluso el "colapso del razonamiento" en modelos como Gemini-2.5-flash, donde la respuesta se volvía tan larga que el servidor fallaba.
Éxito en bucles: Lograron inducir bucles de pensamiento consistentes, superando significativamente a métodos de ataque previos como GCG o Overthink.

5. Significado e Implicaciones

Este trabajo es fundamental para la seguridad de la IA de próxima generación. Revela que la capacidad de "razonamiento explícito" es un arma de doble filo: mientras permite resolver problemas difíciles, crea una vulnerabilidad estructural donde el modelo puede ser manipulado para gastar recursos de forma ilimitada. Los hallazgos sugieren que los futuros LRMs deben incluir mecanismos de control de entropía o detección de bucles para garantizar la robustez y la disponibilidad del servicio.