🤖 AI

RECUR: Resource Exhaustion Attack via Recursive-Entropy Guided Counterfactual Utilization and Reflection

Este artigo apresenta o RECUR, um novo ataque de exaustão de recursos que utiliza a "Entropia Recursiva" para explorar falhas no processo de reflexão de Grandes Modelos de Raciocínio (LRMs), aumentando drasticamente o consumo de processamento e reduzindo a eficiência do sistema.

Autores originais: Ziwei Wang, Yuanhe Zhang, Jing Chen, Zhenhong Zhou, Ruichao Liang, Ruiying Du, Ju Jia, Cong Wu, Yang Liu

Publicado 2026-02-10

📖 3 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Ziwei Wang, Yuanhe Zhang, Jing Chen, Zhenhong Zhou, Ruichao Liang, Ruiying Du, Ju Jia, Cong Wu, Yang Liu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Ataque do "Pensamento Infinito": Entendendo o RECUR

Imagine que você contratou um assistente muito inteligente para resolver problemas de matemática. Ele não apenas dá a resposta, mas ele "pensa alto", escrevendo todo o raciocínio no papel antes de te entregar o resultado final. Esse é o funcionamento dos novos modelos de IA de raciocínio (chamados de LRMs).

O problema é que esse "pensar alto" gasta energia, tempo e processamento. O artigo que acabamos de ler descreve uma forma de "hackear" esse processo, fazendo a IA entrar em um loop de pensamento infinito.

1. A Analogia do "E se...?" (O Problema das Perguntas Contrafatuais)

Imagine que você pergunta ao seu assistente: "Quanto é 1 + 1?". Ele responde rapidamente: "É 2".

Mas, em vez de aceitar, você começa a plantar sementes de dúvida: "Mas e se o 1 não for 1? E se o resultado for 3? Por que você tem tanta certeza de que é 2? Vamos analisar todas as possibilidades de por que 1+1 poderia ser algo diferente...".

Isso é o que os pesquisadores chamam de Perguntas Contrafatuais. Eles criam perguntas que desafiam a lógica básica para forçar a IA a começar a "refletir demais" (o chamado over-reflection).

2. A Entropia Recursiva: O "Termômetro do Labirinto"

Como saber se a IA está prestes a se perder em um pensamento sem fim? Os pesquisadores criaram uma métrica chamada Entropia Recursiva.

Pense nisso como um termômetro de confusão:

Raciocínio Normal: É como uma pessoa caminhando em uma linha reta em direção a uma saída. A cada passo, ela tem mais certeza de onde está. A "confusão" (entropia) diminui.
O Loop de Pensamento: É como alguém que entrou em um labirinto e começou a andar em círculos. A cada volta, a pessoa fica mais perdida e o caminho parece cada vez mais incerto. A "confusão" (entropia) aumenta.

O ataque RECUR usa esse termômetro para guiar a IA. Quando os pesquisadores percebem que a IA está começando a andar em círculos, eles usam técnicas para "empurrar" a IA justamente para o caminho onde a confusão aumenta, garantindo que ela não consiga sair do loop.

3. O Ataque: O "Cansaço do Assistente" (Exaustão de Recursos)

O objetivo final desse ataque não é fazer a IA dar uma resposta errada, mas sim fazer com que ela nunca pare de pensar.

Se o seu assistente ficar escrevendo páginas e páginas de raciocínio sem nunca chegar a uma conclusão, ele vai:

Gastar todo o seu papel (memória).
Demorar horas para te dar uma resposta (latência).
Ficar tão ocupado pensando em bobagem que não consegue atender mais nenhum outro cliente (queda de produtividade/throughput).

Os testes mostraram que esse ataque pode fazer a IA escrever 11 vezes mais do que o normal e reduzir a capacidade de atendimento do sistema em 90%. É como se um único cliente entrasse em uma loja e começasse a fazer perguntas tão complexas e circulares que a loja inteira parasse de funcionar para atendê-lo.

Resumo da Ópera

O artigo revela que, quanto mais "inteligentes" e "reflexivas" as IAs se tornam, mais vulneráveis elas ficam a esse tipo de "armadilha mental". O desafio para o futuro é criar IAs que saibam quando parar de refletir e quando dizer: "Pare! Eu já entendi, isso é um círculo vicioso e não vou perder mais tempo com isso".

Resumo Técnico: RECUR – Ataque de Exaustão de Recursos via Reflexão e Utilização Contrafactual Guiada por Entropia Recursiva

1. O Problema: Vulnerabilidade de Exaustão de Recursos em LRMs

Os Modelos de Raciocínio de Grande Escala (LRMs), como o OpenAI o1 ou o DeepSeek-R1, utilizam cadeias de pensamento (Chain-of-Thought - CoT) explícitas para resolver tarefas complexas. Embora isso aumente a capacidade de raciocínio, o processo de gerar tokens de pensamento estende o comprimento do contexto e consome recursos computacionais significativos.

O artigo identifica uma vulnerabilidade crítica: o processo de reflexão do modelo pode ser manipulado para entrar em "loops de pensamento" (thinking loops). Diferente de ataques de exaustão anteriores que focavam apenas em tornar as perguntas difíceis ou suprimir tokens de fim de sequência (EOS), este trabalho foca na vulnerabilidade inerente ao mecanismo de autorreflexão do modelo, que pode levar a um consumo excessivo e descontrolado de computação, comprometendo a disponibilidade do serviço.

2. Metodologia: O Framework RECUR

A principal inovação é a introdução do conceito de Entropia Recursiva ( $H_r$ ), uma métrica que quantifica o risco de consumo de recursos durante a reflexão. Ela é definida como a razão entre a probabilidade de um token gerado e a entropia da distribuição prevista para o próximo token.

Tendência Benigna: Em um raciocínio normal, a entropia recursiva tende a diminuir à medida que o modelo converge para uma resposta.
Tendência de Ataque: Se a entropia recursiva aumentar, o modelo está entrando em um ciclo de feedback positivo de baixa entropia, caracterizando um loop de pensamento.

O ataque RECUR é composto por três etapas principais:

Construção de Perguntas Contrafactuais: O atacante cria perguntas que desafiam fatos conhecidos (ex: "Por que 1+1=3?"). Isso força o modelo a oscilar entre o raciocínio factual e a reflexão contrafactual, induzindo um estado de "sobre-reflexão" (over-reflection).
Amostragem Guiada por Entropia Recursiva: Utilizando um cenário de "caixa branca", o método utiliza a métrica $H_r$ para guiar a geração de tokens. Em vez de seguir a probabilidade padrão, o algoritmo seleciona tokens que maximizam a entropia recursiva, "empurrando" o modelo deliberadamente para dentro de um loop de pensamento estável.
Poda Baseada em Coerência (Coherence-Based Trimming): Para tornar o ataque prático em cenários de "caixa preta" (onde não se tem acesso às probabilidades dos tokens), os autores utilizam a "regra de replay". Eles identificam os trechos essenciais do loop de pensamento e os transformam em um prompt curto e eficiente. Ao reenviar esse fragmento, o modelo tende a "reproduzir" o comportamento de loop.

3. Principais Contribuições

Novo Conceito Teórico: A definição e o uso da Entropia Recursiva para diagnosticar e prever a transição de um raciocínio normal para um loop de pensamento infinito.
Novo Método de Ataque (RECUR): Um framework que utiliza perguntas contrafactuais e amostragem otimizada para induzir exaustão de recursos.
Eficiência de Ataque: A técnica de poda permite que ataques complexos sejam comprimidos em prompts curtos e transferíveis para modelos proprietários (caixa preta).

4. Resultados Experimentais

Os testes foram realizados em modelos de código aberto (DeepSeek-R1, QwQ-32B) e modelos fechados (GPT-o1, Gemini-2.5-flash, Grok-4).

Comprimento de Saída: O RECUR aumentou o comprimento da saída em até 11 vezes em comparação com perguntas normais. Em modelos como o Gemini, o ataque chegou a gerar mais de 64.000 tokens, causando o colapso da resposta.
Impacto no Sistema (Throughput): Em testes locais, o ataque reduziu o throughput (capacidade de processamento de tokens por segundo) dos modelos em aproximadamente 90%.
Transferibilidade: O ataque demonstrou ser altamente eficaz mesmo em modelos de "caixa preta", provando que a vulnerabilidade não é específica de uma arquitetura, mas um problema sistêmico do paradigma de raciocínio explícito.

5. Significância e Implicações

Este trabalho é fundamental para a segurança de IA porque revela que a robustez dos LRMs não depende apenas da precisão da resposta, mas da estabilidade do processo de inferência. Ele demonstra que o mecanismo de reflexão, projetado para melhorar a inteligência, é o mesmo vetor que pode ser usado para paralisar sistemas de IA através do desperdício de recursos computacionais. Os resultados oferecem uma nova perspectiva para desenvolvedores criarem mecanismos de controle e interrupção de raciocínios redundantes ou infinitos.