Risk-Aware Degraded-Mode Orchestration for Resilient Cloud–Edge AI Agents: From Containerized Fault Injection to Heterogeneous Kubernetes Validation

Imagine um mundo onde seus aplicativos favoritos não são apenas programas únicos, mas equipes de pequenos robôs invisíveis trabalhando juntos. Um robô busca as notícias, outro verifica as regras, um terceiro escreve o código e um quarto conversa com um céreção gigante (uma IA) para dar sentido a tudo. É assim que o "Cloud-Edge AI" moderno funciona: uma cadeia complexa de serviços rodando através da internet e em seus dispositivos locais. Geralmente, essas equipes são resistentes. Se um robô tropeça, os outros podem tentar novamente, esperar ou mudar para um plano de reserva. Mas aqui está o detalhe: às vezes, apenas concluir o trabalho não é o suficiente. Se o robô que verifica as regras estiver doente, a equipe não deve apenas adivinhar e continuar, porque eles podem acidentalmente quebrar algo importante ou fazer algo que não têm permissão para fazer. Este é o equilíbrio delicado entre "manter-se online" e "manter-se seguro".

Apresentamos uma nova ideia chamada DMO-AI (Orquestração de Modo Degradado para IA). Pense nisso como um guarda de trânsito superinteligente para essas equipes de robôs. Em vez de apenas dizer "continue" ou "pare tudo", este guarda olha para o trabalho específico que a equipe está realizando. É uma tarefa de baixo risco, como escrever uma história divertida? Ou é uma tarefa de alto risco, como mover dinheiro ou alterar um registro médico? Se o robô que "verifica as regras" estiver doente, o guarda pode dizer: "Ok, para a história, vamos usar um livro de regras antigo que temos à mão. Mas para a transferência de dinheiro? Absolutamente não. Pare e peça a ajuda de um humano". Este artigo testa se este guarda de trânsio inteligente e consciente do risco consegue manter mais trabalhos rodando com segurança do que as formas antigas e simplórias de lidar com falhas.

O Problema: A Armadilha do "Tudo ou Nada"

Imagine que você está dirigindo um carro autônomo. O carro precisa falar com um servidor na nuvem para saber se a estrada está segura. De repente, a conexão com o servidor fica instável. O que o carro deve fazer?

Os sistemas tradicionais geralmente têm dois modos:

1. Fail-Open (Falha Aberta): "Continue dirigindo! Talvez a estrada esteja bem." Isso é arriscado porque o carro pode bater em um muro se o servidor estivesse realmente dizendo "Pare".
2. Fail-Closed (Falha Fechada): "Pare imediatamente!" Isso é super seguro, mas significa que você ficará parado no trânsito para sempre, mesmo que a estrada esteja realmente livre e você tenha apenas tido um sinal ruim por um segundo.

O problema é que os agentes de IA (como nossas equipes de robôs) fazem muitas coisas diferentes. Algumas são de baixo risco (como resumir um artigo de notícias) e outras são de alto risco (como deletar um banco de dados). Uma regra de "tamanho único" não funciona. Se você tratar um resumo de baixo risco da mesma forma que trata uma transferência bancária de alto risco, você terá resultados inseguros ou interromperá o trabalho útil desnecessariamente.

A Solução: O Guarda de Trânsito Consciente do Risco

Os autores deste artigo, Albert Adusei Brobbey, Narayan Bhosale e Dan Bamfo, construíram um novo sistema chamado DMO-AI. Em vez de apenas verificar se a internet está funcionando, este sistema faz três perguntas antes de permitir que uma tarefa continue:

1. Qual é o risco deste trabalho? (É uma história divertida ou uma transferência bancária?)
2. O que está faltando? (O "verificador de regras" está fora do ar, ou apenas o "buscador de notícias"?)
3. O que podemos fazer em vez disso?

O sistema possui um menu de "modos degradados" (planos de reserva) que ele pode escolher:

• Normal: Tudo está funcionando.
• Modelo Local: Se o cérebro gigante da nuvem estiver fora, use um cérebro menor e mais simples no dispositivo local (mas apenas para trabalhos de baixo risco).
• Política em Cache: Se o verificador de regras estiver fora, use um livro de regras antigo, mas apenas se ele for recente o suficiente para o nível de risco.
• Somente Leitura: Se a ferramenta que altera as coisas estiver quebrada, apenas dê conselhos sem realmente alterar nada.
• Transferência (Handoff): Se for muito arriscado adivinhar, pare e peça a um humano.
• Bloqueio: Se nada seguro puder ser feito, apenas pare.

A inovação principal é que o sistema escolhe o plano de reserva certo com base no risco. Ele não permitirá que um trabalho de alto risco use um "cérebro local" só porque o da nuvem está fora do ar. Ele não permitirá que uma transferência bancária use um livro de regras antigo se o livro estiver muito desatualizado.

O Experimento: Um Circuito de Obstáculos Digital

Para ver se isso funciona, os pesquisadores construíram um grande circuito de obstáculos digital. Eles criaram um ambiente de teste com quatro serviços principais: um modelo (o cérebro), um serviço de recuperação (a memória), um serviço de política (o verificador de regras) e um serviço de ferramentas (as mãos que fazem as coisas).

Eles então usaram uma ferramenta chamada Toxiproxy para simular desastres. Eles congelavam o "cérebro", desconectavam o "verificador de regras" ou atrasavam as "mãos" de propósito. Eles rodaram essa simulação 141.000 vezes em uma única configuração de computador e depois 8.000 vezes em uma configuração mais realista com um servidor de nuvem real e um dispositivo de borda real (como um Raspberry Pi ou um pequeno servidor).

Eles compararam seu novo sistema DMO-AI com outras cinco formas comuns de lidar com falhas:

• Fail-Open: Apenas continue.
• Fail-Closed: Pare tudo.
• Orçamento de Tentativas (Retry Budget): Tente novamente algumas vezes, depois desista.
• Disjuntor (Circuit Breaker): Pare se as coisas estiverem quebradas, tente uma vez se estiverem lentas.
• Service Mesh (Malha de Serviços): Um gerenciador de tráfego de rede padrão que não conhece os riscos de IA.

Os Resultados: Segurança Sem a Placa de Pare

Os resultados foram claros e empolgantes. No grande teste com 8.000 eventos, o Service Mesh padrão (o gerenciador de tráfego que não conhece os riscos de IA) conseguiu completar tarefas com segurança apenas 64,70% das vezes. Ele permitiu que coisas inseguras acontecessem ou interrompeu muitas coisas úteis.

O novo sistema DMO-AI, no entanto, alcançou 93,95% de conclusão segura. Isso é um salto massivo de quase 29 pontos percentuais.

Aqui está o que aconteceu nos detalhes:

• Zero Resultados Inseguros: Nos testes principais, o DMO-AI teve 0,00% de resultados inseguros e 0,00% de violações de política. Ele nunca deixou um trabalho de alto risco prosseguir sem as regras corretas.
• Melhor que o "Fail-Open": O sistema "Fail-Open" completou mais tarefas no total, mas 9,67% delas foram inseguras (como escrever uma transferência bancária sem verificar as regras). O DMO-AI completou menos tarefas inseguras, mas manteu as úteis rodando.
• Melhor que o "Fail-Closed": O sistema "Fail-Closed" foi seguro, mas bloqueou 41,57% de todas as tarefas, mesmo as fáceis. O DMO-AI bloqueou apenas 1,13% das tarefas.

Os pesquisadores também testaram o que acontece se removerem a "consciência de risco" do sistema. Quando desligaram a parte que verifica se um trabalho é de alto ou baixo risco, a pontuação de segurança caiu e resultados inseguros apareceram. Isso provou que o "cérebro de risco" é a parte mais importante do sistema.

Eles também verificaram o custo. O sistema adicionou um atraso minúsculo (cerca de 19 milissegundos em média no teste do mundo real), mas este foi um preço pequeno a pagar para manter o sistema seguro e funcionando.

O Que Isso Significa

Este artigo mostra que não precisamos escolher entre "parar tudo" ou "deixar tudo acontecer". Ao ensinar o sistema a entender o risco da tarefa, podemos manter trabalhos de baixo risco rodando mesmo quando partes quebram, enquanto paramos estritamente trabalhos de alto risco de fazerem coisas perigosas.

Os autores são cuidadosos ao dizer que isso ainda não é uma solução mágica para todos os problemas do mundo. Eles testaram em um ambiente controlado com tipos específicos de falhas. Mas os resultados sugerem que, para o futuro dos agentes de IA, precisamos de um "guarda de trânsito" que saiba a diferença entre uma história divertida e uma transferência bancária, e que possa fazer escolhas inteligentes quando a internet fica instável.

Em suma: DMO-AI é uma nova maneira de manter os agentes de IA seguros e úteis, mesmo quando partes de seu cérebro ou memória ficam offline. É como ter um anjo da guarda que sabe exatamente quando dizer "vá em frente", "espere" ou "peça a um humano", garantindo que a equipe de robôs nunca se meta em problemas.