Agentic AI for Complex Decision-Making: A Systematic Critical Review of Planning, Memory, Tools, Safety and Assurance in Autonomous Systems
Esta revisão crítica sistemática de 98 fontes até junho de 2026 avalia o planejamento, a memória, as ferramentas e a segurança da IA Agêntica por meio de uma nova estrutura de ciclo fechado, revelando que a autocorreção intrínseca é pouco confiável, o planejamento de longo horizonte permanece fraco e agentes que utilizam ferramentas são vulneráveis a injeção, ao mesmo tempo em que oferece uma matriz de evidências auditável e um roteiro priorizado para o desenvolvimento futuro.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um programa de computador que não apenas responde a uma pergunta quando solicitada, mas que, em vez disso, se propõe a resolver um problema por conta própria. Ele pode observar uma situação caótica, decompô-la em etapas, lembrar o que aprendeu, usar ferramentas digitais como um navegador web ou um editor de código e até conversar com outros programas para realizar o trabalho. Esta é a promessa da inteligência artificial "agêntica". Durante anos, os computadores foram excelentes em prever a próxima palavra em uma frase ou reconhecer um rosto em uma foto, mas eram reativos; eles esperavam por um comando. A nova geração desses sistemas é proativa. Eles são projetados para agir ao longo de períodos prolongados, tomando uma sequência de decisões para atingir um objetivo, de forma muito semelhante a um ser humano ao corrigir um erro de software complexo ou planejar um experimento científico. A questão que tem motivado pesquisadores há algum tempo é se esses agentes digitais podem realmente ser confiados para realizar esse trabalho de forma confiável sem supervisão humana constante.
Uma nova e abrangente revisão do campo, publicada por pesquisadores do Instituto de Tecnologia de Vellore e da Universidade Tunku Abdul Rahman, analisa rigorosamente essa questão. Os autores não se limitaram a listar as últimas invenções ou descrever como esses sistemas são construídos. Em vez disso, atuaram como auditores, reunindo e pesando evidências de quase cem estudos publicados até meados de 2026. O objetivo deles era separar as capacidades genuínas desses agentes do exagero publicitário, verificando se os sistemas funcionam conforme o anunciado quando confrontados com tarefas difíceis e de múltiplas etapas. Eles descobriram que, embora a tecnologia esteja avançando rapidamente, existem lacunas significativas entre o que esses agentes podem fazer em um teste controlado e o que podem fazer no mundo real. A revisão sugere que a geração atual desses sistemas ainda não está pronta para o trabalho independente de alto risco, e que o caminho a seguir exige a construção de estruturas de segurança específicas, em vez de apenas esperar que os computadores se tornem mais inteligentes.
Os pesquisadores começaram organizando o cenário caótico da pesquisa de agentes em um mapa claro. Eles identificaram que esses sistemas dependem de quatro habilidades principais: planejar um curso de ação, lembrar informações ao longo do tempo, usar ferramentas externas e coordenar-se com outros agentes. Eles também observaram uma distinção crítica entre um sistema que simplesmente segue um roteiro pré-escrito e um que verdadeiramente toma suas próprias decisões. Para testar a confiabilidade desses sistemas, os autores propuseram uma estrutura padrão que inclui dois pontos de verificação de segurança que estão ausentes na maioria dos designs atuais. O primeiro ponto de verificação é uma etapa de verificação, onde um processo separado checa o plano do agente antes de sua execução. O segundo é um portão de segurança, uma barreira baseada em regras que impede o agente de realizar ações perigosas, como deletar arquivos importantes ou enviar dados privados para o lugar errado.
Quando a equipe aplicou essa estrutura aos dez sistemas de agentes mais proeminentes existentes atualmente, os resultados foram desanimadores. Nenhum dos dez sistemas implementou totalmente ambos os pontos de verificação de segurança cruciais. A maioria dos sistemas era excelente nas partes de "fazer" — gerar ideias, chamar ferramentas e avançar — mas era surpreendentemente fraca nas partes de "verificar". Eles frequentemente careciam de uma forma de verificar se seus próprios planos estavam corretos antes de agir, e raramente possuíam uma parada obrigatória para evitar erros prejudiciais. Os autores descobriram que a maquinaria para tomar ações estava muito mais desenvolvida do que a maquinaria para garantir que a ação fosse segura. Esse desequilíbrio é perigoso porque, como os pesquisadores mostraram, pequenos erros no planejamento tendem a se acumular ao longo do tempo. Se um agente comete um erro na primeira etapa de uma tarefa longa, esse erro pode gerar um efeito cascata, levando a uma falha completa ao final, mesmo que o agente pareça estar progredindo.
Uma das descobertas mais significativas diz respeito à ideia de autocorreção. Muitos desenvolvedores esperavam que esses agentes pudessem simplesmente olhar para o próprio trabalho, perceber um erro e corrigi-lo. A revisão descobriu que essa esperança é, em grande parte, equivocada. Quando um agente tenta se autocorrigir sem ajuda externa, ele frequentemente falha em notar seus próprios erros ou, pior, torna o problema ainda maior. A evidência sugere que a autocorreção só funciona de forma confiável quando o agente recebe feedback de uma fonte externa, como o resultado de um teste, um revisor humano ou uma ferramenta que confirma se uma etapa foi bem-sucedida. Sem essa voz externa, o agente é propenso a ficar preso em um ciclo de raciocínio confiante, porém incorreto.
A revisão também examinou a popular ideia de que usar múltiplos agentes trabalhando juntos é sempre melhor do que usar apenas um. Os pesquisadores descobriram que isso não é automaticamente verdadeiro. Embora equipes de agentes possam resolver problemas complexos, elas frequentemente não conseguem superar um único agente bem projetado se receberem a mesma quantidade de poder computacional. Em muitos casos, os agentes em uma equipe acabam repetindo os mesmos erros ou confundindo-se uns aos outros, um fenômeno conhecido como "alucinação de grupo". Os benefícios do trabalho em equipe só aparecem sob condições muito específicas, como quando os agentes possuem habilidades diferentes e não sobrepostas e quando seus erros não se reforçam mutuamente.
Talvez o insight mais crítico da revisão seja sobre segurança. Os autores argumentam que a segurança não pode ser algo deixado para depois ou um simples filtro adicionado ao final de um processo. Como esses agentes podem realizar ações no mundo real, a segurança deve ser integrada à própria estrutura de como eles tomam decisões. A revisão destaca que as medidas de segurança atuais, que focam em treinar o computador para recusar solicitações prejudiciais, não são suficientes. Um sistema pode ser treinado para ser educado e recusar dizer algo ruim, mas, se for então enganado por uma instrução oculta em um site que visita, poderá ainda realizar uma ação prejudicial. Os pesquisadores concluem que agentes confiáveis precisam de uma abordagem de "defesa em profundidade", onde múltiplas camadas de proteção, incluindo verificações de permissão e ambientes isolados (sandboxes), fiquem entre a decisão do agente e o mundo real.
Finalmente, a equipe analisou o quão prontos esses sistemas estão para o uso no mundo real em áreas importantes como saúde, finanças e serviços públicos. Eles descobriram que, para as áreas de maior risco, quase não há evidências de que esses agentes estejam prontos para trabalhar de forma independente. Em domínios como engenharia de software, onde os riscos são menores e os erros podem ser facilmente desfeitos, há alguma evidência de sucesso, mas mesmo lá, os sistemas enfrentam dificuldades com tarefas longas e complexas. A revisão sugere que o estado atual da tecnologia é melhor descrito como uma capacidade promissora que ainda aguarda a infraestrutura necessária para se tornar confiável. O caminho a seguir não é apenas construir modelos mais inteligentes, mas sim construir melhores sistemas de verificação, segurança e responsabilidade. Os pesquisadores propõem um roteiro para os próximos anos que prioriza essas melhorias estruturais, argumentando que, até que essas fundações estejam estabelecidas, a implementação de agentes totalmente autônomos em áreas críticas permanece arriscada demais para ser justificada.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.