Trustworthy Agentic AI: A Rapid, PRISMA-Informed Evidence Review of Safety, Explainability, Alignment, and Human Oversight in Autonomous AI Systems

Resumo Técnico: IA Agêntica Confiável

Problema
A inteligência artificial agêntica representa uma mudança de paradigma dos modelos preditivos passivos para sistemas autônomos capazes de interpretar objetivos, decompor tarefas, recuperar evidências externas, invocar ferramentas e executar fluxos de trabalho de múltiplas etapas. Diferente da IA convencional, onde as falhas são tipicamente limitadas à saída do modelo, as falhas da IA agêntica podem se propagar através do planejamento, da invocação de ferramentas e do suporte à decisão no mundo real, levando a ações irreversíveis, vazamento de dados ou execução maliciosa. A literatura existente sobre IA agêntica confiável está fragmentada em domínios como agentes de Grandes Modelos de Linguagem (LLM), sistemas multiagentes, IA explicável (XAI), alinhamento e geração aumentada por recuperação (RAG). Essa fragmentação cria uma falta de orientação consolidada para integrar segurança, explicabilidade, alinhamento, equidade e supervisão humana em cadeias de decisão-ação autônomas. Além disso, o campo está evoluindo rapidamente, com um volume significativo de revisões sistemáticas relacionadas publicadas em 2026, necessitando de uma revisão estruturada e oportuna para esclarecer o estado atual da arte e identificar lacunas específicas.

Metodologia
Este estudo emprega um protocolo de revisão de evidências rápido, baseado no método PRISMA. A metodologia é explicitamente distinguida de uma revisão sistemática de literatura exaustiva de múltiplos bancos de dados; utiliza uma estratégia de busca assistida por IA com um único revisor, suplementada por rastreamento de citações (citation chaining).

• Corpus: A revisão analisa um corpus primário de 33 estudos únicos publicados entre 2022 e 2026. Esses estudos foram selecionados com base no idioma inglês, data de publicação e relevância para arquiteturas de IA agêntica e dimensões de confiabilidade (segurança, explicabilidade, alinhamento, equidade, privacidade, segurança cibernética, transparência, supervisão, avaliação e governança).
• Avaliação de Qualidade: Uma rubrica de avaliação de qualidade de sete itens foi aplicada a cada estudo, pontuando clareza objetiva, relevância agêntica, foco em confiabilidade, contribuição metodológica, limitações, credibilidade da fonte e relevância direta em uma escala de 0 a 2 por item (pontuação máxima de 14).
• Síntese: A revisão combina síntese quantitativa (tendências de publicação, tipos de fontes, pontuações de qualidade e cobertura de dimensões) com síntese temática qualitativa de padrões arquitetônicos e riscos de confiança.
• Posicionamento: A taxonomia proposta é explicitamente comparada contra quinze frameworks acadêmicos, industriais e regulatórios existentes (2023–2026), incluindo quatro levantamentos sistemáticos publicados em 2026, para delinear contribuições específicas.

Principais Contribuições

1. Taxonomia T-SAFE: O artigo propõe a taxonomia T-SAFE, organizando a IA agêntica confiável em torno de cinco dimensões: Transparência, Segurança (Safety), Alinhamento, Equidade (Fairness) e Explicabilidade. Esta taxonomia é empiricamente motivada pelo achado de que a "Equidade" não recebe tratamento primário no corpus revisado, enquanto a "Segurança" predomina (52% dos estudos).
2. Framework em Camadas: Um framework de IA agêntica confiável em camadas é introduzido, vinculando interação com o ambiente, memória, recuperação, uso de ferramentas, raciocínio, controles de confiança, governança e supervisão humana. Este framework mapeia as dimensões T-SAFE para componentes arquitetônicos específicos.
3. Evidência Quantitativa: A revisão fornece dados quantitativos sobre o estado do campo, revelando que 73% do corpus primário foi publicado em 2025 ou 2026, e que os preprints do arXiv constituem a maior categoria de fonte (42%).
4. Identificação de Lacunas: O estudo identifica lacunas críticas, incluindo a falta de benchmarks padronizados de segurança de agentes, explicabilidade insuficiente para o uso de ferramentas, riscos de segurança em agentes habilitados por RAG e a ausência de monitoramento de alinhamento de ciclo de vida.

Resultos e Síntese Temática

• Padrões Arquitetônicos: A revisão identifica seis padrões primários: agentes únicos baseados em LLM, agentes aumentados por ferramentas, agentes habilitados por RAG, sistemas multiagentes, WebAgents e agentes autoevolutivos. Cada padrão introduz riscos de confiança distintos, como planejamento alucinado, chamadas de ferramentas inseguras, injeção de prompt e erros em cascata na coordenação multiagente.
• Riscos de Confiabilidade: Os principais riscos identificados incluem alucinação (conteúdo incorreto tornando-se um plano), uso inseguro de ferramentas, injeção de prompt, explicabilidade fraca (falta de justificativa para seleção de ferramentas), desalinhamento com a intenção do usuário e supervisão humana insuficiente.
• Cobertura de Dimensões: A análise quantitativa dos 33 estudos mostra um forte desvio para Segurança (52%), seguido por Alinhamento e Explicabilidade (15% cada), e Transparência (12%). Notavelmente, a Equidade não foi o foco primário de nenhum estudo no corpus, destacando uma lacuna de pesquisa significativa.
• Fragmentação de Benchmarks: A revisão observa que os benchmarks de segurança existentes (ex: Agent-SafetyBench, R-Judge, SafetyBench) avaliam diferentes construtos (segurança ao nível da tarefa vs. consciência de risco vs. conhecimento estático) com baixa concordância entre benchmarks, levando a conclusões de segurança inconsistentes.
• Posicionamento Comparativo: Quando posicionada contra 15 frameworks existentes, a taxonomia T-SAFE se distingue por sua combinação de uma taxonomia de avaliação de cinco dimensões, mapeamento explícito para uma arquitetura técnica em camadas, aplicabilidade em pesquisa e política sem estreitamento setorial, e fundamentação em evidências quantitativas do corpus.

Significância e Alegações
O artigo posiciona-se como uma revisão rápida de evidências, e não uma revisão sistemática exaustiva, reconhecendo limitações como o viés de revisor único e a natureza evolutiva da terminologia de busca. Sua principal significância reside em:

• Motivação Empírica: Fornecer evidência baseada em dados de que a pesquisa atual enfatiza desproporcionalmente a segurança e a proteção cibernética enquanto negligencia a equidade, justificando assim a inclusão da Equidade como uma dimensão de primeira classe na taxonomia T-SAFE.
• Clareza Estrutural: Oferecer um framework unificado que conecta camadas técnicas arquitetônicas (ex: recuperação, uso de ferramentas) com dimensões de confiança avaliativas, abordando a fragmentação na literatura atual.
• Agenda de Pesquisa: Recomendar explicitamente direções futuras, incluindo o desenvolvimento de benchmarks padronizados de segurança de agentes, mecanismos de uso de ferramentas explicáveis, fluxos de trabalho RAG seguros, monitoramento de alinhamento de ciclo de vida e estruturas de governança de comando humano.
• Chamada para Replicação: O autor recomenda explicitamente a replicação formal em múltiplos bancos de dados desta revisão como o próximo passo necessário para transitar de uma revisão rápida de evidências para uma revisão sistemática de literatura abrangente e reprodutível.

O artigo conclui que transformar a IA agêntica de protótipos experimentais em sistemas confiáveis, explicáveis, justos e responsáveis requer abordar as lacunas identificadas através de avaliação padronizada, governança robusta e um foco equilibrado em todas as cinco dimensões T-SAFE.