The 2025 AI Agent Index: Documenting Technical and Safety Features of Deployed Agentic AI Systems
Este artigo apresenta o Índice de Agentes de IA 2025, um recurso abrangente que documenta as origens, capacidades e recursos de segurança de 30 agentes de IA de última geração para enfrentar os desafios de acompanhar um ecossistema em rápida evolução, ao mesmo tempo em que revela lacunas significativas na transparência dos desenvolvedores em relação à segurança e aos impactos sociais.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine o mundo da Inteligência Artificial como um canteiro de obras movimentado e caótico. Durante anos, temos observado os trabalhadores (os modelos de IA) aprenderem a ler plantas e a misturar cimento. Mas recentemente, algo novo chegou: Agentes de IA. Pense neles não apenas como trabalhadores, mas como mestres de obras que podem realmente pegar nas ferramentas, abrir as portas e começar a construir coisas por conta própria, com pouquíssima ajuda humana.
O problema? O canteiro de obras está crescendo tão rápido, e os mestres de obras são tão reservados, que ninguém sabe realmente quem está construindo o quê, se eles são seguros ou se estão seguindo as regras.
Este artigo, "O Índice de Agentes de IA 2025", é como uma equipe de pesquisadores colocando capacetes e caminhando pelo canteiro para fazer um inventário detalhado. Eles não apenas contaram os mestres de obras; eles tentaram espiar suas caixas de ferramentas e ler seus manuais de segurança.
Aqui está o que eles descobriram, explicado de forma simples:
1. A Lista de "Quem é Quem"
Os pesquisadores analisaram 30 dos agentes de IA mais populares e poderosos em uso atualmente. Eles não olharam apenas para chatbots que respondem perguntas; eles olharam para sistemas que podem realmente fazer coisas, como reservar voos, escrever código, gerenciar fluxos de trabalho empresariais ou navegar na web para comprar itens.
Eles classificaram esses 30 agentes em três "vizinhanças" principais:
- A Vizinhança do Chat (12 agentes): Estes são como assistentes prestativos com os quais você conversa em uma janela de chat, mas que possuem chaves especiais para abrir outros aplicativos e ferramentas.
- A Vizinhança do Navegador (5 agentes): Estes são como funcionários digitais que vivem dentro do seu navegador de internet. Eles podem clicar em botões, preencher formulários e navegar em sites exatamente como um humano faria, muitas vezes sem que você acompanhe cada passo.
- A Vizinhança Corporativa (13 agentes): Estes são os "mestres de obras construtores" para grandes empresas. São plataformas onde uma empresa pode configurar uma equipe de trabalhadores digitais para lidar com tarefas como RH, vendas ou suporte de TI automaticamente.
2. O Problema da "Caixa Preta" (Transparência)
A maior surpresa no artigo é quanta informação está faltando. Imagine que você comprou um carro, mas o fabricante se recusasse a lhe dizer:
- Como os freios funcionam.
- Se o carro foi testado contra colisões.
- O que acontece se o motor superaquecer.
- Quem é o responsável se o carro bater.
É exatamente isso que os pesquisadores encontraram com esses agentes de IA.
- Segredos de Segurança: Para cerca de 56% das perguntas de segurança que fizeram (como "Você testou isso contra hackers?"), a resposta foi "Não sabemos" ou "Não encontramos informações públicas".
- O Efeito "Lavagem de Segurança" (Safety-Washing): Algumas empresas falam muito sobre serem seguras em seu marketing, mas quando os pesquisadores procuraram pelos resultados de testes ou relatórios de segurança reais, as prateleiras estavam vazias. É como um restaurante que afirma ser o "mais saudável da cidade", mas se recusa a mostrar suas notas de inspeção de higiene.
- Crise de Identidade: A maioria desses agentes não avisa às pessoas que são robôs. Se um agente de navegador estiver navegando em um site, o site frequentemente pensa que é um usuário humano. Apenas uma minoria possui um "cartão de identidade digital" que diz: "Olá, eu sou uma IA".
3. O "Monstro de Três Cabeças" (Quem Controla o Quê?)
O artigo explica que esses agentes são construídos em camadas, como um sanduíche, e isso torna difícil saber quem está no comando.
- O Pão (O Modelo de Fundação): Este é o cérebro (como GPT, Claude ou Gemini). Apenas algumas grandes empresas fabricam esses modelos.
- O Recheio (O Construtor de Agentes): Esta é a camada intermediária (como Microsoft Copilot Studio ou Zapier) que diz ao cérebro o que fazer.
- O Pão de Cima (O Usuário/Empresa): Este é a pessoa ou empresa que está realmente utilizando o agente.
Os pesquisadores descobriram que, como essas camadas são feitas por empresas diferentes, ninguém tem o quadro completo. O fabricante do cérebro não sabe o que o construtor está fazendo, e o construtor não sabe exatamente como o usuário o está implementando. Isso cria um "jogo de culpa" se algo der errado.
4. O "Velho Oeste" na Web
O artigo destaca uma tensão importante: agentes de navegador estão quebrando as regras da internet.
Por décadas, os sites tiveram uma placa de "Proibida a Entrada" chamada robots.txt para dizer a programas de computador (crawlers) onde eles podem e onde não podem ir.
- O Jeito Antigo: Os sites dizem "Não rastrear aqui", e os robôs educados param.
- O Jeito dos Agentes: Muitos desses novos agentes são projetados para agir como humanos. Eles frequentemente ignoram as placas de "Proibida a Entrada", burlam verificações de segurança e fingem ser pessoas para realizar tarefas.
- O Resultado: Isso está causando disputas legais. Empresas como Amazon e Perplexity estão processando umas às outras sobre se um agente de IA tem o direito de comprar ou navegar em um site sem permissão.
5. A Dependência dos "Três Grandes"
Quase todos esses 30 agentes dependem de apenas três famílias de cérebros: o GPT da OpenAI, o Claude da Anthropic e o Gemini do Google.
- A Analogia: Imagine 30 marcas de carros diferentes, mas todas utilizam exatamente o mesmo motor de três fabricantes. Se um desses fabricantes de motores tiver um problema, interromper a produção ou mudar o preço, todas as 30 marcas de carros estarão em apuros. Isso cria um enorme risco de concentração.
A Conclusão
O "Índice de Agentes de IA 2025" é um retrato de uma tecnologia que cresce rapidamente e que atualmente opera no escuro.
Os pesquisadores não estão dizendo que esses agentes são "ruins", mas sim que estamos voando às cegas. Temos ferramentas poderosas que podem agir em nosso nome, mas não temos regras claras, relatórios de segurança ou verificações de identidade para elas. O artigo sugere que, se quisermos que esses agentes sejam seguros e confiáveis, os "mestres de obras" precisam começar a mostrar seu trabalho, e o "canteiro de obras" precisa de uma sinalização melhor.
Em resumo: Construímos uma frota de robôs autônomos, mas a maioria deles está dirigindo sem placas de identificação, sem inspeções de segurança e sem avisar a ninguém que são robôs.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.