The 2025 AI Agent Index: Documenting Technical and Safety Features of Deployed Agentic AI Systems
Questo documento presenta il 2025 AI Agent Index, una risorsa completa che documenta le origini, le capacità e le funzioni di sicurezza di 30 agenti IA all'avanguardia per affrontare le sfide del monitoraggio di un ecosistema in rapida evoluzione, rivelando al contempo significative lacune nella trasparenza degli sviluppatori riguardo alla sicurezza e agli impatti sociali.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate il mondo dell'Intelligenza Artificiale come un cantiere edile frenetico e caotico. Per anni abbiamo osservato gli operai (i modelli di IA) imparare a leggere i progetti e a mescolare il cemento. Ma recentemente è arrivato qualcosa di nuovo: gli Agenti IA. Pensate a loro non solo come operai, ma come capocantiere che possono effettivamente prendere in mano gli attrezzi, aprire le porte e iniziare a costruire cose da soli, con pochissimo aiuto umano.
Il problema? Il cantiere sta crescendo così velocemente e i capicantiere sono così segreti che nessuno sa davvero chi sta costruendo cosa, quanto siano sicuri o se stiano seguendo le regole.
Questo documento, "The 2025 AI Agent Index", è come una squadra di ricercatori che indossa l'elmetto e percorre il cantiere per fare un inventario dettagliato. Non si sono limitati a contare i capicantiere; hanno cercato di sbirciare nelle loro cassette degli attrezzi e di leggere i loro manuali di sicurezza.
Ecco cosa hanno scoperto, spiegato in modo semplice:
1. La lista del "Chi è Chi"
I ricercatori hanno esaminato 30 degli agenti IA più popolari e potenti attualmente in uso. Non si sono limitati ai chatbot che rispondono alle domande; hanno guardato a sistemi che possono effettivamente fare delle cose, come prenotare voli, scrivere codice, gestire flussi di lavoro aziendali o navigare sul web per acquistare articoli.
Hanno suddiviso questi 30 agenti in tre "quartieri" principali:
- Il Quartiere della Chat (12 agenti): Sono come assistenti utili con cui parli in una finestra di chat, ma hanno chiavi speciali per aprire altre app e strumenti.
- Il Quartiere del Browser (5 agenti): Sono come dipendenti digitali che vivono all'interno del tuo browser. Possono cliccare bottoni, compilare moduli e navigare sui siti web proprio come farebbe un essere umano, spesso senza che tu stia controllando ogni singolo passaggio.
- Il Quartiere Enterprise (13 agenti): Sono i "capicantiere costruttori" per le grandi aziende. Sono piattaforme dove un'azienda può configurare un team di lavoratori digitali per gestire compiti come le risorse umane, le vendite o l'assistenza IT in modo automatico.
2. Il problema della "Scatola Nera" (Trasparenza)
La sorpresa più grande del documento è quanta informazione sia mancante. Immaginate di aver comprato un'auto, ma il produttore si rifiuta di dirvi:
- Come funzionano i freni.
- Se l'auto è stata sottoposta a test di collisione.
- Cosa succede se il motore si surriscalda.
- Chi è responsabile se l'auto si scontra.
È esattamente ciò che i ricercatori hanno scoperto riguardo a questi agenti IA.
- Segreti sulla Sicurezza: Per circa il 56% delle domande sulla sicurezza che hanno posto (come "Avete testato questo sistema contro gli attacchi hacker?"), la risposta è stata "Non lo sappiamo" o "Non abbiamo trovato informazioni pubbliche".
- L'effetto "Safety-Washing": Alcune aziende parlano molto di sicurezza nel loro marketing, ma quando i ricercatori hanno cercato i risultati effettivi dei test o i rapporti di sicurezza, gli scaffali erano vuoti. È come un ristorante che sostiene di essere il "più sano della città" ma si rifiuta di mostrare i suoi punteggi di ispezione igienica.
- Crisi d'Identità: La maggior parte di questi agenti non dice alle persone che è un robot. Se un agente del browser sta navigando su un sito, il sito spesso pensa che sia un utente umano. Solo pochissimi hanno una "carta d'identità digitale" che dice: "Salve, sono un'IA".
3. Il "Mostro a Tre Teste" (Chi controlla cosa?)
Il documento spiega che questi agenti sono costruiti a strati, come un sandwich, e questo rende difficile capire chi sia al comando.
- Il Pane (Il Modello di Base): Questa è la parte cerebrale (come GPT, Claude o Gemini). Solo poche grandi aziende creano questi modelli.
- Il Ripieno (L'Agente Builder): Questo è lo strato intermedio (come Microsoft Copilot Studio o Zapier) che dice al cervello cosa fare.
- La Parte Superiore del Pane (L'Utente/Azienda): Questo è la persona o l'azienda che sta effettivamente utilizzando l'agente.
I ricercatori hanno scoperto che, poiché questi strati sono realizzati da aziende diverse, nessuno ha il quadro completo. Chi crea il cervello non sa cosa stia facendo chi crea l'agente, e chi crea l'agente non sa esattamente come l'utente lo stia utilizzando. Questo crea un "gioco del gioco del เนื่องจาก colpa" se qualcosa va storto.
4. Il "Far West" sul Web
Il documento evidenzia una tensione principale: gli agenti del browser stanno infrangendo le regole di internet.
Per decenni, i siti web hanno avuto un cartello "Vietato l'ingresso" chiamato robots.txt per dire ai programmi informatici (crawler) dove possono e non possono andare.
- Il Vecchio Modo: Un sito dice "Niente crawling qui", e i robot educati si fermano.
- Il Modo degli Agenti: Molti di questi nuovi agenti sono progettati per agire come umani. Spesso ignorano i cartelli "Vietato l'ingresso", aggirano i controlli di sicurezza e fingono di essere persone per portare a termine i compiti.
- Il Risultato: Questo sta causando battaglie legali. Aziende come Amazon e Perplexity si stanno facendo causa a vicenda per stabilire se un agente IA abbia il diritto di fare acquisti o navigare su un sito senza permesso.
5. La Dipendenza dai "Tre Grandi"
Quasi tutti questi 30 agenti si affidano a sole tre famiglie di cervelli: GPT di OpenAI, Claude di Anthropic e Gemini di Google.
- L'Analogia: Immaginate 30 marchi di auto diversi, ma che utilizzano tutti lo stesso identico motore prodotto da tre soli fabbricanti. Se uno di questi produttori di motori ha un problema, interrompe la produzione o cambia il prezzo, tutti i 30 marchi di auto sono nei guai. Questo crea un enorme rischio di concentrazione.
In sintamente
Il "2025 AI Agent Index" è l'istantanea di una tecnologia in rapida crescita che attualmente opera al buio.
I ricercatori non stanno dicendo che questi agenti siano "cattivi", ma stanno dicendo che stiamo volando alla cieca. Abbiamo strumenti potenti che possono agire per nostro conto, ma non abbiamo regole chiare, rapporti di sicurezza o controlli d'identità per loro. Il documento suggerisce che, se vogliamo che questi agenti siano sicuri e affidabili, i "capicantiere" devono iniziare a mostrare il proprio lavoro e il "cantiere" ha bisogno di una migliore segnaletica.
In breve: Abbiamo costruito una flotta di robot autonomi, ma la maggior parte di loro guida senza targa, senza ispezioni di sicurezza e senza dire a nessuno che sono robot.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.