Agentic AI: User Empowerment or Foreclosure?
Analizzando i precedenti storici come i blocchi pubblicitari e i filtri antispam, il saggio sostiene che il potenziale dell'IA Agente di potenziare gli utenti dipenda dalla prevenzione della "depoliticizzazione" della governance attraverso standard controllati dall'industria, poiché l'attuale consolidamento attorno a protocolli proprietari rischia di smantellare la capacità di contestazione collettiva prima che le alternative allineate agli utenti possano consolidarsi.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui il vostro computer, il vostro telefono o un dispositivo dedicato agisca come il vostro assistente personale, non solo rispondendo a domande, ma facendo cose per voi. Potrebbe filtrare le notizie che vedete, negoziare un prezzo migliore per un volo o gestire i vostri investimenti mentre dormite. Questa tecnologia emergente è chiamata intelligenza artificiale agentica. La promessa è che questi agenti agiranno nel vostro migliore interesse, liberandovi dai compiti noiosi. Ma una domanda critica rimane: chi controlla realmente questi agenti? Se la tecnologia è costruita da poche grandi aziende, gli agenti serviranno davvero voi, o serviranno gli interessi delle aziende che li hanno creati? Per rispondere a questo, i ricercatori dell'Università del Michigan sono tornati indietro a osservare come tecnologie simili si siano evolute negli ultimi due decenni. Hanno studiato quattro aree specifiche in cui il software è stato progettato per agire per conto degli utenti: strumenti per bloccare la pubblicità online, sistemi che decidono quale contenuto vedete sui social media, consulenti finanziari automatizzati e filtri che bloccano lo spam nelle email. Confrontando queste diverse storie, il team ha scoperto un modello preoccupante. In ogni caso, la tecnologia è iniziata con una vasta gamma di possibilità di controllo per l'utente, ma nel tempo, le regole che governano il funzionamento di questi strumenti sono state silenziosamente bloccate da standard di settore e progettazioni tecniche. Questo processo, che gli autori chiamano depoliticizzazione, trasforma le scelte politiche — chi decide cosa viene bloccato o raccomandato — in fatti tecnici apparentemente neutrali che nessuno può facilmente contestare.
I ricercatori hanno iniziato esaminando i blocchi pubblicitari basati su browser, strumenti che permettono agli utenti di nascondere le pubblicità durante la navigazione sul web. Nei primi tempi, questi strumenti erano flessibili. Gli utenti potevano installare estensioni che intercettavano e bloccavano qualsiasi annuncio volessero, basandosi su liste di regole create e aggiornate da comunità aperte. Tuttavia, con la crescita dell'industria pubblicitaria e la relativa preoccupazione per la perdita di entrate, le regole sono cambiate. Un importante produttore di browser ha riprogettato il proprio software sottostante per limitare ciò che queste estensioni potevano fare. Invece di consentire alle estensioni di bloccare qualsiasi richiesta, le nuove regole le hanno costrette a dichiarare in anticipo i propri piani di blocco e hanno limitato il numero di regole che potevano utilizzare. Questo cambiamento è stato giustificato come un miglioramento della sicurezza, ma il risultato pratico è stato che gli strumenti di ad-blocking più potenti sono stati indeboliti. La decisione di cosa costituisca una pubblicità accettabile non era più in mano all'utente o alla sua comunità; era stata stabilita da un gruppo di settore che includeva i maggiori venditori di pubblicità, e il produttore del browser ha imposto questa decisione automaticamente per tutti.
Una storia simile si è svolta con i filtri antispam. All'inizio, fermare le email indesiderate era uno sforzo collaborativo. Piccoli gruppi di amministratori di rete condividevano liste di indirizzi email noti come malevoli, e chiunque poteva vedere le regole o contestarle. Man mano che lo spam è diventato un'operazione industriale massiccia, la soluzione si è spostata verso programmi informatici potenti che imparavano a individuare lo spam analizzando enormi quantità di dati detenuti solo da giganti del settore email. Questi nuovi sistemi erano incredibilmente efficaci nel pulire le singole caselle di posta, rendendo l'uso dell'email molto più piacevole. Tuttavia, il potere di decidere cosa fosse spam si è spostato interamente nelle mani di queste grandi aziende. Le vecchie liste aperte sono state sostituite da sistemi privati a "scatola nera". Il risultato è stato un paradosso: l'utente medio riceveva molti meno messaggi di spam, ma la capacità del pubblico o di gruppi più piccoli di contestare o cambiare le regole di ciò che conta come spam è scomparsa completamente.
Lo studio ha esaminato anche i consulenti finanziari automatizzati e i sistemi di raccomandazione dei social media. In entrambi i campi, la tecnologia è partita con l'idea di personalizzare i servizi per l'utente. Eppure, le regole su come funzionavano questi sistemi sono state stabilite dalle aziende che li gestivano, spesso dando priorità al proprio profitto rispetto ai bisogni specifici dell'utente. Per i consulenti finanziari, gli algoritmi sono stati progettati per seguire teorie di investimento standard, ma le scelte specifiche su quali fondi raccomandare hanno spesso favorito i prodotti della società stessa. Per i social media, i sistemi hanno imparato a mostrare agli utenti contenuti che li tenessero connessi più a lungo, un obiettivo che spesso contrastava con la visualizzazione di contenuti che fossero veramente utili o diversificati. In questi casi, i ricercatori hanno scoperto che lo spazio per influenzare il comportamento degli agenti non era mai stato realmente aperto fin dall'inizio. L'infrastruttura era stata costruita dalle piattaforme stesse, il che significa che le regole erano state stabilite prima ancora che l'utente avesse la possibilità di partecipare.
La scoperta fondamentale del documento è che il miglioramento dell'esperienza individuale e la capacità delle persone di organizzarsi e contestare il sistema possono muoversi in direzioni opposte. Si può avere una casella di posta più pulita o un feed più personalizzato pur perdendo contemporaneamente il potere di cambiare il modo in cui tali sistemi funzionano. I ricercatori sostengono che ciò accade perché le decisioni su ciò che fanno gli agenti sono incorporate nel design tecnico dei sistemi. Quando una scelta viene fatta su quali dati utilizzare o per quale obiettivo il software debba ottimizzarsi, e quella scelta è nascosta all'interno di un codice complesso o di uno standard di settore chiuso, diventa molto difficile da mettere in discussione. Gli autori chiamano questo processo "depoliticizzazione" perché rimuove la natura politica della decisione, facendola apparire come una semplice questione di efficienza ingegneristica piuttosto che una scelta su quali interessi debbano essere serviti.
Ora, i ricercatori stanno applicando questa lente alla nuova ondata di intelligenza artificiale agentica. Vedono gli stessi modelli formarsi. Un nuovo insieme di regole, noto come Model Context Protocol, viene stabilito per definire come questi agenti IA comunichino con altri servizi. Questo protocollo è gestito da una fondazione dominata dalle più grandi aziende tecnologiche. Sebbene il processo appaia aperto in superficie, con riunioni e documenti pubblici, il potere effettivo di prendere le decisioni finali risiede in un consiglio di amministrazione composto da queste grandi aziende. Non esiste un modo formale affinché i gruppi di utenti o le organizzazioni di interesse pubblico possano contestare tali decisioni. I ricercatori avvertono che, se questa traiettoria continua, i confini di ciò che questi agenti IA possono fare saranno stabiliti dagli insider del settore prima ancora che la tecnologia sia pienamente utilizzata dal pubblico. A differenza dei casi passati in cui le regole si sono indurite nel corso di molti anni, queste decisioni vengono prese molto rapidamente, entro soli un paio d'anni dal rilascio della tecnologia.
Il documento conclude che, affinché gli utenti siano veramente responsabilizzati, hanno bisogno di qualcosa di più di un agente IA ben educato. Hanno bisogno di un sistema in cui le regole possano essere contestate. Ciò richiede tre cose: la capacità di vedere come funziona il sistema, l'accesso a una tecnologia indipendente che non sia controllata dalle grandi aziende e un processo formale in cui gli utenti possano argomentare contro le decisioni che li danneggiano. I ricercatori suggeriscono che ci troviamo in un momento critico. Le regole per l'IA agentica vengono scritte proprio ora. Se aspettiamo che la tecnologia sia pienamente stabilita, sarà troppo tardi per cambiare la struttura sottostante. L'obiettivo non è solo costruire agenti migliori, ma costruire un ecosistema in cui il potere di decidere cosa fanno quegli agenti rimanga aperto alla contestazione, garantendo che la tecnologia serva il pubblico e non solo le aziende che l'hanno creata.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.