Agentic AI: User Empowerment or Foreclosure?
Door historische precedenten zoals adblockers en spamfilters te analyseren, betoogt het artikel dat de potentie van Agentic AI om gebruikers te versterken afhangt van het voorkomen van de "depolitisering" van bestuur door door de industrie gecontroleerde standaarden, aangezien de huidige consolidatie rondom propriëtaire protocollen het risico loopt het vermogen tot collectieve contestatie af te breken voordat gebruikersgerichte alternatieven kunnen consolideren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin je computer, telefoon of een specifiek apparaat fungeert als je persoonlijke assistent, niet alleen door vragen te beantwoorden, maar door dingen voor je te doen. Het zou de nieuwsberichten die je ziet kunnen filteren, een betere prijs op een vlucht kunnen onderhandelen, of je beleggingen kunnen beheren terwijl je slaapt. Deze opkomende technologie wordt agentische kunstmatige intelligentie genoemd. De belofte is dat deze agenten in jouw belang zullen handelen, waardoor je wordt bevrijd van tedieuze taken. Maar een kritische vraag blijft: wie heeft er eigenlijk de controle over deze agenten? Als de technologie wordt gebouwd door een handvol grote bedrijven, zullen de agenten dan echt jou dienen, of zullen ze de belangen dienen van de bedrijven die hen hebben gebouwd? Om dit te beantwoorden, keken onderzoekers van de Universiteit van Michigan terug op hoe vergelijkbare technologieën in de afgelopen twee decennia zijn geëvolueerd. Ze bestudeerden vier specifieke gebieden waar software werd ontworpen om namens gebruikers te handelen: hulpmiddelen die online advertenties blokkeren, systemen die beslissen welke inhoud jij te zien krijgt op sociale media, geautomatiseerde financiële adviseurs en filters die spam e-mail tegenhouden. Door deze verschillende geschiedenissen te vergelijken, ontdekte het team een verontrustend patroon. In elk geval begon de technologie met een breed scala aan mogelijkheden voor gebruikerscontrole, maar in de loop der tijd werden de regels die bepaalden hoe deze hulpmiddelen werkten, stilletjes vastgelegd door industriestandaarden en technische ontwerpen. Dit proces, dat de auteurs depolitisering noemen, verandert politieke keuzes — wie bepaalt wat wordt geblokkeerd of aanbevolen — in schijnbaar neutrale technische feiten die niemand gemakkelijk kan aanvechten.
De onderzoekers begonnen met het onderzoeken van browsergebaseerde adblockers, hulpmiddelen waarmee gebruikers advertenties kunnen verbergen terwijl ze surfen op het web. In de begindagen waren deze hulpmiddelen flexibel. Gebruikers konden extensies installeren die en elke advertentie onderschepten en stopten die zij wilden, op basis van lijsten met regels die door open gemeenschappen werden gemaakt en bijgewerkt. Echter, naarmendeel de advertentie-industrie bezorgd was over misgelopen inkomsten, veranderden de regels. Een grote fabrikant van browsers ontwierp de onderliggende software opnieuw om de mogelijkheden van deze extensies te beperken. In plaats van extensies toe te staan om elke aanvraag te stoppen, dwongen de nieuwe regels hen om hun blokkeringsplannen vooraf te verklaren en beperkten ze het aantal regels dat ze konden gebruiken. Deze verandering werd gerechtvaardigd als een verbetering van de beveiliging, maar het praktische resultaat was dat de krachtigste ad-blocking tools werden verzwakt. De beslissing over wat als een acceptabele advertentie wordt beschouwd, lag niet langer bij de gebruiker of hun gemeenschap; het werd beslist door een industrieel groep die ook de grootste adverteerders omvatte, en de browserfabrikant handhaafde deze beslissing automatisch voor iedereen.
Een vergelijkbaar verhaal speelde zich af bij spamfilters. In het begin was het stoppen van ongewenste e-mail een gezamenlijke inspanning. Kleine groepen netwerkbeheerders deelden lijsten met bekende slechte e-mailadressen, en iedereen kon de regels inzien of ertegen protesteren. Naarmate spam een massale industriële operatie werd, verschoof de oplossing naar krachtige computerprogramma's die leerden spam te herkennen door enorme hoeveelheden gegevens te analyseren die alleen in handen waren van gigantische e-mailbedrijven. Deze nieuwe systemen waren ongelooflijk effectief in het opschonen van individuele inboxen, wat het gebruik van e-mail veel prettiger maakte. Echter, de macht om te beslissen wat spam is, verschoof volledig naar de handen van die grote bedrijven. De oude, open lijsten werden vervangen door private, black-box systemen. Het resultaat was een paradox: de gemiddelde gebruiker ontving veel minder spamberichten, maar het vermogen van het publiek of kleinere groepen om de regels van wat als spam wordt beschouwd uit te dagen of te veranderen, verdween volledig.
De studie keek ook naar geautomatiseerde financiële adviseurs en sociale media-recommandatiesystemen. In beide velden begon de technologie met het idee om diensten te personaliseren voor de gebruiker. Toch werden de regels voor hoe deze systemen werkten vastgesteld door de bedrijven die ze runden, waarbij vaak hun eigen winst boven de specifies behoeften van de gebruiker werd gesteld. Voor financiële adviseurs waren de algoritmen ontworend om standaard beleggingstheorieën te volgen, maar de specifieke keuzes over welke fondsen te bevelen, bevoordeelden vaak de eigen producten van het bedrijf. Voor sociale media leerden de systemen gebruikers inhoud te tonen die hen langer liet kijken, een doel dat vaak botste met het tonen van inhoud die werkelijk nuttig of divers was. In deze gevallen vonden de onderzoekers dat de ruimte voor gebruikers om de manier waarop de agenten zich gedroegen te beïnvloeden, nooit echt open was geweest. De infrastructuur werd door de platforms zelf gebouwd, wat betekende dat de regels al waren vastgesteld voordat gebruikers überhaupt de kans kregen om deel te nemen.
De kernbevinding van het artikel is dat verbeteringen in de individuele ervaring en het vermogen van mensen om zich te organiseren en het systeem uit te dagen, in tegengestelde richtingen kunnen bewegen. Je kunt een schonere inbox of een meer gepersonaliseerde feed hebben, terwijl je tegelijkertijd het vermogen verliest om de manier waarop die systemen werken te veranderen. De onderzoekers stellen dat dit gebeurt omdat de beslissingen over wat de agenten doen, ingebed zijn in het technische ontwerp van de systemen. Wanneer een keuze wordt gemaakt over welke gegevens worden gebruikt of voor welk doel de software moet optimaliseren, en die keuze verborgen zit in een complexe code of een gesloten industriestandaard, wordt het zeer moeilijk om die te bevragen. De auteurs noemen dit "depolitisering" omdat het de politieke aard van de beslissing wegneemt, waardoor het lijkt op een eenvoudige kwestie van technische efficiëntie in plaats van een keuze over wiens belangen worden gediend.
Nu passen de onderzoekers deze lens toe op de nieuwe golf van agentische kunstmatige intelligentie. Ze zien dezelfde patronen ontstaan. Een nieuwe set regels, bekend als het Model Context Protocol, wordt vastgesteld om te definiëren hoe deze AI-agenten met andere diensten communiceren. Dit protocol wordt beheerd door een stichting die wordt gedomineerd door de grootste technologiebedrijven. Hoewel het proces aan de oppervlakte openlijk lijkt, met openbare vergaderingen en documenten, ligt de werkelijke macht om definitieve beslissingen te nemen bij een bestuur van deze grote bedrijven. Er is geen formele manier voor gebruikersgroepen of publieke belangorganisaties om deze beslissingen uit te dagen. De onderzoekers waarschuwen dat als deze koers wordt voortgezet, de grenzen van wat deze AI-agenten kunnen doen, worden vastgesteld door insiders uit de industrie voordat de technologie zelfs volledig door het publiek wordt gebruikt. In tegen tegenstelling tot de eerdere gevallen, waar de regels zich over vele jaren verstevigden, worden deze beslissingen zeer snel genomen, binnen slechts een paar jaar na de release van de technologie.
Het artikel concludeert dat voor gebruikers werkelijke empowerment nodig is, hebben zij meer nodig dan alleen een goed gedrag vertonende AI-agent. Ze hebben een systeem nodig waarbij de regels kunnen worden uitgedaagd. Dit vereist drie dingen: het vermogen om te zien hoe het systeem werkt, toegang tot onafhankelijke technologie die niet wordt gecontroleerd door de grote bedrijven, en een formeel proces waar gebruikers kunnen protesteren tegen beslissingen die hen schaden. De onderzoekers suggereren dat we ons op een kritiek moment bevinden. De regels voor agentische AI worden op dit moment geschreven. Als we wachten tot de technologie volledig gevestigd is, zal het te laat zijn om de onderliggende structuur te veranderen. Het doel is niet alleen om betere agenten te bouwen, maar om een ecosysteem te bouwen waar de macht om te beslissen wat die agenten doen open blijft voor tegenspraak, om ervoor te zorgen dat de technologie het publiek dient in plaats van alleen de bedrijven die het hebben gebouwd.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.