Agentic AI: User Empowerment or Foreclosure?
Durch die Analyse historischer Präzedenzfälle wie Werbeblockern und Spam-Filtern argumentiert das Papier, dass das Potenzial der agentischen KI zur Stärkung der Nutzer davon abhängt, eine „Depolitisierung“ der Governance durch industriekontrollierte Standards zu verhindern, da die derzeitige Konsolidierung um proprietäre Protokolle das Risiko birgt, die kollektive Fähigkeit zum Widerspruch abzubauen, bevor sich nutzerorientierte Alternativen festigen können.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Ihr Computer, Ihr Telefon oder ein spezielles Gerät als Ihr persönlicher Assistent fungiert – nicht nur, indem es Fragen beantwortet, sondern indem es Dinge für Sie erledigt. Es könnte die Nachrichten filtern, die Sie sehen, einen besseren Preis für einen Flug aushandeln oder Ihre Investitionen verwalten, während Sie schlafen. Diese aufkommende Technologie wird agentische Künstliche Intelligenz genannt. Das Versprechen ist, dass diese Agenten in Ihrem besten Interesse handeln und Sie von mühsamen Aufgaben befreien werden. Doch eine kritische Frage bleibt: Wer kontrolliert diese Agenten tatsächlich? Wenn die Technologie von einigen wenigen großen Unternehmen entwickelt wird, werden die Agenten dann wirklich Ihnen dienen oder den Interessen der Unternehmen dienen, die sie gebaut haben? Um dies zu beantworten, blickten Forscher der University of Michigan darauf zurück, wie sich ähnliche Technologien in den letzten zwei Jahrzehnten entwickelt haben. Sie untersuchten vier spezifische Bereiche, in denen Software so konzipiert wurde, dass sie im Namen von Nutzern handelt: Werkzeuge, die Online-Werbung blockieren, Systeme, die entscheiden, welche Inhalte Sie in sozialen Medien sehen, automatisierte Finanzberater und Filter, die Spam-E-Mails stoppen. Durch den Vergleich dieser unterschiedlichen Entwicklungen entdeckte das Team ein beunruhigendes Muster. In jedem Fall begann die Technologie mit einer breiten Palette an Möglichkeiten zur Nutzerkontrolle, doch im Laufe der Zeit wurden die Regeln, die das Verhalten dieser Werkzeuge steuerten, durch Industriestandards und technische Designs still und leise festgeschrieben. Dieser Prozess, den die Autoren als Depolitisierung bezeichnen, verwandelt politische Entscheidungen – wer entscheidet, was blockiert oder empfohlen wird – in scheinbar neutrale technische Fakten, die niemand leicht anfechten kann.
Die Forscher begannen mit der Untersuchung von browserbasierter Ad-Blocker, Werkzeugen, die es Nutzern ermöglichen, Werbung beim Surfen im Web auszublenden. In der Anfangszeit waren diese Werkzeuge flexibel. Nutzer konnten Erweiterungen installieren, die jede gewünschte Werbung abfangen und stoppen konnten, basierend auf Listen von Regeln, die von offenen Gemeinschaften erstellt und aktualisiert wurden. Als die Werbeindustrie jedoch besorgt über entgangene Einnahmen wurde, änderten sich die Regeln. Ein bedeutender Browserhersteller gestaltete die zugrunde liegende Software um, um die Möglichkeiten dieser Erweiterungen einzuschränken. Anstatt den Erweiterungen zu erlauben, jede Anfrage zu stoppen, zwangen die neuen Regeln sie dazu, ihre Blockierungspläne im Voraus zu deklarieren und begrenzten die Anzahl der Regeln, die sie verwenden durften. Diese Änderung wurde als Sicherheitsverbesserung gerechtfertigt, aber das praktische Ergebnis war, dass die leistungsfähigsten Ad-Blocking-Tools geschwächt wurden. Die Entscheidung darüber, was als akzeptable Werbung gilt, lag nicht mehr beim Nutzer oder seiner Gemeinschaft; sie wurde durch eine Industriegruppe entschieden, die auch die größten Werbeverkaufskontakte umfasste, und der Browserhersteller setzte diese Entscheidung automatisch für alle durch.
Eine ähnliche Geschichte entfaltete sich bei Spam-Filtern. Zu Beginn war das Stoppen unerwünschter E-Mails eine gemeinschaftliche Anstrengung. Kleine Gruppen von Netzwerkadministratoren teilten Listen bekannter schlechter E-Mail-Adressen, und jeder konnte die Regeln einsehen oder dagegen argumentieren. Als Spam zu einer massiven industriellen Operation wurde, verschob sich die Lösung hin zu leistungsstarken Computerprogrammen, die lernten, Spam durch die Analyse riesiger Datenmengen zu erkennen, die nur große E-Mail-Unternehmen besaßen. Diese neuen Systeme waren unglaublich effektiv darin, einzelne Postfächer zu bereinigen, was den E-Mail-Verkehr viel angenehmer machte. Jedoch wanderte die Macht zu entscheiden, was Spam ist, vollständig in die Hände dieser großen Unternehmen. Die alten, offenen Listen wurden durch private Blackbox-Systeme ersetzt. Das Ergebnis war ein Paradoxon: Der Durchschnittsnutzer erhielt zwar weit weniger Spam-Nachrichten, aber die Fähigkeit des öffentlichen Raums oder kleinerer Gruppen, die Regeln dessen, was als Spam gilt, anzufechten oder zu ändern, verschwand vollständig.
Die Studie untersuchte auch automatisierte Finanzberater und Social-Media-Empfehlungssysteme. In beiden Bereichen begann die Technologie mit der Idee, Dienste für den Nutzer zu personalisieren. Doch die Regeln dafür, wie diese Systeme funktionierten, wurden von den Unternehmen festgelegt, die sie betrieben, wobei oft deren eigener Profit über die spezifischen Bedürfnisse des Nutzers gestellt wurde. Bei Finanzberatern wurden die Algorithmen so konzipiert, dass sie gängigen Investmenttheorien folgten, aber die spezifischen Entscheidungen darüber, welche Fonds empfohlen wurden, begünstigten oft die eigenen Produkte des Unternehmens. Bei sozialen Medien lernten die Systeme, Nutzern Inhalte zu zeigen, die sie länger zum Zuschauen bewegten – ein Ziel, das oft im Konflikt mit der Anzeige von wirklich nützlichen oder vielfältigen Inhalten stand. In diesen Fällen fanden die Forscher heraus, dass der Raum für Nutzer, das Verhalten der Agenten zu beeinflen, nie wirklich offen war. Die Infrastruktur wurde von den Plattformen selbst gebaut, was bedeutete, dass die Regeln festgelegt wurden, bevor die Nutzer überhaupt die Chance zur Teilnahme hatten.
Die Kernerkenntnis der Arbeit ist, dass sich die Verbesserung der individuellen Erfahrung und die Fähigkeit der Menschen, das System zu organisieren und anzufechten, in entgegengesetzte Richtungen bewegen können. Man kann ein saubereres Postfach oder einen personalisierteren Feed haben und gleichzeitig die Macht verlieren, wie diese Systeme funktionieren. Die Forscher argumentieren, dass dies geschieht, weil die Entscheidungen darüber, was die Agenten tun, in das technische Design der Systeme eingebettet sind. Wenn eine Entscheidung darüber getroffen wird, welche Daten verwendet werden oder für welches Ziel die Software optimiert werden soll, und diese Entscheidung in einem komplexen Code oder einem geschlossenen Industriestandard verborgen ist, wird es sehr schwer, sie infrage zu stellen. Die Autoren nennen dies „Depolitisierung“, weil es die politische Natur der Entscheidung aufhebt und es wie eine einfache Frage der technischen Effizienz aussehen lässt, anstatt wie eine Entscheidung darüber, deren Interessen bedient werden.
Nun wenden die Forscher diese Perspektive auf die neue Welle der agentischen Künstlichen Intelligenz an. Sie sehen, dass sich dieselben Muster bilden. Ein neuer Satz von Regeln, bekannt als Model Context Protocol, wird etabliert, um zu definieren, wie diese KI-Agenten mit anderen Diensten kommunizieren. Dieses Protokoll wird von einer Foundation verwaltet, die von den größten Technologieunternehmen dominiert wird. Obwohl der Prozess an der Oberfläche offen erscheint, mit öffentlichen Treffen und Dokumenten, liegt die tatsächliche Macht, endgültige Entscheidungen zu treffen, bei einem Vorstand dieser großen Unternehmen. Es gibt keinen formalen Weg für Nutzergruppen oder Organisationen des öffentlichen Interesses, diese Entscheidungen anzufechten. Die Forscher warnen davor, dass, wenn dieser Kurs anhält, die Grenzen dessen, was diese KI-Agenten können, von Brancheninsidern festgelegt werden, noch bevor die Technologie von der Öffentlichkeit voll genutzt wird. Im Gegensatz zu den vergangenen Fällen, in denen sich die Regeln über viele Jahre verfestigten, werden diese Entscheidungen sehr schnell getroffen, innerhalb von nur zwei Jahren nach der Veröffentlichung der Technologie.
Das Papier kommt zu dem Schluss, dass Nutzer für echte Selbstbestimmung mehr als nur einen gut funktionierenden KI-Agenten benötigen. Sie brauchen ein System, in dem die Regeln angefochten werden können. Dies erfordert drei Dinge: die Fähigkeit zu sehen, wie das System funktioniert, Zugang zu unabhängiger Technologie, die nicht von den großen Unternehmen kontrolliert wird, und einen formalen Prozess, in dem Nutzer gegen Entscheidungen argumentieren können, die ihnen schaden. Die Forscher legen nahe, dass wir uns an einem kritischen Moment befinden. Die Regeln für agentische KI werden genau jetzt geschrieben. Wenn wir warten, bis die Technologie vollständig etabliert ist, wird es zu spät sein, die zugrunde liegende Struktur zu ändern. Das Ziel ist nicht nur, bessere Agenten zu bauen, sondern ein Ökosystem zu schaffen, in dem die Macht zu entscheiden, was diese Agenten tun, offen für Kontestation bleibt, um sicherzustellen, dass die Technologie der Öffentlichkeit dient und nicht nur den Unternehmen, die sie gebaut haben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.