The 2025 AI Agent Index: Documenting Technical and Safety Features of Deployed Agentic AI Systems
Dieses Papier stellt den AI Agent Index 2025 vor, eine umfassende Ressource, die die Ursprünge, Fähigkeiten und Sicherheitsmerkmale von 30 hochmodernen KI-Agenten dokumentiert, um den Herausforderungen bei der Verfolgung eines sich schnell entwickelnden Ökosystems zu begegnen, während sie gleichzeitig erhebliche Lücken in der Transparenz der Entwickler hinsichtlich Sicherheit und gesellschaftlicher Auswirkungen aufzeigt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der Künstlichen Intelligenz als eine geschäftige, chaotische Baustelle vor. Jahrelang haben wir beobachtet, wie die Arbeiter (die KI-Modelle) lernten, Baupläne zu lesen und Zement anzumischen. Doch vor Kurzem ist etwas Neues eingetroffen: KI-Agenten. Betrachten Sie diese nicht nur als Arbeiter, sondern als Bauleiter, die tatsächlich in der Lage sind, Werkzeuge aufzuheben, Türen zu öffnen und Dinge aus eigener Kraft zu bauen, mit sehr wenig Hilfe von Menschen.
Das Problem? Die Baustelle wächst so schnell, und die Bauleiter sind so geheimnisvoll, dass niemand wirklich weiß, wer was baut, wie sicher sie sind oder ob sie die Regeln befolgen.
Dieses Papier, „The 2025 AI Agent Index“, ist wie ein Team von Forschern, das sich Schutzhelme aufsetzt und die Baustelle abschreitet, um eine detaillierte Bestandsaufnahme zu machen. Sie haben die Bauleiter nicht nur gezählt; sie haben versucht, in deren Werkzeugkästen zu spähen und ihre Sicherheitshandbücher zu lesen.
Hier ist das, was sie herausgefunden haben, einfach erklärt:
1. Die „Wer ist wer“-Liste
Die Forscher haben sich 30 der populärsten und leistungsfähigsten KI-Agenten angesehen, die derzeit im Einsatz sind. Sie haben nicht nur nach Chatbots gesucht, die Fragen beantworten; sie haben nach Systemen gesucht, die tatsächlich Dinge tun können, wie zum Beispiel Flüge buchen, Code schreiben, Geschäftsprozesse verwalten oder im Internet surfen, um Artikel zu kaufen.
Sie haben diese 30 Agenten in drei Haupt-„Nachbarschaften“ sortiert:
- Die Chat-Nachbarschaft (12 Agenten): Dies sind wie hilfreiche Assistenten, mit denen man in einem Chat-Fenster spricht, die aber spezielle Schlüssel besitzen, um andere Apps und Tools zu öffnen.
- Die Browser-Nachbarschaft (5 Agenten): Diese sind wie digitale Angestellte, die in Ihrem Webbrowser leben. Sie können auf Knöpfe klicken, Formulare ausfüllen und Websites navigieren, genau wie ein Mensch es tun würde, oft ohne dass Sie bei jedem Schritt zusehen.
- Die Enterprise-Nachbarschaft (13 Agenten): Dies sind die „Bauleiter“ für große Unternehmen. Es handelt sich um Plattformen, auf denen ein Unternehmen ein Team digitaler Arbeiter aufstellen kann, um Aufgaben wie Personalwesen, Vertrieb oder IT-Support automatisch zu erledigen.
2. Das „Black Box“-Problem (Transparenz)
Die größte Überraschung in dem Papier ist, wie viele Informationen fehlen. Stellen Sie sich vor, Sie kaufen ein Auto, aber der Hersteller weigert sich, Ihnen zu sagen:
- Wie die Bremsen funktionieren.
- Ob das Auto Crashtests unterzogen wurde.
- Was passiert, wenn der Motor überhitzt.
- Wer verantwortlich ist, wenn das Auto einen Unfall baut.
Genau das haben die Forscher bei diesen KI-Agenten festgestellt.
- Sicherheitsgeheimnisse: Bei etwa 56 % der Sicherheitsfragen, die sie gestellt haben (wie „Wurde dies auf Hacking getestet?“), lautete die Antwort „Wir wissen es nicht“ oder „Wir konnten keine öffentlichen Informationen finden“.
- Der „Safety-Washing“-Effekt: Einige Unternehmen sprechen in ihrem Marketing viel über Sicherheit, aber als die Forscher nach den tatsächlichen Testergebnissen oder Sicherheitsberichten suchten, waren die Regale leer. Es ist wie bei einem Restaurant, das behauptet, das „gesündeste der Stadt“ zu sein, aber seine Hygiene-Inspektionsberichte nicht zeigen will.
- Identitätskrise: Die meisten dieser Agenten verraten den Menschen nicht, dass sie Roboter sind. Wenn ein Browser-Agent eine Website durchsucht, denkt die Website oft, es handele sich um einen menschlichen Nutzer. Nur sehr wenige besitzen einen „digitalen Ausweis“, der besagt: „Hallo, ich bin eine KI.“
3. Das „Dreiköpfige Monster“ (Wer kontrolliert was?)
Das Papier erklärt, dass diese Agenten in Schichten aufgebaut sind, wie ein Sandwich, und das macht es schwierig zu wissen, wer das Sagen hat.
- Das Brot (Das Basismodell): Dies ist das Gehirn (wie GPT, Claude oder Gemini). Nur wenige große Unternehmen stellen diese her.
- Die Füllung (Der Agenten-Builder): Dies ist die mittlere Schicht (wie Microsoft Copilot Studio oder Zapier), die dem Gehirn sagt, was es tun soll.
- Das obere Brötchen (Der Nutzer/Das Unternehmen): Dies ist die Person oder das Unternehmen, das den Agenten tatsächlich einsetzt.
Die Forscher fanden heraus, dass es aufgrund der Tatsache, dass diese Schichten von verschiedenen Unternehmen erstellt werden, niemanden gibt, der das Gesamtbild hat. Der Macher des Gehirns weiß nicht, was der Builder tut, und der Builder weiß nicht genau, wie der Nutzer ihn einsetzt. Dies führt zu einem „Schuldzuweisungsspiel“, wenn etwas schiefgeht.
4. Der „Wilde Westen“ im Internet
Das Papier hebt eine große Spannung hervor: Browser-Agenten brechen die Regeln des Internets.
Seit Jahrzehnten haben Websites ein „Eintritt verboten“-Schild namens robots.txt, um Computerprogrammen (Crawlern) zu sagen, wo sie hineindürfen und wo nicht.
- Der alte Weg: Websites sagen „Hier nicht crawlen“, und höfliche Roboter halten inne.
- Der Agenten-Weg: Viele dieser neuen Agenten sind darauf ausgelegt, wie Menschen zu agieren. Sie ignorieren oft die „Eintritt verboten“-Schilder, umgehen Sicherheitsprüfungen und geben sich als Menschen aus, um Aufgaben zu erledigen.
- Das Ergebnis: Dies führt zu Rechtsstreitigkeiten. Unternehmen wie Amazon und Perplexity verklagen sich gegenseitig darüber, ob ein KI-Agent das Recht hat, auf einer Website einzukaufen oder zu surfen, ohne eine Erlaubnis zu haben.
5. Die Abhängigkeit von den „Großen Drei“
Fast alle diese 30 Agenten verlassen sich auf nur drei Familien von Gehirnen: GPT von OpenAI, Claude von Anthropic und Gemini von Google.
- Die Analogie: Stellen Sie sich 30 verschiedene Automarken vor, aber alle nutzen exakt denselben Motor von drei Herstellern. Wenn einer dieser Motorenhersteller ein Problem hat, die Produktion einstellt oder den Preis ändert, sind alle 30 Automarken in Schwierigkeiten. Dies schafft ein enormes Risiko der Konzentration.
Das Fazit
Der „2025 AI Agent Index“ ist eine Momentaufnahme einer rasant wachsenden Technologie, die derzeit im Dunkeln operiert.
Die Forscher sagen nicht, dass diese Agenten „schlecht“ sind, aber sie sagen, dass wir blind fliegen. Wir haben mächtige Werkzeuge, die in unserem Namen handeln können, aber wir haben keine klaren Regeln, Sicherheitsberichte oder Identitätsprüfungen für sie. Das Papier legt nahe, dass wir, wenn wir wollen, dass diese Agenten sicher und vertrauenswürdig sind, die „Bauleiter“ anfangen müssen, ihre Arbeit offenzulegen, und die „Baustelle“ eine bessere Beschilderung benötigt.
Kurz gesagt: Wir haben eine Flotte autonomer Roboter gebaut, aber die meisten von ihnen fahren ohne Nummernschild, ohne Sicherheitsinspektion und ohne jemandem zu sagen, dass sie Roboter sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.