The Eticas AI Risk Taxonomy: Open Infrastructure for Operationalizing AI Audits
Dieses Papier stellt die Eticas AI Risk Taxonomy v2.0.0 vor, eine offene Infrastruktur, welche die Lücke zwischen abstrakten Risikokatalogen und praktischen KI-Audits schließt, indem sie ein standardisiertes, operationalisierbares Framework bereitstellt, um spezifische Risiken wie etwa das Abfließen von PII über mehrere externe Compliance-Standards hinweg zu messen, zu kalibrieren und zu bewerten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, ein Haus zu bauen. Sie haben eine Liste von 74 verschiedenen „Risiko-Checklisten“ von verschiedenen Architekten, Ingenieuren und Regierungsbehörden. Eine besagt: „Auf Lecks prüfen.“ Eine andere: „Auf Risse in der Struktur prüfen.“ Eine dritte: „Auf Brandgefahren prüfen.“
Das Problem ist laut diesem Papier, dass all diese Listen beim Benennen des Problems aufhören. Sie sagen Ihnen, wonach Sie suchen sollen, aber sie sagen Ihnen nicht, wie Sie danach suchen sollen, welches Werkzeug Sie verwenden oder wie Sie entscheiden, ob das Haus „sicher genug“ ist, um darin zu wohnen. Sie sind wie Wörterbücher, die zwar Wörter definieren, aber nicht lehren, wie man spricht.
Dieses Papier stellt ein neues Werkzeug vor, die Eticas AI Risk Taxonomy. Betrachten Sie dies nicht nur als ein Wörterbuch, sondern als eine vollständige Bauanleitung, die die Lücke zwischen dem „Benennen eines Risikos“ und dem „tatsächlichen Testen darauf“ schließt.
Hier ist die Aufschlüsselung des Papiers, unter Verwendung einfacher Analogien:
1. Das Kernproblem: Die „Glossar“-Falle
Die meisten KI-Risikolisten sind wie ein Glossar. Sie sagen: „Datenschutzrisiko: Die Gefahr, dass persönliche Daten durchsickern.“ Das ist nützlich, um über das Problem zu sprechen, aber es ist nutzlos für einen Auditor, der ein echtes KI-System testen will.
- Die Behauptung des Papiers: Der schwierige Teil der Prüfung ist nicht das Benennen des Risikos, sondern das Operationalisieren desselben. Es geht darum, das Wort „Datenschutzrisiko“ in einen spezifischen Test, eine Zahl und eine endgültige Note (wie ein A, B, C, D oder F) zu verwandeln.
2. Die Lösung: Eine „Brücke“ vom Konzept zur Note
Die Autoren haben eine Brücke gebaut. Sie zeigen genau, wie man ein Risikokonzept nimmt und es den Weg bis zu einem benoteten Ergebnis geht.
- Die Analogie: Stellen Sie sich vor, ein Arzt diagnostiziert einen Patienten.
- Der alte Weg: Der Arzt sagt: „Der Patient hat ein ‚Fieberrisiko‘.“ (Ende des Berichts).
- Der Eticas-Weg: Der Arzt sagt: „Der Patient hat ein ‚Fieberrisiko‘. Wir haben seine Temperatur mit einem spezifischen Thermometer bei 40 °C gemessen (der Test). Dies fällt in das Band ‚Schwerwiegend‘ (die Skala). Daher erhält der Patient die Note ‚E‘ (die Diagnose).“
- Das Beispiel: Sie haben ein berühmtes KI-Modell (GPT-4) auf ein spezifisches Risiko getestet: PII-Leakage (das versehentliche Offenlegen privater Informationen wie E-Mail-Adressen).
- Sie sagten nicht nur: „Es könnte Informationen durchsickern lassen.“
- Sie führten spezifische Tests (Sonden) durch, bei denen sie versuchten, die KI auszutricksen.
- Ergebnis: Wenn die KI einmal ausgetrickst wurde, ließ sie Informationen in 51 % der Fälle durchsickern. Wenn sie dreimal ausgetrickst wurde, passierte dies in 84 % der Fälle.
- Die Note: Da die KI unter Druck so viel durchließ, gaben sie ihr die schwere Note E (die schlechteste Bewertung) und stuften es als „systemisches“ Problem ein (was bedeutet, dass es ein tiefer liegender Fehler ist und kein einmaliger Schluckauf).
3. Das Geheimrezept: Die Trennung von „Was“ und „Wie“
Dies ist der wichtigste technische Teil, einfach erklärt:
- Das Risiko (Das „Was“): Dies ist die abstrakte Gefahr, wie zum Beispiel „Datenleck“.
- Der Mechanismus (Das „Wie“): Dies ist, wie die Gefahr entsteht. Bei einem Datenleck könnte dies passieren, weil die KI Daten, die Sie eingegeben haben, enthüllt, oder weil sie Daten aus ihrem Training auswendig gelernt hat und diese wieder ausgibt.
- Die Innovation: Das Papier trennt diese beiden Aspekte.
- Analogie: Denken Sie an ein Auto. Das „Risiko“ ist ein „Plattfuß“. Die „Mechanismen“ sind „durch einen Nagel verursacht“ gegenüber „abgenutztem Profil“.
- Man braucht unterschiedliche Werkzeuge, um einen Nagel zu reparieren, als um abgenutztes Profil zu reparieren.
- Durch die Trennung ermöglicht die Eticas-Taxonomie verschiedenen Auditoren, unterschiedliche Tests (Werkzeuge) für dasselbe Risiko anzuwenden, solange sie sich über den „Mechanismus“ einig sind. Dies macht das System flexibel und offen.
4. Das „Open Core“-Modell
Die Autoren bieten ein „Open Core“-Modell an, das wie ein Lego-Set ist.
- Der offene Teil (Die Grundplatte): Die Kategorien, Definitionen und die „Mechanismus“-Labels sind für jeden frei nutzbar (unter einer Creative-Commons-Lizenz). Dies ist die gemeinsame Sprache.
- Der proprietäre Teil (Die Steine): Die spezifischen Tests, die exakten Zahlen und die detaillierten Bewertungsregeln behalten die Autoren (Eticas) als ihre „Praktiker-Ebene“.
- Warum das wichtig ist: Jeder kann auf der offenen Grundplatte aufbauen. Ein Regulator, eine Universität oder ein Unternehmen kann das Konzept „Datenleck“ nehmen und seine eigenen spezifischen Tests darauf aufbauen, während es gleichzeitig sicherstellt, dass man dieselbe Sprache spricht wie alle anderen.
5. Die Überraschung: „Agentic AI“
Das Papier hebt eine neue Kategorie hervor, die Agentic AI (agentische KI) genannt wird.
- Die Analogie: Die meisten heutigen KIs sind wie ein Taschenrechner: Sie drücken eine Taste und erhalten eine Antwort.
- Agentic AI ist wie ein Roboter-Butler: Er kann planen, Werkzeuge benutzen und eigenständig handeln.
- Die Lücke: Das Papier weist darauf hin, dass alle wichtigen Gesetze und Sicherheitsregeln (wie der EU AI Act) für die Ära des „Taschenrechners“ geschrieben wurden. Sie wissen nicht wirklich, wie sie mit dem „Roboter-Butler“ umgehen sollen.
- Die Erkenntnis: Durch die Schaffung einer spezifischen Kategorie für Agentic AI deckt das Papier eine „Governance-Lücke“ auf. Es zeigt, dass die aktuellen Regeln veraltet sind für diese neue Art von KI und dass wir neue Werkzeuge benötigen, um sie zu prüfen.
Zusammenfassung
Das Papier argumentt, dass sich das Feld der KI-Auditierung derzeit mit zu vielen Wörterbüchern und zu wenig Werkzeugen abgemüht hat. Die Eticas AI Risk Taxonomy ist eine neue Infrastruktur, die:
- Standardisiert die Sprache (damit alle vereinbaren, was ein „Risiko“ bedeutet).
- Operationalisiert das Testen (indem sie zeigt, wie man es genau misst).
- Bewertet die Ergebnisse (indem sie eine klare Bestanden/Nicht-bestanden-Bewertung gibt).
- Deckt Lücken auf (indem sie zeigt, wo aktuelle Gesetze neue KI-Technologien wie Agentic AI nicht ausreichend abdecken).
Es ist nicht nur eine Liste von Problemen; es ist ein Blaupause für deren Lösung.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.