Standards for trustworthy AI in the European Union: technical rationale, structural challenges, and an implementation path
Dieses Whitepaper skizziert einen geschichteten, lebenszyklusorientierten Rahmen für die EU-KI-Standardisierung unter dem KI-Gesetz und argumentiert, dass trotz einzigartiger technischer Herausforderungen wie stochastischem Verhalten und Datenabhängigkeiten harmonisierte Normen, die horizontale Prozessverpflichtungen mit sektorspezifischen Profilen kombinieren, essenziell sind, um rechtliche Anforderungen in prüfbare Engineering-Praktiken zu übersetzen und eine skalierbare Konformitätsbewertung zu ermöglichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Regeln in Rezepte verwandeln
Stellen Sie sich vor, die Europäische Union (EU) hätte ein strenges Gesetz verabschiedet, den AI Act. Dieses Gesetz besagt: „KI muss sicher, fair und vertrauenswürdig sein.“ Aber Gesetze sind wie allgemeine Anweisungen: „Fahre sicher.“ Sie sagen einem nicht, wie man sicher fährt (z. B. „halte zwei Autolängen Abstand zum Vordermann“).
Dieses Papier argumentet, dass technische Normen die fehlenden „Fahrhandbücher“ sind. Sie verwandeln die vage rechtliche Regel („sei sicher“) in ein spezifisches, überprüfbares Rezept („prüfe die Bremsen alle 8.000 Kilometer“).
Wenn ein KI-Unternehmen diese spezifischen Rezepte (Normen) befolgt, erhält die EU ihm eine „Vermutung der Konformität“. Betrachten Sie dies wie ein goldenes Gütesiegel. Anstatt dass das Unternehmen vor einem Richter beweisen muss: „Vertrau mir, mein Auto ist sicher“, kann es einfach sagen: „Ich habe dem offiziellen Rezept gefolgt, und das Rezept sagt, dass mein Auto sicher ist.“ Die Beweislast verschiebt sich vom Unternehmen hin zur Norm selbst.
Das Problem: KI ist eine „unbeständige“ Zutat
Das Papier erklärt, warum das Schreiben dieser Rezepte für KI unglaublich schwierig ist – viel schwieriger als für einen Toaster oder ein Auto.
KI ist stochastisch (Es ist ein Münzwurf):
- Die Analogie: Stellen Sie sich vor, Sie backen einen Kuchen. Wenn Sie exakt dasselbe Rezept mit denselben Zutaten befolgen, erhalten Sie denselben Kuchen. Aber KI ist eher wie ein Zaubertrick. Selbst wenn Sie exakt dieselben Zutaten und Anweisungen verwenden, kann der „Kuchen“ (das Ergebnis) bei jedem Backvorgang etwas anders aussehen.
- Die Herausforderung: Wie schreibt man eine Regel, die besagt: „Der Kuchen muss perfekt sein“, wenn der Kuchen sich von Natur aus jedes Mal ein wenig verändert? Das Papier schlägt vor, dass wir aufhören sollten, nach „perfekten Kopien“ zu suchen, und statfangen, „Stabilität“ zu messen. Wir müssen vereinbaren, wie stark sich der Kuchen verändern darf, bevor er als unsicher gilt.
Die Daten sind eine Geheimnisbox:
- Die Analogie: Eine KI ist wie ein Schüler, der für eine Prüfung lernt. Wenn der Schüler aus einem Lehrbuch lernt, das von jemand anderem geschrieben wurde (Daten von Drittanbietern) und das fehlende Seiten oder falsche Fakten enthält, wird der Schüler durchfallen.
- Die Herausforderung: KI-Unternehmen besitzen oft nicht alle Daten, von denen ihre KI lernt. Das Papier sagt, wir können nicht verlangen, dass sie jedes einzelne Sandkorn im Datenozean kontrollieren. Stattdessen benötigen wir einen risikobasierten Ansatz: Wenn die KI etwas Gefährliches tut (wie eine Krankheit zu diagnostizieren), müssen wir genau wissen, woher die Daten stammen. Wenn sie etwas mit geringem Risiko tut (wie eine Filmempfehlung auszusprechen), können wir lockerer sein.
Das Problem der „beweglichen Zielscheibe“:
- Die Analogie: Ein Auto wird einmal gebaut und verkauft. Eine KI ist wie ein Videospiel-Charakter, der jede Woche mit neuen Fähigkeiten und neuen Schwächen aktualisiert wird.
- Die Herausforderung: Man kann eine KI nicht einfach einmal testen, wenn sie auf den Markt kommt. Sie muss kontinuierlich getestet werden, während sie lernt und sich verändert. Das Papier schlägt vor, dass wir ein System der kontinuierlichen Protokollierung (ähnlich einem Flugschreiber) benötigen, um zu sehen, was die KI in Echtzeit macht, anstatt nur einen Bericht vom Tag ihrer Geburt zu erhalten.
Die Lösung: Der „Schichttorten“-Ansatz
Das Papier argumentiert, dass wir kein einzelnes Regelwerk schreiben können, das für jede KI passt. Ein Chatbot für ein Café hat andere Anforderungen als eine KI, die eine Kernkraftanlage steuert.
- Die untere Schicht (Horizontale Normen): Dies ist das Skelett. Es gilt für alle KIs. Es besagt Dinge wie: „Sie müssen einen Risikomanagementplan haben“, „Sie müssen Protokolle führen“ und „Sie müssen Ihre Daten dokumentieren“. Es ist die gemeinsame Sprache, die alle sprechen.
- Die obere Schicht (Sektorale Profile): Dies ist das Fleisch. Es fügt spezifische Regeln für bestimmte Aufgaben hinzu.
- Beispiel: Das „Skelett“ sagt: „Teste auf Fehler.“ Das „medizinische Profil“ sagt: „Für eine KI bei Herzoperationen müssen die Fehler unter 0,1 % liegen.“ Das „Unterhaltungsprofil“ sagt: „Für einen Filmrekommandationsdienst sind Fehler von bis zu 5 % akzeptabel.“
Warum das wichtig ist: Wenn wir versuchten, eine Regel für alle zu schreiben, wäre sie entweder zu vage, um nützlich zu sein, oder zu streng für einfache Apps. Durch das Stapeln der Schichten erhalten wir ein gemeinsames Fundament mit spezifischen Regeln für spezifische Gefahren.
Wie es tatsächlich funktioniert: Der „Assurance Case“ (Nachweisfall)
Das Papier schlägt einen neuen Weg vor, wie Unternehmen ihre Sicherheit beweisen können. Anstatt nur zu sagen: „Wir sind sicher“, müssen sie einen Assurance Case erstellen.
- Die Analogie: Denken Sie an einen Ermittlungsaktenordner eines Detektivs.
- Die Behauptung (Claim): „Diese KI ist sicher.“
- Der Beweis (Evidence): Ein Stapel Dokumente. „Hier ist der Test, bei dem wir versucht haben, die KI auszutricksen, und hier ist das Protokoll, das zeigt, dass sie nicht ausgefallen ist. Hier sind die Daten, die wir verwendet haben, und hier ist der Plan für den Fall, dass sie beginnt, sich seltsam zu verhalten.“
- Der Prüfer (Inspector): Ein externer Auditor betrachtet die Akte. Er muss nicht raten; er prüft lediglich, ob die Beweise mit dem „Rezept“ (der Norm) übereinstimmen.
Das Fazit
Das Papier kommt zu dem Schluss, dass KI zwar unordentlich, unvorhersehbar und schwer zu greifen ist, wir aber dennoch diese technischen Normen benötigen. Ohne sie ist das Gesetz nur ein Slogan.
- Ohne Normen: Erfindet jedes Unternehmen seine eigene Art, Sicherheit zu beweisen. Das ist chaotisch, teuer und unmöglich zu vergleichen.
- Mit Normen: Benutzen alle dasselbe Maßband. Unternehmen bauen „Qualitätssysteme“, um den Regeln zu folgen. Auditoren prüfen die „Akten“. Behörden können das Gesetz basierend auf klaren Protokollen durchsetzen.
Es wird nicht garantieren, dass KI perfekt ist (da KI komplex ist), aber es schafft ein System, in dem das Verhalten der KI steuerbar und verantwortlich ist. Das ist die wahre Definition von „vertrauenswürdig“ in diesem Kontext.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.