🤖 machine learning

Using predictive multiplicity to measure individual performance within the AI Act

Dieses Paper argumentiert, dass die prädiktive Multiplizität – das Bestehen mehrerer Modelle mit ähnlicher Genauigkeit, aber widersprüchlichen Einzelprognosen – den Anforderungen des EU AI Acts für Hochrisikosysteme widerspricht, und schlägt spezifische Metriken sowie Berichterstattungsrichtlinien vor, um solche Unstimmigkeiten zu quantifizieren und offenzulegen, um Konformität und Zuverlässigkeit zu gewährleisten.

Ursprüngliche Autoren: Karolin Frohnapfel, Mara Seyfert, Sebastian Bordt, Ulrike von Luxburg, Kristof Meding

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Karolin Frohnapfel, Mara Seyfert, Sebastian Bordt, Ulrike von Luxburg, Kristof Meding

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie beantragen einen Kredit, einen Job oder eine medizinische Behandlung. Sie hoffen, dass das Computersystem, das über Ihr Schicksal entscheidet, eine Kristallkugel ist, die die Wahrheit perfekt sieht. Aber was wäre, wenn diese Kristallkugel kein einzelnes Objekt wäre? Was wäre, wenn es eigentlich eine ganze Kiste mit verschiedenen Kristallkugeln wäre, die alle vom selben Unternehmen hergestellt wurden, alle behaupten, zu 95 % genau zu sein, sich aber dennoch alle ein wenig unterschiedlich über Ihre spezifische Situation äußern?

Dies ist der Kern des Problems, das das Paper „Using predictive multiplicity to measure individual performance within the AI Act“ behandelt. Hier ist eine einfache Aufschlüsselung ihres Arguments, unter Verwendung alltäglicher Analogien.

1. Das Problem: Der „Rashomon“-Effekt

In der Welt der KI gibt es ein Phänomen namens Predictive Multiplicity (Prädiktive Multiplizität). Denken Sie an eine Gruppe von Expertenrichtern, die denselben Fallakten prüfen.

Das Szenario: Sie haben 100 Expertenrichter. Sie stimmen in 90 % der Fälle überein. Sie sind alle insgesamt „genau“.
Der Twist: Wenn sie sich jedoch Ihren spezifischen Fall ansehen, sagen 50 Richter „Ja“ und 50 sagen „Nein“.
Die Realität: Da es kein einzelnes „bestes“ Modell gibt, hätte der KI-Anbieter problemlos ein anderes Modell aus seinem Werkzeugkasten wählen können, das Ihnen ein gegenteiliges Ergebnis geliefert hätte, obwohl dieses Modell in der Gesamtschau genauso „genau“ gewesen wäre.

Die Autoren argumentieren, dass diese Beliebigkeit gefährlich ist. Wenn Ihr Leben von der Entscheidung abhängt, sollte es nicht darauf ankommen, welches der „gleich guten“ Modelle der Computer zufällig ausgewählt hat. Wenn die Modelle über Sie uneinig sind, entscheidet das System im Grulichen wie beim Münzwurf für Ihren spezifischen Fall.

2. Das Gesetz: Der EU AI Act

Das Paper betrachtet dieses Problem durch die Linse des EU AI Act, eines neuen Gesetzes in Europa, das Hochrisiko-KI (wie bei Einstellungen, im Gesundheitswesen oder bei der Kreditvergabe) reguliert.

Die Anforderung: Das Gesetz besagt, dass Unternehmen, die diese KI-Systeme entwickeln, nachweisen müssen, dass sie genau sind.
Die Lücke: Normalerweise sagen Unternehmen nur: „Unser System ist zu 90 % genau auf dem gesamten Datensatz.“
Die Einsicht des Papers: Das Gesetz verlangt tatsächlich von den Anbietern, Berichte über spezifische Personen vorzulegen, nicht nur über den Gruppendurchschnitt. Die Autoren argumenten, dass wenn verschiedene „gute“ Modelle bei einer bestimmten Person uneins sind, das System für diese Person nicht zuverlässig ist, selbst wenn der Gesamtwert großartig aussieht.

3. Die Lösung: Das Messen der „Uneinigkeit“

Um dieses Problem zu lösen, schlagen die Autoren eine neue Art vor, die Leistung zu messen. Anstatt nur zu fragen: „Hat das Modell recht?“, fragen sie: „Wie sehr widersprechen die anderen guten Modelle diesem einen?“

Sie führen zwei einfache Werkzeuge (Metriken) ein, um diese Uneinigkeit zu messen:

Das Konfliktverhältnis (Der „Tauziehkrieg“-Meter):
Stellen Sie sich ein Tauziehen für Ihren spezifischen Fall vor. Wenn 100 Modelle am Seil ziehen, wie viele ziehen in Richtung „Ja“ und wie viele in Richtung „Nein“?
- Wenn 99 ziehen „Ja“ und 1 zieht „Nein“, ist der Konflikt gering. Sie können dem „Ja“ vertrauen.
- Wenn 50 ziehen „Ja“ und 50 ziehen „Nein“, ist der Konflikt maximal. Das System ist verwirrt über Sie.
- Das Ziel: Wenn das Konfliktverhältnis hoch ist, sollte das System diesen Fall für eine menschliche Überprüfung markieren, anstatt den Computer entscheiden zu lassen.
Die $\delta$ -Ambivalenz (Der „Verwirrungswert“):
Dies ist eine Methode, um zu zählen, wie viele Menschen in der gesamten Gruppe in diesem „verwirrten“ Zustand sind. Es hilft dem Unternehmen zu sehen, ob sein System generell zuverlässig ist oder ob es für einen großen Teil der Menschen ein Chaos darstellt.

4. Wie man es macht: Der „Ad-hoc“-Ansatz

Sie denken vielleicht: „Um all diese verschiedenen Modelle zu finden, muss ich Millionen von ihnen testen!“ Das würde ewig dauern.
Die Autoren haben eine clevere Abkürzung gefunden. Sie müssen nicht jedes mögliche Modell testen. Sie müssen nur eine kleine Gruppe von Modellen trainieren, indem Sie den Prozess durch winzige, zufällige Änderungen leicht verändern, wie zum Beispiel:

Die Reihenfolge der Daten leicht ändern.
Ein wenig „Rauschen“ (Zufälligkeit) zu den Zahlen hinzufügen.
Leicht unterschiedliche Einstellungen verwenden (wie die Temperatur auf einem Herd zu ändern).

Sie haben dies getestet und festgestellt, dass selbst eine kleine Gruppe von Modellen, die auf diese Weise trainiert wurden, ausreicht, um aufzuzeigen, wo das System verwirrt ist. Es ist, als würde man ein paar verschiedene Köche bitten, dasselbe Gericht mit leicht unterschiedlichen Zutaten zu kochen; wenn sie sich alle über den Geschmack einig sind, ist alles in Ordnung. Wenn sie streiten, weiß man, dass etwas nicht stimmt.

5. Die Empfehlung: Ein Handschlag zwischen Macher und Nutzer

Das Paper schließt mit einem praktischen Vorschlag für die Umsetzung des AI Act in der Praxis:

Für die KI-Macher (Anbieter): Übergeben Sie nicht nur eine einzige „Black Box“-Modell. Geben Sie den Leuten, die das System nutzen (den Anwendern), ein „Werkzeugkasten“ mit mehreren gleich guten Modellen.
Für die KI-Nutzer (Anwender): Bevor Sie eine endgültige Entscheidung über eine Person treffen, prüfen Sie das „Konfliktverhältnis“.
- Geringer Konflikt: Die Modelle sind sich einig. Fahren Sie mit der automatisierten Entscheidung fort.
- Hoher Konflikt: Die Modelle streiten sich. Stopp. Holen Sie einen Menschen hinzu, um die endgültige Entscheidung zu treffen.

Zusammenfassung

Das Paper argumentiert, dass Genauigkeit nicht nur eine Zahl ist, sondern eine Geschichte über Konsistenz. Wenn ein KI-System sich nicht einmal mit sich selbst über Sie einig sein kann, sollte es nicht erlaubt sein, eine lebensverändernde Entscheidung über Sie zu treffen, ohne dass ein Mensch über Ihre Schulter blickt. Indem wir messen, wie sehr verschiedene „gute“ Modelle voneinander abweichen, können wir KI unter den neuen europäischen Gesetzen sicherer und vertrauenswürdiger machen.

Technisches Resümee: Nutzung der prädiktiven Multiplizität zur Messung individueller Leistung im Rahmen des EU AI Acts

Problemstellung
Das Paper adressiert das Phänomen der prädiktiven Multiplizität (auch bekannt als Rashomon-Effekt), bei dem mehrere unterschiedliche Machine-Learning-Modelle eine vergleichbare statistische Gesamtgenauigkeit erreichen, jedoch für spezifische Einzelfälle widersprüchliche Vorhersagen treffen. Während eine hohe aggregierte Genauigkeit auf allgemeine Zuverlässigkeit hindeutet, garantiert sie keine vertrauenswürdigen Ergebnisse für einzelne Personen. Diese Arbitrarität ist besonders problematetisch in Hochrisikodomänen (z. B. Beschäftigung, Gesundheitswesen, Bildung), in denen Entscheidungen direkte Auswirkungen auf Menschenrechte und Wohlfahrt haben.

Die Autoren argumentieren, dass dieses Problem eine regulatorische Herausforderung unter dem EU AI Act (AIA) darstellt. Der Act schreibt vor, dass Hochrisiko-KI-Systeme ein „angemessenes Maß an Genauigkeit“ erreichen müssen (Artikel 15) und verlangt von Anbietern, Leistungsmetriken nicht nur auf Datensatzebene, sondern auch für spezifische Personen zu melden (Artikel 11 und 13, Anhang IV). Das Paper postuliert, dass, wenn mehrere Modelle ähnlicher Genauigkeit bei einem individuellen Fall uneins sind, das System für diesen Einzelnen nicht als zuverlässig gelten kann, was potenziell gegen die Genauigkeits- und Transparenzvorschriften des AIA verstößt.

Methodik
Das Paper verwendet einen dualen Ansatz: eine dogmatische Rechtsanalyse des EU AI Acts und ein computergestütztes Framework zur Messung der prädiktiven Multiplizität.

Rechtsanalyse:
- Die Autoren analysieren die Artikel 11, 13 und 15 des AI Acts mittels textlicher, systematischer und teleologischer Interpretation.
- Sie stellen fest, dass sich „Genauigkeit“ im Sinne des Acts auf das breitere Konzept der Leistung in Bezug auf den beabsichtigten Zweck des Systems bezieht, welches über Standard-Statistikmetriken hinausgeht.
- Entscheidend ist, dass sie die Transparenzanforderungen so interpretieren, dass sie Leistungsbewertungen für spezifische Individuen vorschreiben, nicht nur aggregierte Datensatzstatistiken.
Technisches Framework:
Um die rechtliche Anforderung der individuellen Leistungsbewertung zu operationalisieren, schlagen die Autoren vor, die Uneinigkeit zwischen Modellen innerhalb einer Rashomon-Menge (der Menge aller Modelle, die eine Genauigkeit innerhalb eines Schwellenwerts $\epsilon$ des besten Modells erreichen) zu quantifizieren.
- Konfliktverhältnis ( $c_R(x)$ ): Eine Metrik für einzelne Datenpunkte $x$ . Sie misst den Anteil der Modelle in der Rashomon-Menge, die ein anderes Label als die Mehrheit vorhersagen. Ein Wert von 0,5 indiziert maximalen Konflikt (die Hälfte sagt 0, die andere Hälfte 1); 0 indiziert einstimmige Übereinstimmung.
- $\delta$ -Ambiguität ( $A_\delta(R, D)$ ): Eine Metrik auf Datensatzebene, die den Anteil der Individuen darstellt, deren Konfliktverhältnis einen Schwellenwert $\delta$ überschreitet. Dies generalisiert die Standard-Ambiguität, indem es den Grad des Konflikts berücksichtigt und nicht nur dessen Vorhandensein.
- Ad-hoc-Approximation: Da die Enumeration der vollständigen Rashomon-Menge für komplexe Modelle rechnerisch nicht machbar ist, schlagen die Autoren einen Ad-hoc-Ansatz vor. Dieser beinhaltet das Training mehrerer Modelle durch Variation von:
  - Parametrischer Multiplizität: Hyperparameter, Random Seeds und Modellarchitektur.
  - Datensatz-Multiplizität: Bootstrapping, Feature-Rauschen und Feature-Subsampling.
- Die resultierende Menge hochperformanter Modelle dient als Approximation der Rashomon-Menge zur Berechnung der Konfliktverhältnisse.

Wesentliche Ergebnisse
Die Autoren validieren ihren Ansatz durch Experimente mit synthetischen Daten, dem American Community Survey (ACS) Employment-Datensatz sowie mehreren Real-World-Datensätzen (COMPAS, Student Dropout, European Social Survey).

Bedeutung der Datensatz-Multiplizität: Experimente zeigen, dass das Ignorieren der Datensatz-Multiplizität (Training aller Modelle auf derselben Datenprobe) die prädiktive Multiplizität signifikant unterschätzt. Die Einbeziehung von Datensatz-Variationen (z. B. Bootstrapping) ist entscheidend, um konfliktbehaftete Fälle zu identifizieren.
Effektivität des Ad-hoc-Ansatzes: Der Ad-hoc-Ansatz approximiert selbst mit einer relativ geringen Anzahl von Modellen (z. B. 200–500) die Konfliktverhältnisse und die $\delta$ -Ambiguität erschöpfender Methoden (wie den TreeFarms-Algorithmus für Entscheidungsbäume) sehr genau.
Konvergenz: Metriken wie Standard-Ambiguität und $\delta$ -Ambiguität konvergieren schnell, wenn die Größe der Rashomon-Menge zunimmt, was darauf hindeutet, dass eine kleine, diverse Menge von Modellen ausreicht, um die relevante Multiplizität zu erfassen.
Anwendung in der Praxis: Beim ACS Employment Datensatz identifizierten Ansätze, die Datensatz-Multiplizität einbezogen (insbesondere Bootstrapping), erfolgreich einen höheren Anteil an Individuen mit hohen Konfliktverhältnissen im Vergleich zu Ansätzen mit fixen Daten.

Bedeutung und Ansprüche
Das Paper beansprucht für sich, die erste Arbeit zu sein, die die prädiktive Multiplizität direkt mit den Compliance-Anforderungen des EU AI Acts verknüpft. Seine primären Beiträge sind:

Rechtliche Interpretation: Es argumentiert, dass die Anforderung des AI Acts, die Genauigkeit für „spezifische Personen“ zu melden, die Notwendigkeit impliziert, die individuelle Zuverlässigkeit zu bewerten, wofür die prädiktive Multiplizität ein Framework zur Messung bietet.
Praktische Compliance-Werkzeuge: Es führt Konfliktverhältnisse und $\delta$ -Ambiguität als konkrete, rechentechnisch machbare Werkzeuge ein, mit denen Anbieter die individuelle Leistung bewerten und Anwender (Deployer) Hochrisikofälle identifizieren können.
Handlungsempfehlungen:
- Für Anbieter: Sie sollten gezielt nach Modellen vergleichbarer Genauigkeit suchen (unter Nutzung des Ad-hoc-Ansatzes) und den Anwendern Informationen über konfliktbehaftete Vorhersagen zur Verfügung stellen.
- Für Anwender (Deployer): Sie sollten Konfliktverhältnisse nutzen, um Individuen zu identifizieren, die einer hohen Ambiguität unterliegen. Für diese Fälle empfiehlt das Paper die Einbeziehung menschlicher Aufsicht anstelle einer rein automatisierten Entscheidung, um sicherzustellen, dass Entscheidungen fundiert getroffen werden.

Die Autoren nehmen eine moderate Haltung ein und räumen ein, dass ihr Ad-hoc-Ansatz eine Approximation ist und dass die exakte Definition von „angemessener Genauigkeit“ von zukünftigen harmonisierten Normen abhängen wird. Sie betonen jedoch, dass die Berücksichtigung der prädiktiven Multiplizität essenziell ist, um sicherzustellen, dass KI-gestützte Entscheidungen zuverlässig sind und um das Vertrauen in Hochrisiko-KI-Systeme zu fördern.