🤖 AI

When Do Data-Driven Systems Exhibit the Capability to Infer?

Motiviert durch die regulatorischen Unklarheiten im Rahmen des europäischen KI-Gesetzes in Bezug auf Kreditbewertungssysteme schlägt dieses Paper ein auf statistischer Lerntheorie basierendes Framework vor, um die Fähigkeit zur Inferenz über gesamte Datenverarbeitungsprozesse hinweg zu bewerten und zu analysieren, wobei aufgezeigt wird, dass die regulatorische Klassifizierung von der ganzheitlichen Systemgestaltung und der menschlichen Beteiligung abhängt und nicht allein von einzelnen Modellen.

Ursprüngliche Autoren: Maximilian Poretschkin, Tabea Naeven

Veröffentlicht 2026-06-11

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Maximilian Poretschkin, Tabea Naeven

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Richter in einem Gerichtssaal. Die Europäische Union hat ein neues Gesetz verabschiedet, den AI Act, der besagt: „Wenn Sie eine Künstliche Intelligenz sind, müssen Sie strengen Regeln folgen.“ Aber das Gesetz hat eine knifflige Gesetzeslücke: Es definiert nicht klar, was „KI“ eigentlich ist.

Das Gesetz besagt, dass eine KI ein System ist, das in der Lage ist zu „inferieren“ (schlussfolgern). In einfachem Deutsch bedeutet das, dass das System in der Lage ist, Daten zu betrachten und eigenständig zu entscheiden, wie es eine Entscheidung trifft, anstatt nur einer starren Liste von Anweisungen zu folgen, die von einem Menschen geschrieben wurden.

Das Problem? Es gibt einen Graubereich. Viele Systeme, die für das Credit Scoring (die Entscheidung über einen Kredit) verwendet werden, nutzen statistische Mathematik. Sind diese Systeme „klug“ genug, um als KI bezeichnet zu werden, oder sind sie nur „dumme“ Taschenrechner? Die Autoren dieser Arbeit, Maximilian und Tabea, haben beschlossen, eine Leiter zu bauen, die uns hilft, aus diesem Graubereich herauszuklettern.

Die „Inferenz-Leiter“

Die Autoren haben eine 5-stufige Leiter entworfen, um zu messen, wie viel „Denken“ ein System leistet. Je höher man auf der Leiter steigt, desto wahrscheinlicher ist es, dass das System unter dem neuen Gesetz als KI gilt.

Stufe 0: Der Roboter-Butler (Feste Abbildung/Fixed Mapping)
- Die Metapher: Stellen Sie sich einen Roboter vor, der nur genau das tut, was man ihm sagt. „Wenn das Licht rot ist, halte an. Wenn grün, fahre los.“
- Die Realität: Die Regeln sind von Menschen in Stein gemeißelt. Die Daten ändern die Regeln nicht; sie lösen sie lediglich aus.
- KI-Status: Keine KI. Nur ein schicker Taschenrechner.
Stufe 1: Der Drehknopf (Parametrische Anpassung/Parametric Adaptation)
- Die Metapher: Stellen Sie sich ein Radio vor. Die Station (die Struktur) ist fest, aber man kann den Lautstärkeregler (die Parameter) je nach Lautstärke der Musik höher oder niedriger drehen.
- Die Realität: Das System nutzt eine feste Formel (wie eine Standard-Mathematikgleichung). Es nutzt Daten, um die Zahlen innerhalb dieser Formel anzupassen, aber die Formel selbst ändert sich nie.
- KI-Status: Dies ist der „Graubereich“. Die Richtlinien des Gesetzes legen nahe, dass dies nicht als KI gilt, da es sich nur um „basale Datenverarbeitung“ handelt.
Stufe 2: Die Menü-Auswahl (Strukturelle Selektion/Structural Selection)
- Die Metapher: Stellen Sie sich einen Koch vor, der eine Speisekarte mit 10 vorgefertigten Rezepten hat. Der Koch schaut sich die Zutaten an, die Sie da haben (die Daten), und wählt dann eines der Rezepte aus der Liste aus, um es zu kochen. Der Koch erfindet kein neues Rezept, er wählt nur das beste aus der Liste aus.
- Die Realität: Das System hat eine festgelegte Liste möglicher Strukturen. Es nutzt Daten, um zu entscheiden, welche Struktur es verwendet (z. B. „Verwende Merkmal A und B, aber ignoriere C“).
- KI-Status: Dies ist ein Mittelweg. Es ist mehr als nur ein Drehknopf, aber es wird keine neue Logik erfunden.
Stufe 3: Der Architekt (Strukturelle Konstruktion/Structural Construction)
- Die Metapher: Stellen Sie sich einen Bauherrn vor, dem ein Haufen Ziegel gegeben wird und der das Ziel hat, ein Haus zu bauen. Der Bauherr sieht sich die Ziegel an und entwirft vor Ort den Bauplan. Er entscheidet, wo die Wände stehen und wie das Dach geformt wird, basierend ganz auf den Materialien, die er zur Verfügung hat.
- Die Realigkeit: Das System wählt nicht nur ein Rezept aus, sondern baut die Logik von Grund auf neu (aus den Daten). Es erstellt einen Entscheidungsbaum oder ein komplexes Muster, das kein Mensch explizit so aufgeschrieben hat.
- KI-Status: Dies ist definitiv KI. Das System „leitet“ seine eigene Logik ab.
Stufe 4: Der Träumer (Repräsentations-Konstruktion/Representational Construction)
- Die Metapher: Stellen Sie sich einen Künstler vor, der nicht nur ein Bild malt, sondern auch eine neue Farbe erfindet, um sie im Gemälde zu verwenden, weil die alten Farben nicht zur Stimmung passten.
- Die Realität: Das System baut nicht nur die Logik auf, sondern erfindet eine völlig neue Art, die Daten zu sehen (neue Merkmale/Features), um das Problem zu lösen. Dies ist das, was Deep Learning und moderne KI tun.
- KI-Status: Definitiv KI.

Der Test am Kredit-Scorecard

Die Autoren testeten diese Leiter am Credit Scoring, einem Hochrisikobereich unter dem AI Act. Sie untersuchten, wie Banken normalerweise diese Scores erstellen.

Der „klassische“ Weg: Banken nehmen oft eine Liste von Variablen (Einkommen, Schulden usw.), teilen sie in Gruppen ein (Binning) und setzen sie in eine logistische Regressionsgleichung ein.
- Wenn die Bank nur die Zahlen in der Gleichung anpasst? Das ist Stufe 1.
- Wenn die Bank die Daten nutzt, um zu entscheiden, welche Variablen sie behält und welche sie wegwirft? Das ist Stufe 2.
- Das Urteil: Die Autoren argumentieren, dass selbst diese „einfachen“ Systeme oft menschliche Experten beinhalten, die während der Einrichtung Urteile fällen (wie etwa die Entscheidung, wie die Gruppen eingeteilt werden). Da Menschen massiv an der Gestaltung der Struktur beteiligt sind, besitzt das System möglicherweise nicht genug „Autonomie“, um als echte KI im Sinne des Gesetzes zu gelten.
Der „schlaue“ Weg: Wenn ein System automatisch den Entscheidungsbaum oder die komplexe Struktur aus den Daten aufbaut, ohne menschliches Eingreifen, erreicht es Stufe 3.
- Das Urteil: Dies ist eindeutig KI und muss den strengen Regeln folgen.

Das wichtigste Fazencit

Die Arbeit kommt zu dem Schluss, dass wir nicht nur auf die endgültige mathematische Gleichung schauen können, um zu entscheiden, ob etwas KI ist. Wir müssen den gesamten Prozess betrachten:

Hat ein Mensch die Regeln entworfen?
Hat ein Mensch die Variablen ausgewählt?
Oder hat die Datenstruktur selbst die Logik aufgebaut?

Wenn ein menschlicher Experte die schwere Arbeit bei der Gestaltung der Systemstruktur leistet, ist das System vielleicht „dumm“ genug, um den strengen Regelungen des AI Act zu entgehen, selbst wenn es komplexe Mathematik verwendet. Aber wenn das System seine eigene Logik aus den Daten baut, ist es „klug“ genug, um als KI reguliert zu werden.

Kurz gesagt: Das Gesetz sorgt sich um Systeme, die ihre eigenen Regeln „lernen“. Diese Arbeit liefert uns ein Lineal, um genau zu messen, wie viel Lernen stattfindet, und hilft Banken und Regulierungsbehörden zu wissen, wer den neuen Regeln folgen muss.

Technisches Resümee: Wann weisen datengesteuerte Systeme die Fähigkeit zur Inferenz auf?

Problemstellung
Der Europäische KI-Gesetz (AI Act) etabliert einen umfassenden Rechtsrahmen für Künstliche Intelligenz und definiert ein KI-System primär durch seine „Fähigkeit zur Inferenz“ (capability to infer). Der AI Act und die begleitenden Leitlinien der Kommission liefern jedoch keine präzise technische Definition von Inferenz, was zu regulatorischer Ambiguität bei datengesteuerten Systemen führt, die auf klassischen statistischen Modellen statt auf modernen Machine-Learning-Architekturen basieren. Diese Unsicherheit ist besonders ausgeprägt im Bereich des Kreditscorings, das in Anhang III des AI Act explizit als Hochrisikoanwendung aufgeführt ist. Praktiker aus der Industrie und Regulierungsbehörden stehen vor einem Dilemma: Viele Kreditscoring-Systeme nutzen logistische Regression und statistische Binning-Verfahren. Es bleibt unklar, ob diese Systeme, die oft menschliche Expertenintervention bei der Modellentwicklung beinhalten, über eine ausreichende „Fähigkeit zur Inferenz“ verfügen, um als KI-Systeme im Sinne des Gesetzes klassifiziert zu werden, oder ob sie außerhalb des Anwendungsbereichs als „basische Datenverarbeitung“ liegen.

Methodik
Um diese Ambiguität zu adressieren, entwickeln die Autoren ein abgestuftes Framework zur Bewertung der Inferenzfähigkeit, das auf der statistischen Lerntheorie basiert. Die Methodik erfolgt in drei Stufen:

Theoretische Abstraktion: Die Autoren formalisieren das Konzept der Inferenz durch die Analyse, wie Daten die Bildung von Input-Output-Abbildungen beeinflussen. Basierend auf der Unterscheidung zwischen parametrischer Schätzung (Data Modeling Culture) und algorithmischer Konstruktion (Algorithmic Modeling Culture) schlagen sie ein fünfstufiges Framework (Level 0–4) vor, das Systeme danach kategorisiert, in welchem Maße die Daten die Logik des Systems prägen:
- Level 0 (Feste Abbildung): Vollständig ex ante durch Menschen spezifiziert; Daten werden verarbeitet, beeinflussen aber weder Struktur noch Parameter nicht.
- Level 1 (Parametrische Adaptation): Die Funktionsform ist fixiert; Daten bestimmen lediglich numerische Parameter (z. B. Koeffizienten in einer linearen/logistischen Regression).
- Level 2 (Strukturelle Selektion): Daten wählen aus einer vordefinierten Menge zulässiger Strukturen aus (z. B. Stepwise Feature Selection, $L_1$ -Regularisierung).
- Level 3 (Strukturelle Konstruktion): Daten konstruieren funktional die Input-Output-Abbildung, entweder explizit (z. B. Entscheidungsbäume) oder implizit (z. B. k-Nearest Neighbors).
- Level 4 (Repräsentationskonstruktion): Daten bestimmen den Repräsentationsraum selbst (z. B. tiefe neuronale Netze, Representation Learning).
Regulatorische Zuordnung: Das Framework wird auf den Text des AI Act (Artikel 3, Erwägungsgrund 12) und die Leitlinien der Kommission angewendet. Die Autoren analysieren die Ausschlusskriterien der Leitlinien für Systeme, die lediglich „mathematische Optimierung verbessern“ oder „traditionelle Methoden beschleunigen“, um zu bestimmen, wo die regulatorische Schwelle für die „Fähigkeit zur Inferenz“ liegt. Sie untersuchen zwei Interpretationen: eine, bei der Level 1 außerhalb der KI-Definition liegt, und eine alternative, bei der bereits die Parameterschätzung als Inferenz gilt.
Fallstudien-Anwendung: Das Framework wird auf zwei realistische Kreditscoring-Workflows unter Verwendung des „Give Me Some Credit“-Datensatzes angewendet. Die Autoren analysieren den End-to-End-Entwicklungsprozess, einschließlich:
- Binning: Analyse von manuellem vs. datengesteuertem Binning (z. B. rekursive binäre Splits zur Optimierung der Shannon-Entropie).
- Logistische Regression: Untersuchung von Standard-Logistischer-Regression gegenüber Versionen, die Stepwise Feature Selection verwenden.
- Menschlicher Einfluss: Bewertung, wie Expertenbeschränkungen (z. B. Monotonieanforderungen, regulatorische Regeln) und manuelle Vorauswahl die Inferenzfähigkeit des Systems beeinflussen.

Zentrale Beiträge

Ein abgestuftes Inferenz-Framework: Die Arbeit führt eine strukturierte, fünfstufige Taxonomie ein, die Systeme danach unterscheidet, wie Daten die Input-Output-Abbildungen formen. Dies geht über binäre Klassifizierungen hinaus, um eine granulare Analyse hybrider Systeme zu ermöglichen.
Regulatorische Klärung für statistische Modelle: Die Autoren zeigen auf, dass gängige Kreditscoring-Techniken unterschiedliche Ebenen des Frameworks besetzen. Insbesondere zeigen sie, dass während eine Standard-Logistische-Regression mit fixierten Features Level 1 darstellt, die Hinzunahme von datengesteuertem Binning (Level 3a) oder Stepwise Feature Selection (Level 2) die Inferenzfähigkeit des Systems verschiebt.
Analyse auf Workflow-Ebene: Die Arbeit argumenttiert, dass die regulatorische Bewertung nicht auf das finale Vorhersagemodell beschränkt sein darf. Stattdessen muss der gesamte datenverarbeitende Workflow bewertet werden, da Vorverarbeitungsschritte wie Binning und Variablenselektion Inferenzfähigkeiten einführen können, die das finale Modell allein möglicherweise nicht besitzt.
Rolle der menschlichen Expertise: Die Analyse verdeutlicht, dass die Beteiligung von Menschen während der Entwicklungsphase (z. B. Definition von Constraints, manuelle Auswahl von Variablen) maßgeblich beeinflussen kann, ob ein System als besitzend der „Fähigkeit zur Inferenz“ gilt, was ein System potenziell innerhalb der Kategorie der „basischen Datenverarbeitung“ halten kann, selbst wenn es statistische Modelle nutzt.

Ergebnisse
Die Anwendung des Frameworks auf Kreditscoring-Workflows zeigt, dass diese Systeme oft zusammengesetzt sind:

Binning: Manuelles Binning verbleibt auf Level 0 oder 1. Datengesteuerte Binning-Methoden (wie solche, die die Entropie optimieren) stellen jedoch Level 3a (Explizite Strukturelle Konstruktion) dar, da die Partitionierungsstruktur funktional aus den Daten konstruiert wird, anstatt aus einem festen Katalog ausgewählt zu werden.
Logistische Regression: Ein Standard-Logistische-Regression-Modell mit vorselektierten Features ist Level 1. Wenn es jedoch mit Stepwise Feature Selection kombiniert wird, operiert das System auf Level 2 (Strukturelle Selektion).
Regulatorische Schwelle: Die Autoren legen nahe, dass, falls die Leitlinien der Kommission streng interpretiert werden, um Systeme auszuschließen, die lediglich traditionelle Optimierung „beschleunigen“, Level-1-Systeme (parametrische Adaptation) außerhalb des Anwendungsbereichs des AI Act liegen könnten. Umgekehrt korrespondieren Systeme, die Level 2 oder höher aufweisen (strukturelle Selektion oder Konstruktion), enger mit der Definition des Gesetzes bezüglich der Ableitung von Modellen aus Daten.
Ambiguitätsauflösung: Die Studie illustriert, dass ein einzelnes Kreditscoring-System Komponenten auf verschiedenen Levels enthalten kann. Folglich ist die „Fähigkeit zur Inferenz“ keine intrinsische Eigenschaft des Algorithmus allein, sondern eine Eigenschaft der spezifischen Implementierung und des Workflows.

Bedeutung
Die Arbeit beansprucht ihre primäre Bedeutung daraus, ein technisches Werkzeug bereitzustellen, um das rechtliche Konzept der „Fähigkeit zur Inferenz“ für Regulierungsbehörden und Branchenpraktiker operationalisierbar zu machen. Durch den Nachweis, dass nicht alle datengesteuerten Systeme die gleiche Inferenzkapazität besitzen, bietet das Framework eine Basis für eine konsistente regulatorische Behandlung von Grenzfall-Szenarien, insbesondere in Hochrisikosektoren wie dem Kreditscoring. Die Autoren betonen, dass ihre Arbeit nicht den rechtlichen Status der logistischen Regression endgültig klärt, sondern vielmehr die notwendigen technischen Unterscheidungen verdeutlicht, die für eine solche Bestimmung erforderlich sind, wobei sie hervorheben, dass die Beteiligung menschlicher Experten und das spezifische Workflow-Design entscheidende Faktoren dafür sind, ob ein System die Definition des AI Act erfüllt.

Die „Inferenz-Leiter“

Der Test am Kredit-Scorecard

Das wichtigste Fazencit

Mehr davon