Constitutive vs. Corrective: A Causal Taxonomy of Human Runtime Involvement in AI Systems
Dieser Beitrag schlägt eine kausale Taxonomie vor, die menschliche Eingriffe in KI-Systeme während des Betriebs anhand ihrer konstitutiven (HITL) oder korrektiven (HOTL) Rolle sowie ihrer kognitiven Integration kategorisiert, um die Begriffsverwirrung zu klären und normative Anforderungen an eine effektive menschliche Aufsicht präziser zu definieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bauen eine sehr intelligente, aber manchmal etwas sture Maschine, die wichtige Entscheidungen trifft – zum Beispiel, ob ein Kredit bewilligt wird oder ob ein autonomes Auto bremst. Die große Frage lautet: Wie viel muss ein Mensch dabei tun, und wie genau tut er es?
In der Fachwelt gibt es hier ein riesiges Durcheinander. Begriffe wie „Mensch im Kreislauf" (Human-in-the-Loop) oder „Mensch auf dem Kreislauf" (Human-on-the-Loop) werden oft wild durcheinandergeworfen. Die Autoren dieses Papiers, Kevin Baum und Johann Laux, sagen: „Halt! Wir müssen aufhören, mit Metaphern zu spielen, und stattdessen genau hinsehen, wie der Mensch die Entscheidung eigentlich beeinflusst."
Hier ist die einfache Erklärung ihrer neuen Einteilung, serviert mit ein paar anschaulichen Bildern:
1. Der große Unterschied: Das Tor vs. Der Schalter
Stellen Sie sich den Entscheidungsprozess der KI als einen Fluss vor, der Wasser (die Entscheidung) fließen lässt.
Der Mensch im Kreislauf (HITL) = Das Tor
- Wie es funktioniert: Der Mensch ist wie ein Tor, das zwingend geöffnet werden muss, damit das Wasser überhaupt fließen kann. Ohne den Menschen passiert gar nichts. Die KI kann nicht weitermachen, bis der Mensch „Ja" sagt.
- Beispiel: Ein Richter, der ein Urteil fällen muss. Die KI liefert eine Risikobewertung, aber das Urteil fällt erst, wenn der Richter den Stift hebt und unterschreibt. Ohne den Richter gibt es kein Urteil. Der Mensch ist ein notwendiger Baustein.
Der Mensch auf dem Kreislauf (HOTL) = Der Schalter
- Wie es funktioniert: Hier fließt das Wasser von selbst. Der Mensch steht daneben und hält einen Schalter in der Hand. Normalerweise lässt er den Schalter liegen, und die KI macht ihre Arbeit. Aber wenn etwas schiefgeht, kann er den Schalter umlegen, den Fluss stoppen oder umleiten.
- Beispiel: Ein autonomer Lieferroboter, der Pakete bringt. Er fährt allein. Ein Sicherheitsmitarbeiter sitzt im Kontrollraum. Wenn der Roboter auf einen Fußgänger zuläuft, drückt der Mitarbeiter den Notstopp. Aber wenn alles gut läuft, fährt der Roboter einfach weiter, ohne dass der Mensch etwas tut. Der Mensch ist korrigierend, aber nicht zwingend für den normalen Ablauf.
2. Die Zeit-Falle: Wann greift der Mensch ein?
Bei der „Schalter"-Variante (HOTL) gibt es noch drei verschiedene Arten, wann man eingreifen kann:
- Gleichzeitig (Synchron): Der Mensch schaut live auf einen Bildschirm und kann sofort reagieren. (Wie ein Fluglotsen, der sofort ruft, wenn zwei Flugzeuge zu nah kommen).
- Verspätet (Asynchron): Der Mensch schaut sich erst später an, was passiert ist (z. B. eine wöchentliche Liste aller Fahrten). Er kann dann die KI für die nächste Woche besser einstellen, aber den aktuellen Fehler nicht mehr korrigieren.
- Vorausschauend (Antizipatorisch): Der Mensch stellt vor dem Start die Regeln ein. Er sagt: „Die KI darf nur in diesem Bereich fahren." Er gestaltet den Raum, in dem die KI sich bewegt, aber greift nicht in den einzelnen Moment ein.
3. Das Gehirn: Zwei Köpfe oder ein Team?
Neben dem Wann und Wie gibt es noch die Frage des Zusammenarbeitens:
- Komplementäre Intelligenz (Nebeneinander): Mensch und Maschine arbeiten wie zwei Spezialisten an einem Tisch. Der eine macht das, was er gut kann (z. B. Mustererkennung), der andere macht das, was er gut kann (z. B. ethische Abwägung). Sie tauschen Daten aus, aber jeder denkt für sich.
- Bild: Ein Architekt und ein Statiker. Der Statiker rechnet, der Architekt entwirft. Sie arbeiten zusammen, aber ihre Köpfe sind getrennt.
- Hybride Intelligenz (Verschmolzen): Mensch und Maschine denken zusammen als ein einziges System. Die Maschine verändert so stark, wie der Mensch die Welt sieht, dass man sie nicht mehr trennen kann.
- Bild: Ein Chirurg mit einer AR-Brille (Augmented Reality). Er sieht durch die Brille die Adern im Körper des Patienten, die ihm die KI direkt in sein Sichtfeld projiziert. Er denkt durch die Maschine. Ohne die Brille könnte er die Entscheidung nicht treffen, weil ihm die Information fehlt.
4. Das große Missverständnis: Aufsicht (Oversight)
Hier kommt der wichtigste Punkt für Gesetze (wie die EU-KI-Verordnung).
Oft denken Leute: „Wenn ein Mensch mitmacht, ist alles gut." Die Autoren sagen: Nein.
- Echte Aufsicht (Human Oversight) ist eine spezielle Form des „Schalters" (HOTL).
- Es reicht nicht, dass ein Mensch nur da sitzt und auf „OK" drückt (wie ein Stempel), wenn er gar nicht versteht, was passiert. Das ist keine Aufsicht, das ist nur ein Alibi.
- Echte Aufsicht bedeutet: Der Mensch muss die Macht, das Wissen und die Bereitschaft haben, wirklich einzugreifen, wenn es nötig ist. Er muss den Schalter wirklich ziehen können, nicht nur theoretisch besitzen.
5. Das Problem der Doppelrolle
Stellen Sie sich vor, Sie sind der Fahrer eines autonomen Autos.
- Manchmal müssen Sie lenken (Sie sind das Tor / HITL).
- Manchmal müssen Sie aufpassen, ob das Auto nicht verrückt spielt (Sie sind der Schalter / HOTL).
Das ist gefährlich! Wenn Sie selbst gerade lenken, sind Sie zu sehr im System drin, um es kritisch zu beobachten. Sie vertrauen dem Auto zu sehr. Die Autoren sagen: Das ist ein Design-Problem. Wenn eine Person beide Rollen haben muss, muss das System so gebaut sein, dass es diese Gefahr abschwächt (z. B. durch eine zweite, unabhängige Person, die nur zuschaut, oder durch spezielle Warnsysteme).
Fazit in einem Satz
Wir müssen aufhören, nur zu sagen „Der Mensch ist dabei". Stattdessen müssen wir fragen: Ist der Mensch ein notwendiger Baustein für jede Entscheidung (Tor), oder hat er die Macht, die Maschine zu stoppen oder zu korrigieren (Schalter)? Und ist er dabei wirklich wachsam und fähig, oder drückt er nur blind auf einen Knopf?
Nur mit dieser klaren Unterscheidung können wir Gesetze schreiben, die KI wirklich sicher machen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.