Delegation and Verification Under AI

Titel: Delegation und Verifizierung unter KI

Autoren: Lingxiao Huang, Wenyang Xiao, Nisheeth K. Vishnoi
Institutionen: Nanjing University, Yale University

1. Problemstellung

Mit dem Eindringen von KI-Systemen in institutionelle Arbeitsabläufe (z. B. Medizin, Finanzen, Recht) entsteht ein neues Entscheidungsproblem für Arbeitnehmer: Sie müssen entscheiden, ob sie Aufgaben an die KI delegieren und wie viel Aufwand sie in die Verifizierung der KI-Ausgaben investieren.

Das zentrale Problem liegt in der Fehlausrichtung (Misalignment) zwischen den Anreizen des Arbeitnehmers und den Zielen der Institution:

• Arbeitnehmer: Optimieren ihren eigenen Nutzen (Abwägung zwischen Erfolgswahrscheinlichkeit und persönlichem Aufwand/Kosten).
• Institution: Bewertet Arbeitnehmer basierend auf dem Ergebnis (Erfolg vs. Misserfolg) und trägt die Kosten für Fehler oder Überwachung.
• Konsequenz: Individuell rationale Delegationsstrategien führen nicht zwangsläufig zu einer Maximierung des institutionellen Nutzens. Dies kann dazu führen, dass Arbeitnehmer rationalerweise zu viel delegieren („Over-delegation") und die Aufsicht vernachlässigen, was die institutionelle Qualität verschlechtert, selbst wenn die KI grundsätzlich leistungsfähiger ist.

2. Methodik und Modell

Die Autoren entwickeln ein mathematisches, statisches Modell pro Aufgabe, das die Interaktion zwischen einem rationalen Arbeitnehmer und einem festen KI-System beschreibt.

Aktionenraum und Workflow:
Ein Arbeitnehmer wählt einen Aktionsvektor $(d, s) \in [0, 1]^2$:

• $d$: Wahrscheinlichkeit der Delegierung der Ausführung an die KI.
• $s$: Aufwand für die Verifizierung der KI-Ausgabe (nur relevant, wenn delegiert).
• Der Workflow umfasst drei Pfade: manuelle Ausführung, reine Delegierung (ohne Verifizierung) oder delegierte Ausführung mit Verifizierung (bei Fehlererkennung wird die Aufgabe manuell neu bearbeitet).

Nutzenfunktionen:

• Arbeitnehmer-Nutzen ($U_W$): Hängt von der Erfolgswahrscheinlichkeit $p(d,s)$, dem Nutzen bei Erfolg, dem Verlust bei Misserfolg und den Kosten (Ausführung, Verifizierung, Korrektur) ab.
• Institutioneller Nutzen ($U_I$): Ähnliche Struktur, aber mit anderen Parametern für Nutzen/Verlust und einem Skalierungsfaktor $\xi$ für die Kosten des Arbeitnehmers aus Sicht der Institution.
• Arbeiterqualität ($Q(W)$): Definiert als der institutionelle Nutzen, der sich aus der optimalen Aktion des Arbeitnehmers ergibt: $Q(W) := U_I(d^*, s^*)$.

Parameterisierung:

• $\alpha$ (Verifizierungszuverlässigkeit): Bestimmt, wie effizient der Arbeitnehmer KI-Fehler bei gegebenem Aufwand $s$ erkennt (z. B. $\phi(s) = 1 - e^{-\alpha s}$).
• $\beta$ (Ausführungseffizienz): Bestimmt die Kosten der manuellen Ausführung.
• $p_w, p_a$: Erfolgswahrscheinlichkeiten von Mensch und KI.

Das Modell zeigt, dass der Nutzen des Arbeitnehmers linear in $d$ ist ($U_W = f_W(s)d + g_W$). Dies führt dazu, dass die optimale Delegierungsentscheidung $d^*$ binär ist (entweder 0 oder 1), was diskontinuierliche Übergänge (Phasenübergänge) im Verhalten erzeugt.

3. Wichtige Beiträge

1. Nutzengetriebenes Modell: Einführung eines Rahmens, der die strukturelle Diskrepanz zwischen individuellen Anreizen und institutionellen Zielen explizit macht. Die Qualität des Arbeitnehmers wird nicht durch seinen eigenen Nutzen, sondern durch den institutionellen Nutzen bei seiner optimalen Reaktion definiert.
2. Phasenübergänge (Phase Transitions): Die Autoren charakterisieren den optimalen Workflow als Funktion von $\alpha$ und $\beta$. Sie zeigen, dass KI nichtlineare und diskontinuierliche Abbildungen von Fähigkeiten zu Verhalten erzeugt. Kleine Änderungen in der Verifizierungsfähigkeit können zu abrupten Wechseln zwischen manueller Arbeit, verifizierter Delegierung und reiner Delegierung führen.
3. Verifizierungs-Amplifikation (Verification Amplification): KI kann die institutionelle Qualität heterogen verändern:
   • Arbeitnehmer mit hoher Verifizierungszuverlässigkeit profitieren (Compliance Gain), da sie KI effektiv nutzen können.
   • Arbeitnehmer mit niedriger Verifizierungszuverlässigkeit erleiden einen Qualitätsverlust (Compliance Loss), da sie rationalerweise zu viel delegieren und die Aufsicht vernachlässigen, obwohl die KI-Analyse an sich besser ist.
4. Analytische Lösungen: Für eine handhabbare Instanz (inverse-lineare Verifizierungsfunktion, lineare Kosten) werden geschlossene Formeln für optimale Aktionen und Qualitätsunterschiede hergeleitet.
5. Interventionsanalyse: Das Modell wird genutzt, um Strategien zur Verbesserung der Qualität zu bewerten, sowohl auf Arbeitnehmerseite (Upskilling von $\alpha$ vs. $\beta$) als auch auf Institutionenseite (KI-Verbesserung, Anreizanpassung).

4. Zentrale Ergebnisse

• Nicht-Monotonie: Eine Verbesserung der KI-Fähigkeit ($p_a$) oder der menschlichen Ausführungseffizienz ($\beta$) führt nicht zwangsläufig zu einer höheren institutionellen Qualität. Im Gegenteil: Bessere KI kann Arbeitnehmer mit geringer Verifizierungsfähigkeit dazu verleiten, von manueller Arbeit auf reine Delegierung zu wechseln, was die Gesamtqualität senkt.
• Die Rolle der Verifizierung: In KI-gestützten Workflows wird die Fähigkeit zur Verifizierung ($\alpha$) zum primären Determinanten für die institutionelle Tauglichkeit, nicht die Ausführungseffizienz ($\beta$).
• Rationalität ohne Bias: Diese negativen Effekte entstehen rein aus rationaler Optimierung ohne Annahme von kognitiven Verzerrungen oder Fehleinschätzungen.
• Interventions-Ergebnisse:
  • Die Steigerung der Verifizierungszuverlässigkeit ($\alpha$) ist oft kosteneffizienter als die Steigerung der Ausführungseffizienz ($\beta$).
  • Institutionelle Maßnahmen wie der Einsatz leistungsfähigerer KI oder die Umgestaltung von Anreizen können nicht-monotone Effekte haben: Sie können die Qualität in manchen Bereichen verbessern und in anderen verschlechtern.

5. Signifikanz und Implikationen

Das Paper liefert einen strukturellen Mechanismus, der erklärt, warum KI in Hochrisikobereichen zu ungleichen Ergebnissen führen kann:

• Filterfunktion: KI fungiert nicht nur als Produktivitätssteigerer, sondern als ein „struktureller Filter", der die Unterschiede in der Verifizierungsfähigkeit zwischen Arbeitnehmern verstärkt.
• Risiko der Überdelegation: Es warnt davor, dass die Einführung von KI ohne Anpassung der Überwachungsmechanismen oder der Qualifikationsanforderungen dazu führen kann, dass qualifizierte Arbeitnehmer (in Bezug auf manuelle Ausführung) durch KI-Delegierung „heruntergestuft" werden, während weniger effiziente, aber gute Prüfer aufgewertet werden.
• Politische Implikationen: Institutionen müssen bei der Einführung von KI nicht nur auf die Genauigkeit der KI achten, sondern auch auf die Verifizierungsfähigkeiten ihrer Mitarbeiter. Interventionen sollten gezielt auf die Verbesserung der Verifizierungsfähigkeit ($\alpha$) abzielen, da dies den größten Hebel für die Aufrechterhaltung der institutionellen Qualität bietet.

Zusammenfassend zeigt das Paper, dass die Einführung von KI in Arbeitsabläufe tiefgreifende, nichtlineare Veränderungen im Verhalten und in der Qualität von Arbeitnehmern bewirken kann, die durch die Interaktion von Delegierungsanreizen und Verifizierungskosten entstehen.