Technisches Resümee: Das Skalierungsparadoxon in der Mensch–KI-Kollaboration

Problemstellung

Die Entdeckung von Skalierungsgesetzen (Scaling Laws) in der künstlichen Intelligenz (Kaplan et al. 2020; Hestness et al. 2017) etabliert, dass sich die Fähigkeiten von KI vorhersagbar verbessern, wenn Modellgröße, Daten und Rechenleistung zunehmen. In operativen Umgebungen arbeitet KI jedoch selten isoliert; sie agiert innerhalb von Mensch–KI-Kollaborationssystemen, in denen menschliche Arbeitskräfte Aufwand aufwenden müssen, um KI-Outputs zu überprüfen, zu validieren oder zu korrigieren.

Das zentrale Problem ist die Frage, ob die empirischen Gewinne aus der KI-Skalierung in eine verbesserte Leistung des gemeinsamen Mensch–KI-Systems übergehen. Während die Intuition nahelegt, dass eine leistungsfähigere KI es Menschen ermöglichen sollte, mehr Aufgaben zu bewältigen, deuten jüngste empirische Belege (z. B. Becker et al. 2025; METR) auf gemischte oder sogar negative Produktivitätsergebnisse hin. Die Arbeit postuliert, dass die menschliche Fehlwahrnehmung der KI-Fähigkeiten ein kritischer, oft übersehener Mechanismus ist, der den Skalierungseffekt unterbrechen kann und so zu einem „Skalierungsparadoxon“ führt, bei dem eine erhöhte KI-Skalierung die Gesamtleistung des Systems und den Unternehmensgewinn reduziert.

Methodik

Die Autoren entwickeln ein parsimonisches analytisches Modell der Mensch–KI-Kollaboration, um die endogene Aufwandsallokation unter Skalierungsgesetzen zu untersuchen.

1. Der Mensch–KI-Workflow

Das Modell formalisiert einen dreistufigen sequenziellen Prozess:

1. Setup: Ein menschlicher Arbeiter initiiert ein Projekt mit einem festen Zeitaufwand $t_0$.
2. KI-Ausführung: Die KI versucht die Aufgabe mit einer Erfolgswahrscheinlichkeit von $1 - e^{-\alpha s}$, wobei $s$ die KI-Skala (logarithmisches Maß für Ressourcen) und $\alpha$ der Skalierungsfaktor (Aufgabe–KI-Alignment) ist.
3. Menschliche Überprüfung: Der Arbeiter allokiert Zeit $t$ zur Überprüfung und Korrektur des KI-Outputs. Falls die KI scheitert, korrigiert der Mensch dies mit einer Wahrscheinlichkeit von $1 - e^{-t}$.

Die gemeinsame Erfolgswahrscheinlichkeit ist $p(t; \alpha, s) = 1 - e^{-(\alpha s + t)}$. Der Arbeiter verfügt über eine feste Kapazität $C$ und versucht, die erwartete Anzahl erfolgreicher Projekte zu maximieren.

2. Mechanismus der Fehlwahrnehmung

Das Modell führt einen behavioralen Parameter ein, bei dem der Arbeiter den Skalierungsfaktor als $\hat{\alpha}$ wahrnimmt, welcher vom wahren $\alpha$ abweichen kann.

• Überwahrnehmung ($\hat{\alpha} > \alpha$): Arbeiter überschätzen die KI-Kapazität, was zu einer aggressiven Reduktion des Aufwands führt.
• Unterwahrnehmung ($\hat{\alpha} < \alpha$): Arbeiter unterschätzen die KI-Kapazität, was zu einer übermäßigen Aufwandsallokation führt.

3. Unternehmensperspektive und Fehlsteuerung

Das Unternehmen maximiert den Gewinn, definiert als der Nettoertrag aus erfolgreichen Projekten abzüglich der Bereitstellungskosten $c \cdot s$. Entscheidend ist, dass das Unternehmen die KI-Kosten trägt, der Arbeiter jedoch nicht, was eine strukturelle Fehlsteuerung zwischen Unternehmen und Arbeitnehmer hinsichtlich der optimalen Aufwandsebene schafft. Das Modell analystiert, wie Fehlwahrnehmung diese Fehlsteuerung verschärft.

4. Politische Interventionsmaßnahmen

Die Studie evaluiert zwei operative Hebel:

• Kosteninternalisierung (Cost Internalization, CI): Übertragung eines Bruchteils der KI-Bereitstellungskosten auf den Arbeiter, um die Anreize für den Aufwand zu verändern.
• Wahrnehmungsabgleich (Perception Alignment): Interventionen (z. B. Training, transparente Berichterstattung), um $\hat{\alpha}$ mit $\alpha$ in Einklang zu bringen.

Zentrale Beiträge

1. Integration von Skalierungsgesetzen in das Operations Management: Die Arbeit bettet das Skalierungsgesetz als Primitiv in einen analytischen Operations-Rahmen ein und bewegt sich damit über rein empirische ML-Studien hinaus, um zu untersuchen, wie Skalierung das gesamte Produktionssystem beeinflusst, wenn der menschliche Aufwand endogen reagiert.
2. Identifikation des Skalierungsparadoxons: Die Autoren identifizieren die menschliche Fehlwahrnehmung als einen neuartigen behavioralen Mechanismus, durch den die Skalierung scheitert. Insbesondere kann Überwahrnehmung dazu führen, dass die Leistung des Gesamtsystems nicht-monoton in Bezug auf die KI-Skala wird, was einen Bereich schafft, in dem größere KI-Systeme schlechtere Ergebnisse liefern.
3. Asymmetrie der Risiken der Fehlwahrnehmung: Die Arbeit unterscheidet die asymmetrischen Effekte von Über- vs. Unterwahrnehmung. Überwahrnehmung kehrt die Skalierungsvorteile um und verstärkt die Fehlsteuerung zwischen Unternehmen und Arbeitnehmer. Unterwahrnehmung bewahrt die monotone Verbesserung (wenn auch mit einer geringeren Rate) und kann kontraintuitivweise die Fehlsteuerung zwischen Unternehmen und Arbeitnehmer teilweise mildern, indem sie Arbeiter zu mehr Aufwand anregt.
4. Design politischer Maßnahmen zur Minderung von Verzerrungen: Die Studie charakterisiert, wie Kosteninternalisierung und Wahrnehmungsabgleich auf die Richtung der Fehlwahrnehmung und die Ökonomie der Bereitstellung (z. B. Kostenniveaus) zugeschnitten werden sollten.

Kernergebnisse

1. Perfekte Kollaboration ($\hat{\alpha} = \alpha$)

Wenn Menschen die KI-Kapazität korrekt wahrnehmen, gilt das Skalierungsgesetz. Wenn die Skala $s$ steigt:

• Der menschliche Aufwand pro Projekt ($t^*$) sinkt nicht-steigend.
• Der Projektdurchsatz steigt.
• Der Gesamtsystemertrag steigt.
  Das System geht von einem „Nur-Mensch“-Regime in ein „Human-in-the-Loop“ (HIL)-Regime über und schließlich in ein „Artificial General Intelligence“ (AGI)-Regime, in dem der menschliche Aufwand über das Setup hinaus null ist.

2. Überwahrnehmung ($\hat{\alpha} > \alpha$)

• Aufwandsverzerrung: Arbeiter reduzieren den Aufwand zu aggressiv ($\hat{t} < t^*$).
• Das Skalierungsparadoxon: Im HIL-Regime kann der realisierte Ertrag, falls der Grad der Überwahrnehmung ausreichend hoch ist, nicht-monoton in Bezug auf $s$ werden. Zunächst verbessert die Skalierung die Leistung, aber ab einem Schwellenwert überwiegt die Reduktion des menschlichen Aufwands die technischen Gewinne der KI, was den Gesamtertrag sinken lässt.
• Unternehmenseffekt: Dieses Paradoxon wird auf Unternehmensebene verstärkt. Da der Ertrag sinkt, fällt der Gewinn des Unternehmens noch stärker, da das Unternehmen weiterhin die steigenden Bereitstellungskosten $c \cdot s$ für eine sinkende Anzahl erfolgreicher Projekte zahlt. Die Überwahrnehmung vergrößert die Kluft zwischen dem optimalen Aufwand des Arbeiters und des Unternehmens.

3. Unterwahrnehmung ($\hat{\alpha} < \alpha$)

• Aufwandsverzerrung: Arbeiter investieren zu viel Aufwand ($\hat{t} > t^*$).
• Gedämpfte Skalierung: Das Skalierungsgesetz gilt weiterhin (der Ertrag steigt mit $s$), aber die Gewinne sind geringer als im Fall der perfekten Kollaboration, da die Arbeiter ineffizient zu viel Zeit pro Projekt aufwenden, was den Durchsatz reduziert.
• Unternehmenseffekt: Unterwahrnehmung kann das Verhalten des Arbeiters teilweise mit den Interessen des Unternehmens in Einklang bringen. Da das Unternehmen einen höheren Aufwand bevorzugt als der Arbeiter (um kostspielige KI-Bereitstellungen zu reduzieren), kann der „Über-Aufwand“ des Arbeiters unter Unterwahrnehmung die Fehlsteuerung zwischen Unternehmen und Arbeitnehmer paradoxerweise teilweise verringern und so den Unternehmensgewinn im Vergleich zur Baseline der perfekten Kollaboration verbessern.

4. Politische Interventionsmaßnahmen

• Kosteninternalisierung:
  • Niedrige KI-Kosten: Die Übertragung von Kosten auf die Arbeiter (hohes $\rho$) erhöht im Allgemeinen den Unternehmensgewinn.
  • Hohe KI-Kosten: Unternehmen sollten mehr Kosten selbst tragen (niedriges $\rho$), um zu verhindern, dass Arbeiter die KI-Tools aufgeben.
  • Unter Fehlwahrnehmung: Bei Überwahrnehmung können Unternehmen mehr Kosten auf die Arbeiter übertragen (die bereits überoptimistisch sind). Bei Unterwährnehmung müssen die Unternehmen mehr Kosten tragen, um die Nutzung zu fördern.
• Wahrnehmungsabgleich:
  • Überwahrnehmung: Der Abgleich ist eindeutig vorteilhaft für sowohl Arbeiter als auch Unternehmen, da er das Skalierungsparadoxon verhindert.
  • Unterwahrnehmung: Ein Abgleich ist nicht immer vorteilhaft für das Unternehmen. Die Korrektur einer leichten Unterwahrnehmung kann den Unternehmensgewinn senken, indem sie die Arbeiter von dem vom Unternehmen bevorzugten hohen Aufwand wegzieht. Aggressiver Abgleich ist nur dann vorteilhaft, wenn die Unterwahrnehmung schwerwiegend ist.

Bedeutung und Ansprüche

Die Arbeit argumentiert, dass KI-Skalierung nicht nur eine technologische, sondern auch eine behaviorale und operative Herausforderung ist. Die Autoren behaupten:

1. Automatischer Wert ist ein Mythos: Größere KI-Systeme führen nicht automatisch zu besseren operativen Ergebnissen; der Wert hängt entscheidend davon ab, wie die gesteigerten Fähigkeiten die menschlichen Überzeugungen und kollaborativen Bemühungen formen.
2. Management der Schnittstelle: Organisationen können mehr davon profitieren, die Mensch–KI-Schnittstelle zu managen (durch Wahrnehmungsabgleich und Anreizgestaltung), als lediglich in größere, teurere Modelle zu investieren.
3. Risiko der Überwahrnehmung: Das „Skalierungsparadoxon“ legt nahe, dass aktuelle Organisationstrends, die aggressiv KI skalieren und gleichzeitig die menschliche Aufsicht reduzieren – getrieben durch Überoptimismus –, zu einer Verschlechterung der Leistung und verstärkten Gewinnverlusten führen können.
4. Asymmetrische Interventionen: Operative Richtlinien müssen asymmetrisch sein; was bei Überwahrnehmung funktioniert (z. B. Kostenverschiebung, aggressiver Abgleich), kann bei Unterwahrnehmung kontraproduktiv sein.

Die Studie kommt zu dem Schluss, dass Unternehmen, um den Wert der eingesetzten KI zu realisieren, die menschlichen Überzeugungen und Anreizstrukturen an die spezifischen Fähigkeiten der KI anpassen müssen. Sie warnt vor der Sichtweise, dass technologischer Fortschritt allein organisatorische Leistung garantiert.