Technische Samenvatting: De Schalingsparadox in Mens–AI-Collaboratie

Probleemstelling

De ontdekking van Scaling Laws (schaalwetten) in kunstmatige intelligentie (Kaplan et al. 2020; Hestness et al. 2017) stelt dat de capaciteiten van AI voorspelbaar verbeteren naarmate de modelgrootte, data en rekenkracht toenemen. In operationele omgevingen werkt AI echter zelden in isolatie; het opereert binnen mens–AI-collaboratieve systemen waar menselijke werkers inspanning moeten toewijzen aan het beoordelen, valideren of corrigeren van AI-outputs.

Het centrale probleem dat wordt geadresseerd is of de empirische winsten van AI-schaling vertalen naar verbeterde prestaties voor het gezamenlijke mens–AI-systeem. Hoewel intuïtie suggereert dat een krachtigere AI mensen in staat stelt meer taken te verwerken, wijst recente empirische bewijslast (bijv. Becker et al. 2025; METR) op gemengde of zelfs negatieve productiviteitsresultaten. Het artikel stelt dat menselijke misperceptie van AI-capaciteiten een kritiek, vaak over het hoofd gezien mechanisme is dat het schalingseffect kan doorbreken, wat leidt tot een "schalingsparadox" waarbij een grotere AI-schaal de algehele systeemprestaties en bedrijfswinst vermindert.

Methodologie

De auteurs ontwikkelen een parsimonisch analytisch model van mens–AI-collaboratie om endogene inspanningsallocatie onder schalingswetten te bestuderen.

1. De Mens–AI Workflow

Het model formaliseert een driedelig sequentieel proces:

1. Setup: Een menselijke werker start een project met een vaste tijdskost $t_0$.
2. AI Executie: De AI probeert de taak met een succeswaarschijnlijkheid $1 - e^{-\alpha s}$, waarbij $s$ de AI-schaal is (logaritmische maatstaf van middelen) en $\alpha$ de schalingsfactor is (taak-AI-alignement).
3. Menselijke Review: De werker wijdt tijd $t$ aan het beoordelen en corrigeren van de AI-output. Als de AI faalt, corrigeert de mens dit met een waarschijnlijkheid van $1 - e^{-t}$.

De gezamenlijke succeswaarschijnlijkheid is $p(t; \alpha, s) = 1 - e^{-(\alpha s + t)}$. De werker heeft een vaste capaciteit $C$ en streeft naar het maximaliseren van het verwachte aantal succesvolle projecten.

2. Misperceptie Mechanisme

Het model introduceert een gedragsparameter waarbij de werker de schalingsfactor waarneemt als $\hat{\alpha}$, die kan verschillen van de werkelijke $\alpha$.

• Over-perceptie ($\hat{\alpha} > \alpha$): Werkers overschatten de AI-capaciteit, wat leidt tot agressieve reductie van inspanning.
• Under-perceptie ($\hat{\alpha} < \alpha$): Werkers onderschatten de AI-capaciteit, wat leidt tot excessieve toewijzing van inspanning.

3. Perspectief van het Bedrijf en Misalignement

Het bedrijf maximaliseert winst, gedefinieerd als de netto beloning uit succesvolle projecten minus de implementatiekosten $c \cdot s$. Cruciaal is dat het bedrijf de AI-kosten draagt terwijl de werker dat niet doet, wat zorgt voor een structurele bedrijf-werker misalignement met betrekking tot optimale inspanningsniveaus. Het model analyseert hoe misperceptie deze misalignement verergert.

4. Beleidsinterventies

De studie evalueert twee operationele hefbomen:

• Kosteninternalisatie (CI): Het verschuiven van een fractie $\rho$ van de AI-implementatiekosten naar de werker om de inspanningsprikkels te veranderen.
• Perceptie-alignement: Interventies (bijv. training, transparante rapportage) om $\hat{\alpha}$ af te stemmen op $\alpha$.

Belangrijkste Bijdragen

1. Integratie van Schalingswetten in Operations Management: Het artikel plaatst de schalingswet als een primitief in een analytisch operations-framework, waardoor het verder gaat dan empirische ML-studies om te onderzoeken hoe schaling de volledige productiesystemen beïnvloedt wanneer menselijke inspanning endogeen reageert.
2. Identificatie van de Schalingsparadox: De auteurs identificeren menselijke misperceptie als een nieuw gedragmechanisme waarbij schaling faalt. Specifiek kan over-perceptie ervoor zorgen dat de prestaties van het gezamenlijke systeem niet-monotoon worden met betrekking tot de AI-schaal, wat een regio creëert waarin grotere AI-systemen slechtere resultaten opleveren.
3. Asymmetrie van Misperceptierisico's: Het artikel maakt onderscheid tussen de asymmetrische effecten van over- versus under-perceptie. Over-perceptie keert de schalingsvoordelen om en versterkt de bedrijf-werker misalignement. Under-perceptie behoudt de monotone verbetering (hoewel tegen een lager tempo) en kan, contra-intuïtief, de bedrijf-werker misalignement deels mitigeren door werkers aan te zetten tot meer inspanning.
4. Ontwerp van Beleid voor Distortie-mitigatie: De studie karakteriseert hoe kosteninternalisatie en perceptie-alignement moeten worden afgestemd op de richting van de misperceptie en de economie van de deployment (bijv. kostenniveaus).

Belangrijkste Resultaten

1. Perfecte Collaboratie ($\hat{\alpha} = \alpha$)

Wanneer mensen de AI-capaciteit accuraat waarnemen, houdt de schalingswet stand. Naarmate de schaal $s$ toeneemt:

• Neemt de menselijke inspanning per project ($t^*$) niet-toenemend af.
• Neemt de projectdoorvoer toe.
• Neemt de totale systeembeloning toe.
  Het systeem transformeert van een "Human-Only" regime naar een "Human-in-the-Loop" (HIL) regime, en uiteindelijk naar een "Artificial General Intelligence" (AGI) regime waarbij menselijke inspanning buiten de setup nul is.

2. Over-Perceptie ($\hat{\alpha} > \alpha$)

• Inspanningsdistortie: Werkers reduceren hun inspanning te agressief ($\hat{t} < t^*$).
• De Schalingsparadox: In het HIL-regime, als de mate van over-perceptie voldoende hoog is, wordt de gerealiseerde beloning niet-monotoon in $s$. Aanvankelijk verbetert schaling de prestaties, maar voorbij een drempelwaarde weegt de reductie in menselijke inspanning zwaarder dan de technische winsten van de AI, waardoor de totale beloning daalt.
• Impact op het Bedrijf: Deze paradox wordt versterkt op bedrijfsniveau. Naarmate de beloning daalt, daalt de winst van het bedrijf nog scherper omdat het bedrijf blijft betalen voor de toenemende implementatiekosten $c \cdot s$ voor een afnemend aantal succesvolle projecten. Over-perceptie vergroot de kloof tussen de werker-optimale en bedrijf-optimale inspanning.

3. Under-Perceptie ($\hat{\alpha} < \alpha$)

• Inspanningsdistortie: Werkers investeren te veel inspanning ($\hat{t} > t^*$).
• Gedempte Schaling: De schalingswet houdt stand (beloning neemt toe met $s$), maar de winsten zijn trager dan in het geval van perfecte collaboratie omdat werkers inefficiënt te veel tijd per project besteden, wat de doorvoer vermindert.
• Impact op het Bedrijf: Under-perceptie kan de werkergedrag deels afstemmen op de belangen van het bedrijf. Omdat het bedrijf de voorkeur geeft aan hogere inspanning (om kostbare AI-deployments te verminderen), kan de "over-inspanning" van de werker onder under-perceptie de bedrijf-werker misalignement onbedoeld deels verminderen, wat soms de winst van het bedrijf verbetert ten opzien van de perfecte collaboratie-baseline.

4. Beleidsinterventies

• Kosteninternalisatie:
  • Lage AI-kosten: Het verschuiven van kosten naar werkers (hoge $\rho$) verhoogt over het algemeen de winst van het bedrijf.
  • Hoge AI-kosten: Bedrijven moeten meer kosten absorberen (lage $\rho$) om werkers te voorkomen de AI-tools te verlaten.
  • Onder Misperceptie: Onder over-perceptie kunnen bedrijven meer kosten naar de werkers verschuiven (die al overmoedig zijn). Onder under-perceptie moeten bedrijven meer kosten dragen om adoptie te stimuleren.
• Perceptie-alignement:
  • Over-Perceptie: Alignement is onmiskenbaar gunstig voor zowel werkers als bedrijven, omdat het de schalingsparadox voorkomt.
  • Under-Perceptie: Alignement is niet altijd gunstig voor het bedrijf. Het corrigeren van milde under-perceptie kan de winst van het bedrijf verminderen door werkers weg te trekend van het door het bedrijf geprefereerde hoge inspanningsniveau. Agressieve alignement is alleen gunstig als de under-perceptie ernstig is.

Betekenis en Claims

Het artikel betoogt dat AI-schaling niet louter een technologische uitdaging is, maar een gedragsmatige en operationele uitdaging. De auteurs stellen dat:

1. Automatische Waarde is een Mythe: Grotere AI-systemen leiden niet automatisch tot betere operationele resultaten; de waarde hangt kritiek af van hoe toegenomen capaciteiten menselijke overtuigingen en collaboratieve inspanningen vormgeven.
2. Beheer van de Interface: Organisaties kunnen meer baat hebben bij het beheren van de mens–AI-interface (via perceptie-alignement en incentive-ontwerp) dan simpelweg te investeren in grotere, duurdere modellen.
3. Risico van Over-Perceptie: De "schalingsparadox" suggereert dat huidige organisatorische trends van agressief schalen van AI terwijl menselijk toezicht wordt verminderd — gedreven door over-optimisme — kunnen leiden tot verslechterende prestaties en versterkte winstverliezen.
4. Asymmetrische Interventies: Operationele beleidsmaatregelen moeten asymmetrisch zijn; wat werkt voor over-perceptie (bijv. kostenverschuiving, agressieve alignement) kan contraproductief zijn voor under-perceptie.

De studie concludeert dat het realiseren van de waarde van ingezette AI vereist dat bedrijven menselijke overtuigingen en incentive-structuren aanpassen aan de specifieke capaciteiten van het AI-systeem, waarbij gewaarschuwd wordt voor de visie dat technologische vooruitgang alleen al organisatorische prestaties garandeert.