Delegation and Verification Under AI

Titel: Delegering en Verificatie onder AI

Auteurs: Lingxiao Huang, Wenyang Xiao, Nisheeth K. Vishnoi
Instellingen: Nanjing University, Yale University

1. Probleemstelling

Naarmate AI-systemen institutionaliseren in workflows (bijv. in geneeskunde, financiën en juridische zaken), moeten werknemers een keuze maken: voeren ze taken handmatig uit, delegeren ze de uitvoering volledig aan AI, of delegeren ze met verificatie van het AI-uitvoer?

Het centrale probleem is de misalignering van belangen:

• Werknemer: Optimaliseert zijn eigen nut door een afweging te maken tussen inspanning (kosten) en succes (beloning).
• Instituut: Evalueert werknemers op basis van uitkomsten (succes/falen) en draagt de kosten van fouten, maar ziet niet de interne workflow of de inspanning die de werknemer heeft geleverd.

De vraag is hoe AI de kwaliteit van de werknemer (gedefinieerd als het door de instituut gegenereerde nut) herstructureert. Empirische studies tonen aan dat AI toegang soms leidt tot overbetrouwingsgedrag (over-reliance) en verminderde toezicht, wat kan resulteren in een daling van de totale kwaliteit, zelfs als de basisprestaties van AI verbeteren.

2. Methodologie

De auteurs ontwikkelen een wiskundig kader gebaseerd op speltheorie en optimalisatie.

Het Model:

• Actieruimte: Een rationele werknemer kiest een actie $(d, s) \in [0, 1]^2$:
  • $d$: De waarschijnlijkheid om de taakuitvoering te delegeren aan AI.
  • $s$: De inspanning voor verificatie (controle) van het AI-uitvoer.
• Werknemer Nut ($U_W$): Een functie van de kans op succes $p(d,s)$ en de kosten. De werknemer maximaliseert $U_W$ om zijn optimale actie $(d^*, s^*)$ te vinden.
• Instituut Nut ($U_I$): Een soortgelijke functie, maar met institutionele parameters (bijv. hogere kosten bij falen).
• Werknemer Kwaliteit ($Q(W)$): Gedefinieerd als het instituut nut $U_I$ geëvalueerd bij de door de werknemer gekozen optimale actie $(d^*, s^*)$. Dit is cruciaal: de kwaliteit wordt bepaald door wat de werknemer doet, niet door wat het instituut wil.

Kernparameters:

• $\alpha$: Verificatiebetrouwbaarheid (hoe goed kan de werknemer AI-fouten detecteren bij inspanning $s$?).
• $\beta$: Uitvoeringsefficiëntie (hoe goed is de werknemer in het handmatig uitvoeren van de taak?).
• $\phi(s)$: Een detectiefunctie die inspanning $s$ omzet in de kans op het opsporen van een fout (concaaf, afnemende meeropbrengst).
• $C_v(s)$: Kosten van verificatie (convex, toenemende marginale kosten).

Analyse:
De auteurs analyseren de oplossing van het optimalisatieprobleem van de werknemer en onderzoeken hoe $(d^*, s^*)$ en $Q(W)$ veranderen als functie van $\alpha$ en $\beta$. Ze gebruiken een lineaire decompositie van het nut om de overgangen tussen verschillende werkstromen te analyseren.

3. Belangrijkste Bijdragen

1. Een nut-gedreven model voor delegering en verificatie:
   Het paper formaliseert de interactie tussen mens en AI als een paar $(d, s)$. Het onderscheidt expliciet tussen het doel van de werknemer en het doel van het instituut, waardoor structurele misaligneringen zichtbaar worden.

2. Fase-overgangen in workflows:
   De auteurs tonen aan dat AI niet-lineaire en discontinuïteiten introduceert in de relatie tussen vaardigheid en gedrag. Kleine veranderingen in $\alpha$ of $\beta$ kunnen leiden tot scherpe sprongen tussen drie regimes:

   • Handmatig werk $(0, 0)$.
   • Geverifieerde delegering $(1, s^*)$.
   • Pure delegering $(1, 0)$ (zonder verificatie).
     Deze overgangen ontstaan door de structurele eigenschappen van het nut (affijn in $d$), wat betekent dat werknemers abrupt van strategie wisselen in plaats van geleidelijk.

3. Heterogene impact op werknemerskwaliteit:
   Het paper identificeert twee regimes:

   • Compliance Gain: Werknemers met hoge verificatiebetrouwbaarheid ($\alpha$) worden "opgewaardeerd" en kwalificeren zich voor taken die ze zonder AI niet hadden kunnen uitvoeren.
   • Compliance Loss: Werknemers met lage $\alpha$ rationaliseren over-delegering (ze kiezen voor pure delegering omdat het voor hen voordelig is), wat leidt tot een daling van de institutionele kwaliteit, zelfs als de AI zelf beter wordt.

4. Het fenomeen van "Verificatieversterking" (Verification Amplification):
   AI fungeert als een structurele filter dat het belang van verificatievaardigheid ($\alpha$) boven die van uitvoeringsefficiëntie ($\beta$) plaatst. AI versterkt de ongelijkheid: werknemers met sterke evaluatievaardigheden profiteren disproportioneel, terwijl anderen achteruitgaan door rationele over-delegering.

5. Interventies en Uitbreidingen:
   Het paper analyseert interventies (zoals het verbeteren van $\alpha$ of $\beta$) en toont aan dat het verhogen van AI-capaciteit ($p_a$) soms contraproductief kan zijn voor de totale kwaliteit als werknemers niet voldoende kunnen verifiëren.

4. Resultaten

• Theorema 3.1 (Optimale Actie): De optimale actie is een functie van $\alpha$ en $\beta$. Er bestaan drempelwaarden ($\psi_0, \psi_1$) die de overgangen tussen handmatig werk, geverifieerde delegering en pure delegering definiëren. De overgangen zijn discontinu.
• Theorema 3.5 (Kwaliteitsverbetering vs. Geen AI): AI verbetert de werknemerskwaliteit alleen als $\alpha$ boven een bepaalde drempel $\psi(\beta)$ ligt. Onder deze drempel (vooral bij lage $\alpha$) degradeert de kwaliteit door over-delegering, ondanks dat de AI zelf accuraat is.
• Theorema 3.6 (Op- en Afwaardering):
  • Werknemers met lage $\beta$ (minder efficiënt in uitvoering) maar hoge $\alpha$ worden opgewaardeerd (compliance gain).
  • Werknemers met hoge $\beta$ maar lage $\alpha$ worden vaak afgewaardeerd (compliance loss) omdat ze rationeel kiezen voor pure delegering, wat leidt tot fouten die het instituut niet wil.
• Empirische Calibratie: Aan de hand van medische data (Collab-CXR dataset) tonen de auteurs aan hoe het model parameters kan afleiden en voorspellingen kan doen over het gedrag van artsen. Ze tonen aan dat zelfs bij rationeel gedrag, de kwaliteit kan dalen als verificatievaardigheden ontoereikend zijn.
• Robuustheid: De resultaten blijven gelden bij uitbreidingen voor heterogene taakmoeilijkheid, verkeerde inschattingen van AI-capaciteit (miscalibratie) en gedeeltelijke heruitvoering.

5. Betekenis en Conclusie

Dit paper biedt een fundamenteel inzicht in de dynamiek van AI in organisaties:

1. Rationaliteit is niet genoeg: Zelfs als werknemers volledig rationeel handelen en geen cognitieve bias vertonen, kan de introductie van AI leiden tot een daling van de totale kwaliteit voor de organisatie.
2. Verificatie is de nieuwe kerncompetentie: In een AI-gedreven omgeving wordt de capaciteit om AI-uitvoer te evalueren ($\alpha$) belangrijker dan de capaciteit om de taak zelf uit te voeren ($\beta$).
3. Beleidsopties: Het verhogen van de AI-capaciteit alleen is geen garantie voor betere resultaten. Instellingen moeten investeren in het verbeteren van de verificatievaardigheden van werknemers of incentives herstructureren om over-delegering te voorkomen.

De auteurs concluderen dat AI niet alleen een productiviteitsverhoger is, maar een structurele filter dat de kwaliteit van werknemers herverdeelt en de kloof tussen werknemers met sterke en zwakke verificatievaardigheden vergroot. Dit vereist een nieuwe benadering van HR-beleid en institutioneel toezicht in de AI-tijdperk.