Constitutive vs. Corrective: A Causal Taxonomy of Human Runtime Involvement in AI Systems
Dit artikel stelt een causale taxonomie voor die menselijke betrokkenheid bij AI-systemen tijdens de runtime onderscheidt in constitutieve (HITL) en corrigerende (HOTL) rollen, waarbij het de verwarring rondom terminologie oplost door een onderscheid te maken tussen causale structuur, cognitieve integratie en de normatieve vereisten van effectief menselijk toezicht.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
🚦 Mensen in de AI: Een Nieuwe Kaart voor Verwarring
Stel je voor dat we allemaal in een groot, luidruchtig café zitten waar iedereen over "Mensen in de AI" praat. De één zegt: "Je moet een mens in de kringloop hebben!" De ander roept: "Nee, een mens moet erbovenop zitten!" En weer een ander zegt: "We hebben toezicht nodig!"
Het probleem? Iedereen gebruikt dezelfde woorden, maar bedoelt iets heel anders. Voor een programmeur betekent "mens in de loop" misschien iemand die data labelt, terwijl voor een jurist het betekent dat een mens een knop kan indrukken om een beslissing te stoppen. Dit zorgt voor verwarring tussen wetenschappers, juristen en filosofen.
De auteurs van dit artikel, Kevin en Johann, zeggen: "Stop met die metaforen van 'kringen' en 'loops'. Laten we kijken naar de echte oorzaak-en-gevolg-relatie."
Ze stellen een nieuw systeem voor om te begrijpen hoe mensen en AI samenwerken. Ze gebruiken twee hoofdonderdelen: De Rol (wat doet de mens?) en Het Brein (hoe denken ze samen?).
1. De Twee Hoofdrollen: De Poortwachter vs. De Schakelaar
De auteurs maken een fundamenteel onderscheid tussen twee manieren waarop een mens betrokken is bij een AI-beslissing.
🚪 A. De Mens-in-de-Loop (HITL) = De Poortwachter
Stel je een beveiligingspoort voor bij een station. De trein (de AI) kan niet vertrekken totdat de poortwachter (de mens) de poort opent.
- Hoe het werkt: Zonder de mens gebeurt er niets. De AI is als een auto die geen motor heeft; hij kan niet rijden zonder dat de mens de sleutel omdraait.
- Voorbeeld: Een AI schrijft een sollicitatiebrief, maar de mens moet hem goedkeuren voordat hij verstuurd wordt. Als de mens niet klikt, wordt er niets verstuurd. De mens is een onmisbaar onderdeel van de keten.
🎛️ B. De Mens-op-de-Loop (HOTL) = De Schakelaar
Stel je nu een zelfrijdende auto voor. De auto rijdt prima alleen. Maar er zit een chauffeur achterin die wakker is. Hij hoeft niet te sturen, maar hij heeft een grote rode knop: "STOP".
- Hoe het werkt: De AI doet zijn werk gewoon. De mens is er niet nodig om de auto te laten rijden, maar hij kan ingrijpen als er iets misgaat. Hij is een correctie, geen noodzaak.
- Voorbeeld: Een AI sorteert pakketten in een magazijn. De mens kijkt naar schermen en kan ingrijpen als de robot een pakket in de verkeerde richting stuurt. Maar zolang de robot goed werkt, doet de mens niets.
Het grote verschil: Bij de Poortwachter (HITL) is de mens binnen de machine. Bij de Schakelaar (HOTL) is de mens erbij, maar niet in de machine.
2. Wanneer grijpt de Schakelaar in? (Tijdsdimensie)
Binnen de rol van "Schakelaar" (HOTL) zijn er drie manieren om in te grijpen, afhankelijk van wanneer je dat doet:
- Synchronisch (Direct): Je kijkt live mee en kunt direct ingrijpen.
- Analogie: Een piloot die de autopilot uitschakelt als er een storm opkomt.
- Asynchroon (Met vertraging): Je kijkt later terug naar wat er gebeurd is en corrigeert het voor de toekomst.
- Analogie: Een chef die elke vrijdag de logs van de week bekijkt en zegt: "Volgende week moeten we de robot iets anders programmeren." Hij grijpt niet in nu, maar pas later.
- Anticiperend (Vooruitziend): Je stelt de regels vast voordat de machine überhaupt begint.
- Analogie: Een architect die de muren van een huis bouwt. Hij bepaalt waar de muren komen, zodat de bewoners (de AI) nooit in de verkeerde richting kunnen lopen. Hij grijpt niet in terwijl de bewoners wonen, maar hij heeft de ruimte alvast begrensd.
3. Hoe denken ze samen? (Het Brein)
Naast de rol (Poort of Schakelaar) is er nog een vraag: Hoe denken de mens en de machine samen?
Complementair (Samenwerken als teamleden):
De mens en de AI doen verschillende dingen en vullen elkaar aan, maar ze hebben hun eigen "hoofd".- Voorbeeld: Een arts en een AI. De AI kijkt naar de röntgenfoto en zegt: "Hier lijkt een breuk." De arts kijkt naar de foto, kijkt naar de patiënt en zegt: "Ja, ik zie het ook, en ik ga een gips aanleggen." De arts denkt zelf na; de AI is slechts een hulpmiddel.
Hybride (Een gezamenlijk brein):
De mens en de AI zijn zo verweven dat ze als één denkend wezen functioneren. De mens kan niet meer denken zonder de AI.- Voorbeeld: Een chirurg met een Augmented Reality-bril (AR). De bril projecteert de botten en slagaders direct in het zicht van de chirurg. De chirurg "ziet" de botten niet meer met zijn eigen ogen, maar door de bril. Hij denkt via de machine. Zonder de bril zou hij niet kunnen opereren op die manier.
4. Wat is "Toezicht" (Oversight)?
Hier komt de juridische twist. Veel mensen denken dat "Toezicht" betekent dat er gewoon een mens in de loop zit (HITL). De auteurs zeggen: Nee, dat is niet genoeg.
- Het probleem: Als een mens alleen maar een stempel moet zetten op elke AI-beslissing (HITL), maar hij doet dat zonder na te denken (een "rubberstempel"), dan is er geen echt toezicht. Het is alsof je een poortwachter hebt die slaapt.
- De oplossing: Echte "Human Oversight" (zoals vereist in de EU-wetgeving) betekent dat de mens de rol van Schakelaar (HOTL) heeft, maar dan met een extra eis: hij moet klaarstaan om ingrijpen. Hij moet de kennis, de macht en de tijd hebben om de knop écht te indrukken als het nodig is.
Kortom: Een mens die alleen maar "ja" zegt (HITL) is geen toezichthouder. Een mens die wakker is, begrijpt wat er gebeurt en kan ingrijpen (HOTL), is een echte toezichthouder.
5. Het Gevaar van Twee Hoeden
Een laatste punt: Soms moet dezelfde persoon twee rollen spelen.
Stel je een vrachtwagenchauffeur voor die een zelfrijdende truck bestuurt.
- Hij is HITL: Hij moet soms sturen als de weg te krap is.
- Hij is HOTL: Hij moet toezicht houden op de auto als deze zelf rijdt.
Dit is gevaarlijk. Als je zelf de auto bestuurt (HITL), vertrouw je de machine te snel. Je bent te "in het systeem" om kritisch te kijken als het misgaat. Dit noemen ze "automatiseringsbias".
De oplossing: Als één persoon beide rollen moet vervullen, moet het systeem zo ontworpen zijn dat dit gevaar wordt opgevangen. Bijvoorbeeld door een tweede persoon op afstand te hebben die alleen kijkt naar het grote geheel, of door systemen die de chauffeur dwingen om kritisch na te denken.
Conclusie in één zin
Laten we stoppen met praten over "loops" en "kringen", en in plaats daarvan kijken naar of de mens een onmisbaar onderdeel is van de beslissing (Poort) of een bewaker die kan ingrijpen (Schakelaar), en of ze samenwerken als team of als één brein. Alleen zo kunnen we AI veilig en verantwoord maken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.