🤖 AI

Shaping Human-AI Interactions to Provide Improvement Pathways and Balance Competing Objectives

Deze thesis stelt een kader voor het ontwerpen van mens-AI-interacties die tegelijkertijd individuen helpen nauwkeurige overtuigingen te vormen om gunstige uitkomsten te verbeteren of veilig te stellen, gaming-gedrag ontmoedigen en ervoor zorgen dat het AI-systeem zijn beoogde doelstellingen handhaaft door middel van een combinatie van theoretische analyse, datagestuurde modellering en empirische evaluaties.

Oorspronkelijke auteurs: Keziah Naggita

Gepubliceerd 2026-08-07

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Keziah Naggita

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin je constant wordt beoordeeld door een superintelligente robot. Misschien is het een robot die bepaalt of je een lening krijgt, een robot die je huiswerk nakijkt, of zelfs een robot in je woonkamer die beslist of je gedrag "goed" is. Dit is de wereld van Kunstmatige Intelligentie (AI) en Machine Learning. Maar hier komt de twist: je bent niet alleen een passief onderwerp. Je bent een persoon met een brein, en je kunt begrijpen hoe de robot denkt. Als je weet dat de robot van "groene" dingen houdt, probeer je misschien je huis groen te maken, zelfs als je zelf niet echt van groen houdt. Dit wordt strategisch gedrag genoemd.

Nu moet je je voorstellen dat de robot twee manieren heeft om op jouw veranderingen te reageren. Ten eerste kun je het systeem manipuleren. Dit is alsof een leerling precies de antwoorden op een oefentoets uit het hoofd leert zonder de wiskunde daadwerkelijk te begrijpen. Op papier zie je er goed uit, maar je bent niet echt gekwalificeerd. Ten tweede kun je verbeteren. Dit is alsof de leerling echt studeert, de wiskunde leert en slimmer wordt. Dit is het echte werk. De grote vraag voor wetenschappers is: hoe ontwerpen we deze robots zodat ze mensen aanmoedigen om daadwerkelijk te verbeteren in plaats van alleen het systeem te manipuleren? En hoe zorgen we ervoor dat de robot niet wordt gefopt door mensen die slechts doen alsof? Dit is de puzzel waar Keziah Naggita haar promotieonderzoek aan wijdt.

Het Verhaal van de Thesis: De Schalen in Evenwicht Brengen

Keziah's werk is als een toneelstuk in drie bedrijven, waarin wordt onderzocht hoe mensen en AI samen kunnen dansen zonder op elkaars tenen te trappen. Ze bekijkt dit vanuit drie verschillende invalshoeken: hoe ouders omgaan met kinderen die met robots spelen, hoe we doelen kunnen stellen die mensen daadwerkelijk helpen groeien, en hoe we de robots zelf kunnen bouwen zodat ze het verschil zien tussen een valse verbetering en een echte.

Act 1: De Peuter en de Pratende Robot

Het eerste deel van het verhaal speelt zich af in een woonkamer. Stel je een kind voor dat gefrustreerd is omdat een robot niet het spelletje speelt dat het wil. Wat gebeurt er als het kind tegen de robot trapt? Of tegen een smart speaker schreeuwt? Reageert een ouder anders als het apparaat eruitziet als een klein mensje (een robot) versus een plat scherm (een tablet) of een box die alleen stemmen gebruikt (een smart speaker)?

Kezhiah en haar team vroegen honderden ouders om video's te bekijken van een kind dat agressief handelt naar deze verschillende apparaten. Ze wilden weten: Verandert de "menselijkheid" van de robot de manier waarop een ouder zich voelt?

De resultaten waren verrassend. Ouders waren absoluut bezorgd en eerder geneigd hun kind te berispen wanneer het kind agressief was, ongeacht het apparaat. Echter, ze behandelden de robot niet veel anders dan de smart speaker of de tablet. Hoewel robots meer op mensen lijken, leken ouders niet méér sympathie voor de robot te voelen of te denken dat het apparaat méér "behandeld" werd dan de andere gadgets. Het blijkt dat wanneer een kind gemeen is, de reactie van een ouder vooral gaat over het gedrag van het kind, niet over hoeveel de robot op een mens lijkt. Dit helpt ontwerpers te begrijpen dat om te voorkomen dat kinderen ruw omgaan met technologie, we ons misschien meer moeten richten op het leren van kinderen hoe ze met frustratie omgaan, in plaats van alleen de robots er schattiger uit te laten zien.

Act 2: De Juiste Doelen Stellen (De Videogame-analogie)

Het tweede bedrijf gaat over het stellen van doelen. Denk aan een videogame. Als het eerste niveau te makkelijk is, raak je verveeld. Als het eindbaas-niveau onmogelijk is, stop je ermaan. Het doel is om het "Goldilocks"-niveau te vinden: net moeilijk genoeg om je te laten proberen, maar makkelijk genoeg zodat je daadwerkelijk kunt winnen.

Kezhiah bestudeerde hoe je deze "doelniveaus" instelt voor mensen die proberen te verbeteren. Ze ontdekte een lastig probleem: Het toevoegen van meer doelen kan soms de situatie verslechteren. Stel je voor dat je een doel hebt om 8 kilometer te hardlopen. Als je een nieuw doel stelt van 3 kilometer, zullen sommige mensen misschien stoppen met proberen voor de 8 kilometer en genoegen nemen met de 3 kilometer. Dit wordt "niet-monotoniciteit" genoemd — meer opties betekenen niet altijd betere resultaten.

Ze ontwikkelde een wiskundige methode om te bepalen wat de perfecte set doelen is om de verbetering van iedereen te maximaliseren. Ze toonde aan dat als je verschillende groepen mensen hebt (zoals beginners en experts), je heel voorzichtig moet zijn. Soms is een doel dat perfect is voor de ene groep, verschrikkelijk voor de andere. Haar werk biedt een recept voor beleidsmakers en docenten om doelen te stellen die mensen stimuleren tot hun best zonder hen ontmoedigd te raken, waardoor het "spel" eerlijk blijft voor iedereen.

Act 3: De Detective-robot (Echte van Vals onderscheiden)

Het laatste bedrijf is het meest complexe. Hier kijkt Keziah naar de hersenen van de robot. De robot moet beslissen wie een "toelatingsbewijs" krijgt (zoals een lening of een baan). Maar de robot weet dat mensen kunnen proberen het systeem te misleiden. Sommige mensen worden echt beter (verbetering), terwijl anderen het alleen maar simuleren (manipulatie).

Kezhiah vroeg: Kunnen we een classifier (een besluitvormer) bouwen die de echte verbeteringen beloont en de neptrucs negeert?

Ze bewees dat dit ongelooflijk moeilijk is. Sterker nog, ze toonde aan dat het vinden van de perfecte manier om de "goede" spelers van de "bedriegers" te scheiden een probleem is dat computers misschien nooit perfect kunnen oplossen als de regels te ingewikkeld worden (een concept genaamd NP-hardheid). Maar ze zei niet alleen "het is onmogelijk." Ze bouwde specifieke algoritmen voor simpelere situaties.

Ze liet bijvoorbeeld zien dat als de robot een beetje risicomijdend is (dat wil zeggen: heel voorzichtig is met het geven van een "toelatingsbewijs" aan iemand die mogelijk aan het faken is), de robot het eigenlijk heel goed kan doen. Door iets strenger te zijn, moedigt de robot mensen aan om daadwerkelijk hun vaardigheden te verbeteren in plaats van alleen de data te manipuleren. In haar experimenten maakten deze "risicomijdende" robots minder fouten en hielpen ze meer mensen om echt gekwalificeerd te worden, ook al waren ze in het begin een beetje voorzichtiger.

De Belangrijkste Conclusie

Keziah's thesis is een gids voor de toekomst van mens-AI-interactie. Het vertelt ons dat:

Kinderen zijn kinderen: Of een robot er nu menselijk uitziet of niet, ouders reageren op slecht gedrag op dezelfde manier. We moeten kinderen beter onderwijzen, niet alleen leukere robots maken.
Doelen doen ertoe: Het stellen van de juiste doelen is een delicate kunst. Te veel doelen of de verkeerde doelen kunnen averechts werken, maar met de juiste wiskunde kunnen we iedereen helpen hun potentieel te bereiken.
Wees voorzichtig, maar eerlijk: Om te voorkomen dat mensen het systeem manipuleren, moeten besluitvormers slim en een beetje risicomijdend zijn. Dit betekent niet dat ze gemeen zijn; het betekent het ontwerpen van systemen die echte inspanning belonen en de neptrucs doorzien.

Uiteindelijk gaat dit werk niet alleen over wiskunde of code. Het gaat over het bouwen van een wereld waarin AI ons helpt om betere versies van onszelf te worden, in plaats van slechts een hulpmiddel dat we kunnen misleiden om te krijgen wat we willen. Het gaat erom dat de robot en de mens in hetzelfde team zitten.

Technische Samenvatting: Het vormgeven van mens-AI-interacties om verbeteringspaden en het balanceren van concurrerende doelstellingen te bieden

Auteur: Keziah Naggita
Instelling: Toyota Technological Institute at Chicago
Graad: Doctor of Philosophy in Computer Science (juni 2026)

1. Probleemstelling

De proliferatie van AI-systemen in besluitvormingsprocessen met hoge inzet (bijv. werving en selectie, toelatingen) en thuisomgevingen creëert een feedbackloop waarbij individuen (agenten) overtuigingen vormen over het systeem en strategisch handelen om de uitkomsten te beïnvloeden. Deze acties kunnen oprechte verbeteringen zijn (het versterken van onderliggende kwalificaties) of gaming (het manipuleren van observeerbare kenmerken zonder oprechte verbetering).

Deze thesis behandelt drie kernuitdagingen bij het vormgeven van deze interacties:

Ontwikkelings- & Gedragsdynamiek: Hoe nemen mensen (specifiek ouders) agressief gedrag van kinderen naar AI-gestuurde apparaten (robots, slimme speakers, tablets) waar en hoe beïnvloedt de antropomorfisme van het apparaat deze reacties?
Stimuleren van Verbetering: Hoe kunnen besluitvormers doelstellingen ontwerpen en begeleiding bieden om oprechte verbetering van agenten te maximaliseren, terwijl eerlijkheid en bereikbaarheid worden gewaarborgd?
Balanceren van Concurrerende Doelstellingen: Hoe kunnen AI-systemen worden ontworpen om ware positieven (gekwalificeerde agenten identificeren) te maximaliseren en valse positieven (ongekwalificeerde agenten afwijzen) te minimaliseren wanneer agenten zowel kunnen verbeteren als 'gamen'?

2. Methodologie

De thesis hanteert een veelzijdige methodologische aanpak, waarbij wordt geïntegreerd:

Experimenten met Menselijke Proefpersonen: Een online tussen-groepen studie ( $N=332$ ) die de reacties van ouders onderzoekt op kinderagressie naar robots, slimme speakers en tablets.
Algoritmisch Ontwerp & Optimalisatie: Ontwikkeling van polynoomtijd en pseudo-polynoom algoritmen voor doelplaatsing, generatie van counterfactual explanations (CFE) en rolmodelselectie.
Theoretische Analyse: Toepassing van leertheorie (PAC learning), grafentheorie en complexiteittheorie (NP-hardheidsproeven) om leerbaarheid, steekproefcomplexiteit en classificatiegrenzen in strategische omgevingen te analyseren.
Empirische Evaluatie: Experimenten op real-world datasets (Adult, OULAD, Law School) en semi-synthetische data om de prestaties van algoritmen te evalueren onder verschillende risico-aversiestrategieën en geometrische beperkingen.

3. Belangrijkste Bijdragen en Resultaten

Deel I: Mens-AI-interacties via Experimenten met Menselijke Proefpersonen

Focus: Reacties van ouders op kinderagressie naar AI-apparaten.

Methode: Een 2 (agressie: agressief vs. neutraal) $\times$ 3 (apparaat: robot, slimme speaker, tablet) $\times$ 3 (modaliteit: audio, fysiek, audio+fysiek) ontwerp.
Belangrijkste Bevindingen:
- Impact van Agressie: Ouders uitten aanzienlijk meer bezorgdheid en waren eerder geneigd te interveniëren (berispen of het apparaat te verwijderen) wanneer hun kind agressief gedrag vertoonde vergeleken met neutraal gedrag.
- Apparaatperceptie: Hoewel ouders robots en slimme speakers als antropomorfere, bezielde en warmere objecten ervoeren dan tablets, werd er geen significant verschil gevonden in de bezorgdheid van ouders of de waarschijnlijkheid van interventie tussen robots en slimme speakers. Dit spreekt de hypothese tegen dat fysieke belichaming (robots) de bezorgdheid uniek verhoogt in vergelijking met disembodied stemassistenten.
- Interventiestijlen: Ouders reageerden op neutraal gedrag met aanmoediging en ondersteuning, terwijl agressief gedrag leidde tot berispingen en het gebruik van de situatie als leermoment.

Deel II: Interacties Vormgeven om Verbeteringspaden te Bieden

Focus: Mechanismen ontwerpen om oprechte verbetering te stimuleren.

3.1 Het Stellen van Bereikbare Doelstellingen (Hoofdstuk 3)

Probleem: Het bepalen van de optimale plaatsing van $k$ vaardigheidsniveaus om de totale verbetering van agenten te maximaliseren, rekening houdend met het feit dat agenten verbeteren naar het dichtstbijzijnde bereikbare doel.
Uitdagingen: Doelplaatsing is niet-monotoon; het toevoegen van een doel kan de totale verbetering verminderen omdat agenten overschakelen van verre, hoogwaardige doelen naar dichtere, lagerwaardige doelen.
Bijdragen:
- Ontwikkelde een polynoomtijd dynamisch programmeeralgoritme om de totale verbetering te maximaliseren.
- Construeerde de Pareto-front voor groepsmaatschappelijke welvaart om eerlijkheid (max-min doelstellingen) aan te pakken.
- Bewees een structureel resultaat: Er bestaat een oplossing die tegelijkertijd $\Omega(1/g^3)$ -bijna optimaal is voor elk van de $g$ groepen (onder gemeenschappelijke verbeteringscapaciteit).
- Demonstreerde dat max-min eerlijke oplossingen geen constante benadering garanderen voor alle groepen tegelijkertijd.

3.2 Het Genereren van Actiegerichte Inzichten (Hoofdstuk 4)

Probleem: Het genereren van Counterfactual Explanations (CFEs) die actiegericht zijn en lijken op real-world acties in grote toestandsruimten.
Bijdragen:
- Voorgestelde single-agent en data-gestuurde CFE-generatoren die de brug slaan tussen kenmerkgebaseerde en actiegebaseerde ruimten.
- Introduceerde "hoog-niveau" CFEs die minder kenmerken wijzigen maar resulteren in hogere agentverbetering vergeleken met traditionele laag-niveau kenmerkmodificaties.
- Demonstreerde dat data-gestuurde generatoren efficiënt geldige CFEs kunnen produceren door gelijkenissen tussen agenttoestanden te benutten, wat de schaalbaarheid en efficiëntie van middelen verbetert.

3.3 Het Selectief Onthullen van Rolmodellen (Hoofdstuk 5)

Probleem: Een sociale planner moet labels (positief/negatief) van rolmodellen onthullen om het aantal agenten dat positieve doelstellingen imiteert te maximaliseren, binnen een beperkt budget.
Bijdragen:
- Toonde aan dat de maatschappelijke welzijnsfunctie alleen submodulair is wanneer de planner beperkt is tot het onthullen van positieve doelstellingen (wat een $(1-1/e)$ -benadering via greed-algoritmen oplevert).
- Bewees dat het toestaan van de onthulling van negatieve doelstellingen de submodulariteit doorbreekt, wat kan leiden tot willekeurig slechte prestaties.
- Introduceerde een proxy-welzijnsfunctie die zelfs met negatieve doelstellingen submodulair blijft, waardoor benaderingsgaranties worden hersteld.
- Stelde vast dat het probleem NP-hard blijft, ongeacht de onthullingsbeperkingen.

Deel III: Het Gelijktijdig Optimaliseren van Concurrerende Doelstellingen

Focus: Classificatie van agenten die zowel kunnen verbeteren als kunnen 'gamen'.

4.1 PAC Learning met Verbeteringen (Hoofdstuk 6)

Probleem: Hoe beïnvloedt de capaciteit voor verbetering de leerbaarheid en de steekproefcomplexiteit?
Bijdragen:
- Analyseerde PAC learning in settings waar agenten binnen een buurt (graafmodel) kunnen bewegen om te verbeteren.
- Zero-Error Learning: Bewees dat onder uniforme distributies het mogelijk is om zero generalization error te bereiken met een steekproefcomplexiteit van $O(\frac{n \log n}{d_{min}^+ + 1})$ , waarbij $d_{min}^+$ de minimale graad van positieve knopen is. Dit contrasteert met standaard PAC-modellen die vaak constante foutmarges hebben.
- Toonde aan dat risico-averse leerstrategieën (het zwaar bestraffen van valse positieven) bijzonder effectief zijn in verbeteringssettings.

4.2 Theorie van Classificatie van Verbeterende-en-Gamende Agenten (Hoofdstuk 7)

Probleem: Het ontwerpen van classificatiesystemen om ware positieven te maximaliseren en valse positieven te minimaliseren wanneer agenten kunnen 'gamen' (rode randen) of verbeteren (blauwe randen).
Modellen:
- Algemeen Discreet Model: Agenten en criteria vormen een gewogen, gekleurde bipartiete graaf.
- Lineair Model: Agenten bewegen in $\mathbb{R}^d$ ; sommige dimensies zijn verbeteringen, andere zijn gaming.
Bijdragen:
- Algoritme: Ontwikkelde een efficiënt algoritme (Algoritme 7.1) om een set criteria te vinden die de ware positieven maximaliseert met subject van nul valse positieven in het algemene discrete model.
- Hardheid: Bewees dat het maximaliseren van ware positieven bij een niet-nul grens op valse positieven NP-hard is, zelfs in het lineaire model.
- Lineaire Classificatie: Toonde aan dat het vinden van een lineaire classifier die alle agenten accuraat classificeert en alle verbeterbare agenten kwalificeert mogelijk is, maar dat het maximaliseren van ware positieven met minimale valse positieven in 2D-ruimte specifieke algoritmische constructies vereist.

4.3 Empirische Studie (Hoofdstuk 8)

Probleem: Evaluatie van verbetering-gaming-bewuste algoritmen op real-world data.
Resultaten:
- Risico-aversie: Risico-averse strategieën (bijv. gewogen verliesfuncties die valse positieven zwaar bestraffen) presteren consequent beter dan standaardmodellen in het reduceren van fouten naarmiddens het toenemen van verbeteringsbudgetten.
- Trade-offs: Hoewel het verhogen van risico-aversie de classificatiefout vermindert, kan excessieve risico-aversie de algehele nutsscores verlagen.
- Zero Error vs. Nut: Het bereiken van nul classificatiefout garandeert geen perfect nut; de ratio van ware positieven tot valse positieven is cruciaal.
- Geometrische Beperkingen: De keuze van de norm ( $\ell_\infty$ vs. $\ell_2$ ) vormt de richting en omvang van de haalbare bewegingen van agenten aanzienlijk.

4. Betekenis en Claims

De thesis claimt bij te dragen aan mensgerichte machine learning door principes en methoden te bieden voor het ontwerpen van AI-systemen die aansluiten bij menselijke behoeften, waarden en capaciteiten.

Theoretische Vooruitgang: Het breidt de leertheorie uit naar "leren met verbeteringen", waarbij wordt aangetoond dat de agency van agenten de steekproefcomplexiteit kan verminderen en zero-error learning mogelijk kan maken onder specifieke condities, wat de standaard PAC-learning aannames uitdaagt.
Algoritmische Robuustheid: Het biedt structurele resultaten over de niet-monotoniciteit van doelplaatsing en de hardheid van het balanceren van verbetering en gaming, waarbij algoritmen worden geboden die robuust zijn tegen strategisch gedrag.
Praktisch Ontwerp: Door middel van empirisch en experimenteel werk biedt het bruikbare inzichten voor beleidsmakers en systeemontwerpers:
- Kind-AI Veiligheid: Ontwerpers moeten er rekening mee houden dat ouders mogelijk geen onderscheid maken tussen robots en slimme speakers wat betreft agressie, wat suggereert dat veiligheidsfuncties consistent moeten zijn over verschillende typen apparaten.
- Recourse (Rechtsmiddelen): Het gaan van kenmerkgebaseerde verklaringen naar actiegebaseerde, data-gestuurde begeleiding verbetert de schaalbaarheid en eerlijkheid van algoritmische recourse.
- Strategische Classificatie: Systemen moeten risico-averse strategieën hanteren en zorgvuldig de kosten van valse positieven afwegen tegen de voordelen van het stimuleren van oprechte verbetering.

Het werk integreert rigoureuze theoretische analyse met data-gestuurde modellering en menselijke experimenten om de kloof te overbruggen tussen abstracte algoritmische eerlijkheid en de praktische realiteit van mens-AI-interactie.