Beyond Rational Illusion: Behaviorally Realistic Strategic Classification

Technische Samenvatting: Voorbij de Rationele Illusie: Gedragsmatig Realistische Strategische Classificatie

1. Probleemdefinitie: De Beperking van Rationaliteit in Strategische Classificatie

Strategische Classificatie (SC) behandelt de interactie tussen besluitvormers en agenten die hun observeerbare kenmerken manipuleren om gunstige uitkomsten te verkrijgen. Bestaande SC-frameworks vertrouwen op de rationele-agent-aanname, waarbij wordt gesteld dat agenten kenmerken aanpassen indien en alleen indien het verwachte voordeel de kosten strikt overstijgt (een best-response functie).

De auteurs stellen dat deze aanname een "rationele illusie" is die faalt in het vatten van de werkelijke besluitvorming in de echte wereld, die systematisch wordt gevormd door cognitieve biases. Het artikel identificeert een gat waar standaard SC-modellen niet kunnen rekenen met agenten die afwijken van rationele nutmaximalisatie vanwege psychologische factoren. Deze mismatch leidt tot twee specifieke faalmodi in toegepaste classifiers:

• Over-verdediging (Over-defense): De classifier verschuift zijn beslissingsgrens om manipulaties tegen te gaan die agenten, door biases zoals verliesaversie of referentiebias, nooit daadwerkelijk uitvoeren. Dit resulteert in fout-negatieven (het afwijzen van genuante positieve instanties).
• Onder-verdediging (Under-defense): De classifier slaagt er niet in om manipulaties te voorzien die agenten agressiever uitvoeren dan rationele modellen voorspellen (bijv. door waarschijnlijkheidsdistorsie of overschatting van succes), wat leidt tot fout-positieven.

Het artikel formaliseert een nieuwe probleemstelling: Gedragsmatig Realistische Strategische Classificatie (BR-SC), waarbij de manipulaties van agenten worden gedreven door psychologische biases in plaats van pure rationele optimalisatie.

2. Methodologie: Het Prospect-gestuurde Strategische Framework (Pro-SF)

Om BR-SC aan te pakken, stellen de auteurs Pro-SF voor, een framework dat geworteld is in de Prospect Theory (Kahneman & Tversky, 2013). In plaats van een standaard nutsfunctie, modelleert Pro-SF het gedrag van agenten met behulp van een prospect-gebaseerde nutsfunctie die drie belangrijke psychologische mechanismen integreert:

1. Verliesaversie (Loss Aversion): Agenten ervaren verliezen (inspanning/kosten) zwaarder dan equivalente winsten. Het framework gebruikt een asymmetrische waardefunctie waarbij het waargenomen gewicht van kosten wordt versterkt ($\kappa > 1$), wat potentieel ertoe leidt dat agenten voordelige manipulaties staken die zij onder een rationeel model wel zouden hebben uitgevoerd.
2. Referentiebias (Reference Bias): Agenten evalueren uitkomsten relatief ten opzichte van een subjectief referentiepunt ($r$) in plaats van een absoluut drempelniveau. Dit wordt gemodelleerd via een kwantiseringsoperator, wat erkent dat agenten vaak grove zelfbeoordelingen hebben (bijv. het schatten van een scorebereik in plaats van een precieze waarde).
3. Waarschijnlijkheidsdistorsie (Probability Distortion): Agenten vervormen objectieve waarschijnlijkheden, waarbij ze doorgaans kleine kansen op succes overwaarderen en grote kansen onderwaarderen. Dit wordt gemodelleerd met een waarschijnlijkheidswegingsfunctie ($w(p)$) met een inverse-S vorm, wat leidt tot agenten die "gokken" op onwaarschijnlijke kansen of de benodigde inspanning om een drempel te overschrijden verkeerd inschatten.

De Mechanica van het Framework:

• Agent Model: De optimale gemanipuleerde feature $x'$ wordt bepaald door de prospect-gebaseerde nutswaarde $U_P$ te maximaliseren, die de verstoorde waarschijnlijkheid van acceptatie, de asymmetrische waarde van winst/verlies ten opzichte van een referentiepunt, en de kosten van manipulatie combineert.
• Classifier Learning: De besluitvormer traint een classifier om de verwachte loss te minimaliseren tegenover de gedragsmatig realistische manipulatiefunctie $b_P(x)$, in plaats van de rationele best-response $b_R(x)$.
• Parameter Learning: De gedragsparameters ($\alpha, \beta, \kappa, \gamma$) worden afgeleid uit geobserveerde dataparen van originele en gemanipuleerde kenmerken met behulp van maximum likelihood schatting.

Het framework wordt geanalyseerd als een Stackelberg-spel, waarbij de auteurs de existentie, lokale stabiliteit en lokale uniciteit van het evenwicht bewijzen onder standaard compactheidsvoorwaarden.

3. Belangrijkste Bijdragen

• Probleemformalisering: Het artikel introduceert en definieert BR-SC, waarbij de beperkingen van de rationele-agent-aanname formeel worden gekarakteriseerd en over-verdediging en onder-verdediging worden geïdentificeerd als de primaire faalmodi die voortvloeien uit gedragsmatige mismatch.
• Framework Voorstel: Het stelt Pro-SF voor, het eerste principiële framework dat verliesaversie, referentiebias en waarschijnlijkheidsdistorsie integreert in het strategische classificatie Stackelberg-spel.
• Empirische Validatie: Uitgebreide experimenten op synthetische en real-world datasets (Credit, Adult, Diabetes, German, Spam) tonen aan dat Pro-SF robuuste prestaties levert over diverse gedragsregimes (volledig rationeel, niet-rationeel en gemengde populaties), waarbij het rationele gebaseerde baselines overtreft in niet-rationele settings en concurrerend blijft in rationele settings.

4. Experimentele Resultaten

• Prestaties: In niet-rationale en gemengde gedragsettings presteert Pro-SF consistent beter dan rationele gebaseerde modellen over alle datasets. Zo behaalde Pro-SF op de Credit-dataset een nauwkeurigheid van 82,41% onder niet-rationale manipulatie, vergeleken met 69,54% voor het rationele gebaseerde model.
• Ablatie-studies: Het verwijderen van een enkele gedragcomponent (verliesaversie, referentiebias of waarschijnlijkheidsdistorsie) vermindert de prestaties. Referentiebias werd gevonden te de meest kritieke factor te zijn voor het voorkomen van over-verdediging, terwijl waarschijnlijkheidsdistorsie en verliesaversie cruciaal waren voor het mitigeren van onder-verdediging.
• Sensitiviteit: Het framework demonstreert robuustheid tegen variaties in hyperparameters (bijv. verliesaversiecoëfficiënt $\kappa$, waarschijnlijkheidsdistorsie $\gamma$), wat aangeeft dat het niet afhankelijk is van fijn afgestelde instellingen om effectief te functioneren.

5. Betekenis en Claims

Het artikel claimt dat de rationele-agent-aanname, hoewel wiskundig handig, vaak "instort in real-world settings". Door machine learning en gedragseconomie te overbruggen, biedt Pro-SF een betrouwbaardere aanpak voor het inzetten van strategische classifiers in domeinen zoals werving, kredietwaardigheid en universiteitsopnames.

De auteurs positioneren hun werk als een noodzakelijke verfijning van SC om "niet-rationele gedragingen" aan te pakken die de werkelijke agenten karakteriseren. Zij stellen dat Pro-SF een "gedragsmatig gefundeerde aanpak" biedt die niet alleen robuustheid garandeert tegen strategische manipulatie, maar ook tegen de specifieke psychologische biases die dergelijke manipulatie drijven. Het artikel concludeert door te merken dat toekomstig werk dit framework zal uitbreiden naar rijkere en diversere inzetomgevingen, maar momenteel geen specifieke nieuwe toepassingen voorstelt buiten de bestaande SC-domeinen.