🤖 AI

Some Large Language Models Exhibit Consistent Risk Attitudes

Dit artikel toont aan dat grote taalmodellen stabiele, consistente en domeinoverstijgende risicohoudingen vertonen die convergeren naar een beperkte distributie in vergelijking met menselijke baselines, wat onthult dat risicohouding een voorheen onkarakteristieke maar meetbare dimensie van AI-gedrag is.

Oorspronkelijke auteurs: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Gepubliceerd 2026-07-21

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je naar een groep vrienden kijagt die een videogame met hoge inzet spelen. Sommige spelers zijn zo voorzichtig dat ze nauwelijks bewegen, doodsbang om zelfs maar één leven te verliezen. Anderen zijn roekeloos en stormen zonder ook maar een gedachte aan de gevolgen de gevaren tegemoet. In de psychologie gaat dit niet alleen over vaardigheid; het gaat over "risico-attitude". Het is een diepgewortelde persoonlijkheidstrek die bepaalt hoe een persoon een gevoel van "dit ziet er gevaarlijk uit" omzet in een daadwerkelijke actie. We weten dat mensen deze onderscheidende stijlen hebben, gevormd door hun unieke ervaringen en hersenen. Maar nu stapt kunstmatige intelligentie het spel binnen. We hebben AI geleerd om slim te zijn, om wiskundige problemen op te lossen en om verhalen te schrijven. Maar een nieuwe vraag borrelt op: hebben deze digitale geesten hun eigen "persoonlijkheden" als het aankomt op het nemen van risico's? Zijn ze van nature voorzichtig, of hebben ze een verborgen drang om te gokken? Dit is belangrijk omdat als we AI grote beslissingen laten nemen—zoals het prioriteren van patiënten in een ziekenhuis of het beheren van geld—zonder hun risicostijl te kennen, we kunnen eindigen met een robot die te bang is om te handelen of te gewaagd voor zijn eigen bestwil.

Dit artikel duikt direct in dat mysterie door Large Language Models (LLM's) te behandelen als experimentele deelnemers in een psychologisch laboratorium. De onderzoekers, onder leiding van Bowen Sun en Jing Du, wilden zien of deze AI-modellen consistente risico-houdingen hebben, net zoals mensen dat hebben. Ze vroegen de AI niet simpelweg: "Ben je risicovol?", want dat zou zijn alsof je aan een persoon vraagt of hij dapper is; het antwoord zou een leugen of een gok kunnen zijn. In plaats daarvan zetten ze een slim spel op met drie verschillende scenario's: het vliegen van een drone door een stormachtige wind, het beslissen hoe urgent de medische behoeften van een patiënt zijn, en het kiezen van aandelen in een volatiele markt. In elk spel moest de AI eerst een overtuiging vormen over hoe gevaarlijk de situatie was (de "contextuele overtuiging") en vervolgens een keuze maken op basis van die overtuiging (de "risicobeslissing").

Het team testte zes verschillende AI-modellen en vergeleken deze met 100 menselijke deelnemers. Ze ontdekten iets fascinerends: de AI-modellen zijn niet zomaar willekeurige getallengeneratoren. Ze hebben stabiele "risicopersoonlijkheden". Net zoals een mens die van nature voorzichtig is op de aandelenmarkt ook voorzichtig kan zijn bij het autorijden, vertoonden deze AI-modellen een consistente stijl over alle drie de zeer verschillende spellen. Als een model voorzichtig was in de drone-taak, was het waarschijnlijk ook voorzichtig in de medische taak. De onderzoekers maten dit door te kijken naar hoe de modellen hun gevoel van gevaar vertaalden naar hun acties. Ze ontdekten dat terwijl mensen een breed spectrum beslaan van extreem voorzichtig tot extreem agressief, de AI-modellen allemaal samenklonterden in een smalle, gemiddelde band. Het is alsof de AI-modellen allemaal getraind zijn om "gemiddeld" of "veilig" te zijn, waarbij ze de wilde variëteit aan risiconemende stijlen missen die het menselijk besluitvormingsproces zo divers maken.

De studie suggereert dat deze risico-houdingen een echt, meetbaar onderdeel zijn van hoe deze modellen werken, en niet slechts een toevalstreffer van de specifieke vragen die gesteld werden. De onderzoekers merkten echter ook op dat hoewel de stijl van het risico (voorzichtig versus gewaagd) consistent was, de manier waarop de modellen scherp reageerden op kleine veranderingen in gevaar varieerde afhankelijk van het spel. Dit betekent dat hoewel een AI een stabiele "persoonlijkheid" kan hebben, de manier waarop het zijn acties fijn afstemt nog steeds kan afhangen van de specifieke situatie. Het artikel concludeert dat we AI niet langer louter als een neutrale rekenmachine kunnen beschouwen. Ze hebben intrinsieke gedragsneigingen verworven. Dit is een cruciale ontdekking omdat het betekent dat om AI veilig in de echte wereld in te zetten, we niet alleen hun intelligentie moeten begrijpen en afstemmen, maar ook hun risicopersoonlijkheden, om ervoor te zorgen dat ze niet per ongeluk te timide of te roekeloos worden voor de taak die voor hen ligt.

Technische Samenvatting: Sommige Grote Taalmodellen Vertonen Consistente Risico-instellingen

Probleemstelling
Nu kunstmatige intelligentiesystemen steeds vaker worden ingezet in scenario's met hoge inzet en open einde (bijv. klinische triage, financiële allocatie, autonome navigatie), blijft een cruciale gedragsdimensie ongemeten: de vertaling van waargenomen situationeel risico naar onomkeerbare actie. Hoewel huidige benchmarks de feitelijke nauwkeurigheid en redeneervermogens evalueren, verwarren zij risicoperceptie met risicobesluitvorming. Bijgevolg kunnen zij niet het onderscheid maken tussen een model dat een risicoscenario verkeerd leest en een model dat simpelweg een specifieke risicopositie prefereert (bijv. risicomijdend versus risicozoekend) onder onzekerheid. Het artikel stelt dat Grote Taalmodellen (LLM's), getraind op enorme hoeveelheden menselijke besluitvormingsnarratieven en verfijnd via menselijke feedback, stabiele, intrinsieke "risicopersonelijkheden" kunnen hebben ontwikkeld die analoog zijn aan menselijke risico-instellingen—een kernpsychologische eigenschap die bepaalt hoe percepties van gevaar worden omgezet in actie.

Methodologie
De auteurs introduceren een cross-domein kader ontworpen om contextuele risicogeloof van categorische besluitvorming te ontkoppelen, waardoor directe meting van risico-instelling mogelijk is, onafhankelijk van feitelijke nauwkeurigheid.

Experimenteel Ontwerp: De studie maakt gebruik van drie structureel orthogonale besluitvormingstaken:
1. Drone Navigatie Controle (DNC): Ruimtelijke navigatie onder onzekere winddrift.
2. Klinische Triage Besluitvorming (CTD): Middelenallocatie op basis van evoluerende vitale functies van patiënten.
3. Financieel Investeringsportfolio (FIP): Activa-allocatie onder stochastische marktdynamiek.
Deelnemers: Zes representatieve LLM's (Sonnet 4.5, ChatGPT 5.2, Qwen3-Max, Gemini 3 Pro, DeepSeek V3.2, en Grok 4) en 100 menselijke deelnemers. Elke agent voltooide 100 proeven per taak.
Meetkader: Het proces wordt gedecomponeerd in een sequentie: Observaties ( $O_t$ ) $\to$ Feitelijk Geloof ( $B_F$ ) $\to$ Contextueel Geloof ( $B_C$ ) $\to$ Categorische Risicobeslissing ($RD$). De analyse isoleert de mapping van $B_C$ naar $RD$.
Kwantitatieve Metrieken:
- Intra-taak Consistentie: Gemeten via de Relatieve Standaarddeviatie (RSD) van contextuele overtuigingen onder identieke omstandigheden en de "dominante klasse proportie" van risicobeslissingen gegeven specifieke geloofsbanden.
- Kwantificering van Risico-instelling: De mapping $B_C \to RD$ $B_{C} \to R D$ wordt gemodelleerd met behulp van Ordered Logistic Regression (OLR). Twee indices worden afgeleid:
  - Risicosensitiviteit ( $\beta$ ): De hellingsparameter die aangeeft hoe sterk beslissingen reageren op veranderingen in waargenomen risico.
  - Risico-instellingsbias ( $AUC_i$ ): De Oppervlakte Onder de Curve van de gefitte geloof-naar-beslissing functie, die de algehele risicopositie van het model vertegenwoordigt (lagere waarden = voorzichtig; hogere waarden = agressief).
- Cross-Domein Stabiliteit: Beoordeeld via rangorde-stabiliteit (Kendall's $\tau_b$ ) van de risico-instellingsbias over de drie verschillende taken.

Belangrijkste Resultaten

Robuuste Intra-taak Consistentie: De meeste geteste LLM's vertonen stabiele mappings van contextueel geloof naar risicobeslissing binnen een vaste taakdomein. Herhaalde proeven onder identieke omstandigheden resulteren in geclusterde contextuele overtuigingen en consistente beslissingscategorieën. Opmerkelijke uitzonderingen zijn Grok 4 (die beslissingsdivergentie vertoont) en Qwen3-Max (die variabiliteit in geloof vertoont in de DNC-taak).
Cross-Domein Rangorde Stabiliteit: Met uitzondering van Grok 4 wordt de relatieve ordening van risico-instellingen behouden over de drie uiteenlopende taken (DNC, CTD, FIP). Een model dat relatief meer risicomijdend is in navigatie, is doorgaans eveneens meer risicomijdend in klinische triage en financiën. Dit suggereert dat risico-instelling een domein-generieke eigenschap is van de modelarchitectuur of training, in plaats van een taakspecifiek artefact.
Divergentie in Sensitiviteit versus Attitude: Terwijl de locatie van de risico-instelling (bias) stabiel is over domeinen, varieert de risicosensitiviteit (de steilheid van de responscurve) aanzienlijk tussen taken. Dit geeft aan dat hoewel de onderliggende dispositie intrinsiek is, de responsiviteit op geloof-updates wordt gemoduleerd door taakspecifieke factoren.
Convergentie ten opzichte van Menselijke Baselines: Vergeleken met de brede, heterogene distributie van menselijke risico-instellingen (variërend van zeer voorzichtig tot zeer agressief), clusteren de geteste LLM's binnen een beperkt, smal gebied van het risico-instellingsspectrum. Dit suggereert dat huidige alignment-protocollen impliciet menselijke feedback middelen, wat resulteert in een gecomprimeerd gedragsprofiel dat de volledige breedte van de menselijke risico-diversiteit ondervertegenwoordigt.

Significantie en Claims
Dit artikel stelt vast dat risico-instelling een stabiele, kwantificeerbare en voorheen onkarakteriseerde dimensie van LLM-gedrag is. De auteurs betogen dat deze ontdekking de AI-alignment problematiek herkadert: de uitdaging is niet enkel het verbeteren van modelintelligentie of waarachtigheid, maar het begrijpen en beheersen van de stabiele risicopersonelijkheden die deze systemen hebben verworven.

Belangrijke implicaties zijn onder meer:

Gedragsvoorspelbaarheid: De cross-contextuele stabiliteit van risico-instellingen suggereert dat AI-systemen een kern-gedragssignatuur bezitten, wat hen potentieel delegerbaar en auditeerbaar maakt in rollen met hoge inzet, mits hun risicopositie begrepen wordt.
Orthogonaliteit van Capaciteit en Risico: Risico-instelling en feitelijke capaciteit zijn empirisch orthogonaal. Een model kan zeer capabel zijn, maar toch een risicopositie bezitten (bijv. overdreven agressief of overdreven voorzichtig) die afwijkt van menselijke normen of veiligheidseisen.
Evaluatiekloof: Huidige benchmarks falen in het beoordelen van gedragsdisposities onder onzekerheid. De auteurs pleiten voor nieuwe evaluatiestandaarden die expliciet risicosensitiviteit, beslissingsdrempels en attitude-bias meten als eersteklas metrieken naast nauwkeurigheid.
Alignment Gevolgen: De compressie van LLM-risicoprofielen naar een smal gemiddelde wijst op een structureel gevolg van huidige alignment-methoden, wat potentieel een mismatch creëert tussen AI-agenten en de diverse risicopreferenties die vereist zijn in gepersonaliseerde of institutionele menselijke contexten.

De studie concludeert dat hoewel de mechanistische oorsprong van deze disposities (bijv. specifieke RLHF-beperkingen of pretraining-data) opaak blijven, het bewijs voor gedrag bevestigt dat risico-instelling een intrinsiek kenmerk is van hedendaagse LLM's dat moet worden meegenomen in veiligheidsprotocollen en implementatiestrategieën.

Meer zoals dit