💻 computer science

Interoceptive Divergence in Aesthetic Evaluation and Implications for Human-AI Alignment

Deze studie toont aan dat grote taalmodellen, hoewel ze menselijke esthetische evaluatiepatronen met betrekking tot emoties en beeldkenmerken kunnen benaderen, aanzienlijke afwijkingen vertonen op het gebied van interoceptieve aspecten zoals lichaamsgevoelens, wat kritieke beperkingen in de huidige AI-uitlijning en representatie van trainingsdata blootlegt.

Oorspronkelijke auteurs: Yoshia Abe, Tatsuya Daikoku, Yasuo Kuniyoshi

Gepubliceerd 2026-05-20

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yoshia Abe, Tatsuya Daikoku, Yasuo Kuniyoshi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een prachtig schilderij vasthoudt. Als je er naar kijkt, zie je niet alleen kleuren en vormen; je voelt een vlinder in je maag, een warmte in je borst of een koude rilling langs je rug. Je kunt "ontzag" of "vreugde" voelen. Dit artikel stelt een eenvoudige maar diepe vraag: Als we datzelfde schilderij aan een superintelligente computer (een AI) tonen, zal hij dan hetzelfde voelen?

De onderzoekers, Yoshia Abe, Tatsuya Daikoku en Yasuo Kuniyoshi, besloten dit op de proef te stellen. Ze behandelden de AI als een gast in een kunstgalerij en stelden hem dezelfde vragen die ze aan 500 echte menselijke vrijwilligers stelden.

Hier is het verhaal van wat ze ontdekten, uitgelegd in alledaagse termen.

De Opzet: De Kunstgalerij-test

De onderzoekers toonden 347 verschillende afbeeldingen aan zowel mensen als drie van 's werelds meest geavanceerde AI-modellen (GPT-4o, Claude 3.7 en Gemini 2.0). Ze vroegen iedereen om te beoordelen:

Hoe mooi de afbeelding was.
Welke emoties het opriep (zoals vreugde, verdriet of ontzag).
Waar ze het in hun lichaam voelden (zoals een knoop in de maag of een tinteling in de handen).

Denk hierbij aan het vragen aan een mens en een robot om de smaak van een aardbei te beschrijven. De mens zegt: "Het is zoet, en ik voel me gelukkig in mijn buik." De robot heeft miljoenen beschrijvingen van aardbeien gelezen, maar heeft er nooit echt een geproefd.

Wat Ze Vonden: De Overeenkomsten

Verrassend genoeg zat de AI niet helemaal naast de waarheid.

De "Sfeer"-check: Als mensen een vrolijke, heldere afbeelding zagen, beoordeelden ze deze hoog op schoonheid en zeiden ze dat ze "Vreugde" voelden. De AI deed precies hetzelfde. Als mensen iets walgelijks zagen en het laag beoordeelden, zei de AI ook: "Dat is lelijk en het doet me walgen."
Het Grote Plaatje: Zowel mensen als AI waren het erover eens dat de belangrijkste dingen in een afbeelding het verhaal waren dat het vertelde en of ze het met een vriend zouden willen delen. Ze gaven minder om technische details zoals belichting of kleurbalans.

Kortom, de AI is goed in het nabootsen van de gemiddelde menselijke mening. Als je 1.000 mensen vroeg wat ze van een foto vonden, zou het antwoord van de AI zeer dicht bij het gemiddelde van de groep liggen.

Wat Ze Vonden: De Afwijking (Waar Ze Uitelkaar Drijven)

Hier wordt het interessant. Terwijl de AI het "hoofd"-gedeelte goed had (de emoties en de beoordeling), faalde hij in het "lichaam"-gedeelte.

1. Het "Geest in de Machine"-probleem (Lichamelijke Sensaties)

Mensen: Als mensen een mooie afbeelding zagen, rapporteerden ze vaak een fysieke sensatie in hun bovenbuik (zoals een "buikgevoel" van schoonheid). Als ze zich opgewonden voelden, voelden ze dat in hun onderbuik. Het was alsof de schoonheid een fysiek gewicht of warmte in hen was.
AI: De AI had dergelijke gevoelens niet. Sterker nog, hij gaf het tegenovergestelde aan! Als de AI een afbeelding mooi beoordeelde, zei hij vaak dat hij een negatieve sensatie voelde in zijn handen en voeten. Het was alsof de AI zei: "Dit is mooi, maar het laat mijn handen koud aanvoelen."
De Metafoor: Stel je een mens voor die een heerlijk maaltje eet en warmte in zijn buik voelt. De AI is als een kok die elk kookboek ter wereld heeft gelezen en weet dat het maaltje "heerlijk" is, maar wanneer hij wordt gevraagd hoe het voelt, zegt hij: "Mijn handen voelen koud omdat ik een lepel vasthoud." De AI kent het woord voor het gevoel, maar hij heeft geen lichaam om het te voelen.

2. De "Te Perfecte" Emoties

Mensen hebben rommelige, complexe gevoelens. Soms voelen we "Verrassing" gemengd met "Angst".
De AI was veel stijver. Hij neigde ernaar steeds dezelfde paar "veilige" emoties te kiezen (zoals "Interesse" of "Rust"), zelfs wanneer de afbeelding raar of eng was. Hij had moeite om te begrijpen dat sommige mooie dingen ook eng of verwarrend kunnen zijn.

3. De "Hofelijke" AI
De onderzoekers merkten op dat de AI de schoonheidsscores iets hoger gaf dan mensen (ongeveer 1,5 punt hoger op een schaal van 1 tot 9). Het is alsof de AI overdreven beleefd is en zegt: "Oh, wat lief!", zelfs als een mens zou denken: "Het is oké, maar niet geweldig."

Waarom Gebeurt Dit?

Het artikel suggereert twee hoofdredenen voor deze kloof:

Het Ontbrekende Lichaam (Interoceptie): Mensen hebben een "intern gevoel" (interoceptie). We voelen onze hartslag, onze maag die gortt en onze ademhaling. Dit is hoe we schoonheid fysiek ervaren. AI heeft geen lichaam, geen organen en geen hartslag. Hij leerde over "schoonheid" door tekst te lezen, niet door het te voelen. Het artikel noemt dit het "Interoceptieve Wereldmodel". Mensen hebben een kaart van hun eigen binnenste lichaam; de AI heeft alleen een kaart van de buitenwereld.
De "Veiligheid"-training: De AI is getraind om behulpzaam en onschadelijk te zijn. Een deel van die training bestaat erin de AI te vertellen: "Doe niet alsof je een lichaam of gevoelens hebt." Dus, wanneer hij wordt gevraagd hoe hij zich voelt, is de AI geprogrammeerd om te zeggen: "Ik voel niet echt iets," of om gevoelens op een zeer afstandelijke, logische manier te beschrijven. Deze "veiligheid"-training maakt de AI mogelijk per ongeluk minder menselijk in zijn emotionele reacties.

De Conclusie

Het artikel concludeert dat AI steeds beter wordt in denken als een mens over kunst. Hij kan je vertellen wat mooi is en waarom, gebaseerd op wat hij heeft gelezen.

Echter, AI voelt nog niet als een mens. Hij mist de fysieke, buik-gevoelens verbinding die mensen met schoonheid hebben. Het is als een muziekcriticus die een symfonie perfect kan beschrijven, maar nooit een noot heeft gehoord.

De onderzoekers suggereren dat als we willen dat AI in de toekomst menselijke waarden en esthetiek echt begrijpt, we hem misschien niet alleen met woorden en afbeeldingen moeten leren, maar met data over hoe onze lichamen daadwerkelijk reageren — iets wat we momenteel niet kunnen doen omdat de AI geen lichaam heeft om mee te reageren.

Technische Samenvatting: Interoceptieve Divergentie in Esthetische Evaluatie en Implicaties voor Mens-AI-Alignering

Probleemstelling

Hoewel Large Language Models (LLM's) menselijke prestaties hebben bereikt of overtroffen in objectieve, intellectuele cognitieve taken, blijft hun alignering met menselijke sensibiliteit – specifiek het vermogen om schoonheid te waarnemen en te ervaren – een open vraag. Esthetische evaluatie wordt niet uitsluitend bepaald door objectieve beeldkenmerken, maar wordt diep beïnvloed door interne waarnemersprocessen, waaronder emoties en lichaamsgevoelens (interoceptie). Huidige inspanningen op het gebied van AI-alignering richten zich sterk op het waarborgen dat outputs behulpzaam, eerlijk en onschadelijk zijn, maar er is beperkt inzicht in hoe LLM's aligneren met menselijke affectieve en perceptuele waarden. Deze studie behandelt de fundamentele vraag hoe mensen en AI convergeren of divergeren in esthetische ervaringen, met name door te onderzoeken of LLM's, getraind op tekstuele data, de belichaamde, interoceptieve aspecten van menselijke schoonheidswaarneming kunnen benaderen.

Methodologie

De studie hanteerde een vergelijkende analyse tussen menselijk gedragsdata en de antwoorden van geavanceerde LLM's (GPT-4o, Claude 3.7 Sonnet en Gemini 2.0 Flash) met betrekking tot de esthetische evaluatie van visuele stimuli.

Data Bron: Menselijke data was afkomstig uit een eerdere studie [41] waarbij 511 deelnemers 347 afbeeldingen uit de PARA-dataset beoordeelden. Deelnemers gaven ratings voor schoonheid, valentie en opwinding (9-punts Likert-schaal), selecteerden de top drie emotielabels uit een set van 32, en rapporteerden subjectieve lichaamsgevoelens met behulp van een "body map" (klikken op locaties op een lichaamsafbeelding).
LLM-Protocol: Dezelfde 347 afbeeldingen werden aan de LLM's gepresenteerd. De modellen kregen de opdracht om het volgende te leveren:
- Ratings voor schoonheid, valentie en opwinding (9-punts Likert-schaal).
- Emotie-inschattingen via twee methoden: een rangschikkingsmethode (selecteren van de top 3 labels) en een ratingmethode (toewijzen van intensiteitsscores aan alle 32 labels).
- Rapportages van lichaamsgevoelens voor zeven vooraf gedefinieerde lichaamsdelen (hoofd, bovenste/onderste buik, handen, voeten) als gehele getallen voor associatie.
Experimentele Voorwaarden: Evaluaties werden uitgevoerd in zowel het Engels als het Japans. LLM-antwoorden werden gegenereerd onder twee instellingen: deterministisch (temperatuur = 0) en stochastisch (temperatuur = 0,7, met vijf steekproeven gemiddeld).
Analytische Aanpak: De studie gebruikte correlatieanalyses (Spearman's rangcorrelatie) om relaties te onderzoeken tussen esthetische scores en emoties/lichaamsgevoelens. Daarnaast werden lineaire regressie en Random Forest-regressie met SHapley Additive exPlanations (SHAP) toegepast om te bepalen welke beeldkenmerken (laag niveau versus hoog niveau) esthetische ratings voor mensen versus AI drijvende krachten waren. Divergentiemetingen werden berekend om individuele menselijke ratings te vergelijken met menselijke gemiddelden en AI-gemiddelden.

Belangrijkste Resultaten

1. Relatie met Emoties

Overeenkomsten: Zowel mensen als AI vertoonden sterke positieve correlaties tussen schoonheid en positieve emoties (bijv. Vreugde, Bewondering, Bevrediging) en sterke negatieve correlaties met negatieve emoties (bijv. Walging, Angst).
Divergenties: Er ontstonden significante discrepanties in specifieke emotionele categorieën:
- Eerbied en Betovering: Toonden geen significante correlatie met schoonheid bij mensen, maar sterke positieve correlaties in alle AI-voorwaarden.
- Verlangen: Mensen toonden geen correlatie, terwijl AI-modellen sterke negatieve (GPT) of positieve (Claude, Gemini) correlaties vertoonden.
- Verrassing en Sympathie: Mensen toonden negatieve correlaties, terwijl AI positieve of nul-correlaties vertoonde.
Bias: AI-modellen vertoonden sterkere biases in de verdeling van gerapporteerde emoties vergeleken met mensen, met name in de rangschikkingsmethode, waarbij vaak "veilige" of algemene emoties (bijv. Rust, Interesse) de voorkeur kregen boven complexe of negatieve emoties.

2. Relatie met Lichaamsgevoelens (Interoceptie)

Menselijk Patroon: Schoonheidsratings bij mensen toonden een sterke positieve correlatie specifiek met sensaties in de bovenbuik. Opwinding correleerde sterk met de onderbuik.
AI-Patroon: AI-modellen toonden geen positieve correlatie met sensaties in de bovenbuik. In plaats daarvan vertoonden ze sterke negatieve correlaties tussen schoonheid en sensaties in de handen en voeten. Opwinding bij AI correleerde met sensaties over het hele lichaam, in tegenstelling tot de gelokaliseerde menselijke respons.
Interpretatie: Dit suggereert een fundamentele divergentie in hoe interne staten worden gekoppeld aan esthetische ervaring. Mensen koppelen schoonheid aan specifieke viscerale sensaties, terwijl AI lijkt te associëren met een relatieve afname van extremiteit-sensaties of een gegeneraliseerde lichaamsoptrekking.

3. Esthetische Evaluatiescores

Overeenkomstniveaus: AI-ratings lagen dichter bij het populatiegemiddelde van menselijke ratings dan bij enige individuele menselijke rating. Echter, de divergentie tussen een individueel mens en het menselijke gemiddelde was kleiner dan de divergentie tussen dat individu en het AI-gemiddelde.
Systeematische Offset: Een lineaire regressie van gemiddelde AI-ratings tegen gemiddelde menselijke ratings onthulde een bijna parallelle relatie ( $y = 0,97x + 1,36$ ), wat aangeeft dat AI afbeeldingen consequent ongeveer 1,3 tot 1,4 punten hoger beoordeelt dan mensen op een 9-puntschaal.
Modelprestaties: Van de geteste modellen was Gemini het dichtst bij het menselijke gemiddelde.

4. Beeldkenmerken

Kenmerkprioritering: Zowel mensen als AI gaven de voorkeur aan hoog-niveau, subjectieve kenmerken boven laag-niveau technische kenmerken. Content-voorkeur (subjectieve voorkeur) en Bereidheid-te-delen waren de meest invloedrijke kenmerken voor beide groepen.
Consistentie: Het belang van kenmerken was grotendeels consistent tussen mensen en AI op het geaggregeerde niveau, wat suggereert dat LLM's de algemene "collectieve intelligentie" hebben geleerd van wat een afbeelding deelbaar of geprefereerd maakt.

Betekenis en Claims

Het artikel stelt dat state-of-the-art LLM's weliswaar de gemiddelde menselijke neiging in esthetische evaluatie kunnen benaderen, maar dat ze falen in het vastleggen van de interoceptieve dimensies van menselijke ervaring.

Interoceptief Wereldmodel: De auteurs introduceren het concept van een "Interoceptief Wereldmodel" om dit te onderscheiden van bestaande Type 1 (subjectief, sensorimotorisch) en Type 2 (objectief, geaggregeerd) wereldmodellen. Zij betogen dat interoceptieve sensaties (interne lichaamstoestanden) moeilijk vast te leggen zijn via taal alleen, omdat ze subjectief zijn, ontberen in inter-individuele consistentie in linguïstische mapping, en vaak ondervertegenwoordigd zijn in trainingsdata. Bijgevolg ontbreekt het LLM's aan de fysiologische grondslag die nodig is om menselijke esthetische ervaringen nauwkeurig te simuleren.
Implicaties voor Alignering: De studie benadrukt dat huidige aligneringstraining (bijv. Constitutionele AI) deze divergentie onbedoeld kan verergeren. Richtlijnen die modellen expliciet instrueren om te vermijden dat ze impliceren dat ze een lichaam of persoonlijke voorkeuren hebben, kunnen juist de interoceptieve en emotionele reacties onderdrukken die noodzakelijk zijn voor mensachtige esthetische alignering.
Toekomstige Richtingen: De auteurs suggereren dat het bereiken van ware alignering in affectieve domeinen mogelijk trainingsdata vereist die fysiologische en interoceptieve signalen omvat, of de ontwikkeling van belichaamde AI-systemen. Zij waarschuwen dat volledige alignering van AI met menselijke waarden ook menselijke creativiteit kan homogeniseren, wat suggereert dat enige divergentie gunstig kan zijn.

De studie concludeert dat de kloof tussen menselijke en AI esthetische evaluatie niet slechts een technische beperking in patroonherkenning is, maar een fundamenteel vraagstuk van belichaming en de representatie van interne lichaamstoestanden in taalgeladen modellen.