Technische Samenvatting: Op zoek naar de ingrediënten van open-endedheid: Picbreeder repliceren met grote visueel-taalmodellen

Probleemstelling

Het artikel behandelt de uitdaging om kunstmatige open-endedheid te bereiken: het vermogen van een autonoom systeem om een ogenschijnlijk eindeloze voorraad nieuwe en betekenisvolle artefacten te genereren zonder menselijke tussenkomst of vooraf gedefinieerde optimalisatiedoelen. Hoewel machine learning zwaar leunt op statische datasets, die een bottleneck worden, beloven open-ended systemen continue generatie van nieuwheid. Volledig geautomatiseerde open-endedheid blijft echter een "grote uitdaging".

De auteurs stellen dat Picbreeder, een historisch systeem met menselijke tussenkomst waarbij gebruikers gezamenlijk afbeeldingen evolueerden via neurale netwerken (CPPNs), dient als canoniek voorbeeld van open-ended ontdekking. De centrale onderzoeksvraag is of Grote Visueel-Taalmodellen (VLM's) het open-ended gedrag van menselijke gebruikers in deze omgeving kunnen repliceren, en zo ja, welke ontwerpingrediënten (geheugen, exploratie, diversiteit) nodig zijn om dit te faciliteren.

Methodologie

De auteurs implementeerden een volledig kunstmatige recreatie van Picbreeder, waarbij menselijke gebruikers werden vervangen door geavanceerde VLM's.

Systeemarchitectuur

• Onderliggende engine: Het systeem gebruikt NEAT (NeuroEvolution of Augmenting Topologies) om CPPN's (Compositional Pattern Producing Networks) te evolueren. Elke CPPN neemt $(x, y, r)$-coördinaten als invoer en geeft tint, verzadiging en helderheid uit, waardoor $128 \times 128$-afbeeldingen worden gegenereerd.
• Agentlus: Een "sessie" bestaat uit een agent die aftakt van een bestaande afbeelding of start met een willekeurige populatie. De agent selecteert ouders uit een populatie van 15 afbeeldingen, past mutaties (en kruising) toe en evolueert de populatie gedurende 20 generaties. In de laatste generatie selecteert de agent één afbeelding om te publiceren in een gedeeld archief en geeft deze een titel.
• Agentinterface: Agenten ontvangen een steekproef uit het archief (gecategoriseerd als best beoordeeld, beste nieuwste, meest vertakt, nieuwste en willekeurig) en worden gevraagd ouders te selecteren, kleure-/structuurmodi in- of uit te schakelen en de mutatiesterkte aan te passen. Ze moeten een onderbouwing geven voor hun beslissingen.

Experimentele Interventies

Om de "ingrediënten" van open-endedheid te identificeren, varieerden de auteurs drie sleutelfactoren:

1. Geheugen (Contextlengte, $CL$): Het aantal eerdere interactiestappen dat is opgenomen in het contextvenster van de agent.
   • $CL=0$: Alleen de huidige populatie is zichtbaar.
   • $CL=1$ (Standaard): Huidige en één vorige beurt.
   • $CL=20$ (Volledig): De volledige sessiegeschiedenis is zichtbaar, inclusief een specifieke prompt die de agent vraagt om nieuwheid te rechtvaardigen ten opzichte van het archief.
2. Exploratie (Selectieruis, $\epsilon$): Een $\epsilon$-greedy-strategie waarbij, met waarschijnlijkheid $\epsilon$, de selectie van de agent wordt vervangen door een willekeurige actie (willekeurige ouderselectie, willekeurige mutatie-instellingen of het omschakelen van kleuremodus).
3. Multi-agent Diversiteit ($N_A$): Het aantal distincte "persoonlijkheden" dat aan agenten wordt toegewezen. Persoonlijkheidstrekken (bijv. "Je zoekt het visuele equivalent van een jankende sirene") werden gegenereerd door een LLM en aan het systeemprompt toegevoegd om diverse speelstijlen te simuleren.

Evaluatiemetrics

De auteurs ontwikkelden metrics om de "x-factor" van het menselijke archief te kwantificeren:

• Semantische Recall: Het vermogen om bekende objecten (gebaseerd op de THINGS-dataset) te herontdekken door de minimale cosinusafstand te meten tussen archiefafbeeldingen en klasse-inbeddingen in een gezamenlijke tekst-visier ruimte (SigLIP2-B).
• Visuele en Semantische Nieuwheid: Gemeten via $k$-dekkingstraal in inbeddingsruimtes (SigLIP-2-B-alignet voor afbeeldingen, gemini-embedding-001 voor bijschriften). Dit kwantificeert hoe goed het archief de ruimte van mogelijke vormen bestrijkt.
• Fylogenetische Boombalans ($J_1$): Een maat voor de diversiteit van de evolutionaire lijn, die beoordeelt of agenten aftakken van een breed scala aan voorouders of herhaaldelijk van dezelfde paar afbeeldingen.

Belangrijkste Resultaten

1. Exploratie versus Kwaliteit Trade-off

• Ruis ($\epsilon$): Het introduceren van kleine hoeveelheden exploratieve ruis ($\epsilon \approx 0.25$) verhoogde de diversiteit van het archief (Visuele/Semantische Dekking) en voorkwam modusinstorting. Echter, hogere ruisniveaus ($\epsilon \ge 0.5$) verslechterden de leesbaarheid en semantische recall van de afbeeldingen.
• Observatie: Hoewel ruis de fylogenetische diversiteit verhoogde (agenten takten af van meer gevarieerde bronnen), leidde dit niet noodzakelijk tot genetische diversiteit op een manier die diepere, betekenisvolle langetermijnvariatie opleverde. VLM's vertoonden een "hardnekkige voorkeur", waarbij ze consistent specifieke vormen selecteerden, zelfs uit ruisende sets.

2. De Rol van Geheugen (Contextlengte)

• $CL=0$: Agenten leden aan ernstige modusinstorting, waarbij ze duplicaten en bijna-identieke variaties publiceerden, wat resulteerde in lage semantische recall.
• $CL=1$: Verrassend effectief. Een enkele stap context was voldoende om directe herhaling te voorkomen en leverde de hoogste scores voor semantische recall op.
• $CL > 1$: Het vergroten van de contextlengte verslechterde over het algemeen de prestaties. $CL=2$ en $CL=10$ leidden tot "pathologisch gedrag", waaronder informatiedrukte, rommeligere afbeeldingen en auto-sycofantische lussen waarbij agenten hun eigen vooroordelen versterkten.
• $CL=20$: Hoewel diversiteitsmetrics piekten (waarschijnlijk door de expliciete nieuwheidsprompt), bleef de semantische recall lager dan bij $CL=1$, en waren de afbeeldingen vaak abstract of ruisend.

3. Multi-agent Dynamiek

• Diversiteit: Het vergroten van het aantal agenten ($N_A$) verbeterde de visuele en semantische dekking en boombalans aanzienlijk.
• Adversariële Artefacten: Bij hoge aantallen agenten ($N_A = 1.000$) was het archief vol met hoogfrequente, oninterpreteerbare, "psychedelische" patronen. Deze afbeeldingen fungeerden als adversariële hubs, die de conflicterende, abstracte voorkeuren van veel verschillende agenten tegelijkertijd bevredigden. Hoewel deze afbeeldingen hoge scores voor semantische dekking behaalden, waren ze kwalitatief onbeschrijfelijk en ruisend.

4. Vergelijking met Menselijke Baseline

Het historische menselijke archief domineerde de meeste metrics, met name in semantische recall en de verfijning van afbeeldingen. Mensen toonden een vermogen tot "dappere sprongen" in semantische ruimte (bijv. van een gezicht naar een auto springen), terwijl VLM's de neiging hadden kleinere, incrementele stappen te maken (bijv. gezicht $\to$ oog $\to$ kikker $\to$ auto).

Betekenis en Claims

Het artikel beweert dat volledig geautomatiseerde open-endedheid nog niet is bereikt door VLM's, zelfs niet met state-of-the-art modellen. De studie biedt echter een kader voor het begrijpen van de noodzakelijke voorwaarden:

1. Minimaal Geheugen is Optimaal: In tegenstelling tot de intuïtie dat meer geschiedenis het redeneren helpt, vonden de auteurs dat excessieve context leidt tot pathologisch gedrag en modusinstorting. Een minimale context ($CL=1$) was voldoende voor optimale prestaties.
2. Exploratie is een Dubbelzinnig Zwaard: Hoewel noodzakelijk om lokale optima te ontvluchten, degradeert te veel ruis de kwaliteit van de artefacten.
3. Diversiteit zonder Cohesie: Multi-agent systemen vergroten de dekking van de zoekruimte, maar kunnen leiden tot de verspreiding van "adversariële" afbeeldingen die veel agenten bevredigen maar semantische betekenis missen.
4. De "X-Factor"-Kloof: De auteurs concluderen dat VLM's momenteel het "durven en onderscheidend vermogen" van menselijke gebruikers missen. Hoewel ze kunnen worden geleid om diverse artefacten te produceren, worstelen ze met het genereren van de "stapstenen" van hoogwaardige, semantisch coherente nieuwheid die menselijk gedreven open-ended zoekopdrachten kenmerken.

Het werk suggereert dat om menselijke open-endedheid te bereiken, toekomstige systemen deze interventies zorgvuldig moeten combineren en mogelijk gebruikersstudies moeten integreren om metrics te kalibreren, in plaats van uitsluitend te vertrouwen op geautomatiseerde optimalisatie. De code is beschikbaar gesteld om verder onderzoek naar de "ingrediënten" van open-endedheid te faciliteren.