On the Definition of Intelligence

Technische Samenvatting: Over de Definitie van Intelligentie

Probleemstelling
Het streven naar Kunstmatige Algemene Intelligentie (AGI) vereist een formele, operationele en soortonafhankelijke definitie van intelligentie. Bestaande definities kampen met significante beperkingen:

• Doelgerichte Definities: Definities zoals die van Legg en Hutter (het meten van het vermogen van een agent om doelen te bereiken in diverse omgevingen) hebben moeite met het toepassen op gedragingen die geen duidelijke omgevingen, beloningssignalen of welgedefinieerde doelen hebben (bijv. generatieve AI).
• Antropocentrische en Temporele Definities: Benaderingen zoals de Turingtest of de definitie van Elaine Rich (AI als het computers laten doen van dingen waar mensen momenteel beter in zijn) zijn ofwel beperkt tot mens-machinevergelijkingen, ofwel tijdelijk afhankelijk van de huidige menselijke superioriteit.
• Operationalisatieproblemen: Psychologische definities (bijv. Wechsler) zijn moeilijk te operationaliseren voor niet-menselijke systemen.

Er is een gebrek aan een verenigd kader dat biologische, kunstmatige en hybride systemen kan evalueren over diverse paradigma's heen, inclus overlapping van reinforcement learning, generatieve modellen, classificatie en analogisch redeneren, zonder te vertrouwen op vage beschrijvingen of menselijk oordeel als enige metriek.

Methodologie
Het artikel stelt een definitie van intelligentie voor die gegrond is in generatieve getrouwheid (generative fidelity) en entiteitsononderscheidbaarheid. De methodologie omvat de volgende formele constructen:

1. Conceptuele Ruimte en Vezels:

   • Laat $U$ het universum zijn van alle denkbare entiteiten (datapunten, producten, acties, concepten).
   • Een conceptuele ruimte wordt gedefinieerd als een surjectieve afbeelding $\Phi: U \to K$, waarbij $K$ de verzameling concepten is.
   • Voor een concept $k \in K$ is de verzameling entiteiten die dit concept exemplificeren de "vezel" $C_k = \Phi^{-1}(k)$.

2. $\varepsilon$-Concept Intelligentie:

   • Gegeven een multiset van input-entiteiten $S \subseteq U$ behorend tot een concept $C_k$, is een agent intelligent als deze in staat is een verzameling entiteiten $\hat{S}$ te genereren die hetzelfde concept exemplifieert.
   • Distinguereerders: Een familie van functies $F = \{f: U \to [0, 1]\}$ fungeert als distinguereerders om de gelijkenis tussen $S$ en $\hat{S}$ te testen.
   • Scoring: Een scorefunctie $\sigma$ aggregeert de outputs van de distinguereerders over een verzameling.
   • Metriek: De intelligentie-metriek wordt gedefinieerd als het supremum van het verschil in scores tussen de originele verzameling en de gegenereerde verzameling over alle distinguereerders:
     $$\Delta^\sigma_F(S, \hat{S}) = \sup_{f \in F} |\sigma(\{f(x) : x \in S\}) - \sigma(\{f(x') : x' \in \hat{S}\})|$$
   • Definitie: Een agent is $\varepsilon$-intelligent met betrekking tot concept $k$ als $\Delta^\sigma_F(S, \hat{S}) \le \varepsilon$. Dit impliceert dat de gegenereerde entiteiten ononderscheidbaar zijn van de originele entiteiten binnen een tolerantie $\varepsilon$ door elke toegestane distinguereerder in $F$.

3. Dynamisch Kader:

   • Het artikel maakt onderscheid tussen Synchrone Capaciteit (de breedte van het genereren van laag-$\varepsilon$ entiteiten voor een vaste set concepten op tijdstip $t$) en Diachrone Capaciteit (het vermogen om competentie te transformeren van de ene set concepten naar een andere, wat effectief het leren/adaptatie meet).

Belangrijkste Bijdragen

• Verenigde Formele Definitie: Het artikel biedt een enkele wiskundige definitie ($\varepsilon$-concept intelligentie) die diverse AI-paradigma's omvat. Het behandelt intelligentie niet enkel als abstracte mapping of doelmaximalisatie alleen, maar fundamenteel als de generatie van nieuwe entiteiten die consistent zijn met een gegeven concept.
• Unificatie van Bestaande Benchmarks: De auteur demonstreert dat gevestigde intelligentietests speciale gevallen zijn van dit kader:
  • Turingtest: Ontstaat wanneer de vezel menselijke taalreacties is en de distinguereerders menselijke beoordelaars zijn.
  • C-tests: Ontstaan wanneer de vezel sequenties is met specifieke Levin-complexiteit en de distinguereerders de unieke minimale verklaring verifiëren.
  • Legg-Hutter Intelligentie: Ontstaat wanneer de vezel gedragssequenties zijn die de verwachte beloning in een omgeving maximaliseren.
• Ontkoppeling van Intelligentie, Leren en Bewustzijn:
  • De definitie vereist geen bewustzijn; een deterministische solver kan een hoge $\varepsilon$-intelligentie vertonen zonder bewust te zijn.
  • De definitie vereist niet strikt een leervermogen; een statisch systeem dat consistent correcte outputs genereert voor een concept is intelligent binnen dat domein, hoewel leren gerelateerd is aan diachrone capaciteit (het veranderen van $\varepsilon$ over de tijd).
• Operationele Criteria: De definitie voldoet aan drie desiderata:
  • Operationeel: Meetbaar via observeerbare outputs en ononderscheidbaarheid.
  • Falsifieerbaar: Systemen die outputs genereren die afwijken van het concept worden geïdentificeerd als zijnde laag-intelligent.
  • Generaliseerbaar: Toepasbaar op mensen, machines en biologische systemen zonder antropocentrische bias.

Resultaten en Theoretische Implicaties
Het artikel presenteert geen nieuwe experimentele data, maar biedt een theoretische afleiding en controles op logische consistentie:

• Generatieve Getrouwheid: Het kader stelt dat intelligentie het vermogen is om entiteiten te genereren die consistent zijn met een concept, zelfs als de entiteiten abstract zijn (bijv. een auto genereren gegeven een paard als voorbeeld van "transport").
• Veiligheid en Datakwaliteit: De auteur voert aan dat omdat intelligentie wordt gedefinieerd door getrouwheid aan een concept, de veiligheid en betrouwbaarheid van de outputs direct worden bepaald door de kwaliteit van de trainingsdata (de initiële entiteiten $S$). Het cureren van veiligheids-conforme synthetische data aan de bron wordt gepresenteerd als een primaire methode voor het mitigeren van schadelijke outputs.
• Generalisatie: Het kader ondersteunt generalisatie naar ongeziene concepten. Als een nieuwe conceptruimte $K_B$ kan worden ingebed in een bekende ruimte $K_A$ via een volledige, getrouwe en essentieel surjectieve functor, kunnen de intelligentie-grenzen (distinguereerders) worden getransporteerd, wat theoretisch mogelijk maakt dat het systeem ongeziene problemen kan afhandelen.

Betekenis en Claims
Het artikel claimt een "enkele meetlat" te bieden voor het vergelijken van biologische, kunstmatige en hybride systemen. De betekenis ligt in:

1. Verschuiving van het Paradigma: Van doelgerichte of taakspecifieke definities naar een model van generatieve getrouwheid.
2. Fundament voor AGI: Het bieden van een basisdefinitie die voldoende algemeen is om diverse paradigma's (RL, LLM's, analogisch redeneren) te omvatten, terwijl het testbaar blijft.
3. Toekomstige Richtingen: De auteur suggereert dat het kader verder verfijnd kan worden met behulp van Categorietheorie, waarbij concepten objecten zijn en generalisatie wordt gemodelleerd als functoren. Er wordt ook opgemerkt dat volgend werk dit zal uitbreiden naar een wiskundig kader gebaseerd op gerichte gelijkenisvelden (directed similarity fields) en generatieve operatoren.

De auteur neemt een bescheiden standpunt in door dit te presenteren als een "minimale en fundamentele definitie" bedoeld als een theoretische baseline voor toekomstige verfijning en empirische validatie, in plaats van een definitieve, allesomvattende theorie van intelligentie.