The New Associationism: Lessons from Deep Learning

Technische Samenvatting: Het Nieuwe Associationisme: Lessen uit Deep Learning

Probleemstelling
Het artikel behandelt een centrale vraag in de cognitieve wetenschap: wat onthullen de recente successen van kunstmatige intelligentie (AI), specifiek deep learning, over de mechanismen die ten grondslag liggen aan menselijk leren? Hoewel het onbetwistbaar is dat mensen uitgebreid leren, blijft de computationele aard van dit leren onderwerp van debat. Historisch gezien werden associationistische theorieën — die stellen dat leren plaatsvindt door de geleidelijke vorming en aanpassing van associaties als reactie op ervaring — gemarginaliseerd ten gunste van regelgebaseerde, symbolische en nativistische benaderingen. Critici, zoals Fodor en Pyilyshyn, voerden aan dat connectionistische (statistische) modellen te beperkt waren om gestructureerd denken, one-shot learning en de systematische aard van de menselijke cognitie te verklaren. Het artikel onderzoekt of de empirische triomfen van moderne AI een specifieke vorm van associationisme rechtvaardigen en, zo ja, in welke mate en met welke kanttekeningen.

Methodologie
De auteur hanteert een conceptuele analyse van hedendaagse AI-systemen, waarbij de focus ligt op het functionele niveau van leren in plaats van een strikte mechanistische isomorfie met biologische neuronen. De methodologie omvat:

1. Identificatie van het dominante paradigma: Vaststellen dat supervised learning (leren van input-output paren om fouten te minimaliseren) de centrale motor is die een breed scala aan moderne AI-successen aandrijft, inclusief Large Language Models (LLM's), beeldgeneratie en spel-spelende agenten.
2. Analyse van herformuleringen: Onderzoeken hoe diverse, complexe problemen (bijv. taalverwerving, reinforcement learning in spellen) theoretisch zijn geherformuleerd tot supervised learning-subproblemen. Dit houdt in dat het traceren van hoe "labels" of evaluatieve signalen worden gegenereerd, variërend van directe menselijke annotatie tot zelf-gesuperviseerde predictie (bijv. next-token prediction) en gebootstrapt waarde-estimatie (bijv. temporal difference learning).
3. Mapping naar Associationisme: Het vergelijken van de functionele kenmerken van supervised learning in deep neural networks (DNN's) — specifiek gradiënt-gebaseerde foutcorrectie en de aanpassing van parameters — met de kernprincipes van klassieke associationistische theorieën (Pavloviaanse en operante conditionering).
4. Evaluatie van Limieten: Beoordelen waar de analogie tussen AI en menselijk leren uiteenvalt, met name met betrekking tot de computationele architecturen die vereist zijn om supervised learning effectief te maken en het onderscheid tussen leermechanismen en gedrag tijdens de inferentie-fase.

Belangrijkste Bijdragen
Het artikel voert drie primaire argumenten aan:

1. De Alomtegenwoordigheid van Supervised Learning: De auteur stelt dat supervised learning niet louter één paradigma onder vele is, maar het fundamentele mechanisme achter de meest significante AI-doorbraken. Zelfs systemen die schijnbaar opereren via reinforcement learning of unsupervised generatie, worden vaak gedreven door geherformuleerde supervised objectieven waarbij het "label" wordt geconstrueerd via tussenliggende berekeningen (bijv. het voorspellen van ruis in diffusiemodellen of toekomstige waarde in temporal difference learning).
2. Rechtvaardiging van Associationistische Idealen: Het succes van deep learning ondersteunt een "bescheiden maar oprechte" vorm van associationisme. Specifiek valideert het twee kernclaims van het associationisme:
   • Uniformiteit: Een enkel, algemeen leermechanisme (gradiënt-gebaseerde foutcorrectie) opereert over zeer verschillende domeinen (visie, taal, strategie), wat de associationistische visie ondersteunt dat diverse cognitieve capaciteiten voortkomen uit een gemeenschappelijke leerende motor.
   • Geleidelijke, Fout-gedreven Aanpassing: De iteratieve, statistische aanpassing van parameters om verlies te verminderen, weerspiegelt de geleidelijke, door ervaring gedreven modificatie van associaties zoals gepostuleerd door klassieke conditioneringstheorieën (bijv. het Rescorla-Wagner model).
3. De Rol van Architectuur: Het artikel verduidelijkt dat hoewel het leermechanisme associationistisch is, het succes van deze systemen afhankelijk is van geavanceerde computationele architecturen (bijv. transformers, convolutionele netwerken, diffusieprocessen) die veel verder gaan dan wat de klassieke associationisten voor ogen hadden. Supervised learning fungeert als een component binnen deze grotere structuren, en niet als een volledige verklaring voor de capaciteiten van het systeem.

Resultaten
De analyse toont aan dat de "statistische modellerings"-benadering, die ooit werd weggezet als ongeschikt voor hoogwaardige cognitie, in feite de motor is van systemen die in staat zijn tot supermenselijk spel, complexe redeneringen en nieuwe beeldgeneratie. Het artikel concludeert dat:

• De herformulering van problemen naar supervised learning-taken een niet-triviale conceptuele sprong is die deep networks in staat heeft gesteld problemen op te lossen die voorheen een symbolisch regel-systeem vereisten.
• De biologische plausibiliteit van dit model wordt versterkt door bewijs dat biologische systemen (bijv. dopaminerge signalering in zoogdieren) voorspellingsfouten volgen op manieren die parallel lopen aan temporal difference learning, wat suggereert dat de natuur leerproblemen mogelijk ook als supervised subproblemen presenteert.
• De bezwaren tegen connectionisme met betrekking tot "one-shot learning" en "gestructureerd denken" worden aanzienlijk verzwakt; dezelfde mechanismen die laag-niveau patronen leren, vertonen bij opschaling en architecturale beperking hoog-niveau cognitieve prestaties.

Betekenis en Claims
Het artikel claimt een "bescheiden" rechtvaardiging van het associationisme. Het stelt dat de kern van het leermechanisme in moderne AI fundamenteel associationistisch is: een uniform, geleidelijk, fout-gedreven proces van het aanpassen van verbindingen op basis van feedback. Dit weerlegt het langdurige argument dat associationistische mechanismen inherent te zwak zijn om menselijke cognitieve capaciteiten te verklaren.

De auteur beperkt echter expliciet de reikwijdte van deze rechtvaardiging:

• Geen Volledige Verklaring: Het artikel claimt niet dat associationisme de volledigheid van het menselijk leren verklaart. De computationele architecturen die nodig zijn om supervised learning te laten werken (bijv. specifieke inductieve biases in CNN's of Transformers) zijn essentieel en staan los van de leerregel zelf.
• Onderscheid van Empirisme: Het artikel maakt een onderscheid tussen associationistische mechanismen en sterke empirische claims over de oorsprong van kennis. Hoewel het leermechanisme domein-generaal kan zijn, erkent het artikel dat biologische leerlingen waarschijnlijk beschikken over domein-specifieke inductieve biases (bijv. in getal of ruimtelijk inzicht) die compatibel zijn met, maar niet alleen door het leermechanisme worden verklaard.
• Inferentie versus Leren: Het artikel merkt op dat het flexibele, redenerend-achtige gedrag dat bij AI wordt waargenomen tijdens de inferentie-fase, de output is van associationistische training, en niet noodzakelijkerwijs een reflectie is van een voortdurend associationistisch proces tijdens het redeneren.

Uiteindelijk suggereert het artikel dat als AI-systemen nuttige modellen zijn voor menselijk leren, zij wijzen op een biologische realiteit waarbij een algemene, fout-gedreven associationistische motor opereert binnen complexe, domein-specifieke architecturale beperkingen.