Meta-learning ecological priors from large language models explains human learning and decision making

Problematica
La cognizione umana è profondamente influenzata dagli ambienti in cui opera, eppure rimane una questione aperta se l'apprendimento e il processo decisionale possano essere spiegati come un adattamento principato alla struttura statistica dei compiti del mondo reale. Due framework dominanti tentano di affrontare la questione: l'analisi razionale, che deriva strategie ottimali da modelli formali dell'ambiente ma fatica con ambienti complessi e non definiti, e la razionalità ecologica, che si basa su euristiche create artigianalmente e calibrate su specifiche strutture di task, ma manca di un metodo principato per derivare tali euristiche in nuovi domini. La sfida centrale è sviluppare un framework computazionale che unifichi le fondamenta normative dell'analisi razionale con l'ancoraggio ecologico dei compiti del mondo reale, senza richiedere ai ricercatori di specificare manualmente le distribuzioni ambientali o progettare euristiche specifiche.

Metodologia: Analisi Ecologicamente Razionale ed ERMI
Gli autori introducono l'Analisi Ecologicamente Razionale, un framework che sfrutta i Large Language Models (LLM) e il meta-learning per derivare modelli computazionali della cognizione umana. L'approccio consiste in tre fasi principali:

1. Generazione Scalabile di Task tramite LLM: Gli autori utilizzano gli LLM (specificamente CLAUDE-V2) come motori generativi per creare, su larga scala, compiti cognitivi ecologicamente validi. Questo è un processo in due fasi:

   • Sintesi delle Caratteristiche: L'LLM genera caratteristiche e target plausibili del compito (ad esempio, mappare "sodio, grassi, proteine" su categorie "sano/non sano").
   • Generazione dei Dati: L'LLM genera coppie input-target corrispondenti coerenti con queste caratteristiche, creando dataset che approssimano le regolarità statistiche degli spazi problematici naturalistici.
   • Validazione: I compiti generati sono confrontati statisticamente con dataset del mondo reale (ad esempio, OpenML-CC1-18, task di regressione del mondo reale) per verificarne la validità ecologica. Le metriche includono accuratezza di classificazione, correlazione delle caratteristiche, sparsità (coefficiente di Gini) e linearità.

2. Meta-Learning per l'Inferenza In-Context: Gli autori addestrano reti neurali (specificamente architetture basate su transformer) su questi compiti generati da LLM utilizzando il meta-learning. L'obiettivo è derivare modelli di Inferenza Meta-Appresa Ecologicamente Razionale (ERMI). Questi modelli imparano a eseguire l'in-context learning: si adattano alla struttura di un nuovo problema modificando le attivazioni interne sulla base di una sequenza di esempi input-output, senza aggiornare i propri parametri. Questo processo permette ai modelli di interiorizzare i "prior ecologici" (regolarità statistiche) della distribuzione di addestramento, approssimando l'inferenza Bayes-ottimale condizionata a tali statistiche.

3. Valutazione rispetto al Comportamento Umano: Le prestazioni di ERMI sono valutate attraverso 15 esperimenti che spaziano su tre domini cognitivi: Apprendimento di Funzioni, Apprendimento di Categorie e Processo Decisionale. I modelli sono testati sulla loro capacità di replicare firme comportamentali distintive (ad esempio, curve di apprendimento, pattern di generalizzazione, cambiamenti di strategia) e sono confrontati con modelli cognitivi stabiliti (ad esempio, Modello Razionale di Categorizzazione, Modello di Contesto Generalizzato, modelli basati su regole) e modelli di inferenza meta-appresa con prior creati artigianalmente (MI).

Contributi Chiave

• Un Nuovo Framework: La proposta di un' "Analisi Ecologicamente Razionale", che sintetizza l'analisi razionale e la razionalità ecologica automatizzando la derivazione di strategie adattive dalla struttura statistica degli ambienti naturali.
• Modelli ERMI: Lo sviluppo di una nuova classe di algoritmi di apprendimento (ERMI) che interiorizzano i prior ecologici attraverso il meta-learning su compiti generati da LLM, eliminando la necessità di euristiche create artigianalmente o di aggiornamenti espliciti dei parametri durante l'inferenza.
• Validazione Empirica: Dimostrare che ERMI cattura il comportamento umano attraverso diversi domini, superando diversi modelli cognitivi stabiliti nella predizione trial-by-trial.
• Innovazione Metodologica: Utilizzare gli LLM non come modelli comportamentali diretti, ma come strumenti per generare i prior ecologici necessari per l'addestramento di modelli di inferenza adattivi.

Risultati

• Validità Ecologica: I compiti generati da LLM hanno rispecchiato con successo le proprietà statistiche dei dati del mondo reale, incluse le distribuzioni dei tipi di funzione (lineari, esponenziali, ecc.), le correlazioni delle caratteristiche e la sparsità.
• Apprendimento di Funzioni: ERMI ha replicato cinque scoperte fondamentali del comportamento umano: (i) migliore apprendimento di funzioni lineari positive rispetto a quelle negative; (ii) apprendimento più rapido di funzioni lineari rispetto a quelle non lineari; (iii) apprendimento superiore di funzioni monotone rispetto a quelle non monotone; (iv) apprendimento più facile di funzioni non cicliche rispetto a quelle cicliche; e (v) migliori prestazioni nell'interpolazione rispetto all'estrapolazione. ERMI ha anche mostrato il bias umano di sottostimare i valori durante l'estrapolazione (bias verso l'offset zero) e ha fornito un fit migliore ai dati umani rispetto all'inferenza meta-appresa con prior creati artigianalmente.
• Apprendimento di Categorie: ERmi ha catturato l'ordine di difficoltà dei sei tipi di categoria di Shepard (TIPO 1–6) e ha superato i modelli concorrenti nel spiegare le scelte umane (frequenza del modello a posteriori più alta). Ha inoltre modellato con successo lo spostamento della strategia umana da un apprendimento basato su prototipi a uno basato su esempi nel tempo e ha replicato i pattern di generalizzazione umana agli input non visti.
• Processo Decisionale: Nei compiti di confronto a coppie, ERMI ha adattato la sua strategia decisionale in base alla struttura statistica dell'ambiente (classifica, direzione o condizioni sconosciute), implementando strategie a motivo singolo, a pesi uguali o additive pesate, corrispondendo al comportamento umano. ERMI ha giustificato le risposte umane più frequentemente rispetto ai modelli di base (Single-cue, Equal-weighting, Neural Networks e MI).

Significatività e Rivendicazioni
L'articolo sostiene che l'allineamento adattivo con la struttura statistica di ambienti ecologicamente validi è sufficiente per spiegare un ampio spettro di comportamenti di apprendimento e decisione umana.

Gli autori sostengono che la cognizione umana potrebbe non richiedere euristiche complesse e dominio-specifiche progettate dai ricercatori, ma piuttosto emerga da un assestamento alle regolarità statistiche del mondo. Utilizzando gli LLM per distillare queste regolarità in dati di addestramento, ERMI dimostra che sistemi general-purpose possono rispecchiare il modo in cui le persone apprendono, categorizzano e decidono. Il lavoro suggerisce che gran parte della cognizione umana rifletta un "inferenza statistica ideale" sotto i vincoli delle strutture dei task naturali.

Gli autori rimangono modesti riguardo all'ambito delle loro rivendicazioni, notando che, sebbene ERMI riduca l'onere di creare artigianalmente i prior, non elimina la necessità del giudizio scientifico nella selezione delle caratteristiche. Essi riconoscono che il lavoro futuro dovrà determinare se siano necessari componenti aggiuntivi (ad esempio, vincoli cognitivi specifici come i limiti della memoria di lavoro o fattori specifici del partecipante) per spiegare pienamente il comportamento umano, in particolare nei casi in cui gli esseri umani deviano dall'inferenza ideale. L'articolo pone questo framework come una via scalabile per comprendere le radici ecologiche della cognizione, potenzialmente estendendosi in futuro ad ambienti incarnati (embodied) e ad alta dimensionalità.