Meta-learning ecological priors from large language models explains human learning and decision making

Problema de Pesquisa
A cognição humana é profundamente influenciada pelos ambientes nos quais opera, contudo, permanece uma questão em aberto se o aprendizado e a tomada de decisão podem ser explicados como uma adaptação principiada à estrutura estatística de tarefas do mundo real. Dois frameworks dominantes tentam abordar isso: a análise racional, que deriva estratégias ótimas a partir de modelos formais do ambiente, mas tem dificuldade com ambientes complexos e indefinidos; e a racionalidade ecológica, que se baseia em heurísticas criadas manualmente e ajustadas a estruturas de tarefas específicas, mas carece de um método principiado para derivar essas heurísticas em novos domínios. O desafio central é desenvolver um framework computacional que unifique as fundações normativas da análise racional com o embasamento ecológico de tarefas do mundo real, sem exigir que pesquisadores especifiquem manualmente distribuições ambientais ou projetem heurísticas específicas.

Metodologia: Análise Ecologicamente Racional e ERMI
Os autores introduzem a Análise Ecologicamente Racional, um framework que utiliza Grandes Modelos de Linguagem (LLMs) e meta-aprendizado para derivar modelos computacionais da cognição humana. A abordagem consiste em três estáções principais:

1. Geração de Tarefas Escalável via LLMs: Os autores utilizam LLMs (especificamente o CLAUDE-V2) como motores generativos para criar tarefas cognitivas ecologicamente válidas em escala. Este é um processo de duas etapas:

   • Síntese de Características: O LLM gera características e alvos plausíveis de tarefas (ex: mapear "sódio, gordura, proteína" para categorias "saudável/não saudável").
   • Geração de Dados: O LLM gera pares de entrada-alvo correspondentes consistentes com essas características, criando conjuntos de dados que aproximam as regularidades estatísticas de espaços de problemas naturalísticos.
   • Validação: As tarefas geradas são comparadas estatisticamente com conjuntos de dados do mundo real (ex: OpenML-CC18, tarefas de regressão do mundo real) para verificar a validade ecológica. As métricas incluem precisão de classificação, correlação de características, esparsidade (coeficiente de Gini) e linearidade.

2. Meta-Aprendizado para Inferência em Contexto: Os autores treinam redes neurais (especificamente arquiteturas baseadas em transformer) nessas tarefas geradas por LLM usando meta-aprendizado. O objetivo é derivar modelos de Inferência de Meta-Aprendizado Ecologicamente Racional (ERMI). Esses modelos aprendem a realizar aprendizado em contexto (in-context learning): eles se adaptam à estrutura de um novo problema modificando ativações internas com base em uma sequência de exemplos de entrada-saída, sem atualizar seus parâmetros. Esse processo permite que os modelos internalizem os "priors ecológicos" (regularidades estatísticas) da distribuição de treinamento, aproximando-se da inferência Bayes-ótima condicionada a essas estatísticas.

3. Avaliação Contra o Comportamento Humano: O desempenho do ERMI é avaliado em 15 experimentos abrangendo três domínios cognitivos: Aprendizado de Função, Aprendizado de Categoria e Tomada de Decisão. Os modelos são testados em sua capacidade de replicar assinaturas comportamentais marcantes (ex: curvas de aprendizado, padrões de generalização, mudanças de estratégia) e são comparados contra modelos cognitivos estabelecidos (ex: Modelo Racional de Categorização, Modelo de Contexto Generalizado, modelos baseados em regras) e modelos de inferência meta-aprendidos com priors manuais (MI).

Principais Contribuições

• Um Novo Framework: A proposta da "Análise Ecologicamente Racional", que sintetiza a análise racional e a racionalidade ecológica ao automatizar a derivação de estratégias adaptativas a partir da estrutura estatística de ambientes naturais.
• Modelos ERMI: O desenvolvimento de uma nova classe de algoritmos de aprendizado (ERMI) que internalizam priors ecológicos através de meta-aprendizado em tarefas geradas por LLM, eliminando a necessidade de heurísticas manuais ou atualizações explícitas de parâmetros durante a inferência.
• Validação Empírica: Demonstração de que o ERMI captura o comportamento humano através de diversos domínios, superando vários modelos cognitivos estabelecidos na predição caso a caso (trial-by-trial).
• Inovação Metodológica: Utilização de LLMs não como modelos comportamentais diretos, mas como ferramentas para gerar os priors ecológicos necessários para o treinamento de modelos adaptativos.

Resultos

• Validade Ecológica: As tarefas geradas por LLM espelharam com sucesso as propriedades estatísticas de dados do mundo real, incluindo distribuições de tipos de funções (linear, exponencial, etc.), correlações de características e esparsidade.
• Aprendizado de Função: O ERMI replicou cinco achados humanos marcantes: (i) melhor aprendizado de funções lineares positivas do que negativas; (ii) aprendizado mais rápido de funções lineares vs. não lineares; (iii) aprendizado superior de funções monotônicas vs. não monotônicas; (iv) aprendizado mais fácil de funções não cíclicas vs. cíclicas; e (v) melhor desempenho em interpolação do que em extrapolação. O ERMI também exibiu o viés humano de subestimar valores durante a extrapolação (viés em direção ao offset zero) e proporcionou um ajuste melhor aos dados humanos do que a inferência meta-aprendida com priors manuais.
• Aprendizado de Categoria: O ERMI capturou a ordem de dificuldade dos seis tipos de categoria de Shepard (TIPO 1–6) e superou modelos concorrentes na explicação de escolhas humanas (maior frequência de modelo posterior). Também modelou com sucesso a mudança na estratégia humana de aprendizado baseado em protótipos para baseado em exemplares ao longo do tempo e replicou padrões de generalização humana para entradas não vistas.
• Tomada de Decisão: Em tarefas de comparação pareada, o ERMI adaptou sua estratégia de decisão com base na estrutura estatística do ambiente (ranking, direção ou condições desconhecidas), implementando estratégias de um motivo, de peso igual ou aditivas ponderadas, correspondendo ao comportamento humano. O ERML explicou as respostas humanas com mais frequência do que os modelos de base (Single-cue, Equal-weighting, Redes Neurais e MI).

Significância e Alegações
O artigo afirma que o alinhamento adaptativo com a estrutura estatística de ambientes ecologicamente válidos é suficiente para explicar um amplo espectro do comportamento humano de aprendizado e tomada de decisão.

Os autores argumentam que a cognição humana pode não exigir heurísticas complexas e específicas de domínio desenhadas por pesquisadores, mas sim emergir de um ajuste às regularidades estatísticas do mundo. Ao usar LLMs para destilar essas regularidades em dados de treinamento, o ERMI demonstra que sistemas de propósito geral podem espelhar como as pessoas aprendem, categorizam e decidem. O trabalho sugere que grande parte da cognição humana reflete uma "inferência estatística ideal" sob as restrições das estruturas de tarefas naturais.

Os autores mantêm modéstia quanto ao escopo de suas alegações, observando que, embora o ERMI reduza o fardo de criar priors manualmente, ele não elimina a necessidade de julgamento científico na seleção de características. Eles reconhecem que trabalhos futuros devem determinar se componentes adicionais (ex: restrições cognitivas específicas como limites de memória de trabalho, ou fatores específicos do participante) são necessários para explicar totalmente o comportamento humano, particularmente em casos onde os humanos se desviam da inferência ideal. O artigo postula que este framework oferece um caminho escalável para compreender as raízes ecológicas da cognição, potencialmente estendendo-se para ambientes de alta dimensão e corporificados no futuro.