Evaluating the relationship between regularity and learnability in recursive numeral systems using Reinforcement Learning

1. Formulação do Problema

O artigo investiga as pressões evolutivas e cognitivas que moldam sistemas numéricos recursivos (por exemplo, base-10 em inglês, mandarim). Embora os sistemas numéricos humanos sejam altamente regulares, sistemas teoricamente possíveis podem ser altamente irregulares. Pesquisas anteriores (por exemplo, Prasertsom et al., 2026) sugerem que os sistemas naturais otimizam um compromisso entre tamanho do léxico e complexidade morossintática, mas falham em contabilizar a regularidade (a reutilização de formas).

A questão central de pesquisa é: A regularidade facilita a aprendibilidade?
Os autores hipotetizam que sistemas regulares são prevalentes porque são mais fáceis de aprender, especificamente quando a tarefa de aprendizado exige generalização a partir de dados de treinamento limitados para representar com precisão uma ampla gama de inteiros. Eles visam testar isso usando agentes de Aprendizado por Reforço (RL) para simular o processo de aprendizado.

2. Metodologia

O estudo emprega Aprendizado por Reforço (RL) de Agente Único para quantificar a aprendibilidade de vários sistemas numéricos.

• Formulação da Tarefa: A tarefa é enquadrada como um problema de bandit contextual com espaço de ação contínuo.

  • Entrada: Uma string numérica (sequência de morfemas).
  • Saída: Um valor inteiro previsto (1–99).
  • Arquitetura do Agente: Uma rede LSTM de camada única. Os morfemas são incorporados (tamanho 5), processados sequencialmente e o estado oculto final prevê um escalar $\mu \in [0, 1]$. Isso é interpretado como a média de uma política Gaussiana $N(\mu, \sigma)$.
  • Função de Recompensa: Uma função Gaussiana limitada e de decaimento exponencial baseada na distância entre o inteiro previsto e o inteiro alvo. Previsões fora de 1–99 recebem recompensa zero.
  • Treinamento: Os agentes são treinados por 30.000 épocas usando o algoritmo REINFORCE.
  • Métrica: A aprendibilidade é medida pela Área Sob a Curva (AUC) da precisão de teste versus épocas de treinamento. Uma AUC mais alta indica aprendizado mais rápido.

• Conjuntos de Dados de Sistemas: O estudo avalia quatro categorias de sistemas:

  1. Sistemas Humanos: 128 sistemas numéricos recursivos atestados.
  2. Ótimo D&S: Sistemas artificialmente gerados otimizados para o compromisso tamanho/complexidade do léxico (Denić & Szymanik, 2024).
  3. Ótimo Y&R: Sistemas artificiais otimizados para o mesmo compromisso, mas restritos a serem semelhantes aos humanos (Yang & Regier, 2025).
  4. Base Aleatória: 300 sistemas não atestados usando símbolos semelhantes aos humanos.

• Medição de Regularidade: A irregularidade é quantificada pelo tamanho do Autômato Finito Determinístico (DFA) mínimo necessário para gerar a gramática do sistema. A medida calcula o número de bits necessários para codificar a tabela de transição do DFA, o estado inicial e os estados de aceitação.

• Condições Experimentais:

  • Experimento 1: Tanto as distribuições de treinamento ($p(n)$) quanto de teste ($q(n)$) seguem uma lei de potência ($n^{-2}$), refletindo a frequência comunicativa (forte inclinação para números pequenos).
  • Experimento 2: O treinamento segue a lei de potência, mas o teste usa uma distribuição uniforme ($q(n) \propto 1/99$) para testar a generalização para todos os inteiros.
  • Experimento 3: Foca em "vizinhanças locais" de sistemas humanos (variando apenas a disposição de morfemas existentes) para isolar o efeito da regularidade enquanto mantêm o tamanho do léxico e o comprimento médio constantes.

3. Resultados Principais

• Experimento 1 (Treinamento e Teste com Lei de Potência):

  • Resultado: Nenhuma correlação significativa entre regularidade e aprendibilidade ($\beta = -0,020$).
  • Interpretação: Quando a distribuição de teste coincide com a distribuição de treinamento enviesada (focando em números pequenos), os agentes podem alcançar alta precisão sem precisar generalizar para números grandes. Assim, os benefícios estruturais da regularidade não são utilizados.

• Experimento 2 (Treinamento com Lei de Potência, Teste Uniforme):

  • Resultado: Uma forte correlação negativa entre irregularidade e aprendibilidade ($\beta = -0,828$). Sistemas altamente regulares semelhantes aos humanos são significativamente mais fáceis de aprender.
  • Interpretação: Quando os agentes devem generalizar para números grandes e raros (a "cauda longa"), sistemas regulares permitem que os agentes reutilizem subpartes aprendidas (morfemas/regras) de forma eficiente. Sistemas irregulares falham em fornecer esses padrões reutilizáveis.
  • Regularidade Local: A introdução de uma métrica de "regularidade local" (regularidade dentro de faixas de números consecutivos, por exemplo, 30s, 40s) melhorou ainda mais a correlação, explicando outliers como o francês, que possui bases globais inconsistentes, mas faixas locais consistentes.

• Experimento 3 (Vizinhanças Locais):

  • Resultado: Dentro de famílias específicas de sistemas com tamanho de léxico e comprimento fixos, 21 de 30 vizinhanças mostraram uma correlação negativa entre irregularidade e aprendibilidade.
  • Nuance: Para sistemas altamente irregulares (bases aleatórias), a regularidade teve pouco impacto na aprendibilidade. Em vez disso, a complexidade morossintática (comprimento) tornou-se o fator dominante; formas mais longas foram mais difíceis de memorizar, independentemente da regularidade.

4. Contribuições Principais

1. RL como Proxy de Aprendibilidade: Demonstrou que agentes de Aprendizado por Reforço podem modelar efetivamente a aprendibilidade de sistemas linguísticos, capturando especificamente o compromisso entre regularidade e generalização.
2. O Papel da Generalização: Estabeleceu que o vínculo entre regularidade e aprendibilidade é condicional. A regularidade só confere uma vantagem de aprendibilidade quando a tarefa de aprendizado exige generalização além da distribuição de treinamento imediata (ou seja, de números pequenos frequentes para números grandes raros).
3. Refinamento de Métricas de Complexidade: Mostrou que a "irregularidade" não é um preditor monolítico de aprendibilidade. Em sistemas altamente irregulares, o comprimento/complexidade domina, enquanto em sistemas regulares, a regularidade estrutural domina.
4. Regularidade Local vs. Global: Introduziu o conceito de regularidade local (consistência dentro de faixas consecutivas) como um fator crítico para a aprendibilidade, explicando por que sistemas com bases mistas (como o francês) ainda podem ser aprendíveis.

5. Significado e Implicações

• Evolução da Linguagem: As descobertas apoiam a hipótese de que a prevalência cross-linguística de sistemas numéricos regulares é impulsionada por pressões de aprendibilidade, especificamente a necessidade de transmitir conhecimento eficientemente entre gerações para representar todos os inteiros, não apenas os mais frequentemente usados.
• Modelagem Cognitiva: O estudo sugere que a aprendizagem humana de numerais provavelmente depende de mecanismos de generalização semelhantes. A discrepância com experimentos humanos anteriores (Holt & Barner, 2025) é atribuída à falta de pressão para generalizar para números grandes nesses projetos experimentais específicos.
• Direções Futuras: Os autores propõem que rotinas de contagem (exposição sequencial) podem artificialmente aumentar a frequência de números maiores na aprendizagem humana, facilitando a extração de regras gerais. Eles também sugerem que a aprendibilidade é um espaço multidimensional onde diferentes fatores de complexidade (comprimento vs. regularidade) dominam em diferentes regiões do espaço de hipóteses.

Em conclusão, o artigo fornece evidências computacionais de que a regularidade é uma característica adaptativa dos sistemas numéricos, selecionada porque permite uma generalização robusta a partir de dados limitados para um conjunto universal de inteiros.