Evaluating the relationship between regularity and learnability in recursive numeral systems using Reinforcement Learning

1. Enunciato del Problema

Il paper indaga le pressioni evolutive e cognitive che plasmano i sistemi numerici ricorsivi (ad esempio, la base-10 inglese, il mandarino). Sebbene i sistemi numerici umani siano altamente regolari, i sistemi teoricamente possibili possono essere altamente irregolari. Ricerche precedenti (ad esempio, Prasertsom et al., 2026) suggeriscono che i sistemi naturali ottimizzano un compromesso tra dimensione del lessico e complessità morfosintattica, ma non tengono conto della regolarità (il riutilizzo della forma).

La domanda di ricerca centrale è: La regolarità facilita l'apprendibilità?
Gli autori ipotizzano che i sistemi regolari siano prevalenti perché sono più facili da apprendere, specificamente quando il compito di apprendimento richiede la generalizzazione da dati di addestramento limitati per rappresentare accuratamente un'ampia gamma di interi. L'obiettivo è testare ciò utilizzando agenti di Apprendimento per Rinforzo (RL) per simulare il processo di apprendimento.

2. Metodologia

Lo studio impiega l'Apprendimento per Rinforzo (RL) ad Agente Singolo per quantificare l'apprendibilità di vari sistemi numerici.

• Formulazione del Compito: Il compito è inquadrato come un problema di bandito contestuale con spazio di azioni continuo.

  • Input: Una stringa numerica (sequenza di morfemi).
  • Output: Un valore intero previsto (1–99).
  • Architettura dell'Agente: Una rete LSTM a singolo strato. I morfemi sono incorporati (dimensione 5), elaborati sequenzialmente e lo stato nascosto finale prevede uno scalare $\mu \in [0, 1]$. Questo è interpretato come la media di una politica Gaussiana $N(\mu, \sigma)$.
  • Funzione di Ricompensa: Una funzione Gaussiana esponenzialmente decrescente e limitata, basata sulla distanza tra l'intero previsto e l'intero target. Le previsioni al di fuori dell'intervallo 1–99 ricevono ricompensa zero.
  • Addestramento: Gli agenti sono addestrati per 30.000 epoche utilizzando l'algoritmo REINFORCE.
  • Metrica: L'apprendibilità è misurata dall'Area Sotto la Curva (AUC) dell'accuratezza di test rispetto alle epoche di addestramento. Un AUC più alto indica un apprendimento più rapido.

• Dataset dei Sistemi: Lo studio valuta quattro categorie di sistemi:

  1. Sistemi Umani: 128 sistemi numerici ricorsivi attestati.
  2. Ottimali D&S: Sistemi artificialmente generati ottimizzati per il compromesso dimensione del lessico/complessità (Denić & Szymanik, 2024).
  3. Ottimali Y&R: Sistemi artificiali ottimizzati per lo stesso compromesso ma vincolati a essere simili a quelli umani (Yang & Regier, 2025).
  4. Baseline Casuale: 300 sistemi non attestati che utilizzano simboli simili a quelli umani.

• Misurazione della Regolarità: L'irregolarità è quantificata dalla dimensione del Minimo Automato Finito Deterministico (DFA) necessario per generare la grammatica del sistema. La misura calcola il numero di bit richiesti per codificare la tabella delle transizioni del DFA, lo stato iniziale e gli stati di accettazione.

• Condizioni Sperimentali:

  • Esperimento 1: Sia la distribuzione di addestramento ($p(n)$) che quella di test ($q(n)$) seguono una legge di potenza ($n^{-2}$), riflettendo la frequenza comunicativa (forte skew verso numeri piccoli).
  • Esperimento 2: L'addestramento segue la legge di potenza, ma il test utilizza una distribuzione uniforme ($q(n) \propto 1/99$) per testare la generalizzazione a tutti gli interi.
  • Esperimento 3: Si concentra sui "vicinati locali" dei sistemi umani (variando solo l'organizzazione dei morfemi esistenti) per isolare l'effetto della regolarità mantenendo costanti la dimensione del lessico e la lunghezza media.

3. Risultati Chiave

• Esperimento 1 (Addestramento e Test a Legge di Potenza):

  • Risultato: Nessuna correlazione significativa tra regolarità e apprendibilità ($\beta = -0.020$).
  • Interpretazione: Quando la distribuzione di test corrisponde alla distribuzione di addestramento sbilanciata (focalizzata su numeri piccoli), gli agenti possono raggiungere un'alta accuratezza senza bisogno di generalizzare a numeri grandi. Di conseguenza, i benefici strutturali della regolarità non vengono sfruttati.

• Esperimento 2 (Addestramento a Legge di Potenza, Test Uniforme):

  • Risultato: Una forte correlazione negativa tra irregolarità e apprendibilità ($\beta = -0.828$). I sistemi regolari simili a quelli umani sono significativamente più facili da apprendere.
  • Interpretazione: Quando gli agenti devono generalizzare a numeri grandi e rari (la "coda lunga"), i sistemi regolari permettono agli agenti di riutilizzare in modo efficiente parti apprese (morfemi/regole). I sistemi irregolari non forniscono questi schemi riutilizzabili.
  • Regolarità Locale: L'introduzione di una metrica di "regolarità locale" (regolarità all'interno di intervalli di numeri consecutivi, ad es. 30, 40) ha ulteriormente migliorato la correlazione, spiegando gli outlier come il francese, che ha basi globali inconsistenti ma intervalli locali coerenti.

• Esperimento 3 (Vicinati Locali):

  • Risultato: All'interno di specifiche famiglie di sistemi con dimensione del lessico e lunghezza fisse, 21 su 30 vicinati hanno mostrato una correlazione negativa tra irregolarità e apprendibilità.
  • Sfumatura: Per i sistemi altamente irregolari (baseline casuali), la regolarità ha avuto scarso impatto sull'apprendibilità. Invece, la complessità morfosintattica (lunghezza) è diventata il fattore dominante; forme più lunghe erano più difficili da memorizzare indipendentemente dalla regolarità.

4. Contributi Chiave

1. RL come Proxy per l'Apprendibilità: Ha dimostrato che gli agenti di Apprendimento per Rinforzo possono modellare efficacemente l'apprendibilità dei sistemi linguistici, catturando specificamente il compromesso tra regolarità e generalizzazione.
2. Il Ruolo della Generalizzazione: Ha stabilito che il legame tra regolarità e apprendibilità è condizionale. La regolarità conferisce un vantaggio di apprendibilità solo quando il compito di apprendimento richiede una generalizzazione oltre la distribuzione di addestramento immediata (cioè, da numeri piccoli frequenti a numeri grandi rari).
3. Raffinamento delle Metriche di Complessità: Ha mostrato che l'"irregolarità" non è un predittore monolitico dell'apprendibilità. Nei sistemi altamente irregolari, la lunghezza/complessità domina, mentre nei sistemi regolari domina la regolarità strutturale.
4. Regolarità Locale vs Globale: Ha introdotto il concetto di regolarità locale (coerenza all'interno di intervalli consecutivi) come fattore critico per l'apprendibilità, spiegando perché sistemi con basi miste (come il francese) possono comunque essere apprendibili.

5. Significato e Implicazioni

• Evoluzione del Linguaggio: I risultati supportano l'ipotesi che la prevalenza cross-linguistica dei sistemi numerici regolari sia guidata da pressioni di apprendibilità, specificamente la necessità di trasmettere conoscenze in modo efficiente tra le generazioni per rappresentare tutti gli interi, non solo i più frequentemente usati.
• Modellazione Cognitiva: Lo studio suggerisce che l'apprendimento umano dei numeri si basa probabilmente su meccanismi di generalizzazione simili. La discrepanza con precedenti esperimenti umani (Holt & Barner, 2025) è attribuita alla mancanza di pressione a generalizzare a numeri grandi in quei specifici disegni sperimentali.
• Direzioni Future: Gli autori propongono che le routine di conteggio (esposizione sequenziale) possano artificialmente aumentare la frequenza dei numeri più grandi nell'apprendimento umano, facilitando l'estrazione di regole generali. Suggeriscono inoltre che l'apprendibilità è uno spazio multidimensionale dove diversi fattori di complessità (lunghezza vs regolarità) dominano in diverse regioni dello spazio delle ipotesi.

In conclusione, il paper fornisce prove computazionali che la regolarità è una caratteristica adattiva dei sistemi numerici, selezionata perché permette una generalizzazione robusta da dati limitati a un insieme universale di interi.