💬 NLP

Evaluating the relationship between regularity and learnability in recursive numeral systems using Reinforcement Learning

Mittels Verstärkungslernen zeigt diese Studie, dass die hohe Regelmäßigkeit menschlicher rekursiver Zahlensysteme deren Erlernbarkeit aus begrenzten Daten erleichtert, was darauf hindeutet, dass dieses strukturelle Merkmal ein Haupttreiber für deren sprachübergreifende Verbreitung ist.

Ursprüngliche Autoren: Andrea Silvi, Ponrawee Prasertsom, Jennifer Culbertson, Devdatt Dubhashi, Moa Johansson, Kenny Smith

Veröffentlicht 2026-04-30

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Andrea Silvi, Ponrawee Prasertsom, Jennifer Culbertson, Devdatt Dubhashi, Moa Johansson, Kenny Smith

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter das Zählen beizubringen. Sie haben zwei Möglichkeiten für die „Sprache" der Zahlen, die Sie ihm geben:

Die „regelmäßige" Sprache: Wie Englisch oder Mandarin. Sobald der Roboter gelernt hat, dass „zehn" plus „eins" „elf" ist und „zehn" plus „zwei" „zwölf", kann er den Rest leicht erraten. Es ist wie ein Kochbuch, bei dem die Anweisungen konsistent sind: „Fügen Sie eine Tasse Mehl hinzu, dann fügen Sie ein Ei hinzu."
Die „unregelmäßige" Sprache: Ein erfundenes System, bei dem sich die Regeln zufällig ändern. Vielleicht ist „zehn plus eins" „elf", aber „zehn plus zwei" ist „Banane" und „zehn plus drei" ist „lila". Es gibt kein Muster, das man wiederverwenden kann; jede Zahl ist ein brandneuer, verwirrender Geheimschlüssel.

Diese Arbeit stellt eine einfache Frage: Ist der Grund, warum Menschen regelmäßige Zahlensysteme (wie Englisch) verwenden, dass sie leichter zu lernen sind?

Um dies herauszufinden, fragten die Forscher keine Menschen; sie bauten einen digitalen „Schüler" (einen Reinforcement-Learning-Agenten) und gaben ihm Tausende verschiedener Zahlensysteme zum Erlernen. Sie maßen, wie schnell der Roboter das System beherrschen konnte.

Hier ist das, was sie entdeckten, aufgeteilt in einfache Konzepte:

1. Der „Test" ist am wichtigsten

Die Forscher stellten fest, dass wie sie den Roboter testeten, die Ergebnisse veränderte.

Szenario A (Der „Realitäts-Test"): Sie trainierten den Roboter hauptsächlich mit kleinen Zahlen (1–10), da Menschen diese am häufigsten verwenden. Dann testeten sie ihn an allen Zahlen bis 99, einschließlich der seltenen, großen.
- Das Ergebnis: Der Roboter lernte die regelmäßigen Systeme viel schneller. Da die Regeln konsistent waren, konnte der Roboter das, was er über kleine Zahlen gelernt hatte, auf die großen, seltenen Zahlen „verallgemeinern" (die Logik anwenden). Die unregelmäßigen Systeme waren ein Albtraum; der Roboter musste jede einzelne Zahl von Grund auf neu auswendig lernen.
- Die Analogie: Denken Sie an regelmäßige Systeme wie ein Lego-Set. Sobald Sie wissen, wie man zwei Steine zusammensteckt, können Sie einen Turm, ein Auto oder eine Burg bauen. Unregelmäßige Systeme sind wie eine Schachtel mit zufälligen, einzigartigen Puzzleteilen, bei denen jedes Teil nur an eine ganz bestimmte Stelle passt. Wenn Sie eine große Struktur bauen wollen, ist das Lego-Set viel einfacher zu erlernen.
Szenario B (Der „Häufigkeits-Test"): Sie trainierten und testeten den Roboter unter derselben verzerrten Verteilung (hauptsächlich kleine Zahlen, fast nie große).
- Das Ergebnis: In diesem speziellen Fall kümmerte es den Roboter nicht, ob das System regelmäßig war oder nicht. Da er selten an großen Zahlen getestet wurde, musste er nicht verallgemeinern. Er merkte sich einfach die kleinen Zahlen, die er oft sah.
- Die Erkenntnis: Regelmäßigkeit hilft Ihnen beim Lernen nur dann, wenn Sie später in der Lage sein müssen, mit neuen oder seltenen Situationen umzugehen.

2. Die Zone „zu seltsam"

Die Forscher untersuchten auch Systeme, die extrem chaotisch und unregelmäßig waren.

Das Ergebnis: Bei diesen „super seltsamen" Systemen spielte Regelmäßigkeit kaum eine Rolle. Stattdessen war das Hauptproblem die Länge. Wenn die Wörter für Zahlen zu lang und kompliziert waren, um sie auszusprechen, hatte der Roboter Schwierigkeiten, sie zu lernen, unabhängig davon, ob es ein Muster gab oder nicht.
Die Analogie: Wenn Sie versuchen, eine Liste zufälliger Wörter auswendig zu lernen, ist es egal, ob sie sich reimen (regelmäßig) oder nicht. Wenn die Wörter einfach unglaublich lang und schwer auszusprechen sind, werden Sie sie sowieso vergessen. Aber wenn die Wörter kurz sind, macht ein Reimschema (Regelmäßigkeit) sie viel leichter zu merken.

3. Das „lokale" Muster

Die Forscher stellten fest, dass ein System manchmal insgesamt chaotisch aussieht, aber kleine Taschen von Ordnung hat.

Das Ergebnis: Der Roboter lernte am besten, wenn die Regeln lokal konsistent waren. Wenn beispielsweise die Regeln für die Zahlen 30–39 konsistent waren, selbst wenn die Regeln für 40–49 anders waren, konnte der Roboter es dennoch gut lernen.
Die Analogie: Stellen Sie sich eine Stadt vor, in der jede Straße im „Nordviertel" einem Raster folgt, aber das „Südviertel" ein Labyrinth ist. Sie können die Stadt trotzdem leicht navigieren, wenn Sie einfach im Nordviertel bleiben. Sie brauchen nicht, dass die ganze Stadt ein Raster ist, um sich zurechtzufinden; Sie brauchen nur eine gewisse lokale Konsistenz.

Das große Fazit

Die Arbeit kommt zu dem Schluss, dass menschliche Zahlensysteme wahrscheinlich nicht nur deshalb regelmäßig sind, weil sie effizient zu sprechen sind, sondern weil Regelmäßigkeit sie leichter zu lernen und an die nächste Generation weiterzugeben macht.

Wenn das Zahlensystem einer Sprache zu chaotisch ist, ist es für ein Kind (oder einen Roboter) schwierig, die Regeln für große Zahlen herauszufinden, ohne jede einzelne explizit beigebracht zu bekommen. Regelmäßigkeit wirkt wie ein Sicherheitsnetz und ermöglicht es Lernenden, einige Beispiele zu nehmen und den Rest korrekt zu erraten. Dieser „Lerndruck" ist wahrscheinlich der Grund, warum menschliche Kulturen weltweit natürlich dazu neigen, regelmäßige, musterbasierte Zahlensysteme zu verwenden.

1. Problemstellung

Das Paper untersucht die evolutionären und kognitiven Drucke, die rekursive Zahlensysteme (z. B. englische Basis-10, Mandarin) formen. Während menschliche Zahlensysteme hochgradig regulär sind, können theoretisch mögliche Systeme stark irregulär sein. Frühere Forschung (z. B. Prasertsom et al., 2026) legt nahe, dass natürliche Systeme einen Trade-off zwischen Lexikongröße und morphosyntaktischer Komplexität optimieren, versagt jedoch darin, Regelmäßigkeit (die Wiederverwendung von Formen) zu berücksichtigen.

Die zentrale Forschungsfrage lautet: Erleichtert Regelmäßigkeit die Erlernbarkeit?
Die Autoren hypothesieren, dass reguläre Systeme weit verbreitet sind, weil sie leichter zu erlernen sind, insbesondere wenn die Lernaufgabe eine Generalisierung von begrenzten Trainingsdaten erfordert, um eine breite Palette von ganzen Zahlen korrekt darzustellen. Sie beabsichtigen, dies mithilfe von Reinforcement-Learning-(RL-)Agenten zu testen, die den Lernprozess simulieren.

2. Methodik

Die Studie verwendet Single-Agent Reinforcement Learning (RL), um die Erlernbarkeit verschiedener Zahlensysteme zu quantifizieren.

Aufgabenformulierung: Die Aufgabe wird als kontextuelles Bandit-Problem mit einem kontinuierlichen Aktionsraum formuliert.
- Eingabe: Eine Zahlzeichenkette (Folge von Morphemen).
- Ausgabe: Ein vorhergesagter ganzzahliger Wert (1–99).
- Agentenarchitektur: Ein einlagiges LSTM-Netzwerk. Morpheme werden eingebettet (Größe 5), sequenziell verarbeitet, und der letzte versteckte Zustand sagt einen Skalar $\mu \in [0, 1]$ voraus. Dies wird als Mittelwert einer Gaußschen Policy $N(\mu, \sigma)$ interpretiert.
- Belohnungsfunktion: Eine begrenzte, exponentiell abklingende Gaußsche Funktion, basierend auf dem Abstand zwischen dem vorhergesagten und dem Zielganzzahlwert. Vorhersagen außerhalb von 1–99 erhalten eine Belohnung von null.
- Training: Agenten werden über 30.000 Epochen mit dem REINFORCE-Algorithmus trainiert.
- Metrik: Die Erlernbarkeit wird durch die Fläche unter der Kurve (AUC) der Testgenauigkeit versus Trainingsepochen gemessen. Eine höhere AUC deutet auf schnelleres Lernen hin.
System-Datensätze: Die Studie bewertet vier Kategorien von Systemen:
1. Menschliche Systeme: 128 bezeugte rekursive Zahlensysteme.
2. D&S Optimal: Künstlich generierte Systeme, die für den Trade-off zwischen Lexikongröße und Komplexität optimiert sind (Denić & Szymanik, 2024).
3. Y&R Optimal: Künstliche Systeme, die für denselben Trade-off optimiert sind, aber auf menschliche Ähnlichkeit beschränkt wurden (Yang & Regier, 2025).
4. Zufalls-Baseline: 300 unbezeugte Systeme unter Verwendung menschlicher Symbole.
Regelmäßigkeitsmessung: Irregularität wird durch die Größe des minimalen Deterministischen Endlichen Automaten (DFA) quantifiziert, der erforderlich ist, um die Grammatik des Systems zu generieren. Die Messgröße berechnet die Anzahl der Bits, die zur Kodierung der Übergangstabelle, des Anfangszustands und der akzeptierenden Zustände des DFA erforderlich sind.
Experimentelle Bedingungen:
- Experiment 1: Sowohl die Trainings- ( $p(n)$ ) als auch die Testverteilung ( $q(n)$ ) folgen einem Potenzgesetz ( $n^{-2}$ ), das die kommunikative Häufigkeit widerspiegelt (starke Schieflage hin zu kleinen Zahlen).
- Experiment 2: Das Training folgt dem Potenzgesetz, aber das Testen verwendet eine gleichmäßige Verteilung ( $q(n) \propto 1/99$ ), um die Generalisierung auf alle ganzen Zahlen zu testen.
- Experiment 3: Konzentriert sich auf „lokale Nachbarschaften" menschlicher Systeme (nur die Anordnung bestehender Morpheme wird variiert), um den Effekt der Regelmäßigkeit zu isolieren, während Lexikongröße und durchschnittliche Länge konstant gehalten werden.

3. Wichtige Ergebnisse

Experiment 1 (Potenzgesetz-Training und -Test):
- Ergebnis: Keine signifikante Korrelation zwischen Regelmäßigkeit und Erlernbarkeit ( $\beta = -0,020$ ).
- Interpretation: Wenn die Testverteilung der verzerrten Trainingsverteilung entspricht (Fokus auf kleine Zahlen), können Agenten eine hohe Genauigkeit erreichen, ohne auf große Zahlen generalisieren zu müssen. Daher werden die strukturellen Vorteile der Regelmäßigkeit nicht genutzt.
Experiment 2 (Potenzgesetz-Training, gleichmäßiger Test):
- Ergebnis: Eine starke negative Korrelation zwischen Irregularität und Erlernbarkeit ( $\beta = -0,828$ ). Hochreguläre, menschlich ähnliche Systeme sind signifikant leichter zu erlernen.
- Interpretation: Wenn Agenten auf große, seltene Zahlen generalisieren müssen (der „lange Schwanz"), ermöglichen reguläre Systeme den Agenten, gelernte Teilbereiche (Morpheme/Regeln) effizient wiederzuverwenden. Irreguläre Systeme bieten diese wiederverwendbaren Muster nicht.
- Lokale Regelmäßigkeit: Die Einführung einer Metrik für „lokale Regelmäßigkeit" (Regelmäßigkeit innerhalb aufeinanderfolgender Zahlenbereiche, z. B. 30er, 40er) verbesserte die Korrelation weiter und erklärte Ausreißer wie Französisch, das inkonsistente globale Basen, aber konsistente lokale Bereiche aufweist.
Experiment 3 (Lokale Nachbarschaften):
- Ergebnis: Innerhalb spezifischer Systemfamilien mit fester Lexikongröße und Länge zeigten 21 von 30 Nachbarschaften eine negative Korrelation zwischen Irregularität und Erlernbarkeit.
- Nuance: Bei hoch irregulären Systemen (Zufalls-Baselines) hatte Regelmäßigkeit wenig Einfluss auf die Erlernbarkeit. Stattdessen wurde die morphosyntaktische Komplexität (Länge) zum dominierenden Faktor; längere Formen waren unabhängig von der Regelmäßigkeit schwerer zu memorieren.

4. Wichtige Beiträge

RL als Proxy für Erlernbarkeit: Es wurde gezeigt, dass Reinforcement-Learning-Agenten die Erlernbarkeit linguistischer Systeme effektiv modellieren können, insbesondere den Trade-off zwischen Regelmäßigkeit und Generalisierung.
Die Rolle der Generalisierung: Es wurde festgestellt, dass der Zusammenhang zwischen Regelmäßigkeit und Erlernbarkeit bedingt ist. Regelmäßigkeit bietet nur dann einen Vorteil für die Erlernbarkeit, wenn die Lernaufgabe eine Generalisierung über die unmittelbare Trainingsverteilung hinaus erfordert (d. h. von häufigen kleinen Zahlen zu seltenen großen Zahlen).
Verfeinerung von Komplexitätsmetriken: Es wurde gezeigt, dass „Irregularität" kein monolithischer Prädiktor für die Erlernbarkeit ist. Bei hoch irregulären Systemen dominiert die Länge/Komplexität, während bei regulären Systemen die strukturelle Regelmäßigkeit dominiert.
Lokale vs. globale Regelmäßigkeit: Es wurde das Konzept der lokalen Regelmäßigkeit (Konsistenz innerhalb aufeinanderfolgender Bereiche) als kritischer Faktor für die Erlernbarkeit eingeführt, was erklärt, warum Systeme mit gemischten Basen (wie Französisch) dennoch erlernbar sein können.

5. Bedeutung und Implikationen

Sprachentwicklung: Die Ergebnisse unterstützen die Hypothese, dass die sprachübergreifende Verbreitung regulärer Zahlensysteme durch Lernbarkeitsdrucke getrieben wird, insbesondere durch die Notwendigkeit, Wissen effizient über Generationen hinweg zu übertragen, um alle ganzen Zahlen darzustellen, nicht nur die am häufigsten verwendeten.
Kognitives Modellieren: Die Studie legt nahe, dass das menschliche Erlernen von Zahlwörtern wahrscheinlich auf ähnlichen Generalisierungsmechanismen beruht. Die Diskrepanz zu früheren menschlichen Experimenten (Holt & Barner, 2025) wird auf einen Mangel an Druck zur Generalisierung auf große Zahlen in diesen spezifischen experimentellen Designs zurückgeführt.
Zukünftige Richtungen: Die Autoren schlagen vor, dass Zählroutinen (sequenzielle Exposition) die Häufigkeit größerer Zahlen beim menschlichen Lernen künstlich erhöhen und so die Extraktion allgemeiner Regeln erleichtern können. Sie schlagen zudem vor, dass die Erlernbarkeit ein mehrdimensionaler Raum ist, in dem verschiedene Komplexitätsfaktoren (Länge vs. Regelmäßigkeit) in verschiedenen Regionen des Hypothesenraums dominieren.

Zusammenfassend liefert das Paper computergestützte Beweise dafür, dass Regelmäßigkeit ein adaptives Merkmal von Zahlensystemen ist, das ausgewählt wurde, weil es eine robuste Generalisierung von begrenzten Daten auf eine universelle Menge ganzer Zahlen ermöglicht.