← Neueste Arbeiten
💬 NLP

Stoicheia: Character-Level Masked Diffusion for Ancient Greek Textual Restoration, Parsing, and Metrical Scansion

Stoicheia ist ein 405-Millionen-Parameter starkes, zeichenbasiertes Masked-Diffusion-Modell, das auf einem dekontaminierten Korpus des Altgriechischen trainiert wurde und Textrestaurierung, Parsing und metrische Skansion in einem einzigen Framework vereint, wobei es durch die signifikante Überlegenheit gegenüber früheren Systemen wie Ithaca und Aeneas eine staatliche Spitzenleistung über mehrere Aufgaben hinweg erreicht.

Ursprüngliche Autoren: Eric Cullhed, Albin Thörn Cleland

Veröffentlicht 2026-08-10
📖 7 Min. Lesezeit🧠 Tiefgang

Ursprüngliche Autoren: Eric Cullhed, Albin Thörn Cleland

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Bibliothek vor, in der die Bücher tausende von Jahren alt sind, geschrieben in einer Sprache, die sich über Jahrtausende hinweg entwickelt und verändert hat. Dies ist die Welt der Computergestützten Philologie, ein Bereich, in dem Informatiker mit Historikern und Linguisten zusammenarbeiten, um antike Texte zu lesen, zu restaurieren und zu verstehen. Die Herausforderung besteht darin, dass diese alten Bücher oft beschädigt sind, Seiten fehlen oder in einem unordentlichen, kontinuierlichen Strom von Buchstaben ohne Leerzeichen, Kommas oder die kleinen Akzentzeichen geschrieben sind, die wir heute verwenden. Um Sinn daraus zu schöpfen, nutzen Forscher KI-Modelle – Computerprogramme, die darauf trainiert sind, das vorherzusagen, was als Nächstes in einer Sequenz kommt, ganz ähnlich wie Ihr Telefon errät, welches Wort Sie als Nächstes tippen. Aber hier liegt der Haken: Die meisten dieser KI-Modelle werden auf „Subwords“ (Buchstabenstücken) trainiert, was sie schlecht darin macht, winzige, buchstabenweise Lücken in antiken Steinmetzarbeiten oder Papyrusrollen zu füllen. Zudem „memorieren“ sie die Bücher, die sie studiert haben, was bedeutet, dass man ihnen nicht vertrauen kann, um Rätsel auf Texten zu lösen, die sie noch nie gesehen haben. Diese Arbeit stellt eine einfache, aber lebenswichtige Frage: Können wir eine intelligentere, ehrlichere KI bauen, die Altgriechisch Buchstabe für Buchstabe liest, die chaotische Geschichte der Entstehung des Textes versteht und Rätsel auf brandneuen antiken Dokumenten löst, die sie zuvor noch nie encountert hat?

Hier kommt Stoicheia ins Spiel, ein neues KI-Modell, das speziell dafür entwickelt wurde, der ultimative Detektiv für Altgriechisch zu sein. Denken Sie an einen Meisterrestaurator, der nicht nur eine zerbrochene Vase betrachtet und die Form errät; stattdessen betrachtet er den Ton, die Risse, die Farbe und die Art und Weise, wie die Teile zusammenpassen, und das alles gleichzeitig.

Das Problem mit alter KI

Vor Stoicheia waren die besten KI-Werkzeuge für Altgriechisch wie Schüler, die die Antworten auf eine bestimmte Prüfung auswendig gelernt hatten. Wenn man sie nach einem Text fragte, den sie studiert hatten, waren sie großartig. Aber wenn man ihnen eine neue, beschädigte Inschrift überreichte, die sie noch nie gesehen hatten, zitierten sie vielleicht einfach eine ähnliche Passage aus dem Gedächtnis oder gerieten in Verwirrung. Darüber hinaus behandelten diese Modelle Wörter oft als einzelne Blöcke. Aber antike Beschädigungen sind nicht ordentlich; ein Riss in einem Stein könnte genau mitten durch ein Wort verlaufen. Um dies zu beheben, muss man jeden einzelnen Buchstaben, jedes Akzentzeichen und jedes Satzzeichen einzeln sehen.

Wie Stoicheia funktioniert: Das Fünf-Schichten-Sandwich

Die Schöpfer von Stoicheia bauten ein Modell mit einer einzigartigen „Fünf-Schichten-Sandwich“-Architektur. Anstatt nur einen String von Buchstaben zu sehen, sieht das Modell fünf verschiedene Dinge gleichzeitig, die perfekt aufeinander abgestimmt sind:

  1. Die Buchstaben: Das grundlegende Alphabet.
  2. Die Grenzen: Wo ein Wort endet und das nächste beginnt (selbst wenn es im Originaltext keine Leerzeichen gibt).
  3. Die Akzente: Die kleinen Zeichen über den Vokalen, die die Aussprache verändern.
  4. Die Großschreibung: Welche Buchstaben groß und welche klein sind.
  5. Die Interpunktion: Kommas, Punkte und andere Satzzeichen.

Stellen Sie sich vor, Sie versuchen, eine zerrissene Landkarte zu reparieren. Eine normale KI würde vielleicht versuchen, eine ganze fehlende Stadt auf einmal zu erraten. Stoicheia hingegen betrachtet die zerrissenen Kanten, die Farbe der Tinte, die Gitternetzlinien und die Windrose separat und näht sie dann alle zusammen. Dies ermöglicht es dem Modell, einen unordentlichen, unstrukturierten, unakzentuierten antiken Text zu nehmen und ihn zu „restaurieren“, indem es die fehlenden Teile ergänzt, die richtigen Akzente hinzufügt und herausfindet, wo die Sätze brechen – und das alles, ohne für jede spezifische Aufgabe neu trainiert werden zu müssen.

Das „ehrliche“ Training: Noch nie gesehen

Einer der klügsten Teile dieses Projekts war die Art und Weise, wie sie die KI trainiert haben, um „ehrlich“ zu sein. Normalerweise werden KI-Modelle auf allem verfügbaren Material trainiert, was bedeutet, dass sie die Antwort auf ein spezifisches Rätsel vielleicht schon memoriert haben, bevor Sie es ihnen überhaupt zeigen. Die Forscher wollten sicherstellen, dass Stoicheia das Problem tatsächlich löst und nicht nur die Antwort aus dem Gedächtnis abruft.

Um dies zu erreichen, erstellten sie elf verschiedene Versionen des Modells. Sie nahmen ihre massive Bibliothek von 361 Millionen Wörtern und teilten sie in zehn verschiedene Gruppen auf. Jedes Modell wurde auf neun Gruppen trainiert und auf der zehnten getestet. Das bedeutet, dass für jeden antiken Text, den Sie ihnen vorlegen, mindestens eine Version von Stoicheia diesen Text in ihrem gesamten „Leben“ noch nie gesehen hat. Es ist, als hätte man ein Team von zehn Detektiven, und für jeden neuen Tatort wählt man den Detektiv aus, der noch nie in diesem Viertel war. Dies garantiert, dass, wenn das Modell ein Rätsel löst, es seinen Verstand benutzt und nicht sein Gedächtnis.

Die Ergebnisse: Die Besten schlagen

Das Team stellte Stoicheia in drei wichtigen Bereichen auf die Probe und verglich es mit den besten bestehenden Systemen (wie Ithaca und Aeneas) und sogar mit einem Modell, das mit zufälligen, „dummen“ Gewichten startete, um zu sehen, wie sehr das Training tatsächlich half.

  1. Reparatur von Steinen und Schriftrollen: Als es darum ging, fehlende Buchstaben in beschädigten Inschriften und Papyri zu ergänzen, war Stoicheia ein Champion. In einem Standardtest mit 3.000 Lücken reduzierte es die Fehlerrate auf 15,5 % und schlug damit den bisherigen Rekordhalter (Ithaca), der bei 24,6 % lag. Es lieferte auch in 74,5 % der Fälle die „beste Vermutung“, verglichen mit dem alten Rekord von 63,0 %. Noch beeindruckender: Selbst wenn es mit brandneuen Dokumenten getestet wurde, die erst nach Abschluss des Trainings aller anderen KI-Modelle editiert wurden, blieb Stoicheia an der Spitze, was bewies, dass es nicht nur alte Antworten auswendig lernte.

  2. Verständnis der Grammatik: Das Team testete auch, ob Stoicheia die Grammatik des Altgriechischen versteht (das Taggen von Wörtern und das Ergründen ihrer Beziehungen zueinander). Hier schlug es jedes andere Modell, einschließlich derer, die auf viel größeren Datensätzen trainiert wurden. Die Schlüsselerkenntnis war, dass das „Pre-Training“ (die massive Lernphase) für einen enormen Leistungssprung verantwortlich war – etwa 12,9 Punkte besser als ein Modell, das bei Null anfing. Dies beweist, dass das „Gehirn“ des Modells die Hauptarbeit leistete und nicht nur die spezifischen Werkzeuge, die daran angehängt waren.

  3. Den Rhythmus der Poesie lesen: Die antike griechische Poesie beruht auf der Länge von Vokalen (lang oder kurz), um einen Rhythmus zu erzeugen, aber der geschriebene Text zeigt dies nicht. Stoicheia war in der Lage, diese verborgenen Längen mit einer Genauigkeit von 93,37 % zu bestimmen und schlug damit ein spezialisiertes regelbasiertes System, das bei 40 % der Wörter „verzichten“ (aufgeben) musste, weil es sich unsicher war. Stoicheia gab niemals auf.

Warum das wichtig ist

Die Autoren kommen zu dem Schluss, dass Stoicheia ein Gamechanger ist, da es Offenheit (Daten und Code sind öffentlich), Präzision (es arbeitet auf Buchstabenebene) und Integrität (wir wissen genau, welche Texte es gesehen hat und welche nicht) kombiniert. Es erlaubt Gelehrten, einen beschädigten antiken Text zu betrachten und zu fragen: „Was steht hier?“, mit der Gewissheit, dass die KI nicht nur eine aus einem Lehrbuch auswendig gelernte Antwort wiedergibt. Es ist ein Werkzeug, das es uns ermöglicht, die Vergangenheit mit frischen Augen zu lesen und sicherzustellen, dass die Geschichten des antiken Griechenlands nicht durch das Gedächtnis, sondern durch Verständnis wiederhergestellt werden.

Die Autoren weisen jedoch vorsichtig darauf hin, dass dies kein Zauberstab ist. Das Modell ist nur so gut wie die Daten, mit denen es trainiert wurde, und ein Großteil dieser Daten wurde von anderen KI-Tools „repariert“, was ein kleines Risiko für Fehler einführt. Zudem liefert das Modell immer eine Antwort, selbst wenn es unsicher ist, was bedeutet, dass menschliche Experten die Arbeit weiterhin überprüfen müssen. Aber zum ersten Mal haben wir ein System, das diese antiken Rätsel mit einem Maß an Ehrlichkeit und Präzision angehen kann, das zuvor unmöglich war.

Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?

Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.

Digest testen →