CANONIC: Governance Is Compilation
Das Papier stellt CANONIC vor, ein Governance-Framework, das Prinzipien der Compilertheorie anwendet, um ein auditierbares Evidenz-Ledger für KI-generierte Inhalte zu erstellen, wobei argumentiert wird, dass strukturelle Admission zwar „Slop“ nicht algorithmisch herausfiltern kann, aber sicherstellt, dass jede Behauptung an verifizierbare Definitionen und Commits für eine End-to-End-Reproduzierbarkeit gebunden ist.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Problem: Die Flut des „Slop“
Stellen Sie sich eine Fabrik vor, die Bücher schneller drucken kann, als man sie lesen kann. Im Jahr 2025 begann diese Fabrik (KI), so viel Text auszuspucken, dass sie ein neues Problem schuf: „Slop“ (Datenmüll/Textbrei).
„Slop“ ist nicht einfach nur schlechte Schreibweise; es ist Text, der perfekt aussieht, klug klingt und flüssig wirkt, aber keinerlei Verbindung zur Realität hat. Es ist wie ein Koch, der in Sekundenschnelle ein köstlich aussehendes Gericht zubereiten kann, dessen Zutaten jedoch aus Plastik bestehen. Wenn man es isst, wird man krank, aber man kann allein durch den Anblick des Tellers nicht erkennen, dass es gefälscht ist.
Die Arbeit argumentt, dass wir dieses Problem nicht lösen können, indem wir mehr Menschen zum Lesen der Bücher anstellen (menschliche Überprüfung) oder bessere Lügendetektoren bauen (KI-Erkennung). Warum? Weil die gefälschten Bücher exakt wie die echten aussehen. Die Fabrik ist zu schnell, und die „gefälschten“ Bücher sind zu überzeugend.
Die Lösung: Das „Compiler“-Tor
Der Autor, Dexter Hadley, schlägt eine radikale Änderung vor. Anstatt zu versuchen zu beurteilen, ob ein Buch wahr ist (was schwer ist), sollten wir beurteilen, ob das Buch strukturell gültig ist (was einfach ist).
Er nennt dies Governance als Kompilierung (Compilation).
Denken Sie an ein Computerprogramm. Bevor ein Programm ausgeführt wird, prüft ein „Compiler“ es. Der Compiler fragt nicht: „Wird dieses Programm die Probleme der Welt lösen?“ oder „Ist dieser Code brillant?“. Er stellt drei einfache, mechanische Fragen:
- Hast du ein Wort verwendet, das im Wörterbuch existiert?
- Hast du auf eine Datei verwiesen, die tatsächlich auf dem Computer existiert?
- Befindet sich diese Datei in dem Ordner, von dem du gesagt hast, dass sie dort liegt?
Wenn die Antwort auf eine dieser Fragen „Nein“ lautet, sagt der Compiler „Error“ (Fehler) und stoppt die Ausführung des Programms. Es spielt keine Rolle, wie brillant der Code ist; wenn er strukturell fehlerhaft ist, wird er abgelehnt.
CANONIC wendet dieselbe Logik auf KI-generierten Text an. Es fungt als ein „Compiler“ für Text. Bevor irgendein KI-generierter Inhalt in eine öffentliche Bibliothek (den „Korpus“) gelangen darf, muss er drei Tore passieren.
Die drei Tore (Das „Triad“)
Damit ein Text das CANONIC-Tor passiert, muss er wie ein spezifischer Typ von Ordner aufgebaut sein, der drei spezifische Dateien enthält. Wenn eine dieser Dateien fehlt, wird der Text sofort abgelehnt.
- Das Regelwerk (CANON.md): Diese Datei besagt: „Hier sind die Regeln für dieses spezifische Thema.“ Sie ist das Gesetz.
- Das Wörterbuch (VOCAB.md): Diese Datei definiert jedes einzelne Wort, das im Regelwerk verwendet wird. Man darf kein schickes Fachwort benutzen, wenn man es nicht genau hier definiert hat. Das verhindert, dass die KI eigenmächtig Jargon erfindet.
- Die Beschreibung (README.md): Diese Datei erklärt, worum es in dem Projekt eigentlich geht.
Die Analogie: Stellen Sie sich vor, Sie bauen ein Haus.
- Das Wörterbuch ist die Liste der zugelassenen Materialien (z. B. „Ziegel“ bedeutet roter Tonziegel, nicht roter Kunststoff).
- Das Regelwerk besagt: „Jede Wand muss aus Ziegeln gebaut sein.“
- Die Beschreibung besagt: „Dies ist ein Haus.“
Wenn Sie versuchen, eine Wand aus „rotem Kunststoff“ zu bauen, ohne „roten Kunststoff“ in Ihrem Wörterbuch zu definieren, stoppt der Inspektor (der Compiler) Sie. Sie können nicht einfach sagen: „Vertrau mir, es ist eine Wand.“
Das „Evidence Ledger“ (Beweis-Hauptbuch)
Die Arbeit führt eine zweite Ebene ein: Das Ledger (Hauptbuch).
Jede Behauptung, die im Text aufgestellt wird, muss mit einem spezifischen „Commit“ (einer gespeicherten Version einer Datei) in einem öffentlichen, unveränderlichen Datensatz (wie einem Git-Repository) verknüpft sein.
- Die Behauptung: „Der Patient hat sich verbessert.“
- Der Anker: „Siehe Commit #12345 im Ledger.“
Wenn der Autor nicht auf den spezifischen Commit hinweisen kann, der die Behauptung beweist, wird der Text abgelehnt. Es ist wie in einem Gerichtsfall, in dem man nicht einfach nur sagen kann: „Ich habe es gesehen laufen.“ Man muss das Videomaterial vorlegen. Wenn man das Band nicht hat, darf die Behauptung nicht in das Register aufgenommen werden.
Was CANONIC tut (und was es nicht tut)
Dies ist der wichtigste Teil der Arbeit. Der Autor ist sehr ehrlich über die Grenzen.
Was es TUT:
Es garantiert Rechenschaftspflicht (Accountability).
Wenn ein Text das Tor passiert, wissen Sie mit Sicherheit:
- Jedes Wort ist definiert.
- Jede Behauptung verweist auf ein spezifisches, unveränderliches Beweisstück.
- Die Regeln wurden befolgt.
Es verwandelt „unverifizierbare Prosa“ in ein „prüfbares Protokoll“. Selbst wenn der Text falsch ist, ist er nun rückverfolgbar. Man kann die Beweise prüfen, sehen, wo es schiefgelaufen ist, und es korrigieren.
Was es NICHT TUT:
Es garantiert nicht die Wahrheit.
Die Arbeit führte einen Test (einen Benchmark) durch, um zu sehen, ob dieses System „Slop“ herausfiltern kann. Das Ergebnis war überraschend: Es konnte es nicht.
- Der Test: Sie fütterten das System mit Fake News, echten Nachrichten und hinterhältigen, KI-generierten Lügen.
- Das Ergebnis: Das „Compiler“-Tor ließ die Fake News durch, wenn die Fake News gut strukturiert waren (definierte Wörter, gefälschte Beweise, die echt aussah, und ein klarer Zeitablauf).
- Die Lektion: Eine Maschine kann prüfen, ob ein Satz grammatikalisch gültig und referenziert ist, aber sie kann nicht prüfen, ob der Satz wahr ist.
Die Analogie:
Stellen Sie sich einen Sicherheitsdienst bei einer Bank vor.
- CANONIC ist der Wachmann, der Ihren Ausweis prüft. Wenn Ihr Ausweis gefälscht ist, aber perfekt aussieht, ein Foto hat und dem Datenbankformat entspricht, lässt der Wachmann Sie hinein. Der Wachmann stellt sicher, dass Sie einen gültigen Ausweis haben, nicht dass Sie ein guter Mensch sind.
- Die Wahrheit wird vom Bankmanager entschieden. Der Manager sieht den Ausweis, sieht die Person und entscheidet: „Moment, diese Person lügt über ihren Kontostand.“
Die Arbeit argumentt, dass wir versucht haben, den Algorithmus (den Wachmann) entscheiden zu lassen, wer lügt. Die Arbeit sagt: Hört auf damit. Die Aufgabe des Wachmanns ist es nur, den Ausweis zu prüfen. Die Aufgabe des Managers ist es, zu entscheiden, ob die Geschichte wahr ist.
Der „Human-in-the-Loop“ (Der Mensch im Prozess)
Das System ist so konzipiert, dass Menschen die Regeln schreiben und KI den Inhalt erstellt.
- Menschen legen die „Verfassung“ fest (die Regeln in der CANON.md-Datei).
- Die KI generiert den Text.
- Der „Compiler“ prüft, ob die KI die Regeln befolgt hat.
- Wenn die KI versucht, die Regeln zu ändern, wird sie blockiert. Nur Menschen können die Verfassung ändern.
Dies schafft ein System, in dem KI schnell und kreativ sein kann, aber nicht das Gesetz brechen oder ihre Spuren verwischen kann.
Zusammenfassung
Die Arbeit kommt zu dem Schluss, dass wir keinen Algorithmus bauen können, der automatisch „Slop“ (gefälschten oder unbegründeten KI-Text) erkennt, da „Slop“ strukturell perfekt gestaltet werden kann.
Stattdessen sollten wir ein System bauen, das Rechenschaftspflicht erzwingt.
- Alter Weg: „Vertrau mir, diese KI hat einen wahren Artikel geschrieben.“ (Schwer zu verifizieren).
- Neuer Weg (CANONIC): „Hier ist der Artikel. Hier ist das Wörterbuch der verwendeten Wörter. Hier ist das exakte Dokument, in dem die Beweise liegen. Hier ist das Regelwerk, dem gefolgt wurde. Du kannst das alles selbst prüfen.“
Das System verhindert die Lügen nicht; es stellt nur sicher, dass, wenn eine Lüge ausgesprochen wird, sie eine klare, unveränderliche Spur aus Beweisen hinterlässt, damit menschliche Experten sie finden und entlarven können. Es verwandelt die „Black Box“ der KI in eine „Glass Box“, in der alles sichtbar und überprüfbar ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.