Stellen Sie sich vor, Sie sind der Kapitän eines riesigen Schiffes und Ihre Aufgabe ist es, es durch einen Sturm zu steuern. In den alten Zeiten bestand der Sturm nur aus Wind und Regen; man konnte die Wellen sehen, die Gischt spüren und genau wissen, wann man das Steuer drehen musste. Aber stellen Sie sich nun vor, der Sturm besteht aus Millionen unsichtbarer, formwandelnder Geister, die sprechen, schreiben und streiten können. Dies ist die Welt der Künstlichen Intelligenz (KI) in hochsensiblen Bereichen wie dem Rechtswesen, der Medizin und der Wissenschaft. Das große Problem ist nicht nur, dass es zu viele Geister gibt; es ist, dass sie immer besser darin werden, echt zu klingen, sodass selbst die besten Kapitäne beginnen, ihren eigenen Augen zu misstrauen.

Lange Zeit dachten Experten, die Lösung sei einfach: „Setz einfach mehr Kapitäne ein!“ oder „Mach die Kapitäne intelligenter!“ Sie glaubten, wenn Menschen im Prozess verblieben, um die Arbeit der KI zu überprüfen, wäre alles sicher. Aber eine neue Idee legt nahe, dass dies so ist, als würde man versuchen, einen Hurrikan mit einem Schmetterlingsnetz einzufangen. Die KI kann nun Arbeit schneller produzieren, als ein Mensch sie jemals lesen könnte, und je „perfekter“ die KI wird, desto mehr beginnt das menschliche Gehirn zu entspankt und vertraut ihr zu sehr, wodurch subtile Fehler übersehen werden. Das Papier, das wir uns hier ansehen, argumentiert, dass wir nicht einfach nur mehr menschliche Augen hinzufügen können; wir müssen die Regeln des Spiels grundlegend ändern. Anstatt zu versuchen, jede einzelne Seite zu lesen, die die KI schreibt, müssen wir eine Mautstelle bauen, die misst, wie schwer die Arbeit ist, bevor sie überhaupt den Kapitän erreicht.

Dieses Papier mit dem Titel „Flow-by-Flow“ schlägt einen klugen neuen Weg vor, um die Flut an KI-generierten Inhalten zu bewältigen, ohne den Inhalt selbst lesen zu müssen. Der Autor schlägt vor, anstatt zu fragen: „Ist diese Geschichte wahr?“ (was schwierig und riskant ist), sollten wir fragen: „Wie viel Aufwand sieht es so aus, als hätte diese Geschichte gekostet?“ Er führt ein System namens „Cognitive Cost Score“ (Kognitiver Kostenwert) ein. Denken Sie an ein Videospiel, in dem man nicht einfach die „Angriff“-Taste spammen kann. Wenn man versucht, zu oft anzugreifen, oder wenn die Angriffe zu komplex sind, verlangsamt das Spiel einen automatisch. Das Papier schlägt vor, einfache, zählbare Dinge zu verwenden – wie die Anzahl der Seiten, die Anzahl der Rechtsansprüche oder die Anzahl der Diagramme in einem Bericht –, um einen Score zu berechnen. Wenn der Score zu hoch ist, lehnt das System die Arbeit nicht ab; stattdessen leitet es die Einreichung in einen speziellen „Exzedenz-Pfad“ (Exceedance Pathway) um, bei dem der Einreicher erhebliche Reibung erfahren muss, wie etwa das Warten in einer physischen Schlange oder das Bezahlen einer „Zeitsteuer“, bevor er einreichen kann.

Der Autor führte Computersimulationen durch (speziell eine Monte-Carlo-Analyse mit 1.000 verschiedenen Szenarien) und fand heraus, dass diese „Flusskontroll“-Methode in etwa 90,8 % der Fälle besser funktioniert als der Versuch, einfach mehr Menschen einzustellen, um die Arbeit zu prüfen. Er argumentiert, dass der Versuch, jeden einzelnen KI-Output zu prüfen, ein aussichtsloser Kampf ist, weil die KI schneller schreiben kann, als Menschen denken können. Indem man es stattdessen „teuer“ macht (in Bezug auf Zeit und Aufwand), riesige, komplexe Pakete von Arbeit einzureichen, bremst man die Flut auf natürliche Weise ab. Das Papier legt nahe, dass für die komplexesten Einreichungen der einzig faire Weg darin besteht, den Menschen zu verlangen, persönlich zu erscheinen und zu warten, wodurch ein digitales Problem zu einem physischen Problem wird. Dies stellt sicher, dass die KI schnell bleibt, der menschliche Aufseher aber nicht überfordert wird, wodurch der „Sturm“ auf ein handhabbares Maß begrenzt wird.

Der Kern der Idee: Warum „mehr Menschen“ nicht die Antwort ist

Das Papier beginnt mit dem Hinweis auf einen Fehler in der Art und Weise, wie wir derzeit über KI-Sicherheit nachdenken. Wir nehmen normalerweise an, dass ein Mensch einen Fehler der KI einfach abfangen kann, wenn die KI einen Fehler macht. Aber der Autor sagt, dies bricht zusammen, wenn zwei Dinge gleichzeitig passieren: Die KI wird sehr gut im Schreiben und die KI fängt an, viel zu schreiben.

Stellen Sie sich eine Fabrik vor, in der ein Roboter in einer Sekunde ein Spielzeugauto bauen kann. Wenn der Roboter 10 Autos baut, kann ein menschlicher Inspektor sie alle prüfen. Aber wenn der Robot in einer Stunde 10.000 Autos baut, wird der Inspektor müde, übersieht Fehler oder denkt: „Nun, der Roboter ist so gut, er hat wahrscheinlich keinen Fehler gemacht.“ Dies wird als „Automatisierungs-Bias“ (Automation Bias) bezeichnet. Das Papier argumentiert, dass wir es uns in gefährlichen Bereichen (wie der Diagnose von Krankheiten oder dem Verfassen von Gesetzen) nicht leisten können, den Inspektor müde oder übermäßig selbstbewusst werden zu lassen.

Der Autor führt eine neue Sichtweise ein. Er sagt, das Problem ist nicht nur die Anzahl der Gegenstände (Volumen, $V$). Es ist die Anzahl multipliziert mit der Schwierigkeit, einen Gegenstand zu prüfen (Last, $L$).

• Volumen ($V$): Wie viele Dinge die KI schreibt.
• Last ($L$): Wie viel Gehirnschmalz es erfordert, eine Sache zu prüfen.

Selbst wenn die KI weniger Dinge schreibt, wenn diese Dinge super kompliziert sind, wird das menschliche Gehirn dennoch überfordert. Das Papier legt nahe, dass mit zunehmender Intelligenz der KI nicht nur mehr geschrieben wird; die KI schreibt Dinge, die schwieriger zu prüfen sind, oder sie täuscht uns vor, sie seien einfacher, als sie eigentlich sind. So stößt die alte Idee, „einfach alles zu prüfen“, gegen eine harte Wand namens $C_{max}$ (die maximale Menge an Denkleistung, die ein Mensch an einem Tag erbringen kann). Sobald die KI diese Wand durchbricht, wird die menschliche Prüfung zu einer bloßen Formalität, und Fehler schlüpfen hindurch.

Die Lösung: Der „Cognitive Cost Score“

Wie also stoppen wir die Flut, ohne jeden Tropfen zu lesen? Das Papier schlägt Flow-by-Flow vor.

Anstatt den Text zu lesen, um zu sehen, ob er wahr ist (was schwierig und fehleranfällig ist), betrachtet das System die Form des Textes. Es zählt Dinge wie:

• Wie viele Seiten ist es?
• Wie viele Diagramme oder Grafiken gibt es?
• Wie viele Referenzen werden zitiert?
• Wie viele Rechtsansprüche sind aufgeführt?

Dies sind Dinge, die man zählen kann, ohne die Bedeutung verstehen zu müssen. Das System multipliziert diese Zahlen zusammen, um einen Cognitive Cost Score zu erstellen.

• Wenn Sie ein kurzes, einfaches Papier einreichen, ist der Score niedrig. Sie kommen schnell durch das Tor.
• Wenn Sie ein massives, 500-seitiges Dokument mit 1.000 Diagrammen einreichen, steigt der Score exponentiell. Es ist nicht nur „ein bisschen schwerer“; es ist ein riesiger Sprung.

Dieser Score fungt wie ein Temposchranke. Das System sagt nicht: „Das ist schlecht.“ Es sagt: „Das ist schwer.“ Und weil es schwer ist, löst es eine Regel aus: Die institutionelle Kapazitätsgrenze (Institutional Capacity Cap).

Das „Physische Tor“: Digitale Geschwindigkeit in physische Zeit verwandeln

Hier liegt der kreativste Teil des Papiers. Der Autor weiß, dass, wenn man einfach nur „Nein“ zu großen Einreichungen sagt, die Leute einen Weg finden werden. Sie könnten ein großes Papier in zehn kleine aufteilen. Um dies zu verhindern, schlägt das Papier ein „Physisches Tor“ vor.

Wenn Ihr Cognitive Cost Score zu hoch ist (was bedeutet, dass Ihre Einreichung zu komplex oder voluminös für die Standard-Schnellspur ist), werden Sie nicht abgelehnt. Stattdessen werden Sie in einen Exzedenz-Pfad (Exceedance Pathway) geleitet. In diesem Pfad erhalten Sie keine automatische Annahme; Sie müssen warten.

• Die Regel: Um eine komplexe Anwendung einzureichen, müssen Sie zu einem physischen Büro gehen, Ihren Ausweis zeigen und eine bestimmte Zeit lang in einer Schlange warten.
• Die Mathematik: Wenn Ihr Score 8 Mal höher ist als das Limit, müssen Sie vielleicht 16 Stunden warten (oder was auch immer die Formel vorgibt).
• Der Haken: Man kann dies nicht 1.000 Mal in einer Minute machen. Man kann keinen Roboter schicken, der für einen in der Schlange steht. Man muss ein echter Mensch sein, der physisch anwesend ist und Zeit verschwendet.

Dies verwandelt die „nahezu null Kosten“ des digitalen Kopierens in einen „echten Kostenfaktor“ der physischen Zeit.

• Für eine normale Person: Wenn sie eine wirklich komplexe Idee hat, ist das Warten von ein paar Stunden ärgerlich, aber fair.
• Für einen KI-Spammer: Wenn er 1.000 komplexe Anträge einreichen will, bräuchte er 1.000 Menschen, die für 1.000 Stunden in der Schlange stehen. Das ist unmöglich.

Das Papier nennt dies „Identitätsgebundene pro-Anwendung-Reibung“ (Identity-Bound Per-Application Friction). Es macht es teuer zu spammen, aber günstig, eine normale Person zu sein.

Wogegen das Papier „Nein“ sagt

Der Autor ist sich sehr klar darüber, was nicht funktioniert, und erklärt ausführlich, warum wir uns nicht auf diese Methoden verlassen sollten:

1. „Einfach mehr Menschen hinzufügen“: Er sagt, das ist eine Falle. Man kann nicht genug Menschen einstellen, um mit einer KI Schritt zu halten, die eine Million Papiere am Tag schreiben kann. Die Kosten wären unendlich.
2. „KI die KI prüfen lassen“: Er argumentiert, dass dies eine Endlosschleife ist. Wenn eine KI eine andere KI prüft, wer prüft dann den Prüfer? Letztendlich muss ein Mensch die Freigabe geben, und man landet wieder beim gleichen Problem der Überforderung.
3. „Einfach die Leute bitten, ehrlich zu sein“: Das Papier sagt, dass die Aufforderung, „zu deklarieren, ob man KI verwendet hat“, nicht funktioniert, da es keine Möglichkeit gibt, die Wahrheit zu beweisen. Die Leute werden einfach lügen.
4. „Den Inhalt lesen, um ihn zu prüfen“: Das ist das größte „Nein“. Das Papier argumentet, dass der Versuch, die Wahrheit jedes KI-Outputs zu lesen und zu beurteilen, genau das ist, was den Engpass verursacht. Wir müssen die Lesepartei komplett umgehen und uns auf den Fluss konzentrieren.

Wie sicher sind sie sich?

Das Papier behauptet nicht, dass es die KI-Sicherheit für immer „gelöst“ hat. Es nutzt Simulationen, um seine Idee zu testen.

• Es führte eine Computersimulation (eine Monte-Carlo-Analyse) mit 1.000 verschiedenen Zufallsszenarien durch.
• In 90,8 % dieser Simulationen funktionierte das „Flow-by-Flow“-System besser als der bloße Versuch, mehr Menschen einzustellen, um die Arbeit zu prüfen.
• Es räumt ein, dass die KI jedes Jahr intelligenter wird. Es legt nahe, dass die KI irgendwann so gut darin werden könnte, das System zu „überlisten“ (z. B. Wege zu finden, ein langes Papier kurz aussehen zu lassen), dass die Regeln erneut geändert werden müssen.
• Es räumt ein, dass die Idee des „Physischen Tors“ (Menschen in einer Schlange warten zu lassen) in der realen Welt schwer umsetzbar ist. Es könnte für Menschen, die weit weg wohnen oder Behinderungen haben, unfair sein. Es schlägt vor, dass vielleicht „Remote-Warten“ (wie ein Videoanruf, bei dem man einfach nur sitzt und wartet) funktionieren könnte, gibt aber zu, dass dies eine große Herausforderung ist.

Das große Ganze

Die Hauptbotschaft des Papiers ist ein Perspektivwechsel. Wir dachten früher, das Problem sei: „Wie machen wir die KI smarter?“ oder „Wie machen wir den Menschen smarter?“. Der Autor sagt, das Problem ist eigentlich: „Wie verwalten wir den Verkehr?“

Stellen Sie sich eine Autobahn vor. Wenn eine Million Autos versuchen, in einen Tunnel einzufahren, der nur für 100 Autos Platz bietet, lösen Sie das Problem nicht, indem Sie einen größeren Tunnel bauen (man kann keinen Tunnel bauen, der groß genug für eine Million Autos ist). Sie lösen es nicht, indem Sie mehr Mautcollector einstellen. Sie lösen es, indem Sie ein Tor aufstellen, das sagt: „Wenn Sie einen schweren LKW haben, müssen Sie in einer speziellen Spur warten.“

Das „Flow-by-Flow“-System ist dieses Tor. Es ist egal, ob Ihr LKW Gold oder Müll transportiert; es interessiert nur, wie schwer er ist. Indem es „schwer“ macht, komplexe KI-Arbeit einzureichen, erzwingt es, dass das System auf eine Geschwindigkeit gedrosselt wird, die das menschliche Gehirn tatsächlich bewältigen kann. Es ist ein Weg, die Superkräfte der KI zu behalten, ohne zuzulassen, dass sie das System zum Absturz bringt.

Der Autor kommt zu dem Schluss, dass auch wenn die spezifische Idee des „Physischen Tors“ (Menschen zum Warten in einer Schlange zu zwingen) in der Praxis schwer perfekt umzusetzen ist, das Prin Prinzip solide ist: Wir müssen aufhören, alles prüfen zu wollen, und statfangen, den Fluss zu managen. Wenn wir das nicht tun, deutet das Papier darauf hin, dass in hochsensiblen Bereichen die menschliche Aufsicht schließlich nur noch eine Scheinprüfung sein wird und echte Fehler im Dunkeln passieren werden.