Repeated-Game Security for Restaking-Based Verifiable Inference

Stellen Sie sich eine Welt vor, in der riesige, superintelligente Computergehirne (genannt Large Language Models) Ihre Fragen beantworten, Ihre Geschichten schreiben oder Ihre Matheaufgaben lösen können. Aber hier ist der Haken: Diese Gehirne zu betreiben ist teuer und langsam. Deshalb wollen Unternehmen unabhängige Arbeiter einstellen, die das Denken für sie übernehmen. Das Problem ist: Woher wissen Sie, dass der Arbeiter nicht einfach nur die Antwort geraten oder ein billigeres, „dümmeres“ Gehirn benutzt hat, um Geld zu sparen? Dies ist die Welt der verifizierbaren Inferenz (verifiable inference).

Um dies zu lösen, verwenden wir ein System namens Restaking. Denken Sie an dies wie eine Kaution. Der Arbeiter hinterlegt einen Stapel digitales Geld (Stake) als Versprechen, die Aufgabe ehrlich zu erfüllen. Wenn er vom Pfad abweicht, prüft ein Schiedsrichter seine Arbeit, und wenn er erwischt wird, nimmt der Schiedsrichter einen Teil seiner Kaution weg. Dies nennt man Slashing. Lange Zeit glaubten Experten, dies sei ein perfektes Sicherheitsnetz. Sie glaubten, wenn die Strafe für das Abweichen größer wäre als das durch das Abweichen eingesparte Geld, würde niemand jemals versuchen, abzuweichen. Es war ein einfaches „Einmal-Deal“-Prinzip: Klau nicht den Keks, sonst verlierst du das Glas.

Aber was, wenn der Arbeiter nicht nur einen Job erledigt? Was, wenn er Millionen von Jobs immer und immer wieder ausführt? Hier wird die Geschichte knifflig. Die Frage, die das Paper, das Sie gleich lesen werden, stellt, lautet: Funktioniert das „Einmal-Sicherheitsnetz“ wirklich, wenn das Spiel immer wieder gespielt wird? Die Autoren Zhenhang Shang, Yingzhe Yu und Kani Chen von der Hong Kong University of Science and Technology haben entdeckt, dass das alte Sicherheitsnetz ein verborgenes Loch hat. Sie fanden heraus, dass, wenn ein Arbeiter nur ein kleines bisschen abweicht, er es tatsächlich schaffen kann, damit durchzukommen, selbst wenn die Strafe anfangs abschreckend wirkt. Warum? Weil die Kaution jedes Mal, wenn er erwischt wird, nur einen Bruchteil seines Einsatzes beträgt. So wird seine Kaution immer kleiner und kleiner, was die zukünftigen Strafen immer schwächer macht, während er bei jeder neuen Aufgabe weiterhin die Ersparnisse durch das Abweichen einstreicht. Es ist wie ein Dieb, der immer wieder ein wenig Gold stiehlt, und jedes Mal, wenn der Wächter ihn erwischt, nimmt der Wächter nur ein winziges Stück seines verbleibenden Goldes, wodurch das „Risiko“ des Diebes so weit sinkt, bis er praktisch unantastbar ist.

Die große Entdeckung: Die „Wiederholungstäter“-Lücke

Die Autoren erkannten, dass die alte Regel – „Weiche nicht ab, denn die Strafe ist größer als der Gewinn“ – nur für eine einzige, einmalige Entscheidung funktioniert. Aber in der realen Welt sind diese KI-Anbieter auf das Langfristige aus; sie beantworten tausende oder sogar Millionen von Fragen. Das Paper modelliert dies als ein wiederholtes Spiel (repeated game), bei dem der Anbieter und das Protokoll Runde um Runde spielen.

Sie fanden eine „Lücke im wiederholten Spiel“ (repeated-game gap). Hier ist der Trick, den der Abweichler nutzt:

1. Das Setup: Der Anbieter hinterlegt einen großen Stake.
2. Die Abweichung: Er nutzt ein billigeres, schnelleres Modell, um Fragen zu beantworten, und spart so bei jeder einzelnen Anfrage Geld.
3. Der Patzer: Manchmal erwischt der Schiedsrichter (das Protokoll) ihn.
4. Die Lücke: Das Protokoll streicht (slasht) nur einen Prozentsatz des Stakes, sagen wir 20 %. Der Anbieter verliert etwas Geld, hat aber immer noch 80 % übrig.
5. Der Zyklus: Da sein Stake nun kleiner ist, ist auch die Strafe beim nächsten Mal, wenn er erwischt wird, noch kleiner (20 % von einer kleineren Zahl). Aber das Geld, das er durch die Abweichung bei der nächsten Frage spart, ist genau so viel wie zuvor!

Das Paper beweist mathematisch, dass dies ein gefährliches Ungleichgewicht schafft. Die Ersparnisse bleiben konstant, aber die Strafe schrumpft jedes Mal, wenn er erwischt wird. Die Autoren zeigen, dass dies bei vielen bestehenden Systemen (wie EigenAI, VeriLLM und Sertn AVS) der Fall ist. Obwohl diese Systeme den „Einmal-Sicherheits-Test“ bestehen, scheitern sie am „Langzeit-Test“. In Simulationen konnte ein rationaler Abweichler einen zusätzlichen Gewinn von 1,5 % bis 8 % erzielen, indem er genau diese Lücke im wiederholten Spiel ausnutzte, selbst wenn das System glaubte, sicher zu sein.

Die Lösung: Ein smarteres, geschichtsbewusstes System

Wie also repariert man ein System, das schwächer wird, jedes Mal, wenn ein Abweichler erwischt wird? Die Autoren schlagen einen neuen Mechanismus vor, der wie ein smarter, gedächtnisbewusster Schiedsrichter fungiert. Anstatt nur zu schauen, wie viel Geld der Arbeiter noch hat, betrachtet das neue System seine Historie.

Sie führen drei kluge Werkzeuge ein, um das Loch zu stopfen:

1. Suspicion Scores (Das „wachsame Auge“): Das System führt für jeden Arbeiter eine Punktzahl. Wenn er sich seltsam verhält (z. B. zu schnell antwortet oder leicht abweichende Antworten gibt), steigt sein Suspicion Score. Je höher der Score, desto wahrscheinlicher ist es, dass der Schiedsrichter seine Arbeit überprüft. Das bedeutet: Wenn Sie abweichen, werden Sie nicht nur bestraft, sondern beim nächsten Mal auch genauer beobachtet.
2. Reputation-Weighted Fines (Das „Brandmal“): Anstatt nur einen Prozentsatz des verbleibenden Geldes einzuziehen, hängt die Strafe auch von der Reputation des Arbeiters ab. Wenn Sie eine schlechte Historie haben, wird die Strafe viel härter, selbst wenn Ihr Einsatz klein ist. Dies verhindert den Trick der „schrumpfenden Strafe“.
3. Vesting (Die „Leine“): Wenn ein Arbeiter versucht, das Spiel zu verlassen (sein Geld abzuheben), lässt das System ihn nicht sofort gehen. Sein Geld ist für eine Weile „gesperrt“. Wenn er versucht abzuweichen und dann zu fliehen, kann das System ihn immer noch erwischen und sein Geld während dieser Sperrfrist einziehen. Dies stoppt die Strategie „abweichen und fliehen“.

Funktioniert es tatsächlich?

Die Autoren haben das nicht nur ausgedacht; sie haben einen Simulator gebaut, um es zu testen. Sie stellten ihr neues System verschiedenen „Abweichlern“ gegenüber, darunter solche, die ständig abweichen, solche, die nur abweichen, wenn sie denken, dass niemand zusieht, und solche, die versuchen abzuweichen und dann zu fliehen.

Die Ergebnisse waren vielversprechend. In den Simulationen ließen die alten Systeme die Abweichler ihren zusätzlichen Profit behalten. Aber das neue System mit seinen geschichtsbewussten Regeln senkte die Gewinne der Abweichler um 31 % bis 54 %. In einigen Fällen machte es das Abweichen sogar zu einer Verluststrategie, indem es einen Gewinn in einen Verlust für den Abweichler verwandelte.

Sie testeten auch, wie „detektierbar“ das Abweichen wirklich ist. Sie verwendeten echte KI-Modelle (von kleinen Modellen mit 0,5 Milliarden Parametern bis hin zu riesigen mit 14 Milliarden Parametern), um zu sehen, ob das System den Unterschied zwischen einer echten Antwort und einer billigen, gefälschten Antwort erkennen kann. Sie fanden heraus, dass der „Suspicion Meter“ des Systems sehr gut funktioniert, besonders wenn der Unterschied in den Kosten zwischen dem guten Modell und dem billigen Modell groß ist. Je mehr der Abweichler versucht, Geld zu sparen, desto leichter ist es, ihn zu fassen.

Warum das wichtig ist

Dieses Paper ist ein Weckruf für die Welt der Blockchain- und KI-Sicherheit. Es zeigt, dass eine Sicherheitsregel, die für einen einzelnen Moment funktioniert, nicht zwangsläufig für ein ganzes Leben Bestand hat. Die Autoren haben nicht nur ein Problem aufgezeigt; sie haben den Bauplan für ein System entworfen, das der Realität wiederholter Interaktionen gewachsen ist.

Sie haben bewiesen, dass wir durch Mechanismen, die die Strafe von der Vergangenheit des Arbeiters abhängig machen und ihn durch eine „Leine“ halten, wenn er gehen will, ein System schaffen können, das auch dann sicher bleibt, wenn das Spiel ewig weitergeht. Es ist ein Wechsel von der Vorstellung, Sicherheit als einmalige „Kaution“ zu betrachten, hin zu einer langfristigen Beziehung, in der Vertrauen über die Zeit verdient und auch wieder verloren geht. Für jeden, der die Zukunft der KI auf der Blockchain baut, ist dies ein entscheidender Schritt, um sicherzustellen, dass die Arbeiter tatsächlich die Arbeit leisten, die sie versprechen.