💻 computer science

Certifying Plans under Model Mismatch: A Trilemma for Reachability from Scarce Data

Diese Arbeit etabliert ein fundamentales Trilemma bei der Zertifizierung von Steuerungsplänen unter Modellabweichung bei spärlichen Daten, indem sie zeigt, dass jeder fundierte deterministische Zertifizierer entweder die Trajektorien-Einschließung opfern, willkürlich große Unsicherheit akzeptieren oder das Verhalten der Modellfehler einschränken muss, und schlägt die ForeReach-Methode vor, um Mengenmitgliedschaftshüllen und zonotopische Röhren zu konstruieren, die eine Zertifizierung sicher ablehnen, wenn die Datenunterstützung unzureichend ist.

Ursprüngliche Autoren: Yanliang Huang, Zhen Zhang, Ahmad Hafez, Wenyuan Wu, Peng Xie, Zhuoqi Zeng, Amr Alanwar

Veröffentlicht 2026-08-04

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yanliang Huang, Zhen Zhang, Ahmad Hafez, Wenyuan Wu, Peng Xie, Zhuoqi Zeng, Amr Alanwar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bringen einem Roboter das Autofahren bei. Sie können ihn nicht einfach direkt auf einer echten Autobahn loslassen; das wäre gefährlich. Stattdessen trainieren Sie ihn in einem Videospiel-Simulator. Der Simulator ist großartig, aber er ist nicht perfekt. Die Physik im Spiel könnte etwas „anders“ sein als in der realen Welt – vielleicht greifen die Reifen ein wenig anders oder der Wind drückt das Auto auf eine Weise, die das Spiel nicht vorhergesehen hat. Dieser Unterschied zwischen der Spielwelt und der realen Welt wird als „Modellfehler“ bezeichnet.

Stellen Sie sich nun vor, der Roboter hat eine coole neue Fahrbewegung im Spiel gelernt. Bevor Sie ihn diese Bewegung auf einer echten Straße ausprobieren lassen, müssen Sie einen Sicherheitsinspektor fragen: „Wenn der Roboter das macht, wird er dann abstürzen?“ Der Inspektor hat eine Karte mit den Regeln des Simulators, aber er besitzt nur wenige verstreute Notizen darüber, wie sich das echte Auto tatsächlich verhält. Diese Notizen sind wie isolierte Schnappschüsse: „Bei dieser spezifischen Geschwindigkeit und Kurve fuhr das Auto hierhin.“ Die große Frage ist: Können wir garantieren, dass der Roboter sicher ist, wenn wir nur über diese wenigen verstreuten Datenpunkte verfügen, selbst wenn der Roboter eine Bewegung an einem Ort ausführt, an dem wir überhaupt keine Notizen haben? Dieses Paper befasst sich genau mit diesem Rätsel und untersucht die Grenzen dessen, was wir wissen können, wenn wir nur über sehr wenige Daten über die reale Welt verfügen.

Die Forscher hinter dieser Studie, die mit der Technischen Universität München und der Hainan Bielefeld University zusammenarbeiten, entdeckten ein grundlegendes „Trilemma“ – ein dreiseitiges Patt, bei dem man nicht alles haben kann, was man will. Sie haben bewiesen, dass man, wenn man versucht, einen Plan eines Roboters nur anhand weniger verstreuter Datenpunkte zu zertifizieren, vor drei unmöglichen Entscheidungen steht:

Absolut sicher sein (Soundness): Ihre Sicherheitsgarantie muss jede mögliche Art und Weise abdecken, wie sich die reale Welt verhalten könnte.
Nützlich sein (Informationsgehalt): Ihre Sicherheitszone sollte nicht so riesig sein, dass sie das gesamte Universum abdeckt; sie muss eng genug sein, um Ihnen zu sagen, ob der Roboter tatsächlich gegen eine Wand fahren wird.
Offen bleiben (Unbeschränktheit): Man sollte keine Regeln darüber erfinden, wie sich die reale Welt an Orten verhält, an denen man noch nicht nachgesehen hat.

Das Paper beweist, dass man nur zwei dieser drei Punkte wählen kann. Wenn man sich weigert, Regeln über das Unbekannte zu erfinden (das Modell „unbeschränkt“ zu halten), und man gleichzeitig verlangt, absolut sicher zu sein, wird die Sicherheitszone unendlich breit. Es ist wie ein Sicherheitsmann, der ein paar Fußabdrücke im Sand sieht und entscheidet, dass er, um zu 100 % sicher zu sein, dass sich kein Eindringling hineingeschlichen hat, annehmen muss, dass der Eindringling überall in der ganzen Stadt sein könnte. Das ist eine sichere Annahme, aber sie ist nicht besonders hilfreich, um den Dieb zu fassen.

Um dieses Problem zu lösen, schlagen die Autoren eine neue Methode namens ForeReach vor. Anstatt blind zu raten, bittet ForeReach die Designer des Roboters um eine „Nebennote“: ein Versprechen darüber, wie schnell sich das Verhalten der realen Welt ändern kann. Denken Sie an eine Art Tempolimit für die Verwirrung des Roboters. Die Designer müssen erklären: „Der Unterschied zwischen unserem Spiel und der Realität kann sich nicht schneller als dieser Wert ändern.“ ForeReach prüft dann, ob die wenigen vorhandenen Datenpunkte mit diesem Versprechen übereinstimmen. Wenn sie das tun, baut es eine „Röhre“ (einen sicheren Pfad) um den Plan des Roboters.

So funktioniert es in der Praxis:

Die Prüfung: Es betrachtet die verstreuten Datenpunkte. Wenn zwei Punkte darauf hindeuten, dass das „Tempolimit“ der Verwirrung gebrochen wird, sagt es sofort: „Nein, Ihr Versprechen ist falsch“, und stoppt.
Die Röhre: Wenn das Versprechen hält, zeichnet es eine sichere Röhre um den Pfad des Roboters. Diese Röhre wird breiter, je weiter der Roboter sich von den bekannten Datenpunkten entfernt, da die Unsicherheit wächst.
Das Urteil: Wenn die Röhre innerhalb der „sicheren Zone“ bleibt und Hindernissen ausweicht, erhält der Roboter grünes Licht. Aber wenn der Roboter versucht, in eine Region zu fahren, in der wir keine Daten haben und die Röhre zu breit wird (oder ein Hindernis trifft), verweigert ForeReach höflich die Zertifizierung des Plans. Es sagt: „Ich kann die Sicherheit hier nicht garantieren, weil ich im Blindflug bin.“

Die Forscher testeten dies an zwei Systemen: einem einfachen Punktmassen-Roboter und einem komplexeren „dynamischen Fahrrad“ (einem Modell eines Autos). Sie verglichen ForeReach mit anderen Methoden, die versuchen, die Sicherheitszone mittels Statistik oder globaler Regeln zu erraten. Die Ergebnisse waren eindeutig: Andere Methoden gaben oft „grünes Licht“ für gefährliche Pläne, nur weil sie es nicht besser wussten, was zu Abstürzen in der Simulation führte. ForeReach hingegen war ehrlich. Wenn der Roboter versuchte, in ein Gebiet ohne Daten zu fahren, enthielt sich ForeReach korrekt der Zertifizierung dieser gefährlichen Pfade. Aber wenn der Roboter in Bereichen fuhr, in denen sie Daten hatten (oder in denen das „Tempolimit“-Versprechen eng genug war), zertifizierte ForeReach den Plan erfolgreich mit einer sehr schmalen, nützlichen Sicherheitsröhre.

In einem spezifischen Test mit dem Fahrradmodell behaupten andere Methoden, dass der Pfad zu 42 % der Zeit sicher sei (bei geringer Datenmenge), obwohl diese Pfade tatsächlich unsicher waren. ForeReach hingegen sah sich in der Lage, diese gefährlichen Pfade zu 100 % der Zeit korrekt als nicht zertifizierbar einzustufen. Als sie mehr Datenpunkte entlang des tatsächlich vom Roboter genommenen Pfades hinzufügten, sprang die „zertifizierte Recall“ (wie oft sie korrekt „Ja, das ist sicher“ sagten) von 49 % auf 98 %.

Das Paper behauptet nicht, das Problem der Robotersicherheit für immer gelöst zu haben. Stattdessen zieht es eine klare Linie in den Sand: Man kann keine Sicherheitsgarantie haben, die sowohl perfekt zuverlässig als auch nützlich präzise ist, ohne zusätzliche Informationen darüber zu haben, wie die Welt funktioniert. Man kann sich nicht nur auf ein paar Datenpunkte verlassen, um alles zu wissen. Man benötigt eine „Deklaration“ der Grenzen von den Designern. Wenn diese Deklaration wahr ist, funktioniert ForeReach hervorragend. Wenn die Deklaration falsch ist, kann die Methode den Fehler manchmal erkennen, aber sie kann nicht immer beweisen, dass die Deklaration richtig ist, indem sie nur die Daten betrachtet.

Letztendlich lehrt uns diese Arbeit, dass in der Welt der Robotik „mehr Daten“ nicht immer das magische Heilmittel sind. Manchmal ist das Wichtigste zu wissen, welchen Arten von Regeln die Welt folgt, selbst in den Gebieten, in denen wir noch nicht nachgesehen haben. Ohne diese Regeln kann der beste Sicherheitsinspektor nur sagen: „Ich weiß es nicht“, und das ist, wie die Autoren argumentieren, die einzige ehrliche Antwort.

Technische Zusammenfassung: Zertifizierung von Plänen unter Modell-Mismatch: Ein Trilemma der Erreichbarkeit bei spärlichen Daten

Problemstellung
Die Arbeit befasst sich mit der Herausforderung, feste Steuersequenzen (z. B. Action Chunks aus gelernten Policys wie Diffusion Policy oder $\pi_0$ ) für den Einsatz auf realen Robotersystemen zu zertifizieren, bei denen die Dynamik von dem nominalen Simulationsmodell abweicht. Die zentrale Schwierigkeit ergibt sich daraus, dass das Zielsystem nur eine spärliche Menge isolierter Einzelschritt-Transitionen bereitstellt. In diesem Szenario muss ein Zertifizierer bestimmen, ob eine geplante Trajektorie sicher bleibt (die unsichere Menge $O$ vermeidet), trotz des unbekannten Modellfehlers (Residuums) zwischen dem nominalen Modell $f_0$ und der wahren Zieldynamik $f^\star$ .

Die Autoren identifizieren eine fundamentale Einschränkung: Fernab der beobachteten Datenpunkte kann der Modellfehler innerhalb einer kleinen Nachbarschaft beliebig variieren, ohne die Beobachtungen zu widersprechen. Wenn der Modellfehler unbeschränkt ist, können zwei glatte Zielsysteme, die dieselben spärlichen Daten konsistent beschreiben, in einem unobservierten Bereich beliebig divergieren. Folglich muss jeder deterministische Zertifizierer, der eine uniforme Korrektheit (Soundness) garantiert (d. h. Sicherheit für alle konsistenten Systeme gewährleistet), entweder die Zertifizierung ablehnen oder einen erreichbaren Tubus mit einer beliebig großen projizierten Breite zurückgeben, was das Zertifikat uninformativ macht.

Methodik: ForeReach
Die Autoren schlagen ForeReach vor, einen Zertifizierer zur Vorab-Ausführung (Pre-Execution), der diese Einschränkung durch die Einbeziehung von Nebeninformationen umgeht. Die Methode operiert unter folgendem Rahmenwerk:

Anforderung an Nebeninformationen: ForeReach erfordert eine bereitgestellte komponentenweise Lipschitz-Schranke ( $L$ ) auf dem Modellfehler über einen vorgegebenen Zertifizierungsbereich ( $Z_{cert}$ ). Diese Schranke muss unabhängig von den spärlichen Daten etabliert werden (z. B. durch analytische Dynamiken mit beschränkten Parametern oder ein separat zertifiziertes Residuenmodell).
Paarweiser Konsistenztest: Vor der Propagation prüft die Methode, ob die beobachteten Residuen-Paare die bereitgestellte Lipschitz-Schranke widersprechen. Wenn $|e_{r_i, k} - e_{r_j, k}| > \sum L_{k\ell}|z_{i,\ell} - z_{j,\ell}| + 2\sigma_k$ , wird die Deklaration abgelehnt und der Zertifizierer sieht von der Zertifizierung ab.
Set-Membership-Envelope: Unter der Bedingung, dass die Schranke hält, konstruiert die Methode eine Set-Membership-Envelope für das Residuum an jedem abgefragten Zustands-Eingangs-Set. Diese Envelope wird durch die Schnittmenge der beobachtungsspezifischen Schranken, die mittels der Lipschitz-Konstante (McShane-Erweiterung) erweitert wurden, und der Beobachtungsrausch-Schranken abgeleitet.
Zonotopische Propagation: Die Unsicherheit wird unter Verwendung des nominalen Modells $f_0$ vorwärts propagiert. Die erreichbare Menge wird als Zonotop dargestellt, welches die Einbettung der nominalen Abbildung (unter Verwendung von Intervall-Hessian-Schranken für nichtlineare Remainder-Terme) und die Residuen-Envelope enthält.
Zertifizierungslogik: Der Zertifizierer stellt ein Sicherheitszertifikat nur aus, wenn:
- Die Propagation innerhalb des Zertifizierungsbereichs ( $Z_{cert}$ ) bleibt.
- Jeder projizierte Schnitt des erreichbaren Tubus die unsichere Menge ( $O$ ) vermeidet.
- Die Methode zwischen drei Arten des Absehens unterscheidet: paarweiser Widerspruch ( $\perp_F$ ), Verlassen des Bereichs ( $\perp_D$ ) und Sicherheitsfehler ( $\perp_S$ ).

Wesentliche Beiträge

Das Trilemma-Theorem: Die Autoren beweisen ein „Trilemma“ für deterministische Zertifizierer unter Verwendung endlicher Einzelschritt-Daten. Ein Zertifizierer kann nicht gleichzeitig:
- Uniform korrekt (sound) über eine unbeschränkte Residuenklasse sein,
- $\bar{\rho}$ -informativ sein (einen Tubus mit endlicher projizierter Breite zurückgeben),
- und unbeschränkt jenseits der Beobachtungen agieren.
  Sie leiten ferner eine endliche, planabhängige untere Schranke auf die projizierte Breite für beschränkte glatte Klassen von Modellfehlern ab und zeigen, dass selbst unter Glattheitsbeschränkungen eine nicht-null Breite durch die datenfreie Lücke erzwungen wird.
ForeReach-Algorithmus: Eine praktische Methode, die bereitgestellte Lipschitz-Schranken, paarweise Konsistenzprüfungen und zonotopische Propagation kombiniert, um die Trajektorien-Einschließung unter der Bedingung der Gültigkeit der bereitgestellten Deklaration bereitzustellen.
Empirische Validierung: Experimente an zwei Benchmark-Systemen (einem affinen Punktmassen-System und einem sechs-zustands dynamischen Fahrrad) zeigen, dass ForeReach korrekt von der Zertifizierung absieht, wenn Pläne in ununterstützte Regionen gelangen (was die Korrektheit gewährleistet), während es die Zertifizierung wiederherstellt, wenn relevante Zieldaten verfügbar sind.

Experimentelle Ergebnisse

Punktmassen-System: Globale Kalibrierungs-Baselines zertifizierten ununterstützte Pläne, konnten aber die Zieltrajektorien nicht enthalten (0 % Coverage), was zu hohen False-Safe-Raten führte. ForeReach erreichte 100 % vollständige Tubus-Abdeckung bei ununterstützten Plänen durch Absehen und eine zertifizierte Recall-Rate von 99,8 % bei unterstützten Korridoren.
Dynamisches Fahrrad-System: Ähnliche Trends wurden beobachtet. Globale Kalibrierung und andere Baselines (Gauß-Prozesse, Conformal Methods) erzeugten entweder uninformative Tuben oder konnten Trajektorien in ununterstützten Regionen nicht enthalten. ForeReach behielt 100 % Abdeckung bei ununterstützten Plänen bei (durch Absehen) und erreichte eine zertifizierte Recall-Rate von 98,3 % in unterstützten Korridoren mit $N=400$ Stichproben.
Gelernte Action Chunks: Bei Anwendung auf von einer gelernten Policy generierte Pläne korrelierte die Rate des Absehens stark (Spearman $\rho=0,697$ ) mit der Distanz des nominalen Rollouts des Plans zum nächsten Beobachtungspunkt, was effektiv die „Unterstützung“ (Support) der Daten verfolgte.
Inkorrekte Deklarationen: Die Untersuchung zeigte, dass, wenn die bereitgestellte Lipschitz-Schranke zu klein ist (die Regularität unterschätzt), der Paarvergleich zwar bestehen kann (falls kein lokaler Widerspruch vorliegt), die resultierende Tube jedoch zu schmal sein kann, um die wahre Trajektorie zu enthalten, was zu falschen Sicherheitszertifikaten führt. Dies unterstreicht, dass die Korrektheit der Methode von der Richtigkeit der externen Deklaration abhängt.

Bedeutung und Ansprüche
Das Paper behauptet, dass die primäre Einschränkung bei der Zertifizierung von Plänen aus spärlichen Daten nicht die Quantität der Daten ist, sondern der Mangel an Beschränkungen für den Modellfehler in unobservierten Regionen. Die Autoren argumentieren, dass ein nutzbares Zertifikat strukturelle Informationen (wie Lipschitz-Schranken) erfordert, die von außerhalb der Daten geliefert werden. Während die Daten eine inkorrekte Deklaration widerlegen können, können sie eine korrekte Deklaration in unobservierten Regionen nicht bestätigen.

Die Bedeutung der Arbeit liegt in:

Der Formalisierung der theoretischen Grenzen (das Trilemma) der datengestützten Erreichbarkeit mit spärlichen, isolierten Transitionen.
Der Bereitstellung einer Methode, die explizit zwischen Soundness und Informativität basierend auf der Gültigkeit von Nebeninformationen abwägt, anstatt globale Eigenschaften der Datenverteilung anzunehmen.
Dem Nachweis, dass „Absehen“ (Abstention) ein notwendiges und informatives Ergebnis ist, wenn ein Plan den Daten-Support verlässt, im Gegensatz zu Baselines, die möglicherweise schmale, aber unkorrekte (unsound) Zertifikate erzeugen.

Die Autoren betonen, dass ihre Garantie konditional ist: Das Zertifikat ist nur gültig, wenn die bereitgestellte Lipschitz-Schranke im gesamten Zertifizierungsbereich gilt. Die Methode lernt die Schranke nicht aus den spärlichen Daten, sondern nutzt sie, um eine korrekte (sound) Envelope zu konstruieren.

Technische Zusammenfassung: Zertifizierung von Plänen unter Modell-Mismatch: Ein Trilemma der Erreichbarkeit bei spärlichen Daten

Mehr davon