🤖 machine learning

BOKBO (Best of K Bad Options): Calibrated Abstention for VLA Policies

Dieses Paper führt BOKBO ein, die erste Conformal-Abstention-Schicht für K-Sample-VLA-Inferenz, die durch das Adressieren struktureller Fehler in bestehenden Nonconformity-Scores und das Korrigieren methodischer Fallstricke bei der Kraftschwellenwertbildung endliche Stichproben-verteilungsfreie Garantien für die Ausführungs-Verletzungsraten bereitstellt und dadurch die Sicherheitskalibrierung sowie den Aufgabenerfolg über diverse Benchmarks und Verteilungsverschiebungen hinweg signifikant verbessert.

Ursprüngliche Autoren: Anya Singh, Cabrel Happi, Jai Relan, Varun Nair, Vidyut Baradwaj

Veröffentlicht 2026-06-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Anya Singh, Cabrel Happi, Jai Relan, Varun Nair, Vidyut Baradwaj

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bringen einem Roboter eine delikate Aufgabe bei, wie das Ketchup-Ausgießen oder das Verstreichen von Butter. Um den Roboter sicherer und zuverlässiger zu machen, nutzen Ingenieure einen Trick namens K-Sample Scaling. Anstatt den Roboter nur eine einzige Bewegung machen zu lassen, bitten sie ihn, sich K verschiedene mögliche Bewegungen vorzustellen (sagen wir 8 verschiedene Arten, Ketchup auszugießen) und dann die „beste“ auszuwählen, die er tatsächlich ausführt.

Das Problem ist: Was, wenn alle 8 vorgestellten Bewegungen gefährlich sind?

Aktuelle Methoden haben einen blinden Fleck. Sie gehen davon aus, dass, wenn man genügend Optionen generiert, zumindest eine davon sicher sein wird. Wenn alle 8 schlecht sind, wählt der Roboter die „wenig schlechteste“ aus und führt sie trotzdem aus, was zu einem Unfall oder Verschütten führt. Es ist, als würde man einen Koch bitten, das Beste aus 8 verfaulten Äpfeln auszuwählen; er wird trotzdem eines auswählen, und man bekommt einen verfaulten Salat bekommen.

Dieses Paper stellt BOKBO (Best of K Bad Options) vor, eine neue Sicherheitsebene, die genau dies beheben soll. So funktioniert es, unter Verwendung einfacher Analogien:

1. Der „Sicherheits-Türsteher“ (Conformal Abstention)

Betrachten Sie BOKBO als einen strengen Sicherheits-Türsteher, der vor dem Roboter steht.

Der alte Weg: Der Türsteher schaut sich die 8 Optionen an, wählt die „beste“ aus und lässt sie durch. Wenn alle 8 schlecht sind, lässt der Türsteher die schlechteste trotzdem durch.
Der BOKBO-Weg: Der Türsteher hat eine spezielle Regel: „Wenn ich nicht garantieren kann, dass die gewählte Bewegung sicher ist, werde ich den Roboter komplett stoppen.“
Das Ergebnis: Der Roboter führt die Aufgabe manchmal nicht aus (er „entsagt“ sich der Ausführung), aber wenn er handelt, haben Sie eine mathematische Garantie dafür, dass die Wahrscheinlichkeit einer Sicherheitsverletzung extrem gering ist (weniger als 5 % in ihren Tests).

2. Der „Kaputte Kompass“ (Warum alte Methoden scheiterten)

Die Forscher fanden heraus, warum frühere Sicherheitsprüfungen fehlschlugen. Sie versuchten, zwei „kostenlose“ Signale zu nutzen, die der Roboter bereits generiert:

Konfidenz (Vertrauen): Wie sicher sich der Roboter bei seiner Bewegung fühlt.
Disagreement (Uneinigkeit): Wie stark sich die 8 Optionen voneinander unterscheiden.

Die Analogie: Stellen Sie sich vor, Sie versuchen, das Wetter vorherzusagen.

Der Fehler: Die Forscher erkannten, dass das „Disagreement“-Signal nicht wirklich maß, wie unsicher sich der Roboter über das Wetter war. Stattdessen maß es lediglich, wie sehr die Forscher die Würfel geschüttelt hatten, bevor sie geworfen wurden.
Die Realität: In ihrem Setup generierte der Roboter 8 Optionen, indem er zufälliges „Rauschen“ (Noise) hinzufügte (die Würfel schüttelte). Je mehr Rauschen sie hinzufügten, desto mehr unterschieden sich die Optionen. Der „Disagreement“-Wert des Roboters war also nur ein Thermometer für den Rauschpegel, nicht ein Detektor für Gefahr. Es war wie ein Rauchmelder, der nur Alarm schlägt, wenn man Parfüm in die Nähe sprüht, aber stumm bleibt, wenn es ein tatsächliches Feuer gibt.

3. Der „Kluge Detektiv“ (Der gelernte Prädiktor)

Da die internen Signale des Roboters lügten (oder vielmehr das Falsche maßen), bauten die Forscher einen kleinen, separaten KI-Detektiv (einen „Learned Violation Predictor“).

Dieser Detektiv betrachtet die Optionen des Roboters und die visuelle Szene (mittels einer Kamera).
Er wurde speziell darauf trainiert, Gefahr zu erkennen, indem er das „Rauschen“ ignoriert, das der Roboter erzeugte.
Das Ergebnis: Dieser Detektiv konnte tatsächlich zwischen einer sicheren und einer gefährlichen Bewegung unterscheiden, was es dem Sicherheits-Türsteher ermöglichte, die richtige Entscheidung zu treffen.

4. „Maßgeschneidert“ vs. „Einheitsgröße“

Das Paper fand auch heraus, dass Sicherheit nicht für jede Aufgabe gleich ist.

Das Problem: Eine „globale“ Sicherheitsregel (wie „drücke nicht stärker als 50 Newton“) ist für sanfte Aufgaben (wie den Umgang mit einer Tomate) zu streng und für harte Aufgaben (wie den Umgang mit einer schweren Flasche) zu locker. Dies führte zu Fehlalarmen oder übersehenen Gefahren.
Die Lösung (Mondrian): BOKBO erstellt eine maßgeschneiderte Sicherheitsregel für jede spezifische Aufgabe. Es lernt genau, wie fest ein menschlicher Experte drückt, wenn er Ketchup im Vergleich zu Butter handhabt, und setzt das Sicherheitslimit entsprechend. Dies macht das System wesentlich zuverlässiger.

5. Der „Realitätscheck in der Simulation“

Die Forscher testeten dies in einer hochpräzisen Computersimulation (MuJoCo).

Sie fanden heraus, dass BOKBO erfolgreich den Roboter daran hinderte, gefährliche Bewegungen zu machen, während es den Roboter in 86 % der Testfälle dennoch die Aufgabe ausführen ließ. Ohne BOKBO hätte der Roboter zwar „sicher“ versagt (indem er stoppte), aber wenn er handelte, passierten in 8,6 % der Fälle Fehler. Mit BOKBO sank diese Fehlerrate auf etwa 3 %.

Zusammenfassung

Das Paper argumentiert, dass es nicht ausreicht, einen Roboter einfach nur zu fragen, „probier ein paar Dinge aus und nimm das Beste“, wenn man keine Möglichkeit hat zu sagen: „Keine dieser Optionen ist sicher“.

Alte Methode: „Wähle das Beste aus den schlechten Optionen.“ (Stiller Fehlschlag).
BOKBO: „Wenn keine der Optionen sicher ist, stoppe.“ (Sicherer Fehlschlag).
Zentrale Erkenntnis: Man kann den „Konfidenz“- oder „Disagreement“-Werten des Roboters nicht trauen, wenn man künstlich Rauschen hinzufügt, um Optionen zu generieren. Man benötigt einen dedizierten „Detektiv“, der nach tatsächlicher Gefahr sucht.

Das Paper kommt zu dem Schluss, dass dieser Ansatz in der Simulation gut funktioniert und eine mathematische Sicherheitsgarantie bietet, merkt jedoch an, dass der Test an echten physischen Robotern der nächste notwendige Schritt ist.

Technisches Resümee: BOKBO — Best of K Bad Options

Problemstellung
Das Test-Time-Scaling für Vision-Language-Action (VLA)-Policies ist zu einer Standardtechnik für die Zuverlässigkeit geworden, bei der $K$ Kandidaten-Aktions-Chunks gesampelt werden und der „beste“ durch einen Verifizierer oder Scorer ausgewählt wird. Dieses Paradigma stützt sich jedoch auf eine kritische, oft un erfüllte Annahme: dass unter $K$ Kandidaten mindestens einer sicher und aufgabenerfüllend ist. Wenn alle $K$ Kandidaten unsicher sind, führt das System den „Verifier-Best“-Kandidaten aus, ungeachtet der absoluten Qualität, was zu einem „Silent Failure“ (stillem Versagen) ohne Warnmechanismus führt. Bestehende Methoden verfügen über keinen formalen Mechanismus, um diese „All-Unsafe“-Zellen zu erkennen oder mit Sicherheitsgarantien von der Ausführung abzusehen. Zudem wurde in vorangegangener Arbeit davon ausgegangen, dass „kostenlose“ Signale (Signale, die ohne zusätzlichen Inferenzaufwand verfügbar sind, wie etwa die Basis-Policy-Konfidenz oder die $K$ -Stichproben-Diskrepanz) mit der Unsicherheit der Policy korrelieren; dieses Paper zeigt, dass diese Annahme unter perturbationsbasierter Sampling-Methode katastrophal scheitert.

Methodik: BOKBO
Die Autoren führen BOKBO ein, die erste Conformal Abstention Layer (konforme Abstinenzschicht), die speziell für das $K$ -Stichproben-VLA-Inferenzdesign entwickelt wurde. BOKBO entscheidet, ob ausgeführt oder verzichtet wird, basierend auf einem kalibrierten Score und bietet endliche Stichproben- sowie distributionsfreie obere Schranken für die Rate unsicherer Ausführungen unter den nicht-abgestandenen Entscheidungen.

Conformal Risk Control (CRC): Die Methode wendet CRC auf das $K$ -Stichproben-Setting an. Sie trainiert einen Prädiktor, um die Wahrscheinlichkeit einer Sicherheitsverletzung ( $v=1$ ) zu schätzen, und kalibriert einen Schwellenwert $\hat{\tau}$ auf einem Held-out-Kalibrierungsdatensatz. Das System führt nur aus, wenn der Prädiktor-Score $s_\theta \le \hat{\tau}$ ist.
Nonconformity Scores (Nichtkonformitäts-Scores): Das Paper evaluiert drei Scoring-Mechanismen:
1. VLA Confidence Proxy: Die Log-Wahrscheinlichkeit des gewählten Chunks durch die Basis-Policy.
2. $K$ -Sample Disagreement: Der maximale paarweise $L_2$ -Abstand zwischen den Kandidaten.
3. Learned Violation Predictor: Ein kleines MLP, das auf semantischen visuellen Merkmalen (DINOv2), propriozeptivem Zustand und Aufgabenidentität trainiert wurde, um Verletzungen direkt vorherzusagen.
Mondrian Calibration: Um die Heterogenität der Verletzungsraten über verschiedene Aufgaben hinweg zu adressieren, implementieren die Autoren eine Mondrian-Variante (pro Aufgabe) von CRC. Dies stellt sicher, dass die Sicherheitsuntergrenze bedingt für jede spezifische Aufgabe gilt und nicht nur marginal über den gesamten Datensatz hinweg.
Safety Labeling (Sicherheitskennzeichnung): Eine kritische methodische Korrektur betrifft die Definition von Sicherheitslabels. Die Autoren identifizieren, dass global gesetzte Kraftschwellen (z. B. 50N) die Verletzungsraten um das 5-fache künstlich aufblähen, da sie die typischen Manipulationskräfte von Experten für viele Aufgaben überschreiten. Sie schlagen pro-Aufgaben-expertengestützte Schwellenwerte vor, definiert als $\max(50\text{N}, p99(\text{expert max force}) + 10\text{N})$ .

Wichtigste Erkenntnisse und diagnostische Analyse
Die bedeutendste diagnostische Erkenntnis des Papers ist das strukturelle Versagen „kostenloser“ Signale unter perturbationsbasiertem $K$ -Sampling.

Perturbation vs. Unsicherheit: Unter Gaußscher Perturbation im Aktionsraum (bei der Kandidaten als $a_k = a_0 + \sigma\xi_k$ generiert werden) korrelieren sowohl der VLA-Confidence-Proxy als auch das $K$ -Sample-Disagreement mit einer Genauigkeit von 0,98 mit dem Rausch-Hyperparameter $\sigma$ , aber auf dem Rauschboden (Spearman $\approx -0,05$ ) mit tatsächlichen Sicherheitsverletzungen.
Mechanismus: Diese Signale messen die Magnitude der injizierten Perturbation, nicht die interne Unsicherheit der Policy.
Randbedingung: Die Autoren testen Token-Level-Temperatur-Sampling (welches Diversität aus der Stochastizität der Policy statt durch injiziertes Rauschen erzeugt). Unter diesem Mechanismus sinkt die Korrelation zwischen freien Signalen und dem Sampling-Hyperparameter (von 0,98 auf 0,41), und die Signale gewinnen wieder an Sicherheitsinformationen. Der gelernte Prädiktor bleibt jedoch in beiden Regimen überlegen.

Experimentelle Ergebnisse
Die Experimente wurden auf OpenVLA-OFT und $\pi_0$ -FAST Backbones durchgeführt, feinabgestimmt auf der LIBERO-Suite (speziell libero_object_temp_x0.1 und libero_spatial_temp_x0.1).

Sicherheitsgarantien: Bei einer Ziel-Verletzungsrate von $\epsilon = 0,05$ hält die bedingte CRC-Schranke auf 86 % der Bootstrap-Splits für libero_object und auf 83 % für libero_spatial.
Performance: Mit dem gelernten Prädiktor erreicht BOKBO eine Abdeckung von 78 % und einen Netto-Aufgabenerfolg von 70 % auf libero_object und stellt 87 % der Oracle-Sicherheitsverbesserung wieder her.
Mondrian-Variante: Die pro-Aufgaben-Variante erhöht die minimale bedingte Halterate pro Aufgabe von 0,71 (global) auf 0,93 und verbessert die Zuverlässigkeit bei Hochrisiko-Aufgaben wie „Ketchup“ und „Milch“ signifikant.
Distribution Shift (Verteilungsverschiebung): Die Schranken halten unter vier innerhalb der Suite auftretenden Verteilungsverschiebungen (Temperatur, Objekt und Cross-Suite-Shifts) stand, verschlechtern sich jedoch, wenn der Aktions-Rauschpegel $\sigma$ außerhalb des kalibrierten Bereichs liegt.
Architekturspezifität: Der gelernte Prädiktor ist policy-spezifisch; ein auf OpenVLA-OFT Daten trainierter Prädiktor versagt bei der direkten Anwendung auf $\pi_0$ -FAST (die bedingte Halterate sinkt auf 0,42), was eine backbone-spezifische Kalibrierung erforderlich macht.

Bedeutung und Ansprüche
Das Paper beansprucht drei primäre Beiträge:

Formale Garantien: BOKBO liefert die erste formale, endliche, distributionsfreie Abstenz-Garantie für das $K$ -Stichproben-VLA-Inferenzverfahren, was es Systemen ermöglicht, unsichere Aktionen zu verweigern, anstatt stillschweigend zu versagen.
Strukturelle Diagnose: Die Arbeit legt einen grundlegenden Fehler in der Nutzung „freier“ Signale für die Sicherheit unter Perturbations-Sampling offen. Sie klärt auf, dass solche Signale den Perturbationsmechanismus verfolgen und nicht die Policy-Unsicherheit – eine Unterscheidung, die für das Design zuverlässiger Robotersteuerungen entscheidend ist.
Methodische Korrektur: Das Paper korrigiert eine Falle in der Sicherheitsbewertung, indem es zeigt, dass globale Kraftschwellen für Manipulationsaufgaben unzureichend sind, und schlägt eine pro-Aufgaben-Expert-Kalibrierungsmethode vor, die realistische Verletzungsraten liefert.

Limitierungen
Die Autoren merken an, dass alle Experimente derzeit in MuJoCo-Simulationen durchgeführt werden. Die reale Einsatzfähigkeit erfordert die Validierung des Transfers der pro-Aufgaben-Kraftschwellen auf physische Roboter sowie die Integration der Laufzeit-Kraftüberwachung. Zudem benötigt die Methode pro-Aufgaben-Expertdemonstrationen (25 pro Aufgabe) zur Kalibrierung und ist derzeit auf die LIBERO-Benchmark-Familie und spezifische VLA-Backbones beschränkt.