From Demonstrations to Safe Deployment: Path-Consistent Safety Filtering for Diffusion Policies

Die Arbeit stellt PACS vor, einen sicherheitsfilternden Ansatz für Diffusions-Policies, der durch pfadkonsistente Bremsmanöver und mengenbasierte Erreichbarkeitsanalysen formale Sicherheitsgarantien in dynamischen Umgebungen bietet, ohne dabei die Aufgabenerfolgsrate im Vergleich zu reaktiven Methoden wie Control Barrier Functions signifikant zu beeinträchtigen.

Das Wesentliche

Stell dir vor, du hast einen extrem talentierten, aber etwas naiven Koch namens Diffusions-Policy (DP). Dieser Koch hat Tausende von Stunden damit verbracht, Videos von anderen Köchen zu schauen, die perfekte Gerichte zubereiten. Er hat gelernt, wie man genau die richtigen Zutaten nimmt, wie man schneidet und wie man serviert. Wenn er in einer ruhigen Küche arbeitet, ist er ein Meisterwerk.

Aber jetzt willst du ihn in eine lebendige, chaotische Küche schicken, in der sich Menschen bewegen, Tische verrutschen und Kinder herumtollen. Hier wird es gefährlich. Der Koch ist zwar gut im Kochen, aber er hat keine Ahnung von Kollisionsvermeidung. Wenn ein Kind vor ihm herläuft, würde er einfach weiterlaufen und vielleicht gegen das Kind stoßen, weil er nur auf das "perfekte Rezept" aus den Videos achtet.

Bisher gab es zwei Möglichkeiten, das zu lösen:

1. Der strenge Aufpasser (Reaktive Sicherheitsfilter): Ein Sicherheitsmann steht daneben und schreit: "Stopp! Nicht da lang!" und zerrt den Koch abrupt zur Seite. Das Problem: Der Koch gerät in Panik. Er sieht Dinge, die er in seinen Trainingsvideos nie gesehen hat (er ist "außerhalb der gewohnten Muster"). Er verliert den Fokus, macht Fehler und das Gericht wird ruiniert.
2. Der neue Ansatz (PACS): Das ist die Idee aus diesem Papier.

Die Lösung: Der "Pfad-konsistente Bremsklotz" (PACS)

Stell dir vor, der Koch (der KI-Roboter) hat einen perfekten Plan, wie er von A nach B gehen soll, um das Essen zu servieren. Er denkt in großen Schritten vor: "Ich gehe zuerst zur Schüssel, dann zum Herd, dann zum Gast."

Das neue System PACS (Path-Consistent Safety Filter) funktioniert nicht wie ein brutaler Sicherheitsmann, der den Koch wegstößt. Stattdessen ist es wie ein sehr kluger Co-Pilot:

1. Der Plan bleibt erhalten: Der Co-Pilot schaut sich den gesamten Weg des Kochs an. Er sagt: "Okay, du willst genau diesen Weg gehen. Das ist gut."
2. Das Tempo anpassen: Wenn der Co-Pilot sieht, dass ein Kind auf den Weg läuft, sagt er nicht: "Dreh um!" (was den Koch verwirren würde). Er sagt stattdessen: "Geh auf diesem Weg weiter, aber mach langsamer."
3. Die Bremsung: Der Co-Pilot berechnet genau, wie stark der Koch bremsen muss, um sicher vor dem Kind zu stoppen, ohne den Kurs zu verlassen. Er nutzt eine Art "mathematische Kristallkugel" (Reachability Analysis), um vorherzusagen, wohin sich das Kind bewegt und ob eine Kollision unvermeidbar ist.

Warum ist das so genial?

• Kein "Fremdes" mehr: Wenn der Sicherheitsmann den Koch abrupt zur Seite reißt, landet er in einer Situation, die er nie gelernt hat. Er weiß nicht, wie er sich dort verhalten soll. PACS hält den Koch aber auf seinem gewohnten Pfad. Er macht nur langsamer. Für den Koch fühlt sich das immer noch wie "Kochen" an, nur eben vorsichtiger.
• Kein Chaos: Weil der Koch nicht verwirrt wird, bleibt er ruhig und führt seine Aufgabe (das Servieren) erfolgreich durch, auch wenn er langsamer ist.
• Echtzeit-Sicherheit: Das System ist so schnell, dass es 1000 Mal pro Sekunde prüft: "Ist der Weg noch sicher? Ja? Weiter. Nein? Bremsen!"

Die Ergebnisse im echten Leben

Die Forscher haben das an echten Robotern getestet, die mit Menschen interagieren:

• Aufgabe 1 (Sortieren): Ein Roboter muss rote Blöcke in eine Kiste legen, während ein Mensch grüne Blöcke wegnimmt. Ohne PACS würde der Roboter oft gegen den Menschen stoßen oder aufhören zu arbeiten. Mit PACS arbeitet er sicher und schnell weiter.
• Aufgabe 2 (Übergeben): Der Roboter nimmt einen Block aus der Hand eines Menschen. PACS sorgt dafür, dass er sanft und genau greift, ohne zu drücken.
• Aufgabe 3 (Füttern): Der Roboter gibt einem Menschen eine Gabel mit Essen in den Mund. Das ist extrem heikel! PACS sorgt dafür, dass der Roboter extrem vorsichtig wird, wenn er dem Mund nahe kommt, aber trotzdem die Aufgabe erledigt.

Das Fazit:
Frühere Methoden waren wie ein Panzer, der alles zur Seite schiebt – das zerstört die Aufgabe. PACS ist wie ein fahrradfahrender Begleiter, der dir sagt: "Pass auf, da kommt ein Auto, bremse ab, aber fahr weiter auf deiner Spur." So bleibt der Roboter sicher, behält aber seine hohe Leistungsfähigkeit bei. Das ist ein riesiger Schritt, damit Roboter sicher in unserer Welt mit uns Menschen arbeiten können.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „From Demonstrations to Safe Deployment: Path-Consistent Safety Filtering for Diffusion Policies" auf Deutsch:

1. Problemstellung

Diffusions-Policies (DPs) und Vision-Language-Action-Modelle (VLA) haben durch das Lernen aus großen Demonstrationsdatensätzen einen State-of-the-Art-Status bei komplexen Manipulationsaufgaben erreicht. Da diese Modelle jedoch als „Black-Box" fungieren, bieten sie keine inhärenten Sicherheitsgarantien, insbesondere in dynamischen Umgebungen mit sich bewegenden Objekten oder Menschen.

Das zentrale Problem bei der bisherigen Sicherheitsabsicherung (z. B. durch reaktive Methoden wie Control Barrier Functions - CBFs) besteht darin, dass diese Sicherheitsfilter die vom Policy geplanten Aktionen oft abrupt ändern, um Kollisionen zu vermeiden. Dies führt dazu, dass das System in Out-of-Distribution (OOD)-Zustände gerät, die während des Trainings nicht gesehen wurden. Da DPs in OOD-Situationen zu unvorhersehbarem Verhalten neigen, führt dies häufig zum Scheitern der Aufgabe (Task Failure), selbst wenn die Sicherheit kurzfristig gewährleistet wird.

2. Methodik: Path-Consistent Safety Filtering (PACS)

Die Autoren schlagen PACS (Path-Consistent Safety Filtering) vor, einen Sicherheitsfilter, der die Sicherheit garantiert, ohne die vom Policy intendierte Bahn zu verlassen.

Kernkonzepte:

• Pfadkonsistente Bremsung: Anstatt die Aktionen des Policies direkt zu modifizieren (was OOD-Zustände erzeugt), wird die gesamte von der Policy generierte Aktionsfolge (Action Chunk) in eine intendierte Trajektorie umgewandelt. Der Sicherheitsfilter greift ein, indem er die Geschwindigkeit und Beschleunigung des Roboters entlang dieser intendierten Bahn reduziert oder den Roboter anhalten lässt, falls eine Kollision droht.
• Trajektorien-Generierung: Aus den diskreten Aktions-Chunks (Delta-Joint-Positionen) wird eine zeitoptimierte, kinematisch und dynamisch machbare intendierte Trajektorie berechnet. Dies ermöglicht eine feinere Kontrolle über die Ausführungsgeschwindigkeit als eine direkte Modifikation einzelner Aktionen.
• Sicherheitsverifikation mittels Reachability Analysis: Um Echtzeitfähigkeit und formale Garantien zu gewährleisten, wird eine mengenbasierte Erreichbarkeitsanalyse (Set-Based Reachability Analysis) verwendet.
  • Es werden die erreichbaren Mengen (Reachable Sets) sowohl des Roboters (unter Berücksichtigung von Tracking-Fehlern) als auch der dynamischen Objekte (unter Berücksichtigung von Messfehlern und Geschwindigkeitsgrenzen) berechnet.
  • Eine Kollision wird definiert als Schnittmenge der erreichbaren Belegungsvolumen.
  • Es werden zwei Sicherheitskonzepte gemäß ISO/TS 15066 unterstützt:
    1. SSM (Speed and Separation Monitoring): Keine Berührung erlaubt (z. B. Sortieraufgaben).
    2. PFL (Power and Force Limiting): Berührung erlaubt, solange die kinetische Energie unter einem schmerzfreien Schwellenwert liegt (z. B. Übergabe oder Fütterung).
• Ablauf: Der Filter überwacht die intendierte Trajektorie in hoher Frequenz (1 kHz). Wenn die Verifikation erfolgreich ist, wird die intendierte Bewegung ausgeführt. Andernfalls wird auf eine zuvor verifizierte „Failsafe"-Trajektorie (Bremsmanöver) zurückgegriffen, die das System sicher zum Stillstand bringt, ohne die Bahn zu verlassen.

3. Wichtige Beiträge

1. Erste provisorisch sichere Bereitstellung von DPs: Das Paper demonstriert die erste formell abgesicherte Implementierung von Diffusion-Policies für Mensch-Roboter-Interaktion (HRI) in dynamischen Umgebungen.
2. Vermeidung von OOD-Zuständen: Durch die Pfadkonsistenz bleiben die Roboteraktionen innerhalb der Trainingsverteilung, was die Zuverlässigkeit der Policy erhält.
3. Überlegene Leistung: PACS übertrifft reaktive Sicherheitsansätze (wie CBFs) signifikant in Bezug auf die Erfolgsrate der Aufgaben.
4. Effizienz durch Chunk-Verarbeitung: Die Umwandlung ganzer Aktions-Chunks in Trajektorien führt zu einer verbesserten Ausführungsgeschwindigkeit und höheren Erfolgsraten im Vergleich zur sequenziellen Behandlung einzelner Aktionen.

4. Ergebnisse

Die Evaluation erfolgte in Simulation und auf realer Hardware (Franka FR3 Manipulator) mit drei anspruchsvollen HRI-Aufgaben: Sortieren, Übergabe und Fütterung.

• Erfolgsraten:
  • In der Simulation erreichte PACS eine 68 % höhere Task-Success-Rate im Vergleich zu reaktiven CBF-basierten Filtern.
  • In den Hardware-Experimenten lag die Verbesserung bei 37 %.
  • Im Vergleich zu einer sequenziellen Einzel-Aktions-Behandlung führte die Chunk-basierte Trajektorienplanung zu einer 28 %igen Steigerung der Erfolgsrate.
• Sicherheit:
  • Ohne Sicherheitsfilter (OFF) waren die Policies in den dynamischen Umgebungen in 56 % der Zeit unsicher (Verletzung von Sicherheitsbedingungen), was zu einer „Safe Success"-Rate von 0 % führte.
  • Mit PACS wurden keine Sicherheitsverletzungen beobachtet, bei gleichzeitig hoher Task-Success-Rate (ca. 80 %).
• Echtzeitfähigkeit:
  • Der PACS-Filter benötigt nur 0,20 ms pro Sicherheits-Schritt (im Vergleich zu 0,64 ms für CBF), was eine Echtzeit-Anwendung bei 1 kHz ermöglicht.
  • Die Berechnung der intendierten Trajektorie dauert ca. 5 ms.
• Geschwindigkeit: Durch die Berücksichtigung kinematischer und dynamischer Machbarkeit konnte die durchschnittliche Aufgabenzeit um 14 % reduziert werden, ohne die Sicherheit zu gefährden.

5. Bedeutung und Ausblick

Das Paper adressiert eine kritische Lücke im Bereich des robotischen Lernens: Die Lücke zwischen der hohen Leistungsfähigkeit generativer Modelle (DPs) und den strengen Sicherheitsanforderungen in menschennahen Umgebungen.

Die Bedeutung von PACS liegt darin, dass es zeigt, wie man Safety und Performance nicht als Trade-off, sondern als komplementäre Ziele behandeln kann, indem man Sicherheitsinterventionen an die intendierte Bahn des Roboters anpasst. Dies ermöglicht den sicheren Einsatz von fortschrittlichen KI-Modellen in sensiblen Bereichen wie der Gesundheitsversorgung oder der industriellen Zusammenarbeit mit Menschen. Zukünftige Arbeiten könnten sich auf die Handhabung von (semi-)statischen Hindernissen durch constraint-aware Online-Neuplanung konzentrieren.