A Hazard-Informed Data Pipeline for Robotics Physical Safety

Der Bericht stellt ein strukturiertes Framework für die physische Sicherheit von Robotern vor, das klassische Risikotechnik mit modernen Machine-Learning-Pipelines verbindet, indem es durch explizite Asset-Deklaration, systematische Schwachstellenanalyse und hazardgesteuerte synthetische Daten eine formale Hazard-Ontologie für das Erlernen von Sicherheitsgrenzen ermöglicht.

Das Wesentliche

🤖 Roboter-Sicherheit: Der „Gefahren-Atlas" für künstliche Intelligenz

Stell dir vor, du baust einen extrem intelligenten Roboter, der in einem Kindergarten arbeiten soll. Er soll helfen, Spielsachen aufräumen und Kekse verteilen. Das klingt toll, aber: Was passiert, wenn der Roboter versehentlich einen Stuhl umwirft, auf ein Kind zutrifft oder einfach nicht merkt, dass er zu nah an der Tischkante steht?

Bisher haben Ingenieure Roboter so gebaut, dass sie nicht kaputtgehen (wie ein Auto, das keine Bremsen hat). Aber moderne Roboter sind wie lebendige Wesen: Sie lernen, passen sich an und können Dinge tun, die niemand vorher genau geplant hat. Das ist wie ein Kind, das lernt zu laufen – es kann stolpern, auch wenn es gesund ist.

Die Autoren dieses Papers (Alexei und Rostislav) sagen: „Halt! Wir müssen die Sicherheit neu erfinden." Sie stellen einen fünfstufigen Bauplan vor, wie man Roboter sicher macht, bevor sie überhaupt das Haus verlassen.

Hier ist der Plan, übersetzt in eine Geschichte:

1. Der Schritt: „Was ist uns heilig?" (Die Schatzkarte)

Bevor wir über Unfälle reden, müssen wir wissen, was wir beschützen wollen.

• Die Analogie: Stell dir vor, du bist ein Burgwächter. Bevor du die Wachen postierst, musst du eine Liste aller Schätze in der Burg machen. Nicht nur Gold, sondern auch die Menschen, die Luft, das Wasser und sogar das gute Image der Burg.
• Im Papier: Man listet alles auf: Kinder, Lehrer, der Roboter selbst, die Möbel, die Luftqualität. Nichts wird ausgelassen. Das ist die „Schutz-Universum".

2. Der Schritt: „Wo könnte es brennen?" (Die Risse im Mauerwerk)

Jetzt schauen wir uns jeden Schatz an und fragen: „Wie könnte dieser Schatz verletzt werden?"

• Die Analogie: Ein Kind hat eine Verletzungsstelle (z. B. ein offenes Knie). Das ist noch kein Unfall, aber es ist eine Verwundbarkeit. Wenn ein Ball darauf fällt, passiert etwas.
• Im Papier: Wir listen auf: Ein Kind könnte von einem fallenden Objekt getroffen werden. Ein Akku könnte überhitzen. Daten könnten korrupt werden. Wir suchen die „Schwachstellen", bevor der Unfall passiert.

3. Der Schritt: „Die Katastrophe im Kopf" (Die Film-Szenen)

Jetzt machen wir aus den Schwachstellen konkrete Szenarien.

• Die Analogie: Stell dir vor, du schreibst Drehbücher für einen Horrorfilm. Du schreibst nicht nur „Es passiert etwas Schlimmes", sondern: „Der Roboter stellt eine Vase 2 cm vom Tischrand ab, ein Kind rennt vorbei, die Vase fällt."
• Im Papier: Wir definieren genau, wie ein Fehler passiert. Nicht nur „Roboter fällt hin", sondern „Sensor wird verdeckt -> Roboter sieht das Kind nicht -> Roboter fährt zu."

4. Der Schritt: „Die Flut aus Trainingsfilmen" (Die digitale Spielwiese)

Das ist der coolste Teil! Statt zu warten, bis ein Roboter in der echten Welt einen Unfall baut (was wir nicht wollen!), bauen wir eine digitale Welt (einen „Digitalen Zwilling").

• Die Analogie: Stell dir vor, du willst einem Kind das Autofahren beibringen. Du lässt es nicht auf der Autobahn üben, sondern in einem riesigen Videospiele-Simulator. Du lässt den Simulator 10.000 Mal einen Unfall simulieren: Regen, Nebel, rutschige Straßen, plötzlich auftauchende Hirsche.
• Im Papier: Der Computer simuliert Tausende von Szenen, in denen die oben genannten Fehler passieren. Er erzeugt Millionen von Bildern und Daten, die genau zeigen: „Achtung! Hier ist es gefährlich!" Diese Daten sind synthetisch (künstlich), aber perfekt für das Lernen.

5. Der Schritt: „Der Roboter lernt aus den Fehlern" (Die Schulung)

Jetzt füttern wir den Roboter mit diesen Tausenden von simulierten Unfällen.

• Die Analogie: Der Roboter sieht in seinem „Gehirn" (dem KI-Modell) die 10.000 Filme, in denen die Vase herunterfällt. Er lernt nicht nur, wie man die Vase trägt, sondern lernt, die Gefahr zu spüren, bevor sie passiert. Er entwickelt einen „Sicherheits-Reflex".
• Im Papier: Das KI-Modell wird so trainiert, dass es nicht nur die Aufgabe erledigt, sondern auch eine unsichtbare „Sicherheitsgrenze" (Safety Envelope) kennt. Wenn es merkt, es ist zu nah am Rand, stoppt es selbstständig.

---

Warum ist das so wichtig? (Die große Erkenntnis)

Früher haben wir Roboter getestet, indem wir sie laufen ließen und hofften, sie machen nichts Falsches. Das ist wie ein Auto-Test, bei dem man einfach hofft, dass die Bremsen funktionieren.

Dieser neue Ansatz ist wie ein Flugsimulator für Piloten:

1. Wir wissen genau, was wir schützen wollen (Kinder, Möbel).
2. Wir wissen genau, wie es schiefgehen könnte (fallende Gegenstände).
3. Wir lassen den Roboter Millionen Mal in einer Simulation scheitern, damit er im echten Leben niemals scheitert.

Das Ergebnis:
Der Roboter wird nicht nur „dumm sicher" (er macht nur das, was er darf), sondern „intelligent sicher". Er versteht die Welt um sich herum und weiß: „Wenn ich hier hinstelle, könnte das Kind stolpern. Also stelle ich es anders hin."

Das Paper sagt im Grunde: Sicherheit ist kein Zufall. Sie muss systematisch in den Code und das Training des Roboters eingebaut werden, bevor er die Fabrik verlässt. Und das beste Werkzeug dafür ist nicht mehr nur der Hammer und der Schraubenschlüssel, sondern ein digitaler Simulator, der uns erlaubt, Unfälle zu erleben, ohne dass sich jemand wehtut.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des vorliegenden Papiers auf Deutsch:

Technische Zusammenfassung: Ein hazard-informierter Daten-Pipeline für die physische Sicherheit von Robotik

Titel: A Hazard-Informed Data Pipeline for Robotics Physical Safety
Autoren: Alexei Odinokov, Rostislav Yavorskiy (SafePi.ai, Madrid)
Datum: März 2026

---

1. Problemstellung

Die zunehmende Integration von Robotiksystemen in die Nähe von Menschen, kritischer Infrastruktur und Ökosystemen stellt traditionelle Sicherheitsansätze vor neue Herausforderungen.

• Grenzen deterministischer Ansätze: Herkömmliche Sicherheitsmethoden konzentrieren sich auf deterministischen Schaden (klare Ursache-Wirkungs-Ketten, z. B. Sensorausfall oder Softwarefehler), die durch Tests vor der Auslieferung vorhersehbar sind.
• Herausforderung emergenter Schäden: Moderne "Physical AI"-Systeme zeigen komplexes, adaptives Verhalten. Risiken entstehen hier oft nicht aus dem Ausfall einzelner Komponenten, sondern aus nichtlinearen, systemweiten Interaktionen (z. B. Staus in Schwärmen von Lagerrobotern oder unvorhergesehene Verhaltensweisen in städtischen Umgebungen).
• Datenlücke: Herkömmliche ML-Modelle werden oft auf statischen, allgemeinen Datensätzen trainiert, die die spezifischen Randbedingungen, Interaktionsdynamiken und "Long-Tail"-Ereignisse (seltene, aber kritische Szenarien) realer Einsatzszenarien nicht abbilden.
• Fehlende Verbindung: Es fehlt an einer systematischen Brücke zwischen klassischem Risikomanagement (z. B. FMEA) und modernen datengetriebenen ML-Workflows, insbesondere für die Generierung von Trainingsdaten für emergente Risiken.

2. Methodik: Der hazard-informierte Daten-Pipeline

Die Autoren schlagen einen strukturierten, fünfstufigen Engineering-Pipeline vor, der klassische Risikoengineering-Prinzipien mit synthetischer Datengenerierung und maschinellem Lernen verbindet. Das Ziel ist es, Modelle nicht nur auf Unfälle zu trainieren, sondern innerhalb eines formal deklarierten Universums potenzieller Schäden zu lernen.

Schritt 1: Asset-Deklaration (Schutzuniversum)

• Exhaustive Auflistung aller zu schützenden Vermögenswerte ohne Filterung.
• Kategorien: Menschliche Assets (Operator, Passanten, kognitive Kapazität), Organisations-Assets (Hardware, Reputation) und Umwelt-Assets (Boden, Luft).
• Grundlage: ISO-Normen (z. B. ISO 12100, ISO 10218).

Schritt 2: Expositionsmodi (Vulnerabilitäts-Enumeration)

• Definition, wie jedes Asset anfällig für Schaden werden kann.
• Erstellung einer Taxonomie von Schwachstellen unabhängig von spezifischen Auslösern (z. B. "Arm ausgesetzt bewegten Aktuatoren", "Lagergut ausgesetzt dem Herunterfallen").

Schritt 3: Definition von Gefahrenszenarien

• Transformation abstrakter Schwachstellen in konkrete, testbare Ursache-Wirkungs-Ketten.
• Verknüpfung von Systemzuständen mit potenziellem Schaden (z. B. "Sensorokklusion führt zu fehlender Detektion" oder "Überhitzung der Batterie durch Kühlungsfehler").
• Diese Szenarien bilden die Basis für FMEA und Simulationstests.

Schritt 4: Simulation und Generierung synthetischer Daten

• Für jedes definierte Szenario wird gezielte synthetische Daten generiert (keine zufällige Augmentierung).
• Prozess:
  1. Aufbau eines hochfideligen digitalen Zwillings (3D-Umgebung).
  2. Programmatische Injektion des spezifischen Fehlermodus.
  3. Generierung tausender Variationen (Licht, Blickwinkel, Objekte, Rauschen).
  4. Automatische, sicherheitsrelevante Annotation (Ground-Truth-Labels für Kollisionsgefahr, Überhitzung, etc.).

Schritt 5: ML-Feinabstimmung und Erlernen des Sicherheitsumschlags (Safety Envelope)

• Integration der synthetischen Daten in den ML-Lebenszyklus.
• Modelle werden feinabgestimmt, um nicht nur die Hauptaufgabe zu erfüllen, sondern aktiv den Übergang von normalem zu gefährlichem Zustand zu erkennen und zu vermeiden.
• Ziele: Training von Anomalie-Erkennung, Gefahrenantizipation und Stress-Testing von Grenzfällen.

3. Wichtige Beiträge

• Formale Ontologie des Schadens: Die Verbindung von klassischer Risikoanalyse (Asset -> Vulnerability -> Hazard) mit moderner ML-Entwicklung schafft eine auditable und formale Basis für Sicherheit.
• Überbrückung der Lücke zwischen Determinismus und Emergenz: Der Ansatz adressiert explizit emergente Schäden durch die Generierung von Daten für Szenarien, die in der realen Welt selten oder nicht existent sind (z. B. Deadlocks in Roboterschwärmen).
• Synthetische Daten als "Test-Orakel": Die generierten Datensätze dienen nicht nur dem Training, sondern auch der formalen Validierung und Zertifizierung. Regulierungsbehörden können die zugrundeliegende Hazard-Ontologie und die Simulationsfidelität auditieren.
• Verschiebung des Sicherheitsparadigmas: Sicherheit wird nicht mehr nur als Verhinderung von Fehlern definiert, sondern als systematische Modellierung dessen, was geschützt werden muss, wie es exponiert werden kann und wie Schaden entsteht.

4. Ergebnisse und Anwendungsbeispiel

Das Papier demonstriert die Methode anhand eines humanoiden Roboters in einem Kindergarten:

• Szenario: Ein Roboter stellt Gegenstände auf Tische.
• Regel: Objekte müssen mindestens 10 cm vom Tischrand entfernt platziert werden (Puffer gegen unvorhersehbare Kinderbewegungen).
• Anwendung der Pipeline:
  • Assets: Kinder, Tische, Roboter.
  • Vulnerabilität: Kind trifft Tisch, Gegenstand fällt.
  • Simulation: Ein digitaler Zwilling des Klassenzimmers generiert tausende Szenarien mit variierenden Tischgrößen, Gewichten und Lichtverhältnissen.
  • Training: Das ML-Modell wird trainiert, Tischkanten robust zu erkennen und den Task-Planner zu überschreiben, wenn die 10-cm-Regel verletzt würde.
• Ergebnis: Die abstrakte Sicherheitsregel wird in ein berechenbares, trainierbares Ziel für das ML-Modell transformiert.

5. Signifikanz und Ausblick

• Zertifizierung und Transparenz: Der Ansatz bietet einen Weg, die "Black Box" von KI-Systemen zu öffnen. Statt nur das Endverhalten zu testen, können Stakeholder nachvollziehen, ob das System explizit auf die Vermeidung spezifischer, im Risikobewertungsprozess identifizierter Fehlermodi trainiert wurde.
• Skalierbarkeit: Die Methode ist skalierbar und reproduzierbar, was für die breite Einführung von Physical AI in verschiedenen Industrien entscheidend ist.
• Zukunftssicherheit: Sie adressiert die Notwendigkeit, Sicherheitsstandards von rein hardware-zentrierten Ansätzen hin zu multidimensionalen Frameworks zu entwickeln, die psychologische, cyber-physische und soziale Dimensionen einbeziehen.

Fazit: Das Papier stellt einen paradigmatischen Wechsel dar, bei dem Sicherheit durch die systematische Generierung von synthetischen Daten, die auf einer formalen Hazard-Ontologie basieren, in den Kern des ML-Trainingsprozesses integriert wird. Dies ermöglicht es Robotiksystemen, sowohl deterministische als auch emergente Risiken proaktiv zu managen.