Risk-Aware Rulebooks for Multi-Objective Trajectory Evaluation under Uncertainty

Die Autoren stellen einen risikobewussten Formalismus vor, der die Bewertung von Systemtrajektorien unter Unsicherheit durch explizite Modellierung der Wechselwirkungen zwischen System und Umwelt ermöglicht, komplexe Zielkonflikte systematisch handhabt und eine konsistente Präferenzordnung für die autonome Fahrzeugsteuerung sicherstellt.

Das Wesentliche

Stellen Sie sich vor, Sie fahren mit einem selbstfahrenden Auto durch eine belebte Stadt. Das Auto muss eine schwierige Entscheidung treffen: Soll es schnell fahren, um pünktlich zu sein, oder langsam, um sicher zu sein? Soll es die Spur wechseln, um einem Fußgänger auszuweichen, oder einfach weiterfahren?

Das Problem ist: Die Welt ist unvorhersehbar. Ein Fußgänger könnte plötzlich auf die Straße laufen, ein anderer könnte nur herumstehen. Das Auto kann nicht wissen, was genau passieren wird, aber es muss trotzdem einen Weg wählen.

Diese wissenschaftliche Arbeit von Tichakorn Wongpiromsarn bietet eine Lösung für genau dieses Dilemma. Sie nennt es „Risikobewusste Regelbücher". Hier ist eine einfache Erklärung, wie das funktioniert, mit ein paar bildhaften Vergleichen:

1. Das alte Problem: Ein einziger, starrer Richter

Früher haben Computer versucht, alle Regeln in eine einzige große Formel zu packen. Das war wie ein Richter, der sagt: „Wenn du 10 Punkte für Geschwindigkeit verlierst und 5 Punkte für Sicherheit, dann hast du insgesamt 15 Punkte Abzug." Das Problem dabei ist, dass manche Dinge viel wichtiger sind als andere. Ein Unfall (Sicherheit) ist viel schlimmer als eine Verspätung (Komfort). Ein einziger Punktestand kann diese Unterschiede nicht gut abbilden.

2. Die neue Lösung: Ein Regelbuch mit Hierarchie

Stellen Sie sich das neue System wie ein Regelbuch für ein Schachspiel vor, das aber viel flexibler ist.

• Die Regeln: Es gibt verschiedene Regeln: „Keine Kollision", „Im Fahrspur bleiben", „Komfort für die Fahrgäste".
• Die Hierarchie (Der Preorder): Nicht alle Regeln sind gleich wichtig. Das Regelbuch sagt klar: „Die Regel Keine Kollision ist wichtiger als Im Fahrspur bleiben, und Im Fahrspur bleiben ist wichtiger als Komfort."
• Unvergleichbare Regeln: Manchmal sind zwei Regeln einfach nicht vergleichbar. Ist es wichtiger, das Eigentum eines anderen zu schützen oder ein Tier zu retten? Das System erlaubt es, dass diese beiden Regeln nebeneinander stehen, ohne dass man sie direkt gegeneinander abwägen muss.

3. Das große „Was-wäre-wenn"-Spiel (Unsicherheit)

Das Besondere an dieser Arbeit ist, dass sie die Unsicherheit einbezieht.
Stellen Sie sich vor, das Auto plant eine Route. Es weiß nicht genau, ob der Fußgänger auf die Straße läuft oder nicht.

• Das alte System: Hatte oft nur eine einzige Vorhersage („Der Fußgänger bleibt stehen").
• Das neue System: Spielt das „Was-wäre-wenn"-Spiel durch. Es betrachtet alle möglichen Szenarien gleichzeitig:
  • Szenario A (98% Wahrscheinlichkeit): Der Fußgänger bleibt stehen.
  • Szenario B (2% Wahrscheinlichkeit): Der Fußgänger läuft auf die Straße.

Das Auto berechnet für jeden möglichen Fahrweg nicht nur einen Wert, sondern ein Risiko-Profil. Es fragt sich: „Wenn ich so fahre, wie hoch ist die Wahrscheinlichkeit, dass ich gegen die wichtigste Regel verstoße?"

4. Der „Risikometer"

Für jede Regel gibt es nun einen speziellen Risikometer.

• Für die Regel „Keine Kollision" könnte das Auto sehr vorsichtig sein (es will das Risiko fast auf Null drücken).
• Für die Regel „Komfort" könnte es etwas toleranter sein (ein bisschen Ruckeln ist okay).

Das System nutzt mathematische Werkzeuge (wie den „Conditional Value at Risk"), die wie ein Sicherheitsnetz funktionieren. Sie schauen nicht nur auf das Durchschnittsergebnis, sondern fragen: „Was passiert im schlimmsten vernünftigen Fall?"

5. Warum ist das genial? (Erklärbarkeit)

Das ist der wichtigste Teil für uns Menschen. Wenn das Auto eine Entscheidung trifft, kann es nicht nur sagen: „Ich habe das gewählt." Es kann erklären:

„Ich habe mich für den langsamen Weg entschieden, weil er zwar etwas unkomfortabler ist (Regel 4), aber das Risiko eines Unfalls (Regel 1) drastisch senkt. Da Regel 1 wichtiger ist als Regel 4, ist diese Entscheidung logisch und rational."

Es verhindert, dass das Auto in einen logischen Kreislauf gerät (z. B. Weg A ist besser als B, B ist besser als C, aber C ist wieder besser als A). Es sorgt dafür, dass es immer eine klare, logische „beste" Wahl gibt, die auf den Prioritäten basiert.

Ein konkretes Beispiel aus dem Papier

Stellen Sie sich ein Auto vor, das auf einer Straße fährt, neben der Fußgänger sind.

• Option 1: Weiterfahren mit voller Geschwindigkeit. (Risiko: Wenn jemand auf die Straße läuft, ist es ein schwerer Unfall. Aber im Normalfall ist es schnell.)
• Option 2: Abbremsen. (Risiko: Kein Unfall, aber man staut den Verkehr und die Fahrgäste werden ungeduldig.)

Das neue System rechnet aus:

• Wenn wir extrem vorsichtig sind (wir wollen gar kein Risiko), wählen wir Option 2.
• Wenn wir bereit sind, ein winziges Risiko einzugehen (z. B. 1 zu 1000 Chance auf einen Unfall), um den Verkehr flüssig zu halten, könnte Option 1 die bessere Wahl sein.

Das System zeigt uns genau, warum eine bestimmte Wahl getroffen wurde, basierend darauf, wie viel Risiko wir bereit sind einzugehen.

Fazit

Diese Forschung gibt autonomen Systemen (wie Robotern oder selbstfahrenden Autos) einen moralischen Kompass, der nicht starr ist, sondern flexibel mit Unsicherheit umgeht. Es hilft uns zu verstehen, warum ein Roboter entscheidet, was er entscheidet, und stellt sicher, dass diese Entscheidungen logisch, sicher und nachvollziehbar sind. Es ist wie ein erfahrener Kapitän, der nicht nur den Kurs hält, sondern auch weiß, wann er wegen eines nahenden Sturms den Kurs ändern muss, und genau erklären kann, warum er das getan hat.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Risk-Aware Rulebooks for Multi-Objective Trajectory Evaluation under Uncertainty" von Tichakorn Wongpiromsarn auf Deutsch.

1. Problemstellung

Sicherheitskritische autonome Systeme (z. B. autonome Fahrzeuge) müssen in dynamischen Umgebungen oft widersprüchliche Anforderungen erfüllen. Dazu gehören:

• Sicherheitsanforderungen: Kollisionsvermeidung, Einhaltung von Verkehrsregeln.
• Leistungsziele: Minimierung der Reisezeit, Komfort für Passagiere.

Das Hauptproblem besteht darin, dass diese Anforderungen nicht gleichzeitig erfüllt werden können und oft unterschiedlich gewichtet sind. Zudem herrscht Unsicherheit in der Umgebung (z. B. unvorhersehbares Verhalten anderer Verkehrsteilnehmer, unvollständige Sensorik).

Bestehende Ansätze haben folgende Limitationen:

• Temporale Logik: Kombiniert oft alle Anforderungen in eine einzige Formel, was die differenzierte Gewichtung und komplexe Beziehungen (z. B. Nicht-Vergleichbarkeit) zwischen einzelnen Regeln nicht abbildet.
• Klassische Rulebooks: Bewerten Trajektorien nur retrospektiv (nach der Ausführung), wenn die Umgebungsreaktionen bereits bekannt sind. Sie können keine Entscheidungen während der Planung unter Unsicherheit treffen.
• Fehlende Interaktionsmodellierung: Viele Ansätze behandeln die Umgebung als exogenes Rauschen, ignorieren aber, dass die Systemtrajektorie die Reaktion der Umgebung beeinflusst (z. B. bremst ein Auto, Pedestrianer gehen eher über die Straße).

2. Methodik

Das Paper erweitert das bestehende „Rulebook"-Formalismus um Unsicherheit und Risikobewusstsein.

A. Grundlegende Konzepte

• Regeln (Rules): Eine Regel $r$ ist eine Funktion, die den Verstoßgrad einer Realisierung misst ($r: \Xi \to \mathbb{R}_{\ge 0}$).
• Präordnung (Preorder): Regeln werden nicht durch eine totale Ordnung, sondern durch eine Präordnung $\precsim$ gewichtet. Dies erlaubt:
  • Strikte Prioritäten ($r_1 > r_2$).
  • Gleichrangigkeit ($r_1 \sim r_2$).
  • Nicht-Vergleichbarkeit ($r_1 \not\precsim r_2$ und $r_2 \not\precsim r_1$).
• System-Umgebungs-Interaktion: Die Umgebung wird nicht als feststehend modelliert. Stattdessen wird eine Funktion $E: T \times \Omega \to E$ definiert, die für eine Systemtrajektorie $\tau$ und ein Umgebungs-Szenario $\omega$ eine Umgebungsreaktion $\xi$ erzeugt. Dies führt zu einer zufälligen Variable für den Verstoß jeder Regel.

B. Risk-Aware Rulebooks (Risikobewusste Regelbücher)

Der Kern der Methode ist die Transformation deterministischer Regeln in risikobewusste Regeln für Trajektorien:

1. Zufällige Verstoßvariablen: Für jede Regel $r$ und Trajektorie $\tau$ entsteht eine Zufallsvariable $r_\tau(\omega) = r(\tau, E(\tau, \omega))$.
2. Risikomaße: Jeder Regel wird ein spezifisches Risikomaß $\rho_r$ (z. B. Erwartungswert, Worst-Case, Value-at-Risk (VaR), Conditional Value-at-Risk (CVaR)) und ein Schwellenwert $\gamma_r$ zugeordnet.
3. Risikobewusste Regel: Die neue Regel $r_{risk}(\tau)$ misst, wie stark das Risiko $\rho_r(r_\tau)$ den Schwellenwert $\gamma_r$ überschreitet:
   $$r_{risk}(\tau) = \max\{\rho_r(r_\tau) - \gamma_r, 0\}$$
4. Induzierte Präordnung: Die Menge der risikobewussten Regeln bildet ein neues Regelbuch auf der Menge der Trajektorien $T$. Es wird bewiesen, dass dies eine konsistente Präordnung auf $T$ induziert, die zyklische Präferenzen verhindert.

C. Optimalität und Sicherheit

• Eine Trajektorie ist sicher, wenn für alle Regeln $r_{risk}(\tau) = 0$ gilt (Risiko $\le$ Schwellenwert).
• Eine Trajektorie ist optimal, wenn es keine andere Trajektorie gibt, die strikt „besser" (weniger riskant) ist.
• Es wird gezeigt, dass unter diesem Formalismus sichere Trajektorien immer optimal sind und dass optimale Trajektorien rationale Kompromisse (Trade-offs) erfüllen: Eine Verbesserung bei einer Regel muss durch eine Verschlechterung bei einer gleichrangigen oder höherpriorisierten Regel kompensiert werden.

3. Wichtige Beiträge

1. Formalismus-Extension: Erweiterung des Rulebook-Formalismus von der retrospektiven Bewertung hin zur proaktiven Bewertung unter Unsicherheit während der Planungsphase.
2. Explizite Interaktionsmodellierung: Modellierung der Umgebung als Reaktion auf die Systemtrajektorie, anstatt sie als passives Rauschen zu betrachten.
3. Einheitlicher Rahmen: Integration verschiedener Risikokriterien (Erwartungswert, Worst-Case, Tail-Risk wie CVaR) in ein einziges, strukturiertes Regelwerk.
4. Theoretische Garantien: Beweis, dass der Ansatz eine Präordnung induziert, was die Existenz einer wohldefinierten „optimalen" Trajektorie sicherstellt und zyklische Präferenzen ausschließt.
5. Erklärbarkeit (Explainability): Der Ansatz macht die Entscheidungsfindung transparent. Die Wahl einer Trajektorie kann auf spezifische Regelvergleiche und die zugrunde liegende Risikobewertung zurückgeführt werden.

4. Ergebnisse und Beispiel (Autonomes Fahren)

Das Paper illustriert den Ansatz an einem Szenario mit einem autonomen Fahrzeug (AV) und Fußgängern.

• Szenario: Das AV nähert sich Fußgängern am Straßenrand. Es gibt Unsicherheit darüber, ob Fußgänger die Straße betreten (abhängig von der Fahrweise des AV).
• Trajektorien: Vier Optionen wurden verglichen:
  1. $\tau_1$: Geschwindigkeit beibehalten (15 m/s).
  2. $\tau_2$: Sanftes Abbremsen (1 m/s²).
  3. $\tau_3$: Abruptes Bremsen zum Stillstand (4.5 m/s²).
  4. $\tau_4$: Geschwindigkeit beibehalten mit Spurwechsel (Ausweichen).
• Regeln: Kollisionsvermeidung (höchste Priorität), Spurhalten, Verkehrsfluss, Komfort.
• Ergebnis der Analyse:
  • Die Wahl der „besten" Trajektorie hängt stark vom gewählten Risikomaß und dem Schwellenwert ab.
  • Bei einem toleranten Risikomaß (z. B. VaR mit hohem $\alpha$, aber tolerierbarem Restrisiko) ist $\tau_1$ (Geschwindigkeit beibehalten) optimal, da es den Verkehrsfluss maximiert.
  • Bei einem konservativen Risikomaß (z. B. CVaR oder strikter VaR) werden $\tau_3$ oder $\tau_4$ bevorzugt, da sie das Kollisionsrisiko eliminieren, auch wenn sie Komfort oder Verkehrsfluss opfern.
  • Der Formalismus zeigt explizit, warum eine Trajektorie gewählt wird (z. B. „$\tau_3$ wird gewählt, weil das Risiko von $\tau_1$ bezüglich der Kollisionsregel den Schwellenwert überschreitet").

5. Bedeutung und Fazit

Die Arbeit bietet einen fundamentalen Baustein für die Entwicklung sicherheitskritischer autonomer Systeme.

• Flexibilität: Sie erlaubt es, unterschiedliche Risikoneigungen (von sehr konservativ bis risikobereit) formal zu kodieren, ohne die zugrunde liegende Logik zu ändern.
• Regulierung und Akzeptanz: Durch die explizite Darstellung der Trade-offs und der zugrunde liegenden Regeln kann das System gegenüber Aufsichtsbehörden und der Öffentlichkeit besser erklärt werden.
• Verallgemeinerung: Der Ansatz verallgemeinert bestehende Methoden wie Chance Constraints und risikobewusste temporale Logik und bietet einen einheitlichen Rahmen für Planung, Steuerung und Verifikation.

Zusammenfassend stellt dieser Formalismus eine Brücke zwischen mathematischer Strenge (Formale Methoden) und praktischer Anwendbarkeit in unsicheren Umgebungen dar, wobei er sicherstellt, dass Entscheidungen rational, konsistent und erklärbar sind.