Natural Adversaries: Fuzzing Autonomous Vehicles with Realistic Roadside Object Placements

Die Arbeit stellt TrashFuzz vor, einen Black-Box-Fuzzing-Ansatz, der durch die realistische Manipulation der Positionen alltäglicher Straßenseitenobjekte gemäß regulatorischer Richtlinien gezielt Wahrnehmungsfehler autonomer Fahrzeuge erzeugt und damit Verkehrsverstöße im Apollo-System provoziert.

Yang Sun, Haoyu Wang, Christopher M. Poskitt, Jun Sun

Veröffentlicht 2026-03-05
📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

Each language version is independently generated for its own context, not a direct translation.

Titel: Wie Mülltonnen und Bäume selbstfahrende Autos verwirren können – Eine einfache Erklärung

Stellen Sie sich vor, ein selbstfahrendes Auto ist wie ein hochintelligenter, aber etwas naiver Schüler, der gerade den Führerschein macht. Dieser Schüler hat super Augengläser (Kameras) und ein scharfes Gehör (Lidar-Sensoren). Er lernt, die Welt zu verstehen, indem er auf Schilder, andere Autos und Fußgänger schaut.

Die Forscher von dieser Studie haben eine ganz neue Art von „Prüfung" für diesen Schüler entwickelt. Sie nennen es TRASHFUZZ.

Hier ist die Geschichte, wie das funktioniert, ohne Fachchinesisch:

1. Das Problem: Der Schüler kennt die Regeln nicht

Bisher haben Forscher versucht, das Auto zu täuschen, indem sie künstliche, verrückte Dinge auf die Straße geklebt haben.

  • Die alte Methode: Man klebt einen riesigen, leuchtenden Aufkleber auf ein Verkehrsschild oder malt ein seltsames Muster auf einen Verkehrshütchen. Das Auto sieht das, wird verwirrt und fährt falsch.
  • Das Problem: In der echten Welt klebt niemand solche verrückten Aufkleber auf die Straße. Wenn das Auto nur auf solche „Kunstwerke" reagiert, ist das nicht wirklich gefährlich. Es ist wie ein Schüler, der nur dann einen Fehler macht, wenn jemand eine rote Brille aufsetzt – aber in der echten Welt trägt niemand rote Brillen.

2. Die neue Idee: Die „natürliche" Falle

Die Forscher dachten sich: „Was, wenn wir das Auto mit ganz normalen Dingen verwirren, die jeder kennt?"
Stellen Sie sich vor, Sie stellen einen Müllbehälter, eine Bank oder einen Baum an eine Stelle, die perfekt legal ist. Niemand würde es bemerken, und ein menschlicher Fahrer würde sofort verstehen: „Das ist nur ein Müllbehälter."

Aber für das selbstfahrende Auto ist das eine Falle.

Die Analogie:
Stellen Sie sich vor, Sie stehen in einer Menschenmenge. Wenn jemand einen roten Ballon hält, sehen Sie ihn sofort. Aber wenn sich 50 Menschen genau so aufstellen, dass sie aus Ihrer Perspektive wie eine riesige Mauer aussehen, könnten Sie denken, da sei eine Wand, obwohl es nur Menschen sind.

TRASHFUZZ sucht nach genau solchen Konstellationen:

  • Wo muss ein Müllbehälter stehen?
  • Wie muss eine Bank gedreht sein?
  • Wie viele Bäume dürfen in der Nähe stehen?

Alles muss den offiziellen Bauvorschriften entsprechen (wie bei einem echten Stadtplaner), aber die Kombination muss das Auto so verwirren, dass es denkt: „Oh nein, da ist ein Fußgänger!" oder „Die Ampel ist grün, obwohl sie rot ist!"

3. Wie TRASHFUZZ arbeitet: Der digitale Detektiv

Das System ist wie ein digitaler Detektiv, der Millionen von Szenarien durchspielt, bevor sie auf der echten Straße passieren.

  1. Der Bauplan: Der Detektiv nimmt sich die offiziellen Regeln für Mülltonnen und Bäume zur Hand. Er weiß genau, wie weit ein Baum von der Straße entfernt sein muss.
  2. Das Chaos-Experiment: Er stellt zufällig Mülltonnen, Bänke und Laternen an verschiedene, aber erlaubte Stellen.
  3. Der Test: Er schickt das selbstfahrende Auto (in einer Simulation) durch diese Szenerie.
  4. Die Analyse: Wenn das Auto stolpert, zögert oder gegen eine rote Ampel fährt, hat der Detektiv einen Treffer gelandet.
  5. Der Clou (Gradienten-Suche): Das System ist nicht dumm. Wenn es merkt, dass ein Müllbehälter fast das Auto verwirrt hat, rutscht er ihn ein kleines Stück weiter. Es ist wie beim Schrauben an einem Radio: Man dreht den Knopf ein bisschen, hört zu, ob der Empfang besser wird, und dreht weiter, bis das Rauschen (der Fehler) perfekt ist.

4. Was haben sie herausgefunden?

Das Ergebnis ist erschreckend, aber wichtig:

  • Das Auto wurde von ganz normalen Dingen getäuscht.
  • In einem Fall hat eine harmlose Anordnung von Mülltonnen das Auto so überfordert, dass es eine rote Ampel für grün hielt. Das wäre im echten Leben ein Unfall gewesen!
  • Das Auto zögerte, beschleunigte falsch oder ignorierte andere Verkehrsteilnehmer, nur weil ein paar Bänke und Tonnen an „richtigen", aber unglücklichen Stellen standen.

5. Warum ist das wichtig?

Bisher haben wir gedacht: „Solange die Autos keine verrückten Aufkleber sehen, sind sie sicher."
Diese Studie zeigt: Nein, das reicht nicht.

Die Regeln, wie wir Mülltonnen und Bäume aufstellen, wurden für menschliche Augen gemacht. Menschen verstehen Kontext: „Das ist ein Müllbehälter, er bewegt sich nicht." Ein Computer sieht nur Datenpunkte. Wenn die Datenpunkte durch die Anordnung von normalen Objekten „schummeln", fällt der Computer auf die Falle herein.

Fazit:
TRASHFUZZ ist wie ein Sicherheits-Check, der sagt: „Hey, wir müssen unsere Stadtplanung überdenken. Vielleicht müssen Mülltonnen eine bestimmte Form haben oder Bäume nicht so nah an Ampeln stehen, damit die Roboter-Autos nicht verrückt spielen."

Es ist eine Erinnerung daran, dass wir, wenn wir Autos bauen, die wie Menschen denken sollen, auch unsere Umwelt so gestalten müssen, dass sie für diese „neuen Augen" sicher ist.