SimScale: Learning to Drive via Real-World Simulation at Scale

Probleemstelling

Het ontwikkelen van volledig autonome rijsystemen vereist dat modellen rationele beslissingen kunnen nemen in een breed scala aan scenario's, inclusief veiligheidskritieke situaties en "out-of-distribution" (OOD) gevallen (zeldzame gebeurtenissen).

• Data-tekort: Bestaande real-world datasets, verzameld door menselijke experts, worden gedomineerd door alledaagse situaties. Gevaarlijke of zeldzame situaties zijn ondervertegenwoordigd.
• Generalisatieprobleem: Planneren die uitsluitend op deze data worden getraind, blijven beperkt tot de menselijke rijdistributie en worstelen met generalisatie naar nieuwe of ongeziene situaties, wat leidt tot distributieveranderingen en causale verwarring tijdens implementatie.
• Beperkingen van simulatie: Hoewel neurale rendering (zoals 3DGS) hoogwaardige visuele scenario's kan genereren, missen bestaande methoden vaak de mogelijkheid om haalbare demonstraties (acties) te genereren voor deze gegenereerde OOD-toestanden. Zonder deze "pseudo-expert" acties kunnen modellen niet leren hoe ze deze nieuwe situaties moeten aanpakken.

Methodologie: SimScale

De auteurs introduceren SimScale, een schaalbaar simulatie- en leerframework dat real-world data uitbreidt met gesimuleerde data. Het systeem bestaat uit drie kerncomponenten:

1. Schaalbare Simulatie-Data Generatie

• 3DGS Simulatie-Engine: Het framework gebruikt 3D Gaussian Splatting (3DGS) om fotorealistische multi-view observaties te renderen vanuit een gereduceerde real-world dataset. Hierdoor kan de omgeving worden gemanipuleerd terwijl de visuele kwaliteit hoog blijft.
• Trajectoïe-perturbatie: Het systeem neemt bestaande menselijke rijtrajecten en introduceert diverse, plausible verstoringen (bijv. afwijken van de rijbaan, nauwe interacties). Dit creëert nieuwe starttoestanden die buiten de oorspronkelijke menselijke distributie liggen.
• Reactieve Omgeving: De simulatie vindt plaats in een reactieve omgeving waarbij andere verkeersdeelnemers (agenten) reageren op het gedrag van het eigen voertuig (ego), wat de realisme en diversiteit verhoogt.

2. Pseudo-Expert Trajectoïe Generatie

Om de gegenereerde OOD-toestanden te leren, zijn er "labels" (acties) nodig. SimScale introduceert twee strategieën voor het genereren van pseudo-expert trajecten:

• Recovery-based Expert: Zoekt in een vocabulaire van menselijke trajecten naar de beste match om het voertuig veilig terug te brengen naar de menselijke rijdistributie. Dit levert conservatief, menselijk gedrag op.
• Planner-based Expert (Privileged Planner): Gebruikt een geavanceerde, regelgebaseerde planner (die toegang heeft tot grondwaarheid) om de optimale route te berekenen. Dit is meer exploratief en kan oplossingen bieden die menselijk gedrag overstijgen, maar minder menselijk lijken.

3. Sim-Real Co-training

De auteurs gebruiken een co-trainingstrategie waarbij modellen worden getraind op een mix van echte real-world data en de gegenereerde simulatiedata.

• Doel: Behoud van de menselijke rijdistributie (door real data) terwijl de robustheid en generalisatie worden verbeterd (door simulatiedata).
• Schaalbaarheid: De real-world dataset blijft constant, terwijl de hoeveelheid simulatiedata progressief wordt verhoogd om de schaalwetten te bestuderen.

Kernbijdragen

1. Schaalbaar Framework: Een volledig geautomatiseerd pipeline dat OOD-toestanden genereert uit beperkte real-world logs en deze koppelt aan haalbare demonstraties via pseudo-experts.
2. Ontdekking van Pseudo-Expert Effectiviteit: Het paper toont aan dat exploratieve pseudo-experts (planner-based) effectiever zijn voor schaalbaarheid dan conservatieve experts (recovery-based), omdat ze een bredere diversiteit aan oplossingen bieden.
3. Multimodaliteit is Cruciaal: Modellen die multimodale planning ondersteunen (zoals Diffusion-modellen of Vocabulary Scoring) profiteren aanzienlijk meer van de schaalbare simulatiedata dan enkelvoudige regressiemodellen. Dit komt omdat simulatie meerdere mogelijke oplossingen (multi-peak distributies) introduceert die regressiemodellen verwarren, maar die generatieve modellen goed kunnen modelleren.
4. Beloning is Alles wat Je Nodig Hebt: Voor scoring-based planners (zoals GTRS-Dense) bleek dat trainen op alleen beloningssignalen (zonder expliciete expert-trajecten) in de simulatie zelfs betere resultaten oplevert dan met expert-supervisie.

Resultaten

De methode werd geëvalueerd op de NAVSIM-v2 benchmarks (navhard en navtest) met drie verschillende planner-families:

• Regressie: LTF
• Diffusie: DiffusionDrive
• Vocabulary Scoring: GTRS-Dense

Belangrijkste bevindingen:

• Prestatieverbetering: Sim-Real co-training leidt tot significante verbeteringen in zowel robustheid als generalisatie.
  • Op de navhard benchmark (veiligheidskritieke scenario's) werd een verbetering van +8.6 EPDMS (Evaluation Point Distance Metric Score) behaald voor GTRS-Dense.
  • Op de navtest benchmark (diverse scenario's) werd een verbetering van +2.9 EPDMS behaald.
• Schaalwetten: De prestaties verbeteren voorspelbaar naarmate de hoeveelheid simulatiedata toeneemt, zelfs zonder extra real-world data.
• SOTA: De combinatie van SimScale met GTRS-Dense (V2-99 backbone) vestigde een nieuw state-of-the-art resultaat op de navhard leaderboard.
• Reactiviteit: Simulaties met reactieve agenten (IDM) presteerden aanzienlijk beter dan niet-reactieve simulaties, wat het belang van interactie benadrukt.

Betekenis en Impact

• Efficiëntie: SimScale lost het probleem op van het gebrek aan zeldzame, kritieke data door deze synthetisch maar realistisch te genereren. Het maakt het mogelijk om bestaande datasets te "vermenigvuldigen" met waarde.
• Algemene Toepasbaarheid: Het framework is model-agnostisch en werkt voor verschillende architecturen (regressie, diffusie, scoring).
• Toekomstperspectief: Het paper onderstreept dat de toekomst van end-to-end autonoom rijden ligt in de combinatie van real-world data met schaalbare, reactieve simulatie, waarbij multimodale modellen essentieel zijn om de complexiteit van deze data te verwerken.
• Open Source: De auteurs hebben de simulatiedata en de code openbaar gemaakt (GitHub), wat de gemeenschap in staat stelt om verder te bouwen op deze methoden.

Kortom, SimScale bewijst dat het systematisch schalen van simulatiedata, gekoppeld aan slimme pseudo-expert strategieën en co-training, een krachtige en noodzakelijke route is naar robuustere en veiligere autonome rijsystemen.