SocialNav: Training Human-Inspired Foundation Model for Socially-Aware Embodied Navigation

Het paper introduceert SocialNav, een fundamenteel model voor sociaal bewust navigatie dat, dankzij een hiërarchische architectuur, een nieuw dataset van 7 miljoen voorbeelden en een innovatieve versterkingsleermethode genaamd SAFE-GRPO, aanzienlijk betere prestaties en naleving van sociale normen bereikt dan bestaande methoden.

De kern

SocialNav: De "Hofmeester" voor Robotjes die zich netjes gedragen

Stel je voor dat je een robotje hebt dat door een drukke stad moet lopen. De meeste robots zijn als een racewagen: ze willen zo snel mogelijk van A naar B, zelfs als ze daarvoor over het gras lopen, door een bloementuin rennen of bijna een fietser omverrijden. Voor hen is de kortste weg de enige goede weg.

Maar mensen? Wij zijn anders. Wij lopen niet over het gras als er een stoep is. Wij wachten op het groene licht, ook als de weg leeg is. Wij geven anderen de ruimte. Dit paper introduceert SocialNav, een slim robotbrein dat leert om niet alleen snel, maar ook netjes en sociaal te bewegen.

Hier is hoe het werkt, vertaald in alledaagse termen:

1. Het Probleem: De "Rijders" vs. De "Hofmeesters"

Tot nu toe waren robot-navigatie-systemen als automatische piloot in een raceauto. Ze kijken alleen naar de afstand en de obstakels. Als er een struik in de weg staat, gaan ze er niet omheen; ze proberen er dwars overheen te springen of rennen er tegenaan. Dat werkt prima in een leeg veld, maar in een stad met mensen? Dat is een ramp. Mensen vinden het vervelend als een robot over hun gazon loopt of ze in de weg staat.

SocialNav is de oplossing. Het is geen racewagen meer, maar een uitgelezen hofmeester die weet hoe je je gedraagt in een drukke tuinfeest.

2. De Oplossing: Een Brein en een Lijf

SocialNav werkt met een slimme tweedeling, net als een mens:

• Het Brein (De "Denker"): Dit is een super-slimme computer die kan kijken en denken. In plaats van alleen te zeggen "ga naar links", zegt hij: "Kijk, daar is een stoep. Dat is waar mensen lopen. Die bloementuin is verboden terrein. Laten we daar niet overheen lopen, want dat is onbeleefd."
  • Het denkt zelfs hardop na (zoals een mens die een plan maakt): "Eerst wachten tot die meneer voorbij is, dan rechtdoor, want daar is een zebrapad."
• Het Lijf (De "Uitvoerder"): Dit is de robot zelf. Hij luistert naar het Brein en beweegt zijn poten. Hij zorgt dat de bewegingen soepel zijn en precies op de stoep blijven, net zoals een mens dat zou doen.

3. De Training: Hoe leer je een robot netjes zijn?

Je kunt een robot niet zomaar vertellen "wees beleefd". Je moet het hem leren. De onderzoekers hebben drie slimme stappen bedacht:

• Stap 1: Kijken naar de wereld (De "Videobibliotheek")
  Ze hebben 7 miljoen voorbeelden verzameld. Denk aan miljoenen video's van mensen die door steden lopen, plus simulaties. De robot kijkt naar deze video's en leert: "Oh, mensen lopen hier op de stoep, niet op de weg."
• Stap 2: Oefenen met echte robots (De "Praktijk")
  Daarna laten ze echte robotjes oefenen in de echte wereld. Ze leren hoe het voelt om over asfalt te lopen versus over gras. Dit maakt de robot minder stijf en meer natuurlijk.
• Stap 3: De "Gouden Regel" (De "Beloning")
  Dit is het meest creatieve deel. Stel je voor dat je een hond traint. Als hij goed doet, krijgt hij een snoepje. Als hij op het gras springt, krijgt hij geen snoepje.
  De onderzoekers hebben een speciaal systeem bedacht (SAFE-GRPO) dat de robot belooft als hij zich sociaal correct gedraagt.
  • Goed: Hij loopt op de stoep en geeft ruimte aan mensen -> Beloning!
  • Slecht: Hij rent over het gras of rijdt iemand bijna aan -> Geen beloning.
    Zo leert de robot dat "beleefd zijn" belangrijker is dan "snel zijn".

4. Het Resultaat: Een Robot die je niet meer stoort

De tests tonen aan dat SocialNav veel beter is dan de oude robots.

• Succes: Hij komt vaker aan bij zijn bestemming.
• Netheid: Hij loopt 46% vaker op de juiste plekken (zoals stoepen) en vermijdt verboden zones (zoals gazon of bloembakken).
• Sociaal: Mensen voelen zich veiliger en minder gestoord. De robot gedraagt zich als een goed opgeleide gast, niet als een wilde hond.

Samenvattend

SocialNav is een doorbraak omdat het robots leert om niet alleen te navigeren, maar ook om te socialiseren. Het is alsof je een robotje van een racewagen verandert in een beleefde wandelaar die weet dat er regels zijn, en die die regels respecteert, zelfs als niemand kijkt.

Het is een grote stap naar een toekomst waarin robots echt onderdeel kunnen zijn van ons drukke, menselijke leven, zonder ons in de weg te lopen of onze bloementuin te verwoesten.

Technische samenvatting

Probleemstelling

Bestaande methoden voor embodied navigatie (robotnavigatie) focussen voornamelijk op operationele efficiëntie, zoals het vinden van de kortste weg en het vermijden van fysieke botsingen. Ze negeren echter vaak de sociale conformiteit die essentieel is voor een veilige integratie in menselijke omgevingen. Robots die puur op geometrische optimaliteit opereren, kunnen zich gedragen als "jaywalkers" (illegaal oversteken), betreden van beperkte zones (zoals gazons of bloembedden) of ongemakkelijke routes kiezen die menselijke sociale normen schenden. Er is een gebrek aan modellen die zowel hoogwaardig sociaal redeneren als lage-niveau, sociaal geaccepteerde trajecten kunnen genereren.

Methodologie

SocialNav is een hiërarchisch fundamenteel model met een "Brain-Action" architectuur, ontworpen om sociale normen te begrijpen en deze om te zetten in gedrag. Het systeem bestaat uit twee hoofdcomponenten en een meervoudig trainingsproces.

1. Architectuur

• Brain Module (Cognitieve Kern): Gebaseerd op een Vision-Language Model (VLM), specifiek Qwen2.5-VL. Deze module voert hoog-niveau semantisch redeneren uit en genereert interpreteerbare outputs:
  • Voorspelling van sociaal doorgangbare gebieden (bijv. stoepen, oversteekplaatsen).
  • Chain-of-Thought (CoT) redenering voor navigatiebeslissingen.
  • Antwoorden op visuele vragen (VQA) om de context te begrijpen.
• Action Expert (Actie-Generator): Gebaseerd op Conditioned Flow Matching. Deze module vertaalt de semantische priors van de Brain-module naar robot-uitvoerbare trajecten. Het koppelt het hoge niveau redeneren los van de lage niveau controle, maar behoudt de semantische connectie.

2. SocNav Dataset (7 miljoen samples)

Om dit model te trainen, hebben de auteurs een grote, heterogene dataset samengesteld:

• Expert Trajectories Pyramid (ETP): Een drielaags pyramide van bewegingsdata:
  • Internet Video's (2M samples): Pseudo-trajecten afgeleid van wereldwijde stedelijke video's.
  • Hoge-fideliteit Simulatie (1,7M samples): Data uit SocCity (dynamische stad) en SocialGS (3D-gereconstrueerde sociale omgevingen), inclusief complexe "herstel"-scenario's (bijv. bijna-botsingen).
  • Real-world Robot Data (340K samples): Hoogwaardige trajecten van autonome robots in de echte wereld voor het dichten van de sim-to-real gap.
• Cognitive Activation Dataset (CAD): Een dataset voor cognitieve training, inclusief:
  • Sociale Doorgangbaarheid: 1,2 miljoen samples met handmatig geannoteerde polygonen van toegankelijke zones.
  • CoT Redenering: 825K samples met stap-voor-stap tekstuele uitleggen van navigatiebeslissingen.
  • Algemene VQA: 1 miljoen samples voor wereldkennis.

3. Trainingspipeline

Het model wordt getraind in drie fasen:

1. Pre-training: Imitatielearning op de ETP en CAD datasets om algemene navigatievaardigheden en sociaal redeneren in te brengen.
2. Fine-tuning: Aanpassing op real-world robotdata (Dreal) om de simulatie-realiteit kloof te verkleinen (alleen de Action Expert wordt geoptimaliseerd).
3. SAFE-GRPO (Reinforcement Learning): De kerninnovatie. Dit is het eerste flow-based RL-framework voor embodied navigatie dat expliciet sociale conformiteit belooft.
   • Het gebruikt een stochastische differentiaalvergelijking (SDE) voor gecontroleerde exploratie.
   • De beloning (reward) is gebaseerd op een semantische bezettingskaart en prioriteert trajecten die veilig zijn en sociale normen respecteren, zelfs als ze niet de kortste weg zijn.

Belangrijkste Bijdragen

1. SocialNav Foundation Model: Een hiërarchisch model dat semantisch sociaal redeneren (Brain) koppelt aan het genereren van norm-conforme trajecten (Action).
2. SAFE-GRPO Framework: Een nieuw RL-framework dat flow-matching combineert met norm-bewuste beloningen om agents te leren sociale conventies te internaliseren in plaats van alleen oppervlakkige acties te kopiëren.
3. SocNav Dataset & Benchmark: Een uitgebreid ecosysteem met 7 miljoen trainingsamples en een high-fidelity evaluatieplatform (gebaseerd op Isaac Sim en 3DGS) met 9 nieuwe sociale scènes voor rigoureuze testing.

Resultaten

SocialNav presteert significant beter dan de state-of-the-art (SOTA) methoden (zoals CityWalker, ViNT, NoMaD) in zowel open-loop, gesloten-loop als real-world tests.

• Succes率 (Success Rate): Een stijging van +38% ten opzichte van de beste bestaande methode (van ~48% naar 86,1%).
• Sociale Conformiteit: Een stijging van +46% in de rate van sociaal acceptabel gedrag (van ~36% naar 82,9%).
• Real-world Deployments: In tests met een Unitree Go2-robot in straten, kantoorparken en winkelcentra behaalde SocialNav een succesrate van 85%, vergeleken met 62,5% voor CityWalker.
• Ablatie Studies: De resultaten tonen aan dat de combinatie van cognitieve data (CoT/Traversability) en SAFE-GRPO cruciaal is. Zonder cognitieve priors (Dcog) presteert RL slechter, wat aantoont dat hoog-niveau begrip nodig is voor effectieve RL-optimalisatie.

Betekenis

Dit werk markeert een belangrijke mijlpaal in de ontwikkeling van sociale intelligentie voor robots. Het bewijst dat robots niet alleen efficiënt kunnen navigeren, maar ook kunnen opereren binnen complexe, dynamische menselijke omgevingen door sociale normen te respecteren (zoals het gebruik van trottoirs en het vermijden van grasvelden). De introductie van een flow-based RL-framework dat expliciet sociale conformiteit belooft, biedt een nieuwe richting voor het aligneren van robotgedrag met menselijke waarden, wat essentieel is voor de toekomstige inzet van robots in openbare ruimtes.