HomeSafe-Bench: Evaluating Vision-Language Models on Unsafe Action Detection for Embodied Agents in Household Scenarios

Dit paper introduceert HomeSafe-Bench, een benchmark voor het evalueren van visueel-taalmodellen op het detecteren van onveilige handelingen in huishoudelijke omgevingen, en stelt HD-Guard voor, een hiërarchisch beveiligingssysteem dat efficiëntie en nauwkeurigheid combineert voor realtime monitoring.

De kern

🏠 HomeSafe-Bench: De "Voorzichtigheids-Check" voor Robotjes in Huis

Stel je voor dat je een slimme robot hebt die voor je huis moet zorgen. Hij kan stofzuigen, borden afwassen en misschien wel je koffie zetten. Maar wat gebeurt er als hij per ongeluk een metalen lepel in de magnetron doet, of een glas water op je dure radio morst?

Tot nu toe waren de tests voor deze robotjes vooral gericht op: "Kan hij de taak doen?" (bijv. "Haal de melk uit de koelkast"). Maar niemand keek echt goed naar: "Kan hij zichzelf en jou niet in gevaar brengen?"

De auteurs van dit paper (van o.a. de Renmin Universiteit in China) zeggen: "Hé, dat is een groot probleem!" En daarom hebben ze twee dingen bedacht: een nieuwe test en een slimme veiligheids-guard.

---

1. De Nieuwe Test: HomeSafe-Bench 🎬

Stel je voor dat je wilt testen of een beginnende chauffeur veilig rijdt. Je zou niet alleen kijken of hij de auto kan starten, maar ook of hij remt als er plotseling een kind de weg oversteekt.

HomeSafe-Bench is precies zo'n test, maar dan voor robots in huis.

• Het is geen saaie lijst: Het is een verzameling van 438 video's van robots die dingen doen die gevaarlijk kunnen zijn. Denk aan: een robot die een heet pannetje vastpakt, een glas breekt, of iets zwaars laat vallen.
• Hoe maakten ze dit? Ze hebben niet gewoon echte robots laten crashen (dat is te duur en gevaarlijk!). In plaats daarvan gebruikten ze een mix van computersimulaties (virtuele robots) en AI-generatoren die realistische video's maken. Het is alsof ze een hele filmstudio hebben gebouwd waar robots alleen maar ongelukken doen, zodat ze die veilig kunnen bestuderen.
• De details: Ze hebben elke video heel nauwkeurig gekeken. Niet alleen "is het gevaarlijk?", maar ook: "Hoe gevaarlijk?", "Hoe moeilijk is het om te zien?" en "Wanneer had de robot moeten reageren?".

Kortom: Het is de "rijbewijstest" voor robots, maar dan met een focus op ongelukken in plaats van alleen op het rijden.

---

2. Het Probleem met de Huidige Robothersenen 🧠

De onderzoekers hebben gekeken naar de slimste robots (de zogenaamde "Vision-Language Models" of VLMs) die nu bestaan. En het nieuws is niet helemaal goed:

• Ze zijn vaak te bang: Sommige robots zien een schaduw en denken: "Oh nee, brand!" en stoppen alles. Ze zijn te snel met alarm slaan (veel valse alarmen).
• Ze zijn soms te slordig: Andere robots zien een gevaar gewoon niet omdat ze niet goed kijken of niet begrijpen hoe de wereld werkt (bijv. ze weten niet dat water en stroom niet samengaan).
• Ze zijn te traag: Als een robot 5 seconden nodig heeft om na te denken of iets gevaarlijk is, is het vaak al te laat. De schade is al aangericht.

---

3. De Oplossing: HD-Guard (De Twee-Hersenen-Strategie) 🚦

Om dit op te lossen, hebben ze HD-Guard bedacht. Dit is een slim systeem dat werkt met twee hersenen die samenwerken, net als een auto met een rem en een navigator.

🏃 De "Snelle Hersen" (FastBrain)

• Wat doet hij? Dit is een klein, supersnel robotje. Hij kijkt continu naar de beelden (zoals een reflex).
• Hoe werkt het? Hij gebruikt een verkeerslicht-systeem:
  • 🟢 Groen: Alles is veilig. Ga maar door.
  • 🟡 Geel: "Hé, iets ziet er raar uit." (Bijvoorbeeld: de robot loopt naar een tafel toe). Hij schakelt dan over naar een hogere snelheid om beter te kijken.
  • 🔴 Rood: "STOP! Onmiddellijk gevaar!" (Bijvoorbeeld: de robot valt om). Hij schakelt direct de noodrem in.
• Vergelijking: Dit is als je reflexen. Als er een bal op je hoofd afkomt, duw je je hoofd weg voordat je zelfs maar weet wat er gebeurt.

🧐 De "Trage Hersen" (SlowBrain)

• Wat doet hij? Dit is een heel groot, slim robotbrein. Hij is langzaam, maar denkt diep na.
• Hoe werkt het? Hij wordt alleen ingeschakeld als de Snelle Hersen "Geel" zegt. Dan kijkt hij naar de situatie en vraagt hij zich af: "Waarom loopt de robot daarheen? Is dat glas echt vol met water? Zal dat ontploffen?"
• Vergelijking: Dit is als je verstand. Als je ziet dat iemand een glas water vasthoudt, denkt je verstand: "Oh, als hij struikelt, wordt de vloer nat." De Snelle Hersen ziet alleen het glas; de Trage Hersen begrijpt de gevolgen.

De magie: De Snelle Hersen zorgt dat je niet te laat bent, en de Trage Hersen zorgt dat je niet onnodig stopt. Ze werken samen om het perfecte evenwicht te vinden tussen snelheid en slimheid.

---

4. Wat leerden we? 🎓

De tests met HomeSafe-Bench en HD-Guard leerden ons een paar belangrijke dingen:

1. Groot is niet altijd beter: De allerduurste, grootste robots maken soms meer fouten dan kleinere, snellere modellen. Soms is een simpel, snel reflex beter dan een traag, ingewikkeld denkproces.
2. De "Twee-Hersenen" methode werkt: HD-Guard was de enige die het beste van twee werelden combineerde: hij was snel genoeg om ongelukken te voorkomen, maar slim genoeg om geen valse alarmen te slaan.
3. We moeten beter kijken: Veel robots missen simpele dingen (zoals een glas op de grond) of begrijpen niet waarom iets gevaarlijk is (zoals een gesloten doos in de magnetron).

Conclusie 🚀

Dit onderzoek is een grote stap voorwaarts. Het zegt eigenlijk: "Laten we niet alleen kijken of robots kunnen werken, maar of ze veilig werken." Met HomeSafe-Bench hebben we nu een eerlijke testbaan, en met HD-Guard hebben we een veiligheidsriem die echt werkt.

Dankzij dit werk kunnen we in de toekomst misschien wel een robot in huis hebben die niet alleen je huis schoonmaakt, maar ook zorgt dat niemand erbij in de problemen komt. 🤖✨

Technische samenvatting

Hieronder volgt een gedetailleerde technische samenvatting van het paper "HomeSafe-Bench: Evaluating Vision-Language Models on Unsafe Action Detection for Embodied Agents in Household Scenarios" in het Nederlands.

Probleemstelling

De snelle evolutie van embodied agents (robots die in de fysieke wereld handelen) heeft geleid tot een versnelde implementatie van huishoudelijke robots. In tegenstelling tot gestructureerde industriële omgevingen, zijn huishoudens ongestructureerde ruimtes met onvoorspelbare veiligheidsrisico's. Bestaande systemen kampen met beperkingen zoals perceptielatentie, gemiste visuele detecties en gebrek aan gezond verstand (common sense), wat kan leiden tot gevaarlijke fouten (bijv. het plaatsen van metaal in een magnetron).

Huidige veiligheidsbeoordelingen zijn ontoereikend omdat ze vaak beperkt blijven tot:

1. Statische afbeeldingen of tekst.
2. Algemene gevaren in plaats van specifieke agent-gedragingen.
3. Benchmarks die veiligheid en actieplanning te sterk koppelen, waardoor het onafhankelijk evalueren van Vision-Language Models (VLMs) als veiligheidsmonitoren onmogelijk wordt.

Er ontbreekt een specifiek raamwerk om te testen hoe goed VLMs onveilige acties van robots in realistische huishoudelijke scenario's kunnen detecteren.

Methodologie

Het paper introduceert twee hoofdcomponenten: een nieuwe benchmark en een nieuw architectonisch model voor veiligheidsdetectie.

1. HomeSafe-Bench (De Benchmark)

HomeSafe-Bench is een uitdagende dataset bestaande uit 438 video-gevallen over zes functionele huishoudelijke gebieden (slaapkamer, badkamer, woonkamer, eetkamer, studeerkamer, balkon).

• Constructie: De dataset is opgebouwd via een hybride pijplijn die fysieke simulatie combineert met geavanceerde videogeneratie (met behulp van modellen zoals Veo-3.1 en het BEHAVIOR-simulatieplatform). Dit zorgt voor zowel fysieke nauwkeurigheid als visuele realisme.
• Data-analyse: De video's zijn fijnmazig geannoteerd langs vier dimensies:
  • Tijdsfasen: Intentie-aanvang, punt van geen terugkeer (PNR), interventiedeadline (200ms voor PNR) en impact.
  • Gevarencategorieën: Mechanisch (stoten/slaan), snijwonden, thermisch/elektrisch/chemisch, en milieuschade.
  • Ernst: Van L1 (klein) tot L4 (kritiek/levensbedreigend), gebaseerd op NEISS-richtlijnen.
  • Redeneercomplexiteit: D1 (perceptueel), D2 (fysisch eigenschappen), D3 (causaal/latent risico).
• Kwaliteitsborging: Een strikt dubbel-annotatieproces met hoge onderlinge overeenstemming (Cohen's κ en Lin's CCC) en herannotatie van conflicterende samples.

2. HD-Guard (De Oplossing)

Om de latentie-accuraatheid trade-off op te lossen, stellen de auteurs Hierarchical Dual-Brain Guard for Household Safety (HD-Guard) voor. Dit is een hiërarchische streaming-architectuur:

• FastBrain (Lightweight): Een klein, snel VLM (bijv. MiniCPM-o-4.5) dat continu video-streams scant (tot 10 FPS). Het classificeert elke frame in een verkeerslicht-status:
  • Groen: Veilig (lage sampling rate).
  • Geel: Potentieel risico (verhoogde sampling rate en trigger voor SlowBrain).
  • Rood: Onmiddellijk gevaar (directe interventie).
• SlowBrain (Groot & Diep): Een groot VLM (bijv. Qwen3-VL-30B) dat alleen wordt geactiveerd bij "Geel" statussen. Het voert diepe multimodale redenering uit met Chain-of-Thought (CoT) om fysieke wetten en intenties te analyseren.
• Integratie: De systemen werken asynchroon. De FastBrain behoudt real-time bewaking en kan de SlowBrain's oordeel overrulen als de situatie verslechtert naar "Rood" tijdens de berekening.

Belangrijkste Bijdragen

1. HomeSafe-Bench: De eerste dedicated benchmark voor het evalueren van VLMs op onveilige actie-detectie in huishoudelijke omgevingen, met fysiek accurate en visueel realistische data.
2. HD-Guard Architectuur: Een real-time dubbel-brein detector die een optimale balans bereikt tussen lage end-to-end latentie en hoge detectiekwaliteit.
3. Uitgebreide Evaluatie: Een diepgaande analyse van bestaande VLMs die blootlegt dat deze vaak kritieke visuele entiteiten missen, zwakke temporale grounding hebben en moeite hebben met causaal redeneren.

Resultaten

De experimenten op HomeSafe-Bench tonen de volgende inzichten:

• Open-source vs. Closed-source: Open-source modellen (zoals InternVL3.5-8B) presteren vaak beter dan gesloten modellen (zoals GPT-5.1) op specifieke veiligheidsopgaven.
• Aandacht voor Valse Alarmen: Top-modellen lijden vaak onder "over-reactie" (hoge valse alarmen), wat ze onpraktisch maakt voor industriële inzet.
• Schaal is niet alles: Het vergroten van het model alleen garandeert geen betere veiligheid; kleine modellen kunnen efficiënter zijn als frontline filter.
• HD-Guard Prestaties:
  • HD-Guard bereikt een superieure Pareto-grens tussen latentie en veiligheidsscore.
  • Het verbetert de veiligheidsscore met 38% ten opzichte van de FastBrain alleen, terwijl de latentie bijna gelijk blijft.
  • Het reduceert visuele omissies van 30,4% (bij baselines) naar 0,5% en elimineert redeneerfouten in complexe scenario's (D3) volledig.
• Foutanalyse: Bestaande modellen missen vaak kritieke visuele entiteiten en hebben moeite met het voorspellen van latente gevaren. HD-Guard mitigeert dit door perceptie en redenering te scheiden.

Betekenis en Impact

Dit werk is van cruciaal belang voor de veilige deploy van embodied agents in huishoudens. Het benadrukt dat veiligheid niet alleen een kwestie is van "slimmer" maken van modellen, maar ook van de juiste architectuur (zoals HD-Guard) die rekening houdt met real-time beperkingen. HomeSafe-Bench biedt een gestandaardiseerde manier om toekomstige modellen te testen op fysieke veiligheid, terwijl HD-Guard een bewezen, efficiënte oplossing biedt voor real-time risicobeperking zonder in te leveren op diepgang van analyse. De bevindingen wijzen erop dat toekomstige systemen moeten focussen op het combineren van snelle perceptie met gespecialiseerde redeneermodules om ongelukken effectief te voorkomen.