🤖 machine learning

Conformal Orbit-Valid Trust Horizons for Equivariant World Models

Dit artikel stelt een conform certificeringsframework voor latente wereldmodellen met bekende symmetrieën voor, waarbij wordt aangetoond dat exacte equivariantie de transport van gekalibreerde, niet-vacueuze vertrouwenshorizoncurven over groepsbanen mogelijk maakt terwijl nul anti-conservatieve schendingen worden bereikt in empirische audits.

Oorspronkelijke auteurs: Hongbo Wang

Gepubliceerd 2026-06-25

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Hongbo Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Hoe lang kun je een kristallen bol van een robot vertrouwen?

Stel je voor dat je een robot hebt die de toekomst probeert te voorspellen. De robot kijkt naar de wereld, doet een gok over wat er hierna zal gebeuren, en gebruikt die gok om zijn volgende zet te plannen. Dit wordt een "wereldmodel" genoemd.

Het probleem is dat deze robots niet perfect zijn. Als ze te ver in de toekomst kijken, worden hun gokken rommelig en foutief. Als ze handelen op basis van een slechte gok, kunnen ze botsen of iets laten vallen.

De Kernvraag: Hoe ver in de toekomst kan deze robot veilig kijken voordat zijn voorspellingen onbetrouwbaar worden?

Dit paper introduceert een "Trust Horizon Certificate" (Vertrouwenshorizon-certificaat). Denk aan een houdbaarheidsdatum voor de veiligheid van de voorspellingen van de robot. Het doet niet alleen een gok; het bewijst wiskundig: "Je kunt deze voorspelling precies X stappen lang vertrouwen, maar niet verder."

Het Geheime Wapen: Symmetrie (Het "Orbit"-concept)

De robots in dit onderzoek hebben een speciale superkracht: Symmetrie.

Stel je een robot voor die speelt met een bal op een perfect ronde, wrijvingsloze tafel.

Als de robot de bal naar het Noorden duwt, leert hij hoe de bal rolt.
Omdat de tafel rond is en de natuurkunde overal hetzelfde is, zou de robot precies moeten weten hoe de bal zou rollen als hij naar het Oosten, Zuiden of Westen zou worden geduwd. Het is hetzelfde spel, alleen geroteerd.

In wiskundige termen wordt dit Equivariantie genoemd. De robot begrijpt dat de regels van het spel niet veranderen alleen omdat je de tafel draait.

De Grote Ontdekking van het Paper:
Normaal gesproken moet een robot, om veilig te zijn, zijn voorspellingen in elke richting testen (Noord, Oost, Zuid, West) om er zeker van te zijn dat het overal werkt. Dat kost veel tijd en data.

Maar omdat deze robot symmetrie begrijpt, vonden de auteurs een afkorting:

Als je bewijst dat de robot veilig is in één richting (een "wedge"), dan weet je automatisch dat hij in alle richtingen veilig is.

Het is als het testen van een band op een auto. Als je bewijst dat de band standhoudt wanneer de auto naar het Noorden rijdt, en je weet dat de auto perfect symmetrisch is, hoef je niet te testen terwijl de auto naar het Oosten, Zuiden of Westen rijdt. Het "Vertrouwenscertificaat" dat je hebt gemaakt voor de reis naar het Noorden, is geldig voor de hele reis rond de wereld.

Hoe ze het "Vertrouwenscertificaat" bouwden

De auteurs gebruikten een statistische truc genaamd Conformal Prediction. Hier is de analogie:

De Ruwe Gok: De robot doet een voorspelling en zegt: "Ik denk dat ik voor 90% accuraat ben."
De Veiligheidsmarge: De auteurs zeggen: "We vertrouwen die 90% nog niet. Laten we een veiligheidsbuffer toevoegen." Ze vermenigvuldigen de fout met een factor (zoals het toevoegen van een marge van 10% aan de gewichtslimiet van een brug).
De Audit: Ze testen de robot 50 keer. In elke enkele test bleef de robot binnen de veiligheidsmarge.
Het Resultaat: Ze creëerden een certificaat dat zegt: "We zijn 95% zeker dat deze robot binnen deze tijdslimiet niet zal falen."

De Magie: Vanwege de symmetrie (het "Orbit"-concept) hoefden ze deze tests alleen op een klein deel van de wereld uit te voeren. Zodra dat deel gecertificeerd was, bewees de wiskunde dat de volledige cirkel gratis gecertificeerd was.

De Twee Werelden: Waar het wel werkt en waar het niet werkt

De auteurs testten dit in twee verschillende omgevingen, en de resultaten waren verrassend genuanceerd:

1. De Ronde Tafel (2D Symmetrische Wereld)

De Opstelling: Een plat, perfect rond oppervlak waar alles vanuit elke hoek hetzelfde lijkt.
Het Resultaat: Zelfs robots zonder de symmetrie-superkracht (de "gewone" robots) werkten hier prima. Omdat de wereld zo simpel en rond was, hadden de gewone robots de regels per ongeluk ontdekt door simpelweg genoeg voorbeelden te zien.
De Les: In een perfect symmetrische wereld bespaart het hebben van een symmetrie-superkracht je niet veel tijd, omdat de wereld al makkelijk te leren is.

2. De 3D Tafelopstelling (De Echte Wereld)

De Opstelling: Een 3D-tafel waar de zwaartekracht naar beneden trekt. Je kunt de tafel om zijn as (yaw) draaien, maar je kunt hem niet ondersteboven keren (zwaartekracht verbreekt de volledige symmetrie).
**Het Result: Hier maakte de symmetrie-superkracht het verschil.
- De Symmetrische Robot kreeg een "One-Step Certificate". Hij hoefde slechts één richting te testen om overal elders veilig te zijn.
- De Gewone Robot faalde. Hij moest veel richtingen testen, of hij bleef fouten maken. Hij moest ofwel overdreven voorzichtig zijn (waardoor hij tijd verspilde), of hij overtrad de veiligheidsregels.
De Les: In complexe, echte scenario's waar symmetrie bestaat maar niet perfect is, bespaart de superkracht je een enorme hoeveelheid testtijd en risico.

De Valkuil: Het "Planning"-probleem

De auteurs probeerden dit certificaat te gebruiken om de robot te helpen bij het plannen van zijn bewegingen (zoals besluiten: "Ik zal mikken op een doel dat 3 stappen verderop ligt").

De Hoop: "Als het certificaat zegt dat ik veilig ben voor 3 stappen, dan plan ik 3 stappen vooruit."
De Realiteit: De interne "hersenen" (de voorspeller) van de robot waren een beetje wankel. Hoewel het certificaat "Veilig" zei, varieerde de werkelijke prestatie van de robot enorm per poging.
De Conclusie: Het certificaat is een geweldige veiligheidsreling, maar het maakte de robot in dit specifieke experiment niet automatisch een betere planner. De robot bleef worstelen met het exact voorspellen van hoe hij zijn arm moest bewegen om een doel te raken, zelfs als hij wist wanneer hij moest stoppen.

Samenvatting in één zin

Dit paper bewijst dat als een robot de symmetrische regels van zijn wereld begrijpt, je de veiligheid in slechts één richting kunt testen en wiskundig kunt garanderen dat hij in alle richtingen veilig is, wat enorme hoeveelheden tijd en data bespaart, hoewel dit niet automatisch elk planningsprobleem oplost waar de robot voor staat.

Technische Samenvatting: Conforme Orbit-Valide Vertrouwenshorizonten voor Equivariante Wereldmodellen

1. Probleemstelling

Getrainde wereldmodellen worden inherent beperkt door hun uitrolfout, die over de tijd degradeert. Hoewel modelgebaseerde planning en zelfsupervisie vertrouwen op het vooruitrollen van deze modellen, bestaat er geen principiële methode om de "vertrouwenshorizon" te bepalen—het specifieke aantal stappen waarover de voorspellingen van een model betrouwbaar blijven. Bestaande benaderingen vertrouwen vaak op vaste hyperparameters (bijv. een vaste horizon $H=25$ ) die specifiek zijn voor een enkele distributie en die geen formele garanties bieden.

Bovendien blijft voor wereldmodellen met bekende groepsymmetrieën (equivariante modellen) een cruciale vraag bestaan: Kan een vertrouwenscertificaat afgeleid van een lokale regio geldig zijn over de gehele groepsorbit zonder dat er voor elke getransformeerde staat een aparte kalibratie nodig is? Huidige methoden missen ofwel formele veiligheidsgaranties, of ze falen in het benutten van de geometrische structuur van equivariantie om de kalibratiekosten te verlagen.

2. Methodologie

2.1 De Equivariante Wereldmodel Setup

De auteurs definiëren een latent wereldmodel bestaande uit:

Encoder ( $E$ ): Brengt observaties $x$ in kaart naar latents $z$ .
Predictor ( $f$ ): Verplaatst latents geconditioneerd op acties $a$ ( $\hat{z}_{t+1} = f(z_t, a_t)$ ).
Symmetrie: Het model voldoet aan de equivariante condities waarbij $E(g \cdot x) = \rho(g)E(x)$ en $f(\rho(g)z, \sigma(g)a) = \rho(g)f(z,a)$ voor een groep $g \in \mathcal{G}$ .
Implementatie: Encoders worden gerealiseerd als CN-steerable netwerken (2D) of Vector-Neuron/SE(3) netwerken (3D). Equivariantie wordt geverifieerd via unit tests die residuen controleren tegen machineprecisie of geleerde toleranties.

2.2 Ruwe Horizon en Conforme Kalibratie

De kern van de methodologie betreft het construeren van een vertrouwenshorizon-certificaat:

Ruwe Curve: Een een-stap latent residu $\hat{\delta}$ en een eindige-tijd expansie schatting $\hat{\lambda}_1$ (afgeleid van de Jacobian van de predictor via Benettin/QR-schema's) vormen een ruwe foutpropagatiecurve:
$\widehat{Err}(H) = \hat{\delta} \sum_{t=0}^{H-1} e^{\hat{\lambda}_1 t}$
De ruwe horizon $H_{raw}$ is het maximale aantal stappen waarbij deze fout onder een tolerantie $\epsilon$ blijft.
Split-Conformal Kalibratie: Om statistische validiteit te garanderen, wordt de ruwe curve geschaald met een multiplicatieve factor $\gamma_\alpha$ $γ_{α}$ . De gecertificeerde horizon $H_{conf}$ $H_{co n f}$ is gedefinieerd zodanig dat $\widehat{Err}_{conf}(H) = \gamma_\alpha \widehat{Err}(H) \le \epsilon$ $E r r_{co n f} (H) = γ_{α} E r r (H) \leq ϵ$ .
- De factor $\gamma_\alpha$ wordt bepaald via split-conformal voorspelling op een kalibratieset, wat garandeert dat voor een nieuwe uitwisselbare audit, $P(H_{conf} \le H_{meas}) \ge 1-\alpha$ .
- Cruciaal is dat in de reproduceerbare auditset van de auteurs de ruwe curve al conservatief was, wat resulteerde in $\gamma_\alpha = 1.0$ .

2.3 Orbit-Valide Transport

Het artikel introduceert een structureel resultaat dat de statistische kalibratie combineert met de geometrische eigenschap van equivariantie:

Theorem A (Orbit Transport): Als het model exact equivariant is, zijn uitrolfouten, expansiesnelheden en de resulterende horizoncurves constant langs de groepsorbit.
Corollary C (Orbit-Valide Certificaat): Als een certificaat gekalibreerd is op een fundamentele regio (een "wedge") en exacte equivariantie geldt, dan is het certificaat geldig voor de gehele orbit met dezelfde betrouwbaarheid $1-\alpha$ .
Implicatie: Equivariantie transformeert de orbit-brede dekking gebeurtenis (die een vereniging over alle groepstransformaties zou vereisen, inclusief union bounds en enorme hoeveelheden data) naar een enkele gekalibreerde gebeurtenis. Dit elimineert de noodzaak voor orbit-wijze kalibratiedata.

2.4 Omgaan met Benaderde Equivariantie

Aangezien getrainde netwerken slechts benaderend equivariant zijn, houden de auteurs rekening met transportresiduen ( $R_t$ ) met behulp van Lipschitz-bounds op de encoder- en predictor-defecten. Empirisch werden deze residuen klein gevonden (mediaan 1,1%), waardoor het certificaat met minimale inflatie geldig blijft.

3. Belangrijkste Bijdragen

Conforme Vertrouwenshorizon-Certificaat: Een methode om een ruwe latente foutpropagatiecurve om te zetten in een eenzijdige, conservatieve certificering met behulp van split-conformal kalibratie. De methode behaalde 0/50 anti-conservatieve schendingen op stabiele audits, met een exacte-binomiale 95% bovengrens van 5,8% op de schendingsratio.
Orbit-Validiteitstheorema: Een bewijs dat exacte equivariantie toestaat dat een certificaat, gekalibreerd op één sector, over de gehele groepsorbit getransporteerd kan worden zonder extra kalibratiekosten (Corollary C).
Scherpte en Residu-rekening: Het certificaat is niet-vacuüm, met een mediane gecertificeerde-tot-gemeten horizonratio ( $H_{conf}/H_{meas}$ ) van 0,67. Implementatie-niveau transportresiduen waren klein (mediaan 1,1%, max 4,1%).
Substraat-Afhankelijke Kalibratiekosten: Het artikel identificeert dat het voordeel van equivariantie in het reduceren van kalibratiekosten conditioneel is op het datasubstraat.
- 2D Symmetrisch Substraat: Niet-equivariante baselines waren al ongeveer orbit-robuust door de symmetrische omgeving, waardoor equivariantie geen verschil maakte in kalibratiekosten.
- 3D Yaw Substraat: Niet-equivariante baselines faalden om orbit-veiligheid te bereiken zonder aanzienlijke slack, schendingen of zaad-instabiliteit. Equivariante modellen bereikten een veilig, niet-vacuüm certificaat vanuit een enkele kalibratiesector.

4. Resultaten en Empirische Bevindingen

Veiligheid: Over 50 stabiele audit-cellen vertoonde het conforme certificaat met $\gamma_\alpha=1.0$ nul anti-conservatieve schendingen.
Scherpte: In 172 cel-niveau controles behield 98% van de controles ten minste 25% van de gemeten horizon, en 69% behield ten minste 50%. Het certificaat fungeert als een scherpe haalbaarheidspoort voor korte horizonten ( $H \in [1,8]$ ).
Kalibratiekosten:
- In 2D (PushT) waren de equivariant, plain en augmented modellen allemaal orbit-valide vanuit één sector.
- In 3D (ManiSkill yaw) verkreef het equivariante model een veilige certificering vanuit één sector, terwijl gezonde niet-equivariante baselines kosten incorporeerden in de vorm van schendingen, slack-multiplicatoren ( $\gamma_\alpha \approx 1.9$ ), of scherpte-instorting.
Planning Toepassing (Negatief Resultaat): De auteurs probeerden de gecertificeerde horizon te gebruiken om de afstand tussen subdoelen in een 3D CEM-MPC planner te sturen. Dit slaagde niet. Het planning-substraat vertoonde een hoge variantie over verschillende seeds, en er werd geen detecteerbare associatie gevonden tussen de gecertificeerde vertrouwenshorizon en de optimale planninghorizon. De auteurs wijten dit aan een "state-sufficiency bottleneck", waarbij de latente representatie de noodzakelijke snelheidsinformatie mist voor dynamische voorspelling in een zwaartekracht-gebroken omgeving.

5. Betekenis en Claims

Het artikel claimt dat equivariantie de kalibratie niet vervangt; het geeft de kalibratie een geometrie.

Structureel vs. Empirisch: Het orbit-transporttheorema is een structurele garantie die geldt wanneer exacte equivariantie aanwezig is. Echter, het empirische voordeel (gereduceerde kalibratiekosten) manifesteert zich alleen wanneer de datadistributie niet al een benaderende orbit-robuustheid induceert in niet-equivariante baselines.
Aard van de Garantie: Het certificaat is een conservatieve, distributionele audit, geen globale bereikbaarheidsgarantie. Het certificeert dat het model betrouwbaar is relatief aan de gemeten audit-distributie, niet dat het veilig is in alle mogelijke worst-case scenario's.
Bescheidenheid over Planning: De auteurs stellen expliciet dat de toepassing van "gecertificeerde subdoel-afstand" niet is bevestigd. Het negatieve resultaat in de 3D planner wordt gerapporteerd als een grensvindende bevinding, waarbij wordt benadrukt dat de economie van structuur-variantie in equivariante modellen (hoge variantie in planning-prestaties) de theoretische voordelen in downstream controlelagen kan tenietdoen.

Het werk onderscheidt zich van eerdere literatuur door een horizonfunctie te kalibreren in plaats van een scalaire of interval, en door deze functie over een groepsorbit te transporteren, waardoor een lokale audit wordt omgezet in een orbit-valide certificaat. Het claimt niet dat equivariantie universeel de voorspellingsnauwkeurigheid of planning-prestaties verbetert, maar focust op de geometrische efficiëntie van het certificeringsproces zelf.