🤖 AI

Continual Field-Adaptive Models (CFAMs) for Post-Deployment Physical AI

Dit artikel introduceert Continual Field-Adaptive Models (CFAMs), een complementaire leerarchitectuur bestaande uit een bevroren component die traag leert en een snel lerend Capsule Field dat diverse fysieke robots in staat stelt om efficiënt nieuwe vaardigheden te verwerven en zich aan te passen aan nieuwe, geverifieerde near-OOD scenario's in het veld door middel van autonome, gradiëntvrije updates, terwijl zij hun eerdere competentie behouden.

Oorspronkelijke auteurs: Amarjot Singh, Tanmay R. Pancholi, Jainam Kothari, Shrirang Mahajan, Ketan Bansal, Zackory Erickson, Giuseppe Loianno, Alexandre M. Bayen, Jeff Schneider, Vince Nakayama

Gepubliceerd 2026-09-07

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Amarjot Singh, Tanmay R. Pancholi, Jainam Kothari, Shrirang Mahajan, Ketan Bansal, Zackory Erickson, Giuseppe Loianno, Alexandre M. Bayen, Jeff Schneider, Vince Nakayama

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een robot voor die naar een gevaarlijke, onverkende plek wordt gestuurd: een ingestorte mijn, een stralingsrijke reactor of de diepe oceaanbodem. De missie is om puin te ruimen, een structuur te inspecteren of een object te bergen. In de echte wereld zijn deze omgevingen onvoorspelbaar. De grond kan los grind zijn in plaats van solide beton; een zware lading kan onverwacht verschuiven; een deuropening kan smaller zijn dan de kaarten suggereren. Om als machine te slagen, kan een robot niet simpelweg een script volgen dat in een veilige laboratoriumomgeving is geschreven. De machine moet in staat zijn om te leren van zijn directe omgeving, aan te passen aan nieuwe omstandigheden op het moment dat ze zich voordoen, zonder dat er een mens nieuwe instructies hoeft te sturen of een supercomputer nodig is om zijn brein te hertrainen. Dit is de heilige graal van fysieke kunstmatige intelligentie: een machine die in gevaar kan stappen, dingen ter plekke kan uitzoeken en wat hij leert kan behouden zonder te vergeten hoe hij de dingen moet doen die hij al kon.

Jarenlang was de standaardaanpak bij het bouwen van deze machines om ze enorme hoeveelheden data te voeren in een gecontroleerde setting, waarbij ze duizenden variaties van een taak leerden voordat ze het laboratorium überhaupt verlieten. Maar in missiekritische velden zoals defensie of rampenbestrijding bestaat dergelijke data niet. De omgevingen zijn te gevaarlijk om te instrumenteren en de situaties zijn te uniek om te voorspellen. Als een robot een situatie tegenkomt die hij nog niet heeft gezien, faalt een traditioneel model vaak, of erger nog, het probeert te "leren" door zijn oude kennis te overschrijven, waardoor het vergeet hoe het zijn basisplichten moet uitvoeren. Dit creëft een dilemma: hoe bouw je een machine die slim genoeg is om met het onbekende om te gaan, maar stabiel genoeg om niet zijn verstand te verliezen wanneer dat gebeurt?

Een team van onderzoekers heeft een oplossing voorgesteld genaamd Continual Field-Adaptive Models, of CFAMs. Hun werk, getest op vijf verschillende soorten robots variërend van lopende honden en vliegende drones tot mensachtige armen en terreinvoertuigen, suggereert een nieuwe manier om machines te bouwen die slimmer kunnen worden nadat ze zijn ingezet. In plaats van te proberen het volledige brein van de robot telkens wanneer hij iets nieuws ziet opnieuw te trainen, scheidt het systeem de "langzame" kennis van de "snelle" leerervaring van de robot. Het langzame deel, dat de zware taken van perceptie en besluitvorming afhandelt, wordt na de initiële training in het lab volledig bevroren. Het fungeert als een stabiel fundament. Het snelle deel is een gespecialiseerde geheugenbank waar de robot nieuwe, specifieke lessen opslaat terwijl hij ze in het veld tegenkomt.

De kern van het idee is dat de robot niet elke keer hoe te lopen of hoe een object vast te pakken opnieuw moet leren wanneer de grond verschuift of het object beweegt. In plaats daarvan slaat hij een "competentiecapsule" op, een compact verslag van een specifiek succes. Denk eraan als een enkele, precieze aantekening die aan een enorme bibliotheek van kennis wordt toegevoegd. Wanneer de robot een situatie tegenkomt die net iets anders is dan wat hij kent — zeg een zwaardere lading of een glad oppervlak — controleert hij zijn geheugen. Als hij een opgeslagen les vindt die er dichtbij ligt, gebruikt hij die les om zijn acties aan te passen. Als hij slaagt, schrijft hij een nieuwe, licht afwijkende les in zijn geheugenbank, waardoor het bereik van situaties dat hij kan afhandelen effectief wordt uitgebreid. Dit proces vindt volledig plaats op de eigen computer van de robot, zonder menselijk toezicht en zonder complexe wiskundige hertraining van zijn hoofdbrein.

De onderzoekers testten dit systeem door de robots eerst een paar taken te leren in een lab met slechts een handvol demonstraties. Ze stuurden de robots vervolgens in gesimuleerde en echte omgevingen waar de omstandigheden iets anders waren dan de trainingsdata. De resultaten waren opmerkelijk. Terwijl standaardrobots die probeerden zich aan te passen door hun hoofdbrein te hertrainen vaak faalden of hun oorspronkelijke vaardigheden verloren, werden de CFAM-robots steeds beter. In één reeks tests verbeterden de robots hun succespercentage met bijna veertien procentpunten, simpelweg door deze kleine, geverifieerde successen vast te leggen en op te slaan terwijl ze werkten. Ze leerden om met zwaardere ladingen om te gaan, door dichtere vegetatie te navigeren en te herstellen van uitschlippende bewegingen, terwijl ze tegelijkertijd hun vermogen behielden om de oorspronkelijke taken perfect uit te voeren.

Cruciaal is dat het systeem is ontworpen om veilig en begrensd te zijn. Het leert alleen van situaties die zeer dicht bij wat het al weet liggen, wat ervoor zorgt dat het niet probeert geheel nieuwe gedragingen te verzinnen die gevaarlijk zouden kunnen zijn. Het heeft ook een ingebouwd mechanisme om het geheugen op te schonen, waarbij vergelijkbare lessen worden samengevoegd zodat de geheugenbank niet te vol raakt. De onderzoekers ontdekten dat deze aanpak de robots in staat stelde om efficiënt te leren, waarbij ze slechts veertig procent van de data gebruikten die normaal gesproken nodig is om een standaardrobot te trainen, en vervolgens autonoom slimmer konden worden in het veld.

De studie bevestigt dat het mogelijk is om fysieke AI te bouwen die niet stopt met leren wanneer de training eindigt. Door de stabiele, algemene kennis van de robot te scheiden van een snelle, flexibele geheugenfunctie voor nieuwe ervaringen, hebben de onderzoekers een systeem gecreëerd dat kan aanpassen aan de rommelige, onvoorspelbare realiteit van de fysieke wereld. Dit is geen machine die elke dag alles vanaf nul leert; het is een machine die voortbouwt op wat hij al weet, door kleine, geverifieerde verbeteringen aan zijn repertoire toe te voegen terwijl hij vooruitgaat. Voor missies waar mensen niet kunnen komen, biedt deze vorm van begrensde, autonome groei een pad voorwaarts: een machine die het onbekende kan betreden, kan leren van zijn fouten en successen, en kan blijven bewegen zonder te vergeten wie hij is.

Technische Samenvatting: Continual Field-Adaptive Models (CFAMs) voor Post-Deployment Physical AI

1. Probleemstelling

Het artikel adresseert een kritieke kloof in missie-kritische fysieke AI (bijv. defensie, rampenbestrijding, diepzee-exploratie): het onvermogen van uitgerolde autonome systemen om zich aan te passen aan nieuwe, lichtelijk out-of-distribution (OOD) veldomstandigheden zonder catastrofale vergetelheid of de noodzaak voor uitgebreide hertraining.

Huidige autonome systemen vertrouwen op twee paradigma's: surveillance (observatie alleen) of one-shot strike (vooraf vastgestelde actie). Geen van beide interageert met of past zich aan aan de omgeving. Het bouwen van adaptieve systemen voor deze domeinen staat voor drie specifieke uitdagingen:

Dataschaarste: Missie-kritieke omgevingen zijn gevaarlijk en beperkt, waardoor slechts handvol demonstraties beschikbaar zijn in plaats van de duizenden die vereist zijn door moderne robot-learning modellen.
Compute-beperkingen: Assets (bijv. drones, quadrupeds in mijnen) opereren op edge-devices met beperkte stroom en geheugen, losgekoppeld van datacentra, wat gecentraliseerde hertraining of grootschalige model-distillatie uitsluit.
Veld-nieuwheid: Deployment introduceert nieuwe objectconfiguraties, belastingen en terrein. Een bevroren model degradeert in deze gevallen, terwijl in-place updates het risico lopen op "catastrofale vergetelheid" van eerder geleerde vaardigheden.

Het artikel definieert het Field Learning Regime, gekenmerkt door intermitterende connectiviteit, episodisch toezicht en strikte real-time controlecyclus-beperkingen. Een architectuur voor dit regime moet aan vier vereisten voldoen:

R1 (Efficiënt Leren): Competentie opbouwen uit few-shot demonstraties.
R2 (Getypeerde Groei): Onderscheid maken tussen het corrigeren van bekende fouten en het uitbreiden naar nieuwe binnen-familie instanties.
R3 (Begrensde Consolidatie): Redundante competentie samenvoegen onder een vast geheugenfootprint om interferentie te voorkomen.
R4 (Veld-geschikte Groei): Nieuwe kennis in één keer schrijven, gradiënt-vrij, on-device, binnen de controlecyclus.

2. Methodologie: CFAM Architectuur

De auteurs stellen Continual Field-Adaptive Models (CFAMs) voor, een brein-geïnspireerde architectuur gebaseerd op Complementary Learning Systems (CLS). Het systeem scheidt leren in een slow-learning component (bevroren na deployment) en een fast-learning component (continuaal bijgewerkt on-device).

2.1 Kerncomponenten

De architectuur bestaat uit vier functionele delen:

Sensor Cortex (Slow-Learning):
- Functie: Verheft multi-modale inputs (visie, LiDAR, tactiel) naar een stabiele, 3D-gegronde geometrie.
- Implementatie: Gebruikt ScatterNet Hybrid Deep Learning (SHDL), een semi-gesuperviseerde, brein-geïnspireerde encoder. Het genereert een discriminatieve embedding ( $z$ ) en sensor-event signalen, waarmee de scène wordt verheven naar een 3D-representatie (point clouds) om taak-relevante ankers (objectcentra, grijppunten) te extraheren.
- Restrictie: Bevroren na het lab; biedt het stabiele substraat voor perceptie.
Reasoning Cortex (Slow-Learning):
- Functie: Decomponeert hoog-niveau taken in een sequentie van vaardigheden en beoordeelt uitkomsten.
- Implementatie: Een custom Vision-Language Model (VLM), bevroren na deployment. Het fungeert als een Capsule Sequencer (het ophalen van skill-plannen) en een Outcome Oracle (het verifiëren van semantische taakprogressie).
- Restrictie: Alleen-lezen; leert niet in het veld.
Action Cortex (Slow-Learning):
- Functie: Voert vaardigheden uit door opgeslagen capsules op te halen en ze te vervormen op de huidige 3D-scène.
- Implementatie: Gebruikt de Geometric Residual Transform (GRT). In plaats van acties frame-voor-frame te decoderen, haalt het een opgeslagen "seed trajectory" op en vervormt deze geometrisch om aan te sluiten bij de huidige scène-ankers (bijv. positie van een object).
- Efficiëntie: Vermindert de actie-decoderingsoproepen van $T$ (controle stappen) naar $M$ (skill fasen), waarbij $M \ll T$ .
Capsule Field (Fast-Learning Memory):
- Functie: De "hippocampus" van het systeem, die nieuwe competentie opslaat die in het veld is verworven.
- Eenheid: De Competence Capsule (CC). Een compact record bevattende:
  - Situation Key ( $h_i$ ): Een binaire code voor retrieval.
  - Perception Correction ( $\Delta z_i$ ): Verschuift de sensor embedding.
  - Action Correction ( $\Delta a_i$ ): Een residu dat wordt toegevoegd aan de output van het basisbeleid.
  - Action Anchor ( $a^*_i$ ): De seed trajectory en 3D ankers.
  - Regime Tag ( $\psi_i$ ): Maakt onderscheid tussen CORR (correctie van bekende fouten) en EXT (extensie naar nieuwe binnen-familie instanties).
- Restrictie: Alle capsules leven binnen een vast geheugenbudget op het edge-device.

2.2 Het Leermechanisme: CFUR

De Continual Field Update Rule (CFUR) regelt hoe het systeem in het veld leert zonder gradiënten:

Trigger: Een nieuwe capsule wordt alleen geschreven wanneer het vertrouwen van het basisbeleid daalt en de retrieval afstand aangeeft dat de situatie zich aan de "rand" van de ondersteuning van een opgeslagen vaardigheid bevindt, en de uitvoering is geverifieerd als succesvol door een sensor-gegronde fase-doelstelling ( $\Phi_{succ}$ ).
Proces:
1. Capture: Het systeem identificeert een geverifieerd near-OOD succes (bijv. een greep op een zwaardere last of een geoccludeerd object).
2. Write: Een nieuwe Competence Capsule wordt gecreëerd in één forward pass en één geheugeninsertie. Er worden geen gradiënten berekend; de bevroren basis blijft ongemoeid.
3. Consolidatie: Redundante capsules worden samengevoegd en ongebruikte capsules vervallen (persistentie-mechanisme) om een vast geheugenfootprint te behouden.
Groei: De bibliotheek groeit door nieuwe capsules toe te voegen aan de randen van bestaande skill-enveloppen, waardoor het systeem kan generaliseren naar nieuwe variaties zonder de basis te hertrainen.

3. Belangrijkste Bijdragen

Architectuur (CFAM): Een end-to-end veld-adaptief modeltype voor Physical AI. Het introduceert een unit-of-inference shift (per-skill capsule emissies via GRT) en een unit-of-learning shift (gradiënt-vrije, one-shot capsule writes).
Dataset: Een nieuwe eigen multi-embodiment dataset (Skylark) met 2,6+ miljoen trajecten over vijf fysieke platforms (manipulator, quadruped, humanoid, quadrotor, off-road voertuig). Alle baselines zijn getraind op deze zelfde dataset voor een eerlijke vergelijking.
Efficiënt Lab Leren: CFAM bereikt het operationele punt van een standaard beleid getraind op 100% van de data met slechts 40% van de data (2,5× minder trajecten).
Autonome Post-Deployment Groei: CFAM vangt autonoom geverifieerde near-OOD gevallen op, waardoor de actie-succesratio met 13,9 procentpunt stijgt (van 74,0% naar 87,9%), terwijl adaptatie-baselines (LoRA, MemoryVLA) falen of verslechteren.
Retentie: In sequentiële simulatie behoudt CFAM eerdere competentie met een backward transfer van -0,5 percentagepunt, vergeleken met -11,4 percentagepunten voor LoRA, wat duidt op bijna nul catastrofale vergetelheid.

4. Experimentele Resultaten

Het artikel valideert CFAM over synthetische benchmarks (SimplerEnv, LIBERO) en vijf real-world robotplatforms.

Build Fase (Stage A & B):
- CFAM presteert beter dan standaard beleidsmodellen ( $\pi_0$ , CogACT, SpatialVLA) getraind op dezelfde data.
- Op de hold-out testset ( $D_{test}$ ) behaalt CFAM een voordeel van +9,7 pp ten opzien van de best presterende matched-data baseline.
- One-shot Build (één demonstratie per taak) generaliseert over alle vijf de embodied systemen.
Groei Fase (Stage C):
- Op de variatie-stream ( $D_{var}$ ) vangt CFAM autonoom geverifieerde successen op.
- Resultaat: Actie-succes stijgt van 74,0% naar 87,9% (+13,9 pp).
- Baselines: Gradiënt-gebaseerde (LoRA) en geheugen-geaugmenteerde (MemoryVLA, CronusVLA) baselines vertonen geen verbetering of zelfs prestatievermindering onder dezelfde blootstelling.
Retentie Fase (Stage D):
- In een sequentiële simulatie-suite (5 omgevingen) behoudt CFAM de prestaties op eerdere taken.
- Vergetelheid: Slechts 2,1% van de eerdere taken verliest >5% succes.
- Vergelijking: LoRA lijdt onder 34,7% catastrofale vergetelheid.
Ablaties:
- Het verwijderen van de capsule field controller kost 8,3 pp.
- Het verwijderen van consolidatie kost 3,0 pp.
- De combinatie van de Correction (CORR) en Extension (EXT) regimes levert synergetische winst op die de som van de individuele bijdragen overstijgt.

5. Betekenis en Claims

Het artikel claimt dat CFAM een begrensde vorm van post-deployment fysieke intelligentie biedt. Het demonstreert dat:

Leren kan continu zijn zonder hertraining: Systemen kunnen hun competentie autonoom vergroten na vertrek uit het lab door te schrijven naar een apart, fast-learning geheugen, terwijl het slow-learning substraat (het "brein") bevroren blijft.
Data-efficiëntie haalbaar is: Hoog-presterende beleidsmodellen kunnen worden gebouwd met aanzienlijk minder trainingsdata (40%) door gebruik te maken van de capsule-architectuur.
Vergetelheid ontworijds kan worden gemitigeerd: Door leren te scheiden in onderscheidende, niet-interfererende subsystemen (slow vs. fast), vermijdt het systeem de catastrofale vergetelheid die inherent is aan gradiënt-gebaseerde fine-tuning.
Autonomie mogelijk is in het veld: Het systeem kan geverifieerde successen identificeren, verifiëren en opslaan vanuit eigen executie-signalen zonder operator-labels of menselijke interventie, mits de nieuwe gevallen binnen de scope van bestaande skill-families vallen.

Beperkingen erkend door de auteurs:

Het systeem handelt near-OOD gevallen af (variaties van bekende vaardigheden), maar gaat niet om met open-world novelty (volledig nieuwe taken of objecten).
Het vertrouwt op het vermogen van de bevroren basis om een "goed genoeg" startpunt te bieden; het kan fundamentele tekortkomingen in de perceptie of actuatie van de basismodellen niet repareren.
Retentie-resultaten zijn momenteel gevalideerd in simulatie; retentie op real-world platforms na langdurige groei is nog niet getest.
Het systeem vereist een "Build" fase met menselijke demonstraties; het leert niet vanaf nul in het veld.

Samenvattend biedt CFAM een structurele oplossing voor het stability-plasticity dilemma in fysieke AI, waardoor machines in gevaarlijke, data-arme omgevingen kunnen blijven groeien terwijl ze behouden wat ze al hebben geleerd.