Predictive Zonotope Reduction: Precise Runtime Monitoring under Uncertainty

I robot che si muovono nel mondo reale si affidano ai sensori per comprendere l'ambiente circostante. Questi sensori, tuttavia, non sono mai perfetti. Una telecamera potrebbe avere difficoltà nella nebbia, o un misuratore di distanza potrebbe oscillare a causa del rumore elettrico. Quando un robot prende una decisione basata su queste letture imperfette, rischia di compiere un'azione che è o troppo cauta o pericolosamente imprudente. Per mantenere i robot sicuri, gli ingegneri utilizzano un sistema di sicurezza chiamato monitor di runtime. Questo sistema agisce come una guardia vigilante, controllando costantemente il comportamento del robot rispetto a un insieme di regole per garantire che rimanga entro confini sicuri. La sfida risiede nel rappresentare la posizione incerta del robot. Se il monitor assume che il robot si trovi esattamente in un punto, potrebbe mancare un pericolo che si trova appena fuori da quel punto. Se assume che il robot possa trovarsi ovunque in un'ampia area, farà scattare l'allarme troppo spesso, costringendo il robot a fermarsi inutilmente. L'obiettivo è trovare una rappresentazione che sia abbastanza precisa da essere utile, ma abbastanza semplice da essere calcolata rapidamente.

Una forma matematica nota come zonotopo è diventata uno strumento popolare per questo compito. Immaginate una nuvola di possibili posizioni per il robot, con la forma di un palloncino multi-dimensionale allungato. Mentre il robot si muove e riceve nuove letture dai sensori, questa nuvola cresce e cambia forma. Il problema è che ogni nuova informazione aggiunge complessità alla nuvola, rendendola sempre più difficile da calcolare. Alla fine, la nuvola diventa così grande che il computer che gestisce il monitor non riesce a stare al passo, specialmente se il robot opera su un piccolo dispositivo alimentato a batteria. Per risolvere questo problema, gli ingegneri devono periodicamente restringere la nuvola, un processo chiamato riduzione. Lo fanno sostituendo la forma complessa con una più semplice e leggermente più grande che contenga ancora tutte le posizioni possibili. L'aspetto critico è che esistono molti modi diversi per restringere questa nuvola, e ogni metodo produce un risultato differente. Alcuni metodi sono migliori nel mantenere la forma compatta in certe situazioni, mentre altri funzionano meglio in altre. Tradizionalmente, gli ingegneri hanno scelto un metodo e lo hanno seguito per l'intero percorso, anche se la scelta migliore cambia mentre il robot si muove.

Ricercatori del CISPA Helmholtz Center for Information Security e della Technical University of Munich hanno sviluppato un nuovo approccio che cambia il modo in cui questa decisione viene presa. Invece di attenersi a un singolo metodo, il loro sistema, chiamato Predictive Zonotope Reduction, tratta la scelta di come restringere la nuvola come una sequenza di decisioni. Non si chiede solo "qual è il modo migliore per restringere la nuvola proprio ora?", ma "qual è il modo migliore per restringere la nuvola ora, e poi di nuovo nei prossimi passi, per mantenere la forma complessiva il più compatta possibile?". Per rispondere a questo, il sistema utilizza una tecnica derivata dal controllo robotico, dove un computer pianifica alcuni passi in avanti per vedere le conseguenze della sua azione attuale. Esso simula diversi percorsi, osservando come ogni scelta di metodo di restringimento influenzerebbe la forma della nuvola nel prossimo futuro prossimo. Guardando avanti, il sistema può scegliere un metodo che potrebbe non essere perfetto per il momento immediato, ma che prepara la nuvola a essere molto più accurata in seguito.

Tuttavia, eseguire queste simulazioni complesse in tempo reale è troppo lento per molti robot. Per rendere il sistema abbastanza veloce da un uso pratico, i ricercatori hanno insegnato a un piccolo programma per computer di imitare il processo decisionale di un pianificatore lento e attento. Hanno utilizzato un processo chiamato policy distillation, in cui una rete neurale, agendo come uno studente, impara dal pianificatore "insegnante". La rete dello studente non ha bisogno di simulare il futuro; essa guarda semplicemente la forma attuale della nuvola e classifica i metodi di restringimento disponibili dal migliore al peggiore. Ciò consente al sistema di prendere decisioni di alta qualità quasi istantaneamente. Per garantire che il sistema rimanga robusto, hanno combinato diverse di queste reti studentesche in un gruppo, lasciando che votassero sulla scelta migliore. Se il gruppo è incerto, un pianificatore di backup interviene per prendere la decisione finale. Questa combinazione di visione prospettica, apprendimento dall'esperienza e voto per la sicurezza permette al sistema di girare su hardware molto modesto, come un Raspberry Pi 5, mantenendo al contempo un'alta precisione.

I ricercatori hanno testato il loro nuovo sistema su un braccio robotico simulato a cinque giunti che si muove in un ambiente virtuale. Hanno programmato il braccio affinché si muovesse mentre i suoi sensori erano soggetti a errori realistici, imitando il tipo di rumore presente nei dispositivi del mondo reale. Hanno fatto percorrere al braccio centinaia di movimenti differenti, confrontando il loro nuovo sistema dinamico con i vecchi metodi che utilizzavano un unico modo fisso per restringere la nuvola di incertezza. I risultati sono stati sorprendenti. Il nuovo sistema ha ridotto il numero di falsi allarmi di un margine significativo. Nei test, i vecchi metodi fissi hanno attivato arresti di emergenza non necessari quasi il 30% delle volte quando il robot era in realtà al sicuro. Il nuovo sistema predittivo ha abbassato questo tasso a meno del 2%. Ciò significa che il robot può muoversi più liberamente e con maggiore fiducia, sapendo che il monitor di sicurezza non sta dando falsi allarmi. Il sistema ha raggiunto questo risultato operando a una velocità di 100 volte al secondo, abbastanza veloce da tenere il passo con i rapidi movimenti di un vero robot.

Lo studio ha rivelato anche qualcosa di sorprendente su come questi metodi di restringimento lavorano insieme. I ricercatori hanno scoperto che il metodo che performava meglio da solo non era sempre quello scelto più spesso dal loro sistema intelligente. In effetti, il sistema sceglieva frequentemente un metodo che spesso era scarso se usato isolatamente. Questo accadeva perché il sistema intelligente comprendeva che utilizzare un metodo diverso prima poteva rimodellare la nuvola in modo tale da far sì che il metodo "scarso" funzionasse molto bene in seguito. È stata una lezione di tempismo e sequenza: la mossa migliore non è sempre la mossa più forte in isolamento, ma quella che prepara il terreno per un futuro migliore. Cambiando tra i metodi in modo dinamico, il sistema ha mantenuto la nuvola di incertezza molto più compatta di quanto qualsiasi singolo metodo avrebbe potuto mai fare da solo.

Questo lavoro dimostra che i sistemi di sicurezza per i robot non devono essere statici. Trattando la gestione dell'incertezza come un problema dinamico e orientato al futuro, gli ingegneri possono creare monitor che siano sia più sicuri che più efficienti. La capacità di eseguire questi calcoli avanzati su hardware piccolo ed economico apre la porta a un maggior numero di robot che possano operare in modo sicuro in ambienti complessi e imprevedibili. I ricercatori hanno dimostrato che, con l'approccio giusto, un robot può comprendere meglio la propria incertezza, portando a meno errori e a prestazioni più affidabili nel mondo reale.