Le macchine moderne stanno prendendo decisioni autonome in modo sempre crescente nel mondo reale, dalle auto a guida autonoma che navigano in strade trafficate ai droni che consegnano pacchi. Questi sistemi si affidano spesso a complessi programmi informatici, inclusa l'intelligenza artificiale, che agiscono come "scatole nere". Sappiamo che funzionano, ma non possiamo sempre vedere esattamente come "pensano" o prevedere ogni possibile mossa che potrebbero compiere. Per garantire che queste macchine siano sicure, gli ingegneri utilizzano una tecnica chiamata astrazione. Sostituiscono la realtà complicata e continua di un oggetto in movimento con un modello più semplice, a tappe, composto da blocchi distinti. Ciò consente loro di verificare se la macchina si schianterà o fallirà prima ancora che lasci il laboratorio. Tuttavia, c'è un problema. Per essere sicuri, questi modelli semplificati devono essere conservativi; devono assumere lo scenario peggiore per ogni mossa. Se sono troppo conservativi, diventano ingombranti a causa di pericoli immaginari e impossibili che non accadono mai. Questo problema dei "falsi allarmi" rende i modelli così grandi e disordinati che i computer non riescono ad analizzarli in tempo, impedendo agli ingegneri di certificare la sicurezza degli stessi sistemi che hanno costruito.

Un team di ricercatori dell'Università della Florida ha sviluppato un nuovo metodo per risolvere questo equilibrio. Hanno creato uno strumento chiamato S3, che funge da guida fluida per perfezionare questi modelli semplificati. Invece di indovinare come disporre i blocchi del modello, i ricercatori hanno costruito un obiettivo matematico che può essere modificato e migliorato utilizzando tecniche di ottimizzazione standard. Questo strumento permette di regolare automaticamente la dimensione e la forma dei blocchi del modello per rimuovere i pericoli immaginari non necessari, mantenendo al contempo il modello sicuro. Testando questo approccio su tre diversi scenari — un sistema a spirale, un robot simile a un uniciclo e un'auto simulata che sale una collina — hanno scoperto che il loro metodo produce modelli molto più accurati e molto più veloci da calcolare rispetto alle tecniche precedenti. Il risultato è un modo per verificare che le macchine complesse e intelligenti siano sicure senza restare bloccati da eccessivi e irrealistici avvisi.

La sfida principale nella verifica di queste macchine risiede nella tensione tra sicurezza e praticità. Quando gli ingegneri costruiscono un modello semplificato di un sistema in movimento, devono garantire che ogni possibile movimento del mondo reale sia coperto dal modello. Se il modello tralascia un percorso reale, non è sicuro. Per garantire ciò, il modello include spesso percorsi extra che la macchina reale non potrebbe mai intraprendere. Questi percorsi extra sono i comportamenti "spuri" menzionati in precedenza. Sono come disegnare una mappa che includa ogni possibile strada, comprese quelle bloccate da muri o che portano a un dirupo, solo per essere sicuri di non aver mancato un percorso valido. Sebbene ciò garantisca di non mancare un pericolo reale, crea una mappa così affollata di vicoli ciechi da diventare inutile per pianificare un viaggio. I ricercatori avevano bisogno di un modo per potare questi vicoli ciechi senza tagliare alcuna strada reale.

Per raggiungere questo obiettivo, il team si è concentrato su un tipo specifico di relazione matematica chiamata simulazione. In questo contesto, una simulazione è un modo per controllare se il modello semplificato può imitare il comportamento del sistema reale. Se il modello è "sound" (corretto), significa che il sistema reale non può fare nulla che il modello non permetta. I ricercatori volevano minimizzare l'errore di "simulazione inversa", che misura quanto il modello sovrastimi le possibilità del sistema. Un errore elevato significa che il modello è troppo conservativo, pieno di troppi percorsi falsi. Il problema era che il modo standard per misurare questo errore era troppo lento e troppo irregolare per essere migliorato automaticamente. Era come cercare di raddrizzare un foglio di carta stropicciato a mano, un minuscolo incavo alla volta, senza uno strumento che guidasse le dita.

La svolta dei ricercatori è stata la creazione di un "surrogato", un sostituto liscio e facile da calcolare per la difficile misurazione dell'errore. Hanno derivato una nuova funzione obiettivo che approssima l'errore peggiore ma che si comporta in modo fluido, permettendo ai computer di utilizzare l'ottimizzazione basata sul gradiente. Pensate a questo come al rimpiazzo di un sentiero montuoso accidentato e roccioso con una collina dolce e ondulata che conduce alla stessa destinazione. Seguendo la pendenza di questa collina dolce, il computer può trovare rapidamente la migliore disposizione dei blocchi del modello. Questo processo comporta la regolazione degli spazi tra i blocmi, rendendoli più larghi o più stretti a seconda di dove il sistema si muove in modo più imprevedibile. Il metodo garantisce che il modello risultante rimanga sicuro per costruzione, il che significa che non manca mai un percorso reale, ma elimina aggressivamente quelli falsi.

Il team ha testato questo approccio su tre sistemi distinti per vedere se funzionasse in pratica. Il primo era un sistema bidimensionale semplice che spiraleggia verso un obiettivo. Il secondo era un robot uniciclo tridimensionale che doveva navigare attorno a un ostacolo per raggiungere un obiettivo. Il terzo era una simulazione di un'auto che cercava di salire una ripida collina, una classica sfida nella robotica in cui l'auto deve accumulare quantità di moto per raggiungere la cima. In ogni caso, hanno confrontato il loro nuovo metodo con due strategie consolidate: una che perfeziona il modello solo quando trova un errore specifico, e un'altra che cerca di ottimizzare la dimensione della griglia utilizzando una forma fissa. I risultati hanno mostrato che il nuovo metodo era significativamente più veloce. Per il robot uniciclo, il nuovo approccio ha impiegato circa 140 secondi per costruire e verificare il modello, mentre il vecchio metodo di raffinamento ha impiegato oltre 1.900 secondi. Per l'auto che saliva la collina, il nuovo metodo ha impiegato circa 12 secondi rispetto ai quasi 100 secondi del metodo precedente.

Oltre alla velocità, la qualità dei modelli è migliorata. I ricercatori hanno misurato quanto bene i nuovi modelli prevedevano il comportamento del sistema e hanno scoperto che erano molto meno conservativi. Nel test dell'uniciclo, il nuovo metodo ha ridotto l'errore medio di un margine significativo, il che significa che il modello conteneva molti meno percorsi impossibili. Per l'auto sulla collina, il nuovo metodo ha permesso di verificare una porzione maggiore delle posizioni di partenza che porterebbero effettivamente al successo. Questo è fondamentale perché un modello troppo conservativo potrebbe dire a un ingegnere che un'auto non può salire la collina da un certo punto, anche se in realtà può farlo. Riducendo questo falso conservatorismo, il nuovo metodo dà agli ingomini maggiore fiducia nel fatto che i loro sistemi funzioneranno come previsto.

Lo studio ha anche rivelato come il nuovo strumento si comporta sotto diverse impostazioni. I ricercatori hanno scoperto che potevano sintonizzare lo strumento per concentrarsi sia sullo scenario peggiore che sul comportamento medio del sistema. Se l'obiettivo è garantire la sicurezza assolata contro le possibilità più estreme, lo strumento può essere impostato per dare priorità all'errore del caso peggiore. Se l'obiettivo è ottenere un quadro migliore di come il sistema si comporta solitamente, lo strumento può essere regolato per concentrarsi sulla media. Questa flessibilità permette agli ingegneri di scegliere il giusto equilibrio per le loro esigenze specifiche. Il team ha anche osservato che lo strumento impara naturalmente a rendere i blocchi del modello più piccoli nelle aree in cui il sistema si muove velocemente o cambia direzione bruscamente, e più grandi dove il movimento è costante. Questa granularità adattiva è esattamente ciò di cui c'è bisogno per creare modelli efficienti senza sprecare potenza di calcolo in aree facili da prevedere.

Le implicazioni di questo lavoro si estendono oltre questi tre esempi. Il metodo fornisce un quadro generale per rendere più pratica la verifica di sistemi complessi e intelligenti. Man mano che le macchine diventano più autonome e vengono impiegate in ambienti critici per la sicurezza, la capacità di verificare rapidamente e accuratamente la loro sicurezza è fondamentale. Il nuovo strumento non richiede agli ingegneri di conoscere l'esatto controllore utilizzato dalla macchina; funziona con la dinamica nota del sistema e il comportamento del controllore. Ciò lo rende applicabile a una vasta gamma di scenari, dai robot industriali ai veicoli autonomi. I ricercatori hanno reso il loro codice pubblico, invitando altri a costruire su questa base.

In definitiva, il lavoro dimostra che è possibile avere sia sicurezza che efficienza nella verifica di sistemi complessi. Sostituendo una misurazione difficile e irregolare con una guida fluida e ottimizzabile, i ricercatori hanno aperto una nuova strada agli ingegneri per progettare e certificare la prossima generazione di macchine intelligenti. Il metodo non promette di risolvere ogni problema nell'intelligenza artificiale, ma offre un modo concreto e affidabile per garantire che i sistemi di cui ci affidiamo siano non solo intelligenti, ma anche sicuri. La capacità di eliminare il rumore dei falsi allarmi e concentrarsi sui rischi reali è un passo significativo avanti nel campo dell'ingegneria affidabile.