On the Applicability of Safety Nets: A Safety-By-Design Solution for Certifying Neural Networks
Dit artikel presenteert een systematische analyse en een open-source implementatie van Safety Nets, een Safety-by-Design-oplossing die geoptimaliseerde neurale netwerken combineert met compacte lookup-tabellen om 100% runtime-correctheid en drastisch verlaagde geheugenvoetafdrukken te bereiken, waardoor de certificering van op AI gebaseerde systemen voor veiligheidskritische luchtvaarttoepassingen mogelijk wordt gemaakt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De luchtvaart is al lang de gouden standaard voor veiligheid, een domein waar menselijke fouten worden geminimaliseerd door strikte techniek en rigoureuze regels. Toch, naarmate de lucht voller raakt met meer vliegtuigen en het aantal beschikbare piloten afneemt, wendt de sector zich tot kunstmatige intelligentie om te helpen bij het beheersen van de werklast. De uitdaging is dat deze nieuwe computersystemen even betrouwbaar moeten zijn als de mechanische systemen die ze vervangen, een vereiste die moeilijk te voldoen is wanneer de software leert van data in plaats van een vaste reeks instructies te volgen. In het specifieke geval van het voorkomen van botsingen in de lucht, vertrouwt de traditionele methode op enorme zoektabellen — in feite gigantische instructiehandleidingen die de computer precies vertellen wat hij in elke mogbare situatie moet doen. Deze tabellen zijn zo groot dat ze het geheugen van huidige vliegtuigcomputers zouden overbelasten, waardoor ze onmogelijk te installeren zijn. Om dit op te lossen, hebben ingenieurs geprobeerd deze instructies te comprimeren tot kleinere, slimmere programma's met behulp van neurale netwerken, wat computersystemen zijn die ontworpen zijn om de manier waarop het menselijk brein patronen herkent na te bootsen. Omdat deze neurale netwerken echter fouten kunnen maken, eisen regelgevers een manier om te garanderen dat ze nooit zullen falen op een kritiek moment.
Onderzoekers van het Duitse Aerospace Center hebben een oplossing ontwikkeld die een "veiligheidsnet" wordt genoemd om deze kloof te overbruggen, en zij hebben nu systematisch getest hoe deze netten zo klein en efficiënt mogelijk gemaakt kunnen worden. Hun werk richt zich op twee specifieke systemen voor het vermijden van botsingen: één die een piloot vertelt wanneer hij naar links of rechts moet sturen, en een andere die adviseert wanneer hij moet klimmen of dalen. Het kernidee is eenvoudig maar krachtig: gebruik een neuraal netwerk om het overgrote deel van de situaties af te handelen, maar houd een kleine, perfecte back-uplijst aan voor de zeldzame gevallen waarin het netwerk in de war kan raken. De onderzoekers beschouwden de omvang van het neurale netwerk en de omvang van deze back-uplijst als een balansact. Ze wilden de exacte vorm en grootte van het neurale netwerk vinden die de back-uplijst zo klein mogelijk zouden maken zonder het netwerk zelf te groot te maken om op het vliegtuig te passen.
Om dit ideale punt te vinden, voerde het team duizenden experimenten uit, waarbij ze de interne structuur van de neurale netwerken aanpasten zoals een monteur een motor afstelt. Ze testten verschillende soorten wiskundige functies die het netwerk helpen leren, varieerden het aantal lagen binnen het netwerk, en veranderden het aantal verwerkingseenheden in elke laag. Ze experimenteerden ook met verschillende manieren om het netwerk te onderwijzen, zoals het vragen om een specifieke waarde te voorspellen versus simpelweg het vragen om de beste optie uit een lijst te kiezen. De resultaten waren verrassend specifiek. Het team ontdekte dat de meest efficiënte ontwerpen niet de meest complexe waren. In plaats daarvan boden netwerken met drie tot vijf lagen, elk met ongeveer vijftig tot honderd verwerkingseenheden, de perfecte balans. Bovendien ontdekten ze dat een standaard wiskundige functie bekend als ReLU beter werkte dan meer geavanceerde alternatieven, en dat het onderwijzen van het netwerk om simpelweg de beste keuze te maken veel beter werkte dan het vragen om complexe getallen te berekenen.
Toen deze optimale instellingen werden toegepast, waren de resultaten spectaculair. Voor het systeem dat horizontale bochten afhandelt, kromp de gecombineerde grootte van het neurale netwerk en de back-uplijst tot slechts 4,76 megabyte. Voor het verticale systeem, dat gaat over klimmen en dalen, was de totale grootte 222,83 megabyte. Deze cijfers vertegenwoordigen een enorme reductie ten opzichte van de oorspronkelijke instructiehandleidingen, die vier gigabyte aan geheugen zouden vereisen — ongeveer duizend keer meer ruimte dan het nieuwe systeem voor het scenario van het sturen. Deze reductie betekent dat het systeem nu comfortabel past op de computers die momenteel in vliegtuigen worden gebruikt, een prestatie die voorheen onmogelijk was. De onderzoekers bevestigden ook dat het systeem ongelooflijk snel is en beslissingen neemt in microseconden, wat veel sneller is dan de vereiste updatecyclus van één seconde voor de vliegveiligheid.
Misschien wel het belangrijkste is dat de studie bewees dat deze aanpak voldoet aan de strengste veiligheidsnormen. Omdat de back-uplijst het juiste antwoord bevat voor elke situatie waarin het neurale netwerk een fout zou kunnen maken, is het gecombineerde systeem gegarandeerd 100 procent correct over het gehele bereik van mogelijke vluchtscenario's. Dit betekent dat het systeem niet vertrouwt op waarschijnlijkheid of hoop; het is wiskundig zeker om het juiste advies te geven. De onderzoekers hebben al hun code en gegevens openbaar gemaakt, zodat andere ingenieurs hun bevindingen kunnen verifiëren en erop voort kunnen bouwen. Door aan te tonen dat een neuraal netwerk gekoppeld kan worden aan een kleine, perfecte back-up om een systeem te creëren dat zowel compact als onfeilbaar is, biedt dit werk een duidelijk, praktisch pad naar de certificering van kunstmatige intelligentie voor gebruik in de meest veiligheidskritische delen van de luchtvaart. De studie laat zien dat we met het juiste ontwerp de aanpasbaarheid van machine learning kunnen hebben zonder de absolute betrouwbaarheid op te offeren die passagiers veilig houdt in de lucht.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.