On the Applicability of Safety Nets: A Safety-By-Design Solution for Certifying Neural Networks
Dieses Paper präsentiert eine systematische Analyse und eine Open-Source-Implementierung von Safety Nets, einer Safety-by-Design-Lösung, die optimierte neuronale Netze mit kompakten Nachschlagetabellen kombiniert, um eine 100%ige Laufzeitkorrektheit sowie drastisch reduzierte Speicherfootprints zu erreichen und somit die Zertifizierung KI-basierter Systeme für sicherheitskritische Anwendungen in der Luftfahrt zu ermöglichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die Luftfahrt gilt seit langem als der Goldstandard für Sicherheit – ein Bereich, in dem menschliche Fehler durch präzise Technik und strenge Regeln minimiert werden. Doch während die Lüfte mit immer mehr Flugzeugen gefüllt werden und die Zahl der verfügbaren Piloten schrumpft, setzt die Branche auf künstliche Intelligenz, um das Arbeitspensum zu bewältigen. Die Herausforderung besteht darin, dass diese neuen Computersysteme so zuverlässig sein müssen wie die mechanischen Systeme, die sie ersetzen – eine Anforderung, die schwer zu erfüllen ist, wenn die Software aus Daten lernt, anstatt einem festen Satz von Anweisungen zu folgen. Im speziellen Fall der Vermeidung von Kollisionen in der Luft verlässt sich die traditionelle Methode auf massive Nachschlagetabellen – im Wesentlichen riesige Handbücher, die dem Computer genau sagen, was er in jeder denkbaren Situation zu tun hat. Diese Tabellen sind so groß, dass sie den Speicher aktueller Flugzeugrechner überfordern würden, was ihre Installation unmöglich macht. Um dies zu lösen, haben Ingenieure versucht, diese Anweisungen mithilfe von neuronalen Netzen in kleinere, intelligentere Programme zu komprimieren – Computersysteme, die darauf ausgelegt sind, die Art und Weise nachzuahmen, wie das menschliche Gehirn Muster erkennt. Da diese neuronalen Netze jedoch Fehler machen können, verlangen Regulierungsbehörden nach einer Möglichkeit, zu garantieren, dass sie in einem kritischen Moment niemals versagen.
Forscher des Deutschen Aerospace Centers haben eine Lösung namens „Safety Net“ (Sicherheitsnetz) entwickelt, um diese Lücke zu schließen, und haben nun systematisch getestet, wie man diese Netze so klein und effizient wie möglich gestalten kann. Ihre Arbeit konzentriert sich auf zwei spezifische Kollisionsvermeidungssysteme: eines, das dem Piloten sagt, wann er nach links oder rechts abbiegen soll, und ein anderes, das angibt, wann er steigen oder sinken soll. Die Grundidee ist einfach, aber kraftvoll: Ein neuronales Netz übernimmt den Großteil aller Situationen, während eine kleine, perfekte Backup-Liste für die seltenen Fälle bereitsteht, in denen das Netzwerk verwirrt sein könnte. Die Forscher betrachteten die Größe des neuronalen Netzes und die Größe dieser Backup-Liste als einen Balanceakt. Sie wollten die exakte Form und Größe des neuronalen Netzes finden, die die Backup-Liste so klein wie möglich macht, ohne das Netzwerk selbst zu groß zu machen, um auf das Flugzeug zu passen.
Um diesen optimalen Punkt zu finden, führte das Team tausende Experimente durch und passte dabei die interne Struktur der neuronalen Netze an, ähnlich wie ein Mechaniker einen Motor abstimmt. Sie testeten verschiedene Arten mathematischer Funktionen, die dem Netzwerk beim Lernen helfen, variierten die Anzahl der Schichten innerhalb des Netzwerks und änderten die Anzahl der Verarbeitungseinheiten in jeder Schicht. Zudem experimentierten sie mit verschiedenen Methoden, das Netzwerk zu lehren, wie etwa die Vorhersage eines spezifischen Wertes gegenüber der einfachen Anweisung, die beste Option aus einer Liste auszuwählen. Die Ergebnisse waren überraschend spezifisch. Das Team entdeckte, dass die effizientesten Designs nicht die komplexesten waren. Stattdessen boten Netzwerke mit drei bis fünf Schichten, die jeweils etwa fünfzig bis einhundert Verarbeitungseinheiten enthielten, die perfekte Balance. Darüber hinaus stellten sie fest, dass eine Standard-Mathematikfunktion namens ReLU besser funktionierte als fortschrittlichere Alternativen und dass es weitaus besser funktionierte, das Netzwerk einfach die beste Wahl treffen zu lassen, als es komplexe Zahlen berechnen zu lassen.
Als diese optimalen Einstellungen angewendet wurden, waren die Ergebnisse dramatisch. Für das System, das horizontale Wendemanöver steuert, schrumpften die kombinierte Größe des neuronalen Netzes und der Backup-Liste auf nur 4,76 Megabyte. Für das vertikale System, das das Steigen und Sinken regelt, betrug die Gesamtgröße 222,83 Megabyte. Diese Zahlen stellen eine massive Reduktion gegenüber den ursprünglichen Handbüchern dar, die vier Gigabyte Speicherplatz benötigt hätten – etwa tausendmal mehr Platz als das neue System für das Wendeszenario. Diese Reduktion bedeutet, dass das System nun bequem auf die derzeit in Flugzeugen verwendeten Computer passt, eine Leistung, die zuvor unmöglich war. Die Forscher bestätigten auch, dass das System unglaublich schnell ist und Entscheidungen in Mikrosekunden trifft, was weit schneller ist als der für die Flugsicherheit erforderliche Aktualisierungszyklus von einer Sekunde.
Vielleicht am wichtigsten ist, dass die Studie bewies, dass dieser Ansatz die strengsten Sicherheitsstandards erfüllt. Da die Backup-Liste für jede einzelne Situation, in der das neuronale Netz einen Fehler machen könnte, die korrekte Antwort enthält, ist das kombinierte System über den gesamten Bereich der möglichen Flugszenarien hinweg garantiert zu 100 Prozent korrekt. Das bedeutet, dass das System nicht auf Wahrscheinlichkeiten oder Hoffnung basiert; es ist mathematisch sicher, die richtige Anweisung zu geben. Die Forscher haben ihren gesamten Code und ihre Daten der Öffentlichkeit zur Verfügung gestellt, damit andere Ingenieure ihre Ergebnisse verifizieren und darauf aufbauen können. Indem sie zeigten, dass ein neuronales Netz mit einem kleinen, perfekten Backup kombiniert werden kann, um ein System zu schaffen, das sowohl kompakt als auch unfehlbar ist, bietet diese Arbeit einen klaren, praktischen Weg zur Zertifizierung künstlicher Intelligenz für den Einsatz in den sicherheitskritischsten Teilen der Luftfahrt. Die Studie zeigt, dass wir mit dem richtigen Design die Anpassungsfähigkeit des maschinellen Lernens nutzen können, ohne die absolute Zuverlässigkeit zu opfern, die die Passagiere in der Luft sicher hält.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.