Assessment of AI-Generated HARA in Automotive Functional Safety
Diese Studie bewertet die Leistungsfähigkeit von vier universell einsetzbaren KI-Werkzeugen zur Unterstützung des funktionalen Sicherheitsingenieurwesens nach ISO 26262 durch den Vergleich ihrer Ergebnisse der Gefahrenanalyse und Risikobewertung (HARA) und zeigt auf, dass die KI zwar eine vielversprechende Ergänzung zu Sicherheitsprozessen bietet, ihre Implementierung jedoch eine strenge Prüfung hinsichtlich Rückverfolgbarkeit, Zuverlässigkeit und regulatorischer Konformität erfordert.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Im modernen Auto geht es bei der Sicherheit nicht mehr nur um starken Stahl und Airbags; es geht um die unsichtbare Logik, die ein Fahrzeug davon abhält, seine Insassen zu verletzen. Ingenieure verlassen sich auf einen strengen Prozess namens Gefahrenanalyse, um sich jede erdenkliche Art vorzustellen, wie ein System versagen könnte – von einer Bremse, die sich nicht löst, bis hin zu einem Sensor, der ein Gespenst sieht. Sie weisen dann jedem potenziellen Fehler ein Risikoniveau zu und entscheiden so, wie streng das System gebaut werden muss, um Verletzungen zu vermeiden. Dieser Prozess ist das Rückgrat der Automobilsicherheit, eine Disziplin, die so ernsthaft ist, dass sie ihr eigenes internationales Regelwerk besitzt. Da künstliche Intelligenz beginnt, Code zu schreiben und Systeme für Autos zu entwerfen, ist eine entscheidende Frage aufgetaucht: Kann eine Maschine, die auf riesigen Mengen menschlicher Texte trainiert wurde, dieses hochriskante Denken für uns übernehmen? Kann eine künstliche Intelligenz eine Beschreibung eines Autoteils betrachten und korrekt identifizieren, was schiefgehen könnte, und dann entscheiden, wie gefährlich dieser Fehler wäre?
Zwei Forscher eines großen Automobiltechnikunternehmens gingen vor, um diese Idee zu testen. Sie sammelten vier verschiedene Werkzeuge der künstlichen Intelligenz, die von Assistenten, die in Standard-Bürosoftware integriert sind, bis hin zu spezialisierten Modellen für komplexe Problemlösungen reichten. Sie gaben jedem Tool exakt dieselben Dokumente, die ein spezifisches Sicherheitssystem eines Autos beschreiben: wie das Fahrzeug funktionieren soll, unter welchen Bedingungen es arbeitet und in welchen Szenarien es eingesetzt werden könnte. Sie baten die Maschinen, als Sicherheitsexperten zu agieren und eine Gefahrenanalyse zu erstellen – ein Dokument, das jeden möglichen Fehler auflistet und dessen Gefahr bewertet. Um zu sehen, ob die Anweisungen einen Unterschied machen, probierten sie zwei verschiedene Wege des Fragens aus: Einer war ein detailliertes, schrittweises Gespräch, bei dem der KI gesagt wurde, sie solle eine bestimmte professionelle Rolle einnehmen, und der andere war ein einzelner, direkter Befehl, die Aufgabe zu erledigen.
Die Ergebnisse zeigten, dass die Maschinen zwar in der Lage waren, die angeforderten Dokumente zu erstellen, die Qualität ihres Denkens jedoch inkonsistent war. Jedes Tool generierte eine Liste von Sicherheitszielen, also jenen übergeordneten Regeln, die Unfälle verhindern sollen, aber die Listen sahen sehr unterschiedlich aus. Als die Forscher die Ergebnisse verglichen, stellten sie fest, dass nur ein einziges spezifisches Sicherheitsziel in jeder einzelnen Liste vorkam: die Notwendigkeit, zu verhindern, dass die Airbags auslösen, wenn sie es nicht tun sollten. Für alles andere waren sich die Tools uneinig. Eine Maschine identifizierte möglicherweise einen spezifischen Fehlermodus, den eine andere völlig übersah, oder sie beschrieb dasselbe Problem auf eine Weise, die zu vage war, um nützlich zu sein. Dieser Mangel an Übereinstimmung bedeutet, dass ein Ingenieur, der sich auf nur eines dieser Tools verlassen würde, eine kritische Gefahr übersehen könnte, einfach weil gerade dieses spezielle Modell nicht daran gedacht hat, danach zu suchen.
Die Inkonsistenz wurde noch deutlicher, als die Tools versuchten, den gefundenen Problemen eine Risikobewertung zuzuweisen. In der Welt der Fahrzeugsicherheit bestimmen diese Bewertungen, wie viel Aufwand und Testung ein System erfordert. Für das eine Sicherheitsziel, bei dem alle vier Tools überebereinstimmten, variierten ihre Risikobewertungen dennoch massiv. Ein Tool bewertete die Gefahr als moderat, während ein anderes sie als das höchstmögliche Risikoniveau einstufte. Diese Kluft ist signifikant, da bereits ein Unterschied von einer Stufe in der Bewertung den gesamten Entwicklungsprozess verändern kann, indem sie teurere Komponenten oder strengere Tests erfordert. Die Studie zeigte auch, dass die Art der Fragestellung die Antwort veränderte. Wenn die Forscher den Tools eine einfache, einseitige Anweisung gaben, neigten die Maschinen dazu, höhere Risikobewertungen zu vergeben, als wenn sie einen detaillierteren, konversationellen Ansatz verwendeten. Dies deutet darauf hin, dass die KI das Risiko nicht basierend auf einer festen internen Wahrheit berechnet, sondern auf den Tonfall und die Struktur des Prompts reagiert.
Vielleicht war der aufschlussreichste Befund, wie sehr die Maschinen damit kämpften, die Sicherheitsziele selbst zu formulieren. Ein ordnungsgemäßes Sicherheitsziel muss auf einer spezifischen Detailstufe geschrieben werden: Es muss festlegen, was man vermeiden will, ohne sich in den technischen Details der Lösung zu verlieren. Die Forscher fanden heraus, dass die meisten der KI-generierten Ziele fehlerhaft formuliert waren. Viele waren zu detailliert und klangen eher wie Anweisungen für ein spezifisches Teil als wie eine allgemeine Regel für das gesamte System. Andere waren zu vage und versäumten es, den Fehler klar mit der Gefahr zu verknüpfen. In mehreren Fällen verwechselten die Tools das übergeordnete Sicherheitsziel mit den technischen Anforderungen niedrigerer Ebene und vermischten das „Was“ mit dem „Wie“. Dies deutet darauf hin, dass die Maschinen zwar die Sprache der Sicherheitstechnik imitieren können, aber das konzeptionelle Verständnis zwischen einer Regel und einer Spezifikation noch nicht vollumfänglich besitzen.
Trotz dieser Mängel legt die Studie nicht nahe, dass künstliche Intelligenz für Sicherheitsarbeiten unbrauchbar ist. Die Werkzeuge waren in der Lage, ein breites Spektrum an Ideen zu generieren und potenzielle Gefahren zu identifizieren, die auch ein menschlicher Ingenieur in Betracht ziehen könnte. Die Forscher kamen zu dem Schluss, dass diese Maschinen als hilfreicher Ausgangspunkt dienen können – als Weg, um einen ersten Entwurf zu erstellen oder um zu prüfen, ob ein menschliches Team ein offensichtliches Szenario übersehen hat. Das Ergebnis kann jedoch nicht in der alleinigen Betrachtung vertraut werden. Da die Tools uneins darüber sind, was die Risiken sind, wie gefährlich sie sind und wie man die Regeln zu deren Vermeidung schreibt, muss ein menschlicher Experte jede einzelne Zeile überprüfen. Die künstliche Intelligenz kann einen Funken Erkenntnis liefern, aber in der hochriskanten Welt der Sicherheit von Menschen in fahrenden Fahrzeugen muss das letzte Urteil fest in menschlicher Hand bleiben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.