Adapting AUTOSAR for AI-Enabled Autonomous Driving: An Integrated Functional Safety, SOTIF, Cybersecurity, and Runtime Assurance Framework
Dit artikel stelt het AUTOSAR-AI Safety Assurance Framework (AASAF) voor, dat AUTOSAR Adaptive Platform-services integreert met ISO-standaarden voor functionele veiligheid, SOTIF, cybersecurity en software-updates, samen met een nieuw AI Assurance Tier-model om de veilige, traceerbare en gecontroleerde implementatie van leervermogen-gebaseerde componenten in autonome rij-systemen mogelijk te maken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot bouwt die helemaal zelfstandig een auto kan besturen. Je geeft het een superbrein gemaakt van kunstmatige intelligentie (AI), een geavanceerde computer die leert van miljoenen afbeeldingen van wegen, verkeer en voetgangers. Deze robot is geweldig; hij kan dingen zien die mensen missen en reageert sneller dan een knipoog. Maar hier zit de crux: dit superbrein is een beetje als een briljante maar onvoorspelbare student. Het kan een examen op zonnige dagen met vlag en wimpel halen, maar in de war raken als het regent, of het kan vol vertrouwen het verkeerde antwoord raden wanneer het iets ziet dat het nog nooit eerder heeft gezien. In de wereld van auto's betekent een "verkeerd antwoord" niet alleen een slecht cijfer; het kan een crash betekenen.
Om iedereen veilig te houden, hebben ingenieurs decennia lang strikte regelboeken gebouwd. Eén beroemd regelboek, genaamd ISO 26262, is als een veiligheidsinspecteur die controleert of de remmen en de sturing van de auto elke keer perfect werken. Een ander regelboek, genaamd SOTIF, maakt zich zorgen over de momenten waarop de auto precies doet wat ontworpen is, maar toch een fout maakt omdat de wereld te vreemd of complex is. Dan is er het AUTOSAR-systeem, dat de universele taal en het besturingssysteem is waarmee alle verschillende onderdelen van een moderne auto met elkaar kunnen communiceren. De grote vraag waar wetenschappers nu aan stellen is: hoe passen we deze briljante, onvoorspelbare AI-student in een auto die zich aan strikte veiligheidsregels moet houden? Als de AI in de war raakt, hoe zorgen we er dan voor dat de auto niet blindelings de gevaren in rijdt?
Dit is precies de puzzel waar Emrah Ekrem Karabag zich in een nieuw onderzoeksartikel mee bezighoudt. Het artikel suggereert dat we niet zomaar AI in een auto kunnen pluggen en op het beste kunnen hopen. In plaats daarvan stelt de auteur een nieuw "Safety Framework" voor dat werkt als een strenge leraar die naast de AI-student zit. Dit framework gebruikt het bestaande AUTOSAR-systeem, maar voegt een speciale laag van toezicht toe. De kern van het idee is het scheiden van de ideeën van de AI van de acties van de auto. De AI kan voorstellen: "Hé, laten we van rijstrook wisselen!", maar een apart, eenvoudiger en zeer voorspelbaar veiligheidssysteem moet "Ja" of "Nee" zeggen voordat de auto daadwerkelijk beweegt. Als de AI vreemd begint te doen of in de war raakt, neemt dit veiligheidssysteem het onmiddellijk over en voert een "Minimum Risk Manoeuvre" uit, wat gewoon een chique manier is om te zeggen: "langzaam afremmen en veilig stoppen".
Het artikel introduceert een slimme nieuwe manier om te beoordelen hoeveel vertrouwen we in verschillende AI-onderdelen kunnen stellen, genaamd "AI Assurance Tiers". Zie dit als niveaus van toestemming in een videogame. Op het laagste niveau (Tier 0) is de AI slechts een passagier die advies geeft, zoals een GPS die je vertelt wat het weer wordt. Op het hoogste niveau (Tier 4) is de AI de hoofdbestuurder, maar wordt hij in de gaten gehouden door een uiterst waakzame bewaker. Het artikel betoogt dat alleen omdat een auto-onderdeel als "hoogveilig" wordt bestempeld (wat ingenieurs ASIL D noemen), de AI binnenin niet automatisch veilig is. Je hebt extra controles nodig die specifiek gericht zijn op de AI-hersenen, zoals controleren of de AI naar de juiste gegevens kijkt of of de AI te zelfverzekerd wordt over zaken die het niet begrijpt.
De auteur brengt ook nauwkeurig in kaart hoe je dit kunt bouwen met behulp van de AUTOSAR-tools die automobielbedrijven al gebruiken. Het is also$ een auto een nieuwe set instructies geven: "Wanneer de AI zegt 'Ga', controleert de Safety Manager het weer, de weg en de mate van zelfvertrouwen van de AI. Als alles er goed uitziet, gaat de auto. Als de AI onzeker is of de weg vreemd is, drukt de Safety Manager op de rem." Het artikel beweert niet dat dit een magische oplossing is die alle problemen voor altijd oplost. In plaats daarvan suggereert het een gestructureerde manier om het risico te beheersen, waarbij wordt gewaarborgd dat zelfs als de AI een fout maakt, de auto een back-up plan heeft dat simpel, betrouwbaar en altijd klaar is om de dag te redden. Het gaat erom de AI de vrijheid te geven om slim te zijn, maar de veiligheidscontroles in handen te houden van een systeem dat nooit moe wordt of in de war raakt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.