Adapting AUTOSAR for AI-Enabled Autonomous Driving: An Integrated Functional Safety, SOTIF, Cybersecurity, and Runtime Assurance Framework
Ce document propose l'AUTOSAR-AI Safety Assurance Framework (AASAF), qui intègre les services de la plateforme AUTOSAR Adaptive avec les normes de sécurité fonctionnelle ISO, de SOTIF, de cybersécurité et de mise à jour logicielle, ainsi qu'un nouveau modèle de niveaux d'assurance de l'IA (AI Assurance Tier model), afin de permettre le déploiement sûr, traçable et contrôlé de composants dotés d'apprentissage dans les systèmes de conduite autonome.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous construisez un robot capable de conduire une voiture tout seul. Vous lui donnez un super-cerveau fait d'intelligence artificielle (IA), un ordinateur sophistiqué qui apprend à partir de millions d'images de routes, de trafic et de piétons. Ce robot est incroyable ; il peut voir des choses que les humains ne voient pas et réagir plus vite qu'un clin d'œil. Mais voici le hic : ce super-cerveau est un peu comme un étudiant brillant mais imprévisible. Il peut réussir un examen par temps ensoleillé, mais s'embrouiller lorsqu'il pleut, ou bien donner avec assurance une mauvaise réponse lorsqu'il voit quelque chose qu'il n'a jamais vu auparavant. Dans le monde de l'automobile, obtenir une « mauvaise réponse » ne signifie pas seulement une mauvaise note ; cela pourrait signifier un accident.
Pour que tout le monde soit en sécurité, les ingénieurs ont passé des décennies à construire des règlements stricts. Un livre de règles célèbre, appelé ISO 26262, est comme un inspecteur de sécurité qui vérifie si les freins et la direction de la voiture fonctionnent parfaitement à chaque fois. Un autre livre de règles, appelé SOTIF, s'inquiète des moments où la voiture fonctionne exactement comme prévu, mais commet tout de même une erreur parce que le monde est trop étrange ou complexe. Puis, il y a le système AUTOSAR, qui est le langage universel et le système d'exploitation qui permet à toutes les différentes pièces d'une voiture moderne de communiquer entre elles. La grande question que les scientifiques se posent actuellement est la suivante : comment intégrer cet étudiant IA brillant et imprévisible dans une voiture qui doit suivre des règles de sécurité strictes ? Si l'IA s'embrouille, comment faire pour que la voiture ne continue pas simplement à rouler aveuglément vers le danger ?
C'est exactement l'énigme que traite Emrah Ekrem Karabag dans un nouvel article de recherche. L'article suggère que nous ne pouvons pas simplement brancher l'IA dans une voiture en espérant que tout se passe bien. Au lieu de cela, l'auteur propose un nouveau « Cadre de Sécurité » qui agit comme un professeur strict assis à côté de l'étudiant IA. Ce cadre utilise le système AUTOSAR existant mais ajoute une couche de supervision spéciale. L'idée centrale est de séparer les idées de l'IA des actions de la voiture. L'IA peut suggérer : « Hé, changeons de voie ! », mais un système de sécurité distinct, plus simple et très prévisible, doit dire « Oui » ou « Non » avant que la voiture ne bouge réellement. Si l'IA commence à agir bizarrement ou s'embrouille, ce système de sécurité prend le relais immédiatement et effectue une « Manœuvre de Risque Minimum », ce qui est juste une façon sophistiquée de dire « ralentir et s'arrêter en toute sécurité ».
L'article introduit une nouvelle façon astucieuse de noter le degré de confiance que l'on peut accorder à différentes parties de l'IA, appelée « Niveaux d'Assurance de l'IA ». Considérez cela comme des niveaux de permission dans un jeu vidéo. Au niveau le plus bas (Niveau 0), l'IA n'est qu'une passagère donnant des conseils, comme un GPS qui vous indique la météo. Au niveau le plus élevé (Niveau 4), l'IA est le conducteur principal, mais elle est surveillée par un garde super vigilant. L'article soutient que le fait qu'une pièce de voiture soit étiquetée comme étant de « haute sécurité » (ce que les ingénieurs appellent ASIL D) ne signifie pas que l'IA à l'intérieur est automatiquement sûre. Vous avez besoin de vérifications supplémentaires spécifiquement pour le cerveau de l'IA, comme vérifier si elle regarde les bonnes données ou si elle est trop confiante concernant des choses qu'elle ne comprend pas.
L'auteur trace également les contours précis de la manière de construire cela en utilisant les outils AUTOSAR que les constructeurs automobiles utilisent déjà. C'est comme donner de nouvelles instructions à la voiture : « Quand l'IA dit "Allez", le Gestionnaire de Sécurité vérifie la météo, la route et le score de confiance de l'IA. Si tout semble correct, la voiture avance. Si l'IA est incertaine ou si la route est étrange, le Gestionnaire de Sécurité appuie sur les freins. » L'article ne prétend pas qu'il s'agit d'une solution magique qui résoudra tous les problèmes pour toujours. Au lieu de cela, il suggère une manière structurée de gérer le risque, en garantissant que même si l'IA commet une erreur, la voiture dispose d'un plan de secours, simple, fiable et toujours prêt à sauver la mise. Il s'agit de donner à l'IA la liberté d'être intelligente, tout en gardant les contrôles de sécurité entre les mains d'un système qui ne se fatigue jamais et ne s'embrouille jamais.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.