The Embodiment Gap: What Mandatory, Regulatory and Media-Based Incident Regimes Reveal About Robotic AI Failures, 2021–2026
Cet article analyse les données d'incidents de 2021 à 2026 à travers des régimes réglementaires obligatoires et médiatiques pour démontrer que chaque système capture un sous-ensemble distinct et incomplet de défaillances de l'IA robotique, révélant ainsi des lacunes significatives de visibilité pour les erreurs opérationnelles sans collision et les technologies humanoïdes émergentes.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Lorsqu'une machine dotée d'intelligence artificielle commet une erreur dans le monde réel, l'histoire de cette erreur dépend entièrement de l'auditeur. Si une voiture autonome est impliquée dans un accident, une agence gouvernementale ayant le mandat légal de collecter des données l'enregistrera. Si un robot chirurgical dysfonctionne à l'intérieur d'un patient, un régulateur de santé déposera un rapport. Mais si un robot trébuche dans un musée ou qu'une machine humanoïde se comporte étrangement lors d'un salon professionnel, le seul enregistrement pourrait être une vidéo postée par un témoin ou un article de presse. Ces différentes manières de collecter l'information sont appelées régimes d'incidents. Ils agissent comme les yeux et les oreilles de la société, décidant quels échecs feront partie de notre mémoire collective et lesquels s'évanouiront dans le silence. Le problème est que chaque régime ne voit qu'une tranche différente de la réalité. L'un ne voit que les collisions, un autre ne voit que les erreurs médicales, et un troisième ne voit que les histoires qui font la une des journaux. Parce que ces systèmes ne communiquent pas entre eux, nous pensons souvent comprendre comment la sécurité des robots est assurée, alors qu'en fait, nous regardons une image fragmentée où les défaillances les plus dangereuses pourraient être cachées, et les plus courantes pourraient être invisibles.
Un chercheur nommé Alfredo Merlet s'est donné pour mission de cartographier ces angles morts en comparant trois manières distinctes de suivre les défaillances robotiques entre 2021 et 2026. Il a examiné les rapports d'accidents obligatoires déposés auprès de la National Highway Traffic Safety Administration des États-Unis, les rapports de dispositifs médicaux déposés auprès de la Food and Drug Administration des États-Unis, et une base de données volontaire qui recueille les récits issus des médias. En reliant ces sources, il a découvert que la façon dont nous apprenons les défaillances des robots est profondément défectueuse. Le système obligatoire pour les voitures autonomes a enregistré plus de 8 000 incidents, pourtant la base de données médiatique, qui est souvent traitée comme une liste exhaustive des problèmes d'IA, ne contenait qu'une infime fraction de ces accidents. En fait, moins de un pour cent des accidents signalés au gouvernement sont parvenus dans la base de données médiatique. Cela suggère que le public a une vision très déformée de la sécurité robotique, manquant la vaste majorité des défaillances de routine tout en se concentrant sur un nombre restreint d'entre elles.
L'étude a également révélé que les médias n'ignorent pas simplement les accidents graves. Contraき à l'idée selon laquelle les organes de presse préféreraient les histoires de robots étranges et inoffensives aux récits tragiques, les données ont montré que les accidents graves étaient en fait beaucoup plus susceptibles d'être rapportés. Lorsqu'un accident de voiture autonome entraînait un décès ou une blessure grave, il était près de neuf fois plus susceptible d'apparaître dans la base de données médiatique qu'un simple accrochage mineur. Cependant, la base de données médiatique a capturé un autre type de défaillance que le système gouvernemental a totalement manqué : les défaillances opérationnelles sans collision. Il s'agit d'incidents où un robot se comporte de manière dangereuse sans rien percuter, comme un robotaxi bloquant une ambulance, une flotte de véhicules immobilisés dans le trafic à cause d'une panne de courant, ou un robot resté coincé dans une inondation. Comme la règle de signalement du gouvernement n'est déclenchée que par une collision physique, ces situations dangereuses restent invisibles pour les régulateurs, même si elles posent un risque réel pour la sécurité publique.
La recherche s'est étendue aux robots chirurgicaux, où un autre type de distorsion a été observé. La base de données des rapports sur les dispositifs médicaux a montré un bond massif, de quatre fois, des rapports de dysfonctionnement en 2025. À première vue, cela ressemblait à une augmentation soudaine des défaillances dangereuses. Cependant, un examen plus approfondi des données a révélé que cette poussée n'était pas causée par plus de blessures ou de décès. Au lieu de cela, le fabricant avait commencé à déposer des rapports pour un type spécifique d'usure de leurs instruments, un problème de maintenance de routine qui était auparavant non répertorié. Le nombre de blessures réelles infligées aux patients a à peine changé. Cette conclusion souligne comment le comportement de la personne qui dépose le rapport peut créer l'illusion d'une crise, même lorsque la réalité physique des dommages reste stable.
La découverte la plus frappante concerne la nouvelle génération de robots : les humanoïdes. Ce sont les machines qui marchent sur deux jambes et qui commencent à apparaître dans les espaces publics, des parcs d'attractions aux rues de la ville. L'étude a révélé que ces robots passent entre les mailles de chaque système de signalement. Il n'existe aucune règle obligatoire pour qu'ils signalent des collisions, aucune catégorie de dispositif médical pour leurs défaillances, et aucun moyen cohérent pour les médias de les suivre. Le chercheur a compilé une liste de cinq incidents spécifiques impliquant des humanoïdes en 2026, incluant un robot ayant pris feu lors d'une compétition et un autre ayant été saisi par la police après un contact inapproprié présumé. Un seul de ces événements est apparu dans la base de données médiatique, et aucun n'a été capturé par un quelconque régulateur gouvernemental ou de santé. Cela crée un fossé dangereux où la forme la plus visible et la plus rapidement déployée d'intelligence artificielle opère sans un enregistrement systématique de ses défaillances.
La conclusion est qu'aucune source d'information unique ne peut nous dire la vérité sur la sécurité robotique. Le gouvernement voit les collisions mais manque les quasi-accidents. Les médias voient les défaillances spectaculaires mais manquent les défaillances de routine. Les régulateurs médicaux voient les rapports déposés par les fabricants mais peuvent ne pas voir les dommages réels. Tant que ces systèmes ne seront pas connectés et élargis pour couvrir les nouveaux types de robots entrant dans notre monde, notre compréhension du risque restera incomplète. L'étude suggère que les régulateurs doivent mettre à jour leurs règles pour capturer les défaillances opérationnelles, et pas seulement les collisions, et pour créer de nouveaux canaux de signalement pour les robots humanoïdes qui marchent déjà parmi nous. Sans ces changements, nous continuerons d'apprendre les dangers de l'intelligence artificielle après coup, et seulement lorsque l'histoire sera assez dramatique pour être racontée.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.