The Embodiment Gap: What Mandatory, Regulatory and Media-Based Incident Regimes Reveal About Robotic AI Failures, 2021–2026
Diese Arbeit analysiert Vorfalldaten von 2021 bis 2026 über obligatorische regulatorische und medienbasierte Regime hinweg, um zu zeigen, dass jedes System eine distinkte und unvollständige Teilmenge robotergestützter KI-Fehlfunktionen erfasst, was signifikante Lücken in der Sichtbarkeit für nicht-crash-bedingte Betriebsfehler und aufkommende humanoide Technologien offenlegt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Wenn eine Maschine mit künstlicher Intelligenz in der realen Welt einen Fehler macht, hängt die Geschichte dieses Fehlers ganz davon ab, wer zuhört. Wenn ein selbstfahrendes Auto einen Unfall baut, wird eine Regierungsbehörde mit einem gesetzlichen Mandat zur Datenerhebung dies protokollieren. Wenn ein chirurgischer Roboter innerhalb eines Patienten eine Fehlfunktion erleidet, wird ein Gesundheitsregulator einen Bericht erstellen. Aber wenn ein Roboter in einem Museum stolpert oder eine humanoide Maschine auf einer Fachmesse seltsam agiert, besteht die einzige Aufzeichnung möglicherweise aus einem Video, das ein Passant gepostet hat, oder einem Zeitungsartikel. Diese unterschiedlichen Arten der Informationsbeschaffung werden als Incident-Regime bezeichnet. Sie fungieren als Augen und Ohren der Gesellschaft und entscheiden darüber, welche Fehler Teil unseres kollektiven Gedächtnisses werden und welche in der Stille verschwinden. Das Problem ist, dass jedes Regime einen anderen Ausschnitt der Realität sieht. Das eine sieht nur Unfälle, das andere nur medizinische Fehler und das dritte sieht nur die Geschichten, die es in die Nachrichten schaffen. Da diese Systeme nicht miteinander kommunizieren, glauben wir oft zu verstehen, wie sicher Roboter sind, während wir in Wirklichkeit auf ein fragmentiertes Bild blicken, in dem die gefährlichsten Ausfälle verborgen bleiben könnten und die häufigsten unsichtbar sein könnten.
Ein Forscher namens Alfredo Merlet setzte sich zum Ziel, diese blinden Flecken zu kartieren, indem er drei unterschiedliche Wege der Verfolgung von Roboterfehlern zwischen 2021 und 2026 verglich. Er untersuchte die obligatorischen Unfallberichte, die bei der US National Highway Traffic Safety Administration eingereicht wurden, die Berichte über Medizinprodukte, die beim US Food and Drug Administration eingereicht wurden, sowie eine freiwillige Datenbank, die Geschichten aus den Medien sammelt. Durch die Verknüpfung dieser Quellen entdeckte er, dass die Art und Weise, wie wir über Roboterfehler lernen, tiefgreifend fehlerhaft ist. Das obligatorische System für selbstfahrende Autos verzeichnete über 8.000 Vorfälle, doch die Mediendatenbank, die oft als umfassende Liste von KI-Problemen behandelt wird, enthielt nur einen winzigen Bruchteil dieser Unfälle. Tatsächlich gelang weniger als ein Prozent der bei der Regierung gemeldeten Unfälle in die Mediendatenbank. Dies deutet darauf hin, dass die Öffentlichkeit eine stark verzerrte Sicht auf die Sicherheit von Robotern hat, wobei sie die überwiegende Mehrheit der Routinefehler übersieht und sich stattdessen auf einige wenige konzentriert.
Die Studie zeigte auch, dass die Medien nicht einfach schwerwiegende Unfälle ignorieren. Entgegen der Vorstellung, dass Nachrichtenmedien lieber harmlose, kuriose Robotergeschichten als tragische wählen, zeigten die Daten, dass schwere Unfälle tatsächlich viel wahrscheinlicher berichtet wurden. Wenn ein Unfall eines selbstfahrenden Autos zu einem Todesfall oder einer schweren Verletzung führte, war es fast neunmal wahrscheinlicher, dass er in der Mediendatenbank erschien als ein kleiner Blechschaden. Die Mediendatenbank erfasste jedoch eine andere Art von Versagen, die das Regierungssystem völlig übersah: operationale Ausfälle ohne Kollision. Dies sind Vorfälle, bei denen ein Roboter sich gefährlich verhält, aber nichts trifft, wie etwa ein Robotaxi, das einen Krankenwagen blockiert, eine Flotte von Fahrzeugen, die aufgrund eines Stromausfalls im Verkehr einfriert, oder ein Roboter, der in einer Flut stecken bleibt. Da die Melderegel der Regierung erst durch einen physischen Crash ausgelöst wird, bleiben diese gefährlichen Situationen für die Regulierungsbehörden unsichtbar, obwohl sie eine reale Gefahr für die öffentliche Sicherheit darstellen.
Die Forschung weitete sich auf chirurgische Roboter aus, bei denen eine andere Art von Verzerrung gefunden wurde. Die Datenbank der Berichte über Medizinprodukte zeigte im Jahr 2025 einen massiven, vierfachen Anstieg der Fehlermeldungen. Auf den ersten Blick sah dies wie ein plötzlicher Anstieg gefährlicher Ausfälle aus. Bei genauerer Betrachtung der Daten stellte sich jedoch heraus, dass der Anstieg nicht durch mehr Verletzungen oder Todesfälle verursacht wurde. Stattdessen begann der Hersteller, Berichte über eine bestimmte Art von Verschleiß an seinen Instrumenten einzureichen – ein routinemäßiges Wartungsproblem, das zuvor unregistriert geblieben war. Die Zahl der tatsächlichen Verletzungen bei Patienten änderte sich kaum. Dieser Befund verdeutlicht, wie das Verhalten der Person, die den Bericht einreicht, die Illusion einer Krise erzeugen kann, selbst wenn die physische Realität des Schadens stabil bleibt.
Der vielleicht frappierendste Befund betrifft die neueste Generation von Robotern: Humanoiden. Dies sind die Maschinen, die auf zwei Beinen gehen und beginnen, in öffentlichen Räumen zu erscheinen, von Vergnügungsparks bis hin zu Stadtstraßen. Die Studie fand heraus, dass diese Roboter durch das Raster jedes Meldesystems fallen. Es gibt keine verbindliche Regel für die Meldung ihrer Unfälle, keine Kategorie für Medizinprodukte für ihr Versagen und keinen konsistenten Weg für die Medien, sie zu verfolgen. Der Forscher erstellte eine Liste von fünf spezifischen Vorfällen mit Humanoiden im Jahr 2026, darunter ein Roboter, der bei einem Wettbewerb Feuer fing, und ein anderer, der nach einer mutmaßlich unangemessenen Berührung von der Polizei beschlagnahmt wurde. Nur eines dieser Ereignisse erschien in der Mediendatenbank, und keines wurde von einer offiziellen Regierungs- oder Gesundheitsbehörde erfasst. Dies schafft eine gefährliche Lücke, in der die sichtbarste und am schnellsten verbreitete Form der künstlichen IntelligenIntelligenz ohne systematische Erfassung ihrer Fehler operiert.
Das Fazit ist, dass keine einzelne Informationsquelle uns die Wahrheit über die Sicherheit von Robotern sagen kann. Die Regierung sieht die Unfälle, übersieht aber die Beinahe-Unfälle. Die Medien sehen die dramatischen Ausfälle, übersehen aber die routinemäßigen. Die Medizinregulierer sehen die von Herstellern eingereichten Berichte, sehen aber möglicherweise nicht den tatsächlichen Schaden. Bis diese Systeme vernetzt und erweitert werden, um die neuen Arten von Robotern abzudecken, die in unsere Welt eintreten, wird unser Verständnis von Risiko unvollständig bleiben. Die Studie legt nahe, dass Regulierungsbehörden ihre Regeln aktualisieren müssen, um operationale Ausfälle zu erfassen, nicht nur Kollisionen, und um neue Meldekanäle für die humanoiden Roboter zu schaffen, die bereits unter uns wandeln. Ohne diese Änderungen werden wir weiterhin erst im Nachhinein von den Gefahren der künstlichen Intelligenz lernen – und dann, wenn die Geschichte dramatisch genug ist, um erzählt zu werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.