Empirically Derived AI Harm Profiles and the Case for Context-Sensitive Moral Responsibility

Künstliche Intelligenz ist kein ferner Versprechung mehr; sie ist eine tägliche Realität, die Entscheidungen trifft, die unsere Sicherheit, unsere Arbeitsplätze, unsere Privatsphäre und unseren Zugang zu Dienstleistungen beeinflussen. Wenn diese Systeme funktionieren, optimieren sie unser Leben. Wenn sie versagen, können die Folgen schwerwiegend sein, die von körperlicher Verletzung bis hin zur Verweigerung von Bürgerrechten reichen. Seit Jahren versuchen Experten, diese Technologien mithilfe breiter ethischer Prinzipien wie Fairness, Transparenität und Sicherheit zu regulieren. Diese hochgradig abstrakten Ideen haben jedoch oft Schwierigkeiten, sich in praktische Regeln für die chaotischen, vielfältigen Arten der tatsächlichen Anwendung von KI in der realen Welt zu übersetzen. Eine zentrale Herausforderung bestand darin, zu verstehen, wie verschiedene Arten von KI in spezifischen Situationen versagen. Ist ein selbstfahrendes Auto, das einen Unfall verursacht, dasselbe Problem wie ein Chatbot, der Fehlinformationen verbreitet, oder ein Gesichtserkennungssystem, das einen Verdächtigen falsch identifiziert? Um dies zu beantworten, haben Forscher damit begonnen, dokumentierte Ausfälle nicht als isolierte Unfälle, sondern als Datenpunkte zu betrachten, die tiefere Muster aufzeigen könnten.

Ein Forschungsteam der University of the Cumberlands setzte sich zum Ziel, diese Muster zu finden, indem es eine umfangreiche Sammlung realer KI-Vorfälle untersuchte. Sie sammelten 849 dokumentierte Fälle von KI-Fehlern aus einer öffentlichen Datenbank namens AIAAIC Repository, die Vorfälle im Zusammenhang mit künstlicher Intelligenz, Algorithmen und Automatisierung verfolgt. Anstatt jedes Ereignis als eine einzigartige Geschichte zu behandeln, analysierten die Forscher, wie diese Ausfälle basierend auf der Art der Technologie, ihrem Einsatzort, ihrer Zweckbestimmung und der Art des verursachten Schadens zusammenclusterten. Ihr Ziel war es zu sehen, ob sich das Chaos einzelner Unfälle in einige wenige, deutliche Kategorien oder „Schadensprofile“ organisieren ließe, die Regulierungsbehörden und Unternehmen helfen könnten, bessere, spezifischere Aufsichtsregeln zu erstellen.

Die Analyse ergab, dass KI-Ausfälle nicht zufällig sind. Sie gruppieren sich tendenziell um zwei Hauptstrukturen. Das erste Thema unterscheidet zwischen Systemen, die direkt mit der physischen Welt interagieren, und solchen, die primär Informationen verarbeiten. Das zweite Thema trennt Systeme, die darauf ausgelegt sind, Menschen zu identifizieren und zu überwachen, von jenen, die darauf ausgeert sind, Inhalte zu generieren. Durch die Kartierung dieser Beziehungen identifizierten die Forscher drei klare, wiederkehrende Schadensprofile, die auftreten, wenn Dinge schiefgehen.

Das erste Profil bezeichnen die Forscher als Autonome oder Verkörperte KI (Autonomous or Embodied AI). Dies sind Systeme, die eine physische Präsenz haben und direkten körperlichen Schaden verursachen können, wie etwa selbstfahrende Fahrzeuge oder Roboter. In den Daten traten diese Fehler fast immer im Transportsektor auf. Wenn diese Systeme versagen, ist das Ergebnis typischerweise ein Sicherheitsversagen: Ein Auto kracht, ein Roboter gerät außer Kontrolle oder ein menschlicher Bediener verliert die Kontrolle. Die Risiken sind hier unmittelbar und physisch und betreffen die Sicherheit von Passagieren, Fußgängern und Rettungskräften. Da die Folgen greifbar und gefährlich sind, schlagen die Forscher vor, dass die Regulierung für diese Gruppe stark auf die Betriebssicherheit, die strenge Prüfung von Hardware und Sensoren sowie klare Regeln für die Verantwortlichkeit bei einem physischen Unfall fokussieren muss.

Das zweite Profil ist die Gesichtserkennung (Vision Recognition). Diese Kategorie umfasst Systeme, die Kameras und Software nutzen, um Personen zu identifizieren, wie etwa Gesichtserkennungstechnologie, die von Strafverfolgungsbehörden oder Sicherheitsorganen eingesetzt wird. Die Daten zeigten, dass Fehler in diesem Bereich im Justiz- und Polizeisektor konzentriert sind. Im Gegensatz zu den physischen Unfällen der ersten Gruppe sind die Schäden hier tief mit Bürgerrechten und Diskriminierung verbunden. Die häufigsten Probleme bestehen darin, dass das System Menschen falsch identifiziert, insbesondere Angehörige bestimmter demografischer Gruppen, oder Überwachung auf eine Weise einsetzt, die über rechtliche Grenzen hinausgeht. Die Forscher fanden heraus, dass diese Fehler eine andere Art von Risiko schaffen: eine Bedrohung für die Privatsphäre, die Fairness und das Recht, frei von unrechtmäßiger Beschuldigung zu sein. Die Governance für dieses Profil muss daher darauf abzielen, Voreingenommenheit zu verhindern, Transparenz bei der Nutzung der Systeme zu gewährleisten und klare Wege bereitzustellen, damit Menschen fehlerhafte Identifizierungen anfechten können.

Das dritte Profil ist Generative KI. Dies ist die Technologie hinter Werkzeugen, die Texte, Bilder und andere Medien erstellen. Die Daten zeigten, dass Fehler hier am häufigsten im Medien- und Informationssektor vorkommen. Die mit dieser Gruppe verbundenen Schäden unterscheiden sich von den anderen; sie beinhalten selten körperliche Verletzungen oder direkte Überwachung. Stattdessen drehen sich die Probleme um die Qualität und Wahrhaftigkeit von Informationen. Zu den Fehlern gehören die Erstellung überzeugender, aber falscher Inhalte, die Identitätsimitation realer Personen und die Verbreitung von Fehlinformationen, die den Ruf schädigen oder die öffentliche Meinung manipulieren können. Da das Risiko der Integrität von Informationen und nicht der physischen Sicherheit oder unmittelbaren Überwachung gilt, argumentieren die Forscher, dass die Aufsicht für diese Gruppe darauf fokussieren sollte, die Quelle von Inhalten zu verifizieren, die Überwachung von täuschenden Outputs zu kontrollieren und sicherzustellen, dass Urheber und Plattformen für das, was ihre Systeme produzieren, rechenschaftspflichtig sind.

Interessanterweise fanden die Forscher heraus, dass eine gemeinsame Art der KI-Fähigkeit, das prädiktive Monitoring (Predictive Monitoring), keine eigene separate Gruppe bildete. Prädiktives Monitoring bezieht sich auf Systeme, die Daten analysieren, um zukünftige Ereignisse vorherzusagen, wie etwa die Vorhersage von Verbrechen, Kreditausfällen oder Gesundheitszuständen. Die Studie zeigte, dass diese Systeme nicht zusammenklusterten, weil ihre Risiken vollständig davon abhängen, wo sie eingesetzt werden. Ein prädiktives System, das im Gesundheitswesen eingesetzt wird, steht vor anderen ethischen Herausforderungen als eines, das bei der Einstellung von Mitarbeitern oder im Finanzwesen eingesetzt wird. Dieser Befund deutet darauf hin, dass prädiktives Monitoring keine einzelne Risikokategorie ist, sondern ein Werkzeug, das den Charakter der Umgebung annimmt, in die es eintritt. Wenn ein prädiktives System in einem Kontext der Strafverfolgung eingesetzt wird, erbt es die Risiken des Profils der Gesichtserkennung; wenn es in der Finanzwirtschaft eingesetzt wird, erbt es die wirtschaftlichen Risiken anderer Profile. Dies bedeutet, dass Regeln für diese Systeme nicht „Einheitslösungen“ sein können; sie müssen auf den spezifischen Kontext zugeschnitten sein, in dem die Vorhersage getroffen wird.

Die Forscher schlagen eine neue Art der KI-Regulierung vor, die auf diesen Erkenntnissen basiert. Anstatt dieselben breiten Regeln für alle Formen künstlicher Intelligenz anzuwenden, schlagen sie vor, dass Regulierungsbehörden und Unternehmen zuerst identifizieren sollten, in welches Schadensprofil ein System fällt. Sob-ald ein System kategorisiert wurde, können die spezifischen Regeln für die Überwachung, Prüfung und Zuweisung der Verantwortung angewendet werden. Beispielsweise müsste ein selbstfahrendes Auto strengen Sicherheitsprüfungen und sofortigen Meldepflichten für physische Beinahe-Unfälle unterliegen. Ein Gesichtserkennungssystem müsste regelmäßige Kontrollen auf rassistische Voreingenommenheit durchlaufen und klare Wege bieten, damit Bürger fehlerhafte Identifizierungen anfechten können. Eine generative KI-Plattform müsste die Authentizität ihrer Inhalte nachweisen und Mechanismen haben, um schädliche Fehlinformationen schnell zu entfernen.

Dieser Ansatz führt die KI-Governance von abstrakten Prinzipien zu konkreten Handlungen. Er erkennt an, dass ein Fehler in einem Roboter grundlegend anders ist als ein Fehler in einem Chatbot, und dass die Menschen, die für deren Behebung verantwortlich sind, auch unterschiedlich sein müssen. Indem sie die tatsächliche Geschichte dessen untersucht haben, wie KI gescheitert ist, haben die Forscher eine Landkarte für den Aufbau eines effektiveren, kontextsensitiven Aufsichtssystems erstellt. Sie argumentieren, dass diese Methode der Gesellschaft ermöglicht, die spezifischen Gefahren jeder Art von Technologie zu adressieren, ohne sich in Verallgemeinerungen zu verlieren, wodurch sichergestellt wird, dass die Regeln, die wir schaffen, so praktisch und präzise sind wie die Technologie selbst. Die Studie kommt zu dem Schluss, dass wir, indem wir dokumentierte Vorfälle als Ressource statt nur als Aufzeichnung vergangener Fehler betrachten, eine Zukunft aufbauen können, in der KI durch ein Verständnis ihrer realen Auswirkungen reguliert wird, was die Technologie für alle sicherer und rechenschaftspflichtiger macht.