A Closer Look at the Existing Risks of Generative AI: Mapping the Who, What, and How of Real-World Incidents
Dieser Beitrag stellt eine neue Taxonomie für Fehler generativer KI vor, indem er systematisch 499 reale Vorfälle analysiert, um aufzuzeigen, dass die meisten Schäden aus nutzungsbezogenen Problemen resultieren, die Stakeholder über die Endnutzer hinaus betreffen, wodurch sich das Risikolandschaft generativer KI von der traditioneller KI abhebt und nicht-technische Minderungsstrategien wie öffentliche Offenlegung, Bildung und Regulierung befürwortet werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich Generative KI als eine super-chargierte, hyper-kreative Fabrik vor, die sofort Texte, Bilder, Audio und Videos produzieren kann. Sie ist wie eine magische Druckerpresse, die niemals schläft. Doch genau wie jede leistungsfähige Fabrik produziert sie nicht nur Waren; sie produziert auch „Unfälle" und „Chaos".
Dieser Artikel ist im Wesentlichen eine forensische Untersuchung von 499 realen Unfällen, die von dieser Fabrik verursacht wurden. Die Forscher (von der Carnegie Mellon University) haben nicht nur geraten, was schiefgehen könnte; sie haben einen riesigen Haufen Polizeiberichte, Nachrichtenberichte und öffentliche Beschwerden analysiert, um genau zu kartieren, was passiert ist, wer verletzt wurde und warum.
Hier ist die Aufschlüsselung ihrer Erkenntnisse in einfachen Worten:
1. Die große Überraschung: Das „Zuschauer"-Problem
In den meisten Sicherheitsgeschichten gehen wir davon aus, dass die Person, die verletzt wird, diejenige ist, die das Werkzeug benutzt. Wenn Sie unvorsichtig Auto fahren, sind Sie derjenige, der einen Unfall baut.
Bei Generativer KI stellten die Forscher jedoch oft das Gegenteil fest.
- Die Analogie: Stellen Sie sich vor, Sie sind auf einer Party. Sie entscheiden sich, mit einem magischen Pinsel ein lustiges Bild Ihres Freundes zu malen. Sie (der Nutzer) finden es urkomisch. Aber die Person auf dem Bild (der Zuschauer) wird nun von der ganzen Stadt verspottet, oder ihr Ruf ist ruiniert.
- Die Erkenntnis: Die Studie ergab, dass der Großteil des Schadens nicht der Person widerfuhr, die die KI nutzte. Er widerfuhr Menschen, die nichts damit zu tun hatten – Fremden, Gemeinschaften oder der Gesellschaft insgesamt. Die „Nutzer" erhielten oft die Vorteile (Spaß, Produktivität), während die „Nicht-Nutzer" die Prellungen erlitten (Betrug, Identitätsdiebstahl, Verwirrung).
2. Die zwei Hauptschuldigen: „Der Defekt" vs. „Der Bösewicht"
Die Forscher kategorisierten die Gründe für diese Unfälle in zwei Hauptkategorien:
- Der Defekt (Technische Ausfälle): Manchmal macht die KI einfach einen Fehler. Sie halluziniert (erfindet Fakten), gerät in Verwirrung oder versagt, Regeln zu befolgen.
- Wer wird verletzt? In der Regel die Person, die die KI nutzt. Zum Beispiel nutzt ein Anwalt eine KI, um eine Gerichtsschrift zu verfassen, die KI erfindet einen falschen Fall, und der Anwalt gerät in Schwierigkeiten.
- Der Bösewicht (Böswillige Nutzung): Dies war die größte Überraschung. Die häufigste Ursache für Schaden war nicht, dass die KI defekt war; es waren Menschen, die eine funktionierende KI absichtlich nutzten, um böse Dinge zu tun.
- Wer wird verletzt? Fast immer die Zuschauer.
- Beispiele: Jemand nutzt KI, um ein gefälschtes Deepfake-Video eines Politikers zu erstellen, um einen Aufruhr zu verursachen, oder erstellt gefälschte Nacktbilder eines Klassenkameraden, um ihn zu mobben. Die KI funktionierte genau so, wie sie designed war; das menschliche Wesen dahinter war das Problem.
3. Die „Wer, Was und Wie"-Karte
Der Artikel erstellte eine neue Karte (eine Taxonomie), um diese Vorfälle zu organisieren:
- Was passierte (Der Schaden): Die häufigsten Schadensarten betrafen die Autonomie der Menschen (getäuscht oder imitiert zu werden), Politik/Wirtschaft (Fake-News, die Wahlen oder Märkte beeinflussen) und Ruf (Verleumdung).
- Wie es passierte (Die Fehlerart): Die häufigste Ursache war Böswillige Nutzung (vorsätzliche böswillige Akteure). Die zweithäufigste war Nicht-Offengelegte Nutzung (Nutzung von KI, wenn man menschliche Arbeit leisten sollte, wie ein Student, der schummelt, oder eine Zeitschrift, die mit KI-Spam überflutet wird).
- Wer verletzt wurde: Wie erwähnt, trugen die „nicht interagierenden" Personen (die Öffentlichkeit, Opfer von Deepfakes) die Hauptlast des Schadens.
4. Warum aktuelle Regeln nicht funktionieren
Der Artikel argumentiert, dass unsere derzeitige Denkweise über Sicherheit kaputt ist, weil sie davon ausgeht, dass nur die Person, die das Werkzeug benutzt, Schutz benötigt.
- Die Analogie: Es ist wie ein Sicherheitsmanual für einen Hammer, das Ihnen nur erklärt, wie Sie Ihren eigenen Daumen nicht treffen, aber nichts darüber sagt, wie Sie Ihren Nachbarn nicht damit schlagen.
- Die Realität: Da die Personen, die die KI nutzen, oft nicht die Konsequenzen tragen (das Opfer tut es), haben sie keine Motivation, vorsichtig zu sein. Der „Vorteil" geht an den Nutzer, aber das „Risiko" geht an den Fremden.
5. Was sollten wir tun?
Die Autoren schlagen drei Hauptmaßnahmen vor, um dieses Chaos zu beheben, mit Fokus auf Menschen und Regeln statt nur auf besseren Code:
- Menschen unterrichten (KI-Literacy): Wir müssen der allgemeinen Öffentlichkeit beibringen, wie diese „Fabrik" funktioniert. Wenn Menschen verstehen, dass KI lügen kann (halluzinieren) oder für Betrug genutzt werden kann, werden sie ihr nicht blind vertrauen. Dies stoppt einige „Unfälle", die durch Unwissenheit verursacht werden.
- Regulieren Sie das „Open Source"-Wilde Westen: Der Artikel stellt fest, dass viele der schlimmsten Tools (wie Apps, die gefälschte Nacktbilder erstellen) auf „Open Source"-Modellen basieren, die jeder herunterladen und anpassen kann. Die aktuellen Regeln lassen diese Tools mit wenigen Einschränkungen existieren. Die Autoren schlagen vor, dass wir hier strengere Regeln benötigen, um die „Bösewichte" daran zu hindern, ihre Waffen zu bauen.
- Verfolgen Sie die „Papierspur" (Herkunft): Wir brauchen bessere Möglichkeiten, um zu unterscheiden, was echt und was KI ist. Wenn wir KI-Inhalte kennzeichnen können (wie ein „Von KI erstellt"-Etikett) und Fälschungen erkennen können, wird es für Betrüger schwieriger, Lügen zu verbreiten, oder für Deepfakes, Ruf zu ruinieren.
Das Fazit
Generative KI ist nicht nur ein Werkzeug, das gelegentlich kaputt geht; es ist ein Werkzeug, das häufig von Menschen als Waffe eingesetzt wird, um Menschen zu verletzen, die es gar nicht wollten. Die Lösung besteht nicht nur darin, die KI „intelligenter" zu machen; es geht darum, wie wir sie regulieren, die Öffentlichkeit darin zu schulen, die Tricks zu erkennen, und zu erkennen, dass nicht nur die Personen, die die Technologie nutzen, Schutz benötigen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.