Bridging the Gap in the Responsible AI Divides

Die Studie analysiert die Spannungen zwischen KI-Sicherheit und KI-Ethik, identifiziert thematische Unterschiede sowie Überschneidungen in einem Datensatz von 3.550 Publikationen und empfiehlt einen kritischen Brückenschlag über gemeinsame Forschungsprobleme als konstruktiven Weg für eine kollaborative KI-Governance.

Das Wesentliche

Das große Problem: Zwei Lager, die sich streiten

Stell dir vor, die Welt der Künstlichen Intelligenz (KI) ist wie eine riesige Baustelle für ein futuristisches Haus. Auf dieser Baustelle gibt es zwei wichtige Gruppen von Experten, die beide wollen, dass das Haus sicher und gut für alle Bewohner wird. Aber sie reden kaum miteinander und verstehen sich oft nicht:

1. Die „KI-Ethiker" (AIE): Diese Gruppe kümmert sich um die sozialen Fragen. Sie fragen: „Ist das Haus gerecht? Diskriminiert es arme Mieter? Wer haftet, wenn ein Roboter einen Menschen verletzt? Ist der Lärm für die Nachbarn fair?" Sie schauen auf das Hier und Jetzt und auf Menschenrechte.
2. Die „KI-Sicherheitsexperten" (AIS): Diese Gruppe kümmert sich um die technische Stabilität. Sie fragen: „Kann das Haus einstürzen? Wenn der Wind zu stark wird, hält die Struktur? Was passiert, wenn das System verrückt spielt und die ganze Welt in Brand setzt?" Sie schauen oft auf langfristige, katastrophale Risiken und technische Kontrollen.

Das Problem ist: Diese beiden Gruppen streiten sich oft darüber, wer wichtiger ist. Die einen sagen, die anderen seien zu paranoid; die anderen sagen, die einen seien zu oberflächlich. Das nennt die Studie die „Verantwortliche-KI-Kluft".

Vier Möglichkeiten, wie diese Gruppen miteinander umgehen

Die Forscher haben untersucht, wie diese beiden Lager bisher miteinander umgehen, und vier Szenarien identifiziert:

1. Der offene Kampf (Radikale Konfrontation): Beide Seiten schreien sich gegenseitig an. Die Ethiker sagen: „Ihr seid nur Technokraten!" und die Sicherheitsexperten sagen: „Ihr seid nur Philosophen ohne Ahnung!" Das Ergebnis: Niemand hört zu, und die Baustelle kommt nicht voran.
2. Das Ignorieren (Desengagement): Beide Gruppen tun so, als gäbe es den anderen nicht. Sie arbeiten an ihren eigenen Tischen, ohne zu reden. Das klingt ruhig, aber die Probleme unter der Oberfläche wachsen weiter.
3. Die getrennten Zelte (Abgegrenztes Zusammenleben): Sie sind auf derselben Baustelle, aber jeder macht sein eigenes Ding. Sie essen vielleicht zusammen, aber sie tauschen keine Werkzeuge aus. Es sieht aus wie Zusammenarbeit, aber eigentlich reden sie aneinander vorbei.
4. Die Brückenbauer (Kritisches Überbrücken): Das ist die Lösung, die die Forscher vorschlagen. Hier setzen sich beide Gruppen zusammen, erkennen an, dass sie unterschiedliche Meinungen haben, aber suchen aktiv nach gemeinsamen Problemen, die sie zusammen lösen können.

Die große Entdeckung: Wo liegen die Brücken?

Um herauszufinden, wo diese Brücken liegen könnten, haben die Forscher wie Detektive gearbeitet. Sie haben 3.550 wissenschaftliche Papers (Forschungsarbeiten) analysiert – eine riesige Bibliothek an Wissen. Sie haben mit Computern nach Mustern gesucht und dann genau hingeschaut.

Was sie herausfanden:

• Die Unterschiede sind echt:

  • Die Ethiker reden viel über Rassismus, Ungerechtigkeit, Datenschutz und wie KI arme Leute benachteiligt.
  • Die Sicherheitsexperten reden viel über technische Fehler, Hackerangriffe, Roboter, die sich selbst verbessern, und Katastrophenszenarien.
  • Analogie: Die Ethiker schauen auf die Mieter und ihre Rechte; die Sicherheitsexperten schauen auf die Statik und die Feuerlöscher.

• Aber es gibt riesige Überschneidungen (Die Brücken):
  Trotz der unterschiedlichen Sprache gibt es viele Probleme, die beide Gruppen betreffen:

  • Transparenz: Beide wollen wissen, wie die KI funktioniert. (Ethiker: „Damit ich sie verstehe." Sicherheitsexperten: „Damit ich sie kontrollieren kann.")
  • Fehleranfälligkeit: Beide wollen verhindern, dass die KI Unsinn produziert (Halluzinationen).
  • Gouvernanz: Beide brauchen Regeln, wer verantwortlich ist, wenn etwas schiefgeht.
  • Vorurteile: Beide wollen verhindern, dass die KI „verrückt" wird oder falsche Entscheidungen trifft.

Die Lösung: Gemeinsam an den „Brücken-Problemen" arbeiten

Die Autoren sagen: Wir müssen nicht versuchen, alle philosophischen Meinungen sofort zu vereinigen. Das ist zu schwer. Stattdessen sollten wir uns auf die konkreten Probleme konzentrieren, die beide Seiten haben.

Stell dir das so vor:
Statt zu streiten, ob das Haus aus Holz oder Stein gebaut werden soll (Weltanschauung), sollten sich beide Gruppen zusammensetzen und sagen: „Okay, wir beide wollen verhindern, dass das Dach bei Sturm abfliegt. Du hast die technischen Werkzeuge, ich habe die Regeln für die Sicherheit. Lass uns zusammenarbeiten!"

Warum ist das wichtig?

Wenn diese beiden Gruppen weiter streiten oder ignoriert, wird die KI-Governance (die Regeln für KI) lückenhaft.

• Wenn wir nur auf Sicherheit achten, bauen wir vielleicht ein sicheres Haus, in dem aber niemand wohnen darf, weil es unfair ist.
• Wenn wir nur auf Ethik achten, bauen wir ein schönes Haus, das aber bei der ersten Windböe einstürzt.

Fazit der Studie:
Der beste Weg nach vorne ist „Kritisches Überbrücken". Das bedeutet: Wir akzeptieren, dass wir unterschiedlich denken, aber wir nutzen unsere unterschiedlichen Werkzeuge, um die gleichen großen Probleme zu lösen. Es geht darum, eine gemeinsame Sprache für die Probleme zu finden, auch wenn die Philosophie dahinter noch unterschiedlich ist.

Nur so können wir sicherstellen, dass die KI der Zukunft nicht nur technisch sicher, sondern auch menschlich gerecht ist.

Technische Zusammenfassung

1. Problemstellung: Die „Responsible AI"-Spaltung

Das Paper adressiert die zunehmenden Spannungen zwischen zwei zentralen Disziplinen im Bereich der KI-Governance: KI-Sicherheit (AI Safety, AIS) und KI-Ethik (AI Ethics, AIE). Diese Spannungen führen zu einer „Responsible AI"-Spaltung, die die Priorisierung von Risiken, die Ressourcenallokation (Forschungsgelder, Aufmerksamkeit) und die Entwicklung von Minderungsstrategien behindert.

Die Autoren identifizieren, dass die beiden Felder oft unterschiedliche Risikoperspektiven einnehmen:

• AIE konzentriert sich traditionell auf gegenwärtige, greifbare Schäden wie Diskriminierung, Ungerechtigkeit, mangelnde Rechenschaftspflicht und soziale Auswirkungen.
• AIS fokussiert sich oft auf eine antizipatorische Herangehensweise, die sich auf die Minderung von Risiken durch zukünftige KI-Fähigkeiten (z. B. existenzielle Risiken, Kontrollverlust, Alignment-Probleme) konzentriert.

Das zentrale Problem ist, dass diese getrennten Ansätze zu einer Fragmentierung führen, die eine effektive, ganzheitliche Governance erschwert. Das Paper untersucht, wie diese Spaltung überwunden werden kann, ohne die spezifischen Unterschiede der Felder zu verwischen.

2. Methodik

Die Autoren verwenden einen Mixed-Methods-Ansatz, der quantitative Text Mining-Verfahren mit qualitativer deduktiver Kodierung kombiniert.

• Datensatz: Es wurde ein kuratiertes Dataset von insgesamt 3.550 wissenschaftlichen Arbeiten erstellt.
  • AIE-Korpus (n=1.770): Umfasst die Proceedings der Konferenzen AIES und FAccT seit 2018.
  • AIS-Korpus (n=1.780): Basierend auf einem Open-Source-Dataset, erweitert um Metadaten von 35 führenden Sicherheitslaboren und einzelnen Forschern (bis Juli 2025).
• Quantitative Analyse:
  • Einsatz von VOSViewer zur Erstellung von Ko-Okkurrenz-Netzwerken von Begriffen.
  • Einsatz von BERTopic (unsupervised Topic Modeling) mit SentenceBERT-Embeddings zur Clustering ähnlicher Dokumente.
  • Berechnung der Log-Likelihood-Ratios, um distinktive Wörter zwischen den Korpora zu identifizieren.
  • Analyse der Cosine-Similarity über die Zeit, um semantische Konvergenzen zu messen.
• Qualitative Analyse (Deduktive Kodierung):
  • Entwicklung einer zweistufigen Taxonomie (High-Level und Low-Level Kategorien) für Risiken und Minderungsstrategien.
  • Manuelle Annotation der Papers durch die Autoren, wobei jedes Paper bis zu drei Kategorien zugewiesen bekam.
  • Vergleich der Verteilung von Risiken und Strategien zwischen den beiden Feldern, um Überlappungen und Lücken zu identifizieren.

3. Schlüsselbeiträge und Konzeptualisierung

Ein Hauptbeitrag des Papers ist die Einführung eines Modells mit vier Modi der Auseinandersetzung mit den Spannungen zwischen AIS und AIE (visualisiert in Abbildung 1):

1. Radikale Konfrontation: Direkte Versuche, die andere Seite zu diskreditieren (Risiko: Polarisierung).
2. Desengagement: Verweigerung der Auseinandersetzung unter dem Deckmantel der Neutralität (Risiko: ungelöste Konflikte unter der Oberfläche).
3. Kompartimentierte Koexistenz: Parallele Tracks ohne echte Integration (Risiko: Redundanz und rhetorische Aneignung).
4. Kritisches Brückenbauen (Critical Bridging): Der vom Paper befürwortete Ansatz. Dieser beinhaltet eine strukturierte Auseinandersetzung mit Reibungspunkten, die Suche nach gemeinsamem Boden und die Definition gemeinsamer Probleme, ohne unauflösbare Meinungsverschiedenheiten zu ignorieren.

Das Paper argumentiert spezifisch für das Brückenbauen auf Problem-Ebene (Bridging Problems) als den vielversprechendsten Weg, da dies institutionelle und philosophische Integration voraussetzt, die schwerer zu erreichen ist.

4. Ergebnisse

A. Quantitative Unterschiede und Konvergenz

• Distinktive Begriffe: AIE-Papers verwenden häufiger Begriffe wie Disparität, Gerechtigkeit, Rasse, partizipativ, Fairness und Transparenz. AIS-Papers dominieren Begriffe wie katastrophal, Sicherheitslücken, Out-of-Distribution, Backdoor, Reinforcement Learning und Robustheit.
• Semantische Konvergenz: Die Analyse zeigt, dass sich die Dokumenten-Embeddings von AIS und AIE im Laufe der Zeit annähern. Interessanterweise scheinen AIS-Papers zunehmend ähnlicher zu werden zum Durchschnitts-Embedding von AIE, was auf eine Annäherung der AIS-Diskurse an ethische Themen hindeutet.

B. Qualitative Risiken (Taxonomie)

• AIE-Fokus: Starke Konzentration auf Diskriminierung, Exklusion und Toxizität (insbesondere Bias in automatisierten Entscheidungen), Informationsgefahren (Datenschutz) und Human-Computer-Interaction-Harms (z. B. falsches Vertrauen).
• AIS-Fokus: Fokus auf Systemfehlkonfiguration, Mangelnde Überwachung (Black-Box-Verhalten, Halluzinationen), Unsichere Exploration (in RL) und Adversarial Attacks.
• Überlappungen (Brückenpotenzial): Beide Felder befassen sich zunehmend mit:
  • Fehlender Interpretierbarkeit/Erklärbarkeit (wenn auch mit unterschiedlichen Schwerpunkten: menschliches Verständnis vs. mechanistische Kontrolle).
  • Reproduzierbarkeitskrisen und Benchmark-Problemen.
  • Mangelnder globaler Koordination in der Governance.
  • Risiken durch Datenverteilungsschiebungen (Distribution Shifts).
  • Missbrauchspotenzial (z. B. Jailbreaking, Deepfakes).

C. Qualitative Minderungsstrategien

• AIE-Strategien: Dominanz von Fairness, Gerechtigkeit und inklusivem Design, partizipativen Methoden, Governance/Rahmenwerken und HCI-Ansätzen.
• AIS-Strategien: Dominanz von Robustheit und adversarieller Resilienz, Mechanistischer Interpretierbarkeit (z. B. Circuit Analysis, Sparse Autoencoders), Reward Modeling und Safety Control.
• Gemeinsame Schnittstellen:
  • Menschliche Werte und Präferenzen: Beide Felder arbeiten an der Elicitation und Kodierung menschlicher Werte (z. B. durch Inverse RL oder partizipative Designansätze).
  • Adversarielle Robustheit: Beide untersuchen Methoden zur Abwehr von Jailbreaks und Manipulationen.
  • Auditierung und Governance: Gemeinsames Interesse an Risikobewertungen, Audits und Standardisierung.
  • Erklärbarkeit: Nutzung von Post-hoc-Erklärungen und mechanistischer Interpretierbarkeit, um Entscheidungen zu rechtfertigen (Ziel: Fairness bei AIE, Sicherheit bei AIS).

5. Bedeutung und Empfehlungen

Das Paper schließt mit der Empfehlung, den Fokus auf Brückenbau-Probleme (Bridging Problems) zu legen, um die Zusammenarbeit zu stärken.

• Praktische Implikationen: Durch die Identifizierung gemeinsamer Problemräume (z. B. wie man Robustheit und Fairness gleichzeitig misst) können Redundanzen vermieden und Ressourcen effizienter genutzt werden.
• Politische Relevanz: Die Ergebnisse bieten policymakers einen umfassenderen Überblick, um Richtlinien zu entwickeln, die sowohl kurzfristige soziale Schäden als auch langfristige Sicherheitsrisiken adressieren.
• Zukünftige Forschung: Die Autoren identifizieren offene Fragen, darunter die Notwendigkeit von „soziotechnischen Schnittstellen", der Umgang mit zeitlichen Konflikten (gegenwärtige vs. langfristige Risiken) und die Gestaltung von Förderstrukturen, die Kooperation statt Konkurrenz belohnen.

Fazit: Die Studie belegt, dass trotz unterschiedlicher sprachlicher und methodischer Traditionen signifikante inhaltliche Überschneidungen zwischen KI-Sicherheit und KI-Ethik bestehen. Ein strategischer Fokus auf diese gemeinsamen Problemfelder („Critical Bridging") ist der vielversprechendste Weg, um eine kohärente und wirksame Governance für verantwortungsvolle KI zu entwickeln.