Epistemic Trust as a Mechanism for Ethics Integration: Failure Modes and Design Principles from 70 Moral Imagination Workshops

Das große Problem: Warum Ethik-Workshops oft scheitern

Stellen Sie sich vor, Sie sind ein Ingenieur, der an einem neuen, coolen Handy-Feature arbeitet. Plötzlich kommt jemand von „außen" (ein Ethik-Experte) und sagt: „Halt! Wir müssen über die ethischen Folgen nachdenken!"

In der Realität passiert oft Folgendes: Die Ingenieure rollen mit den Augen, hören nur halb zu und denken: „Das ist doch nur Bürokratie. Das hat nichts mit meinem echten Code zu tun." Oder sie fühlen sich angegriffen. Das Ergebnis? Niemand lernt etwas, und das Problem bleibt bestehen.

Die Forscher dieses Papers haben sich gefragt: Warum funktionieren manche dieser Workshops super, während andere komplett in die Hose gehen?

Ihre Antwort lautet: Es liegt am „Epistemischen Vertrauen".

---

Was ist „Epistemisches Vertrauen"? (Die Brücke des Vertrauens)

Das klingt kompliziert, ist aber eigentlich ganz einfach. Stellen Sie sich vor, Sie stehen am Ufer eines Flusses. Auf der einen Seite stehen die Ingenieure (die Technik machen), auf der anderen Seite die Ethik-Experten (die Fragen stellen).

Damit die Ingenieure wirklich zuhören und mitarbeiten, müssen sie eine Brücke bauen. Diese Brücke heißt Vertrauen. Aber nicht irgendein Vertrauen, sondern ein spezifisches: „Vertraue ich diesem Experten? Habe ich das Gefühl, dass er mich versteht? Ist das, was er sagt, für mein echtes Leben relevant?"

Wenn diese Brücke nicht stabil ist, rutscht der Ingenieur ab und sagt: „Das ist Quatsch."

Die Forscher haben herausgefunden, dass diese Brücke aus fünf Säulen besteht. Wenn eine davon wackelt, bricht die Brücke zusammen.

Die 5 Säulen der Vertrauens-Brücke:

1. Relevanz (Ist das für mich wichtig?):

   • Die Metapher: Wenn Ihnen ein Koch ein Rezept für ein Gericht gibt, das Sie gar nicht mögen und für das Sie keine Zutaten haben, kochen Sie nicht.
   • Im Workshop: Wenn die Ethik-Beispiele zu abstrakt sind („Was ist Gerechtigkeit?") und nichts mit dem konkreten Code zu tun haben, den die Ingenieure gerade schreiben, hören sie auf. Die Ethik muss sich anfühlen wie ein Werkzeug, das ihnen hilft, bessere Produkte zu bauen, nicht wie ein Hindernis.

2. Inklusion (Darf jeder mitreden?):

   • Die Metapher: Stellen Sie sich ein Meeting vor, in dem nur der Chef spricht und alle anderen nicken. Das ist kein Gespräch, das ist ein Vortrag.
   • Im Workshop: Wenn nur die Senior-Ingenieure reden und die jungen Leute oder die Designer schweigen, fehlt die echte Vielfalt. Die Brücke bricht, weil nicht alle Stimmen gehört werden.

3. Eigenverantwortung (Mache ich das selbst oder wird mir etwas aufgezwungen?):

   • Die Metapher: Niemand mag es, wenn ihm jemand von oben herab sagt: „Du musst jetzt Blumen gießen." Aber wenn man selbst merkt, dass die Blumen verdorren, und selbst entscheidet, sie zu gießen, ist das anders.
   • Im Workshop: Wenn die Ingenieure das Gefühl haben, sie seien nur passive Zuhörer, die Befehle befolgen, schalten sie ab. Sie müssen das Gefühl haben: „Das ist unsere Verantwortung, nicht die des Chefs oder der Anwälte."

4. Autorität (Versteht der Experte, wovon er redet?):

   • Die Metapher: Wenn ein Arzt Ihnen medizinische Ratschläge gibt, aber nicht weiß, wie Ihr Herz funktioniert, hören Sie nicht zu.
   • Im Workshop: Wenn der Ethik-Experte technische Begriffe falsch benutzt oder nicht versteht, wie Software funktioniert, verlieren die Ingenieure sofort das Vertrauen. Der Experte muss „mitreden" können, nicht nur reden.

5. Ausrichtung (Sind wir im selben Boot?):

   • Die Metapher: Wenn Sie mit dem Boot fahren wollen, der andere aber denkt, Sie müssten schwimmen, passiert nichts.
   • Im Workshop: Wenn die Ingenieure denken: „Ethik bremst uns nur aus" und die Experten denken: „Wir müssen alles stoppen", gibt es keinen gemeinsamen Nenner. Beide müssen merken, dass Ethik hilft, das Projekt besser und sicherer zu machen.

---

Die 23 Arten, wie die Brücke einstürzt (Die Fehler-Liste)

Die Forscher haben über 70 Workshops analysiert und eine riesige Liste von 23 verschiedenen Arten gefunden, wie diese Brücke kaputtgehen kann.

Hier sind ein paar Beispiele, übersetzt in Alltagssprache:

• Der „Bürokratie-Alarm": Die Ingenieure denken, das sei nur eine Pflichtübung, um sich vor Gericht zu schützen. -> Die Brücke ist aus Papier.
• Der „Zu-abstrakt-Fehler": Man redet über „Menschenwürde", aber niemand weiß, was das mit dem Algorithmus zu tun hat. -> Die Brücke führt ins Nichts.
• Der „Chef-Dominanz-Fehler": Der Chef sagt „Alles gut", und alle anderen schweigen aus Angst. -> Die Brücke ist einseitig.
• Der „Ich-bin-nicht-dafür"-Fehler: Die Ingenieure sagen: „Das ist Sache der Anwälte, nicht meiner." -> Die Brücke wird abgebrochen.
• Der „Ich-verstehe-dich-nicht"-Fehler: Der Experte benutzt zu viele philosophische Fachbegriffe, die niemand versteht. -> Die Brücke ist zu steil.

---

Die Lösung: 9 Regeln für den Brückenbau

Wie baut man also eine Brücke, die hält? Die Forscher haben 9 einfache Regeln (Design-Prinzipien) abgeleitet:

1. Mache es persönlich: Nutze Beispiele, die genau zu dem Projekt passen, an dem die Gruppe gerade arbeitet. Kein generisches „Was wäre wenn".
2. Sei kein Richter, sei ein Partner: Sag nicht „Ihr macht etwas falsch", sondern „Lass uns gemeinsam schauen, wie wir das noch besser machen".
3. Zwei Experten an einem Tisch: Der Moderator sollte sowohl Ethik als auch Technik verstehen (oder zwei Moderatoren, einer von jedem).
4. Sorge für Stimmenvielfalt: Frage bewusst die stillen Leute, bevor die Lauten reden. Schreibe Antworten erst auf, bevor man sie laut ausspricht.
5. Lass sie selbst entscheiden: Gib keine fertigen Antworten. Hilf ihnen, ihre eigenen ethischen Fragen zu finden.
6. Herausfordern, aber freundlich: Frage nach dem „Warum", aber so, dass es sich wie eine gemeinsame Entdeckungsreise anfühlt, nicht wie ein Verhör.
7. Sei ehrlich über die Ziele: Kläre am Anfang: Was wollen wir erreichen? Wenn die Ziele unterschiedlich sind, rede das offen an.
8. Mache es greifbar: Am Ende muss es ein konkretes Ergebnis geben (z.B. eine Änderung im Plan), das in den normalen Arbeitsalltag passt. Nicht nur ein „schönes Gefühl".
9. Erkläre die Spiele: Wenn man Rollenspiele macht (z.B. „Stell dir vor, du bist der Nutzer"), sag vorher, warum das hilft, damit es nicht albern wirkt.

Fazit

Das Papier sagt im Grunde: Ethik funktioniert nur, wenn die Leute, die die Technik bauen, dem Prozess vertrauen.

Es reicht nicht, einfach ein Regelbuch zu verteilen. Man muss eine Beziehung aufbauen, in der sich die Ingenieure verstanden, relevant und fähig fühlen, ethische Entscheidungen zu treffen. Wenn man diese „Brücke des Vertrauens" baut, wird Ethik nicht zum lästigen Anhängsel, sondern zu einem natürlichen Teil des Erfindens.

Kurz gesagt: Um Ethik in der Technik zu verankern, muss man aufhören, sie als „Polizei" zu sehen, und anfangen, sie als „Co-Piloten" zu behandeln, der den Weg sicherer macht.