Competing Visions of Ethical AI: A Case Study of OpenAI
Diese Fallstudie über OpenAI verdeutlicht, dass die öffentliche Rhetorik der Organisation zwar stark die Themen Sicherheit und Risiko betont, jedoch die Integration akademischer und gesellschaftlicher Ethik-Frameworks auffallend vermeidet, was Bedenken hinsichtlich eines potenziellen Ethics-Washing aufwirft und die Notwendigkeit einer verbesserten Governance unterstreicht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der Künstlichen Intelligenz (KI) wie eine riesige, geschäftige Baustelle vor. Die Maschinen, die hier gebaut werden, sind unglaublich leistungsfähig und in der Lage, Geschichten zu schreiben, komplexe mathematische Probleme zu lösen und sogar Kunst zu erschaffen. Aber weil diese Maschinen noch so neu und so schnell sind, versuchen die Menschen, die sie bauen, erst noch, das Regelwerk zu verstehen. In diesem Bereich gibt es eine große Debatte darüber, wie man sicherstellt, dass diese intelligenten Maschinen „gut“ sind. Einige Leute sprechen über „Ethik“, was wie ein moralischer Kompass ist – eine Reihe tiefer Fragen über Richtig und Falsch, Fairness und Gerechtigkeit. Andere sprechen über „Sicherheit“, was eher wie ein Schutzhelm und ein Sicherheitsgurt ist – praktische Schritte, um zu verhindern, dass die Maschine abstürzt oder jemandem schadet. Während alle zustimmen, dass wir beides brauchen, stellt sich die Frage: Wer spricht eigentlich worüber, und halten sie sich wirklich an die Regeln, die sie aufgestellt haben?
Diese Arbeit wirft einen genauen Blick auf eine der größten Bautrupps in der KI-Welt, ein Unternehmen namens OpenAI. Die Forscher wollten sehen, wie dieses Unternehmen im Laufe der Zeit über diese großen Ideen spricht. Sie haben nicht nur darauf gehört, was das Unternehmen sagte; sie agierten wie digitale Detektive, scannten tausende Dokumente, Blogbeiträge und Forschungspapiere, um genau zu zählen, wie oft das Unternehmen Wörter wie „Ethik“, „Sicherheit“, „Risiko“ und „Alignment“ verwendete. Sie behandelten die öffentliche Stimme des Unternehmens wie eine riesige Bibliothek und prüften die Regale, um zu sehen, welche Bücher am meisten gelesen wurden und welche verstaubten.
Die Geschichte, die die Daten erzählen, ist etwas überraschend. Als die Forscher die öffentliche Website des Unternehmens untersuchten – den Ort, an dem sie mit normalen Menschen kommunizieren – stellten sie fest, dass das Wort „Ethik“ praktisch unsichtbar war. Es tauchte in weniger als 4 % ihrer Artikel auf. Es war, als würde man ein Haus betreten, in dem der Besitzer ständig über „Brandschutz“ und „Notausgänge“ spricht, aber selbst das Wort „Feuer“ nie erwähnt, obwohl er selbst die Streichhölzer in der Hand hält. Tatsächlich erschien das Wort „Sicherheit“ in nur einem Jahr fast 700 Mal, während „Ethik“ nur sieben Mal vorkam.
Anstatt die tiefe, philosophische Sprache der Ethik zu verwenden, wurde die öffentliche Botschaft von OpenAI von technischen Begriffen wie „Sicherheit“, „Risiko“ und „Alignment“ dominiert. Die Forscher fanden heraus, dass das Unternehmen, wenn es das Wort „Ethik“ verwendete, dies oft nur als kurze Erwähnung tat, wie einen flüchtigen Kommentar in einer Schlagzeile oder einen einzelnen Satz in einem Absatz, anstatt eine ernsthafte Diskussion zu führen. Es war, als würde das Wort eher als Dekoration an der Wand verwendet als als Werkzeug zum Bauen. Interessanterweise bemerkten die Forscher, dass sich die Tags und Labels des Unternehmens verschoben. Manchmal wurde ein Artikel als „Ethik & Sicherheit“ gekennzeichnet, aber der Text darin erwähnte Ethik kaum. Dies deutet darauf an, dass die Labels möglicherweise geändert werden, um dem Publikum etwas anderes zu signalisieren, als eine tiefgreifende Änderung in der Art und Weise widerzuspiegeln, wie das Unternehmen über moralische Fragen denkt.
Die Geschichte war jedoch etwas anders, als die Forscher die akademischen Arbeiten des Unternehmens betrachteten – die ernsthaften, technischen Dokumente, die für andere Wissenschaftler geschrieben wurden. Hier tauchte das Wort „Ethik“ häufiger auf und war in etwa 17 % der Arbeiten zu finden. Doch selbst in diesen ernsthaften Dokumenten wurde das Wort oft am Rande, in Fußnoten oder in kurzen Listen von Werten verwendet, anstatt der Hauptfokus der Forschung zu sein. Die Forscher legen nahe, dass das Unternehmen zwar sehr gut darin ist, über technische Sicherheit und das Management von Risiken zu sprechen, es aber dazu neigt, die schweren moralischen Gespräche über „Ethik“ an den Rand zu drängen und sie eher wie ein Reputationsabzeichen als wie ein striktes Regelwerk für den Bau ihrer Maschinen zu behandeln.
Kurz gesagt, die Arbeit legt nahe, dass OpenAI ein sehr lautes Megafon gebaut hat, um über „Sicherheit“ und „Risiko“ zu sprechen, aber seine Stimme sehr leise gehalten hat, wenn es um „Ethik“ geht. Sie ignorieren die Idee des Guten nicht, aber sie rahmen sie so, dass der Fokus auf technischen Lösungen und der Vermeidung von Gefahren liegt, anstatt auf den tieferen Fragen von Fairness und Gerechtigkeit. Die Forscher kommen zu dem Schluss, dass diese Art der Kommunikation das Unternehmen zwar verantwortungsbewusst erscheinen lassen mag, aber auch bedeutet, dass die harten, komplexen Fragen darüber, was wirklich „richtig“ und „falsch“ in der KI ist, in den Hintergrund gedrängt werden – verborgen hinter einer Mauer aus technischem Sicherheitsgesprochen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.