Operationalizing Ethics for AI Agents: How Developers Encode Values into Repository Context Files
Dieses Vision Paper untersucht, wie Entwickler ethische Prinzipien operationalisieren, indem sie Verhaltensregeln in Repository-Kontextdateien (z. B. AGENTS.md) kodieren, um KI-Agenten zu steuern, und schlägt eine Forschungsagenda vor, um die Variation, Governance und Einhaltung dieser neu entstehenden, von Entwicklern verfassten Direktiven zu untersuchen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen einen sehr intelligenten, sehr schnellen Roboter-Assistenten ein, der Ihnen beim Bau eines Hauses hilft. Sie wollen, dass dieser Roboter nicht nur effizient, sondern auch freundlich, fair und sicher ist. In der Vergangenheit hätten Sie vielleicht ein langes, ernstes Regelbuch für die menschlichen Arbeiter geschrieben in der Hoffnung, dass sie es lesen und sich daran erinnern, gut zu sein. Aber Roboter lesen Regelbücher nicht auf die gleiche Weise wie Menschen.
Dieser Artikel argumentiert, dass Entwickler nun einen neuen, klugen Trick ausprobieren: Sie schreiben spezifische Bedienungsanleitungen direkt in den Arbeitsbereich des Roboters.
Hier ist die Aufschlüsselung dessen, was der Artikel sagt, unter Verwendung einfacher Analogien:
1. Das Problem: „Sei gut" ist zu vage
Stellen Sie sich vor, Sie sagen zu Ihrem Roboter-Assistenten: „Bitte sei ethisch." Das ist wie wenn man einem Kind sagt: „Sei brav." Es ist eine schöne Idee, aber es sagt dem Roboter nicht, wie er gut sein soll. Soll es stoppen, wenn es einen Fehler sieht? Soll es höflich sprechen? Soll es prüfen, ob es gegenüber verschiedenen Menschen unfair ist? Der Artikel sagt, dass wir zwar in großen Meetings viel über „KI-Ethik" sprechen, es jedoch schwierig ist, diese großen Ideen in tatsächliche Anweisungen umzuwandeln, die eine Maschine befolgen kann.
2. Die Lösung: Die „AGENTS.md"-Datei
Die Autoren haben entdeckt, dass Entwickler beginnen, spezielle Dateien in ihren Code-Projekten zu erstellen, die AGENTS.md (oder ähnliche Kontextdateien) genannt werden. Betrachten Sie diese Dateien als die „Hausregeln", die direkt auf der Küchenarbeitsplatte ausgehängt sind, wo der Roboter arbeitet.
Anstatt nur zu sagen „Sei fair", schreiben Entwickler spezifische, umsetzbare Befehle wie:
- Für Fairness: „Verwenden Sie beim Testen von Namen eine Mischung wie 'John Smith', 'José García' und '李明', um sicherzustellen, dass das System Menschen nicht aufgrund ihrer Namen unterschiedlich behandelt."
- Für den Ton: „Geben Sie keine moralischen Vorträge oder unerwünschte Meinungen ab. Erledigen Sie einfach die Arbeit."
- Für Inklusion: „Schreiben Sie in einfachem Englisch, damit Nicht-Muttersprachler es verstehen können."
- Für Nachhaltigkeit: „Verwenden Sie weniger Daten und Batteriestrom, um der Umwelt zu helfen."
3. Was sie fanden (Die „vorläufige Untersuchung")
Die Forscher haben sich einige dieser Dateien angesehen (wie wenn sie in ein paar verschiedene Häuser hineinschauen) und festgestellt, dass Entwickler dies bereits tun. Sie schreiben keine abstrakte Philosophie; sie übersetzen Werte in maschinenlesbare Regeln.
- Fairness wird zu einem spezifischen Testskript.
- Verantwortlichkeit wird zu einer Regel, die sicherstellt, dass ein Mensch für Änderungen verantwortlich bleibt.
- Inklusion wird zu einer Regel darüber, welche Wörter verwendet werden sollen.
Es ist, als würde der Entwickler sagen: „Ich will nicht nur, dass mein Roboter fair ist; ich programmiere den Roboter so, dass er vor Abschluss seiner Arbeit einen Fairness-Check durchführt."
4. Die großen Fragen (Die Forschungs-Roadmap)
Der Artikel behauptet nicht, bereits alle Antworten zu haben. Stattdessen schlägt er einen neuen Forschungsweg vor und stellt Fragen wie:
- Hören die Roboter tatsächlich zu? Wenn wir diese Regeln schreiben, befolgen die Roboter sie oder ignorieren sie einfach?
- Wer entscheidet über die Regeln? Wenn zwei Entwickler uneinig sind darüber, was „fair" bedeutet, wie streiten sie sich darüber in der Datei?
- Ändern sich die Regeln? Wenn ein Roboter einen Fehler macht, aktualisieren die Entwickler dann die „Hausregeln", um zu verhindern, dass es wieder passiert?
Das Fazit
Dieser Artikel ist ein „Vision"-Beitrag. Er sagt: „Schauen Sie, Entwickler versuchen bereits, KI-Ethik zu lehren, indem sie spezifische Anweisungen in die Code-Dateien schreiben."
Die Autoren möchten, dass wir diese Praxis untersuchen. Sie glauben, dass wir, wenn wir verstehen wollen, wie KI in der realen Welt regiert wird, nicht nur auf große Gesetze oder abstrakte Theorien schauen sollten. Stattdessen sollten wir diese kleinen, alltäglichen Anweisungsdateien betrachten, in denen Entwickler tatsächlich versuchen, „Gut-Sein" in „Gut-Tun" für den Roboter umzuwandeln.
Kurz gesagt: Wir bewegen uns davon weg, der KI zu sagen „Sei ein guter Mensch", hin dazu, der KI eine spezifische Checkliste mit „Guter-Mensch"-Aufgaben zu geben, die sie während ihrer Arbeit abhaken soll.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.