Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

In der digitalen Welt passen Unternehmen ihre Software ständig an, um sie besser, schneller oder ansprechender zu machen. Sie ändern vielleicht die Farbe eines Buttons, ordnen ein Menü neu an oder testen eine neue Art, Preise anzuzeigen. Um zu sehen, ob diese Änderungen funktionieren, führen sie oft sogenannte Online-Experimente durch. In diesen Tests nutzen echte Menschen die Software, ohne immer zu wissen, dass sie Teil einer Studie sind. Eine gängige Methode besteht darin, einer Gruppe von Nutzern Version A eines Features zu zeigen und einer anderen Gruppe Version B, um sie dann im Verhalten zu vergleichen. Dieser Ansatz hilft Unternehmen zu lernen, was Menschen wollen, aber er versetzt gewöhnliche Nutzer auch in eine Situation, in der ihre Entscheidungen und Daten manipuliert werden, um eine Hypothese zu testen. Während diese Praxis Innovationen vorantreibt, wirft sie eine leise, aber ernsthafte Frage auf: Nur weil ein Unternehmen diese Tests durchführen kann, sollte es das auch tun? Und wenn sie es tun, wie können sie sicherstellen, dass sie den Menschen, die die Software erst möglich machen, nicht schaden?

Zwei Forscher aus Brasilien machten sich daran, diese Fragen zu beantworten, indem sie die ethische Seite dieses digitalen Testens untersuchten. Sie bemerkten, dass viele Unternehmen diese Experimente zwar durchführen, die Regeln für den fairen Umgang mit Menschen jedoch oft vage, verstreut oder gänzlich ignoriert werden. Die Forscher wollten einen klaren Leitfaden erstellen, den Software-Teams tatsächlich anwenden können. Sie listeten nicht nur abstrakte Ideen über Richtig und Falsch auf; stattdessen sammelten sie spezifische Probleme, die während dieser Tests auftreten, und passten sie praktischen Wegen zur Behebung an. Ihr Ziel war es, ein Modell zu schaffen, das Experten hilft, über die moralischen Konsequenzen ihrer Experimente nachzudenken, noch bevor sie auch nur einen einzigen Test starten.

Um diesen Leitfaden zu erstellen, untersuchten die Forscher ein breites Spektrum an existierenden Informationen. Sie begannen mit der Suche nach Studien, die sich spezifisch mit der Ethik in kontinuierlichen und Online-Experimenten befassen, stellten jedoch fest, dass dazu sehr wenig geschrieben worden war. Da ihnen klar wurde, dass das Problem zu groß war, um es allein mit diesen wenigen Papieren zu lösen, erweiterten sie ihre Suche. Sie betrachteten ethische Regeln aus verwandten Bereichen wie der künstlichen Intelligenz, der allgemeinen Informatik und sogar der medizinischen Forschung. Sie lasen Verhaltenskodizes, technische Richtlinien und akademische Arbeiten, um gemeinsame Themen zu finden. Aus dieser massiven Sammlung von Quellen identifizierten sie sechzehn zentrale ethische Prinzipien, wie etwa Ehrlichkeit, Fairness und den Respekt vor der Fähigkeit eines Menschen, selbst zu entscheiden. Dann gingen sie tiefer, um vierundvierzig spezifische Arten zu finden, wie diese Prinzipien in der realen Welt verletzt werden. Eine Verletzung könnte beispielsweise darin bestehen, den wahren Zweck eines Tests vor einem Nutzer zu verbergen oder ein System zu entwerfen, das Menschen dazu verleitet, Entscheidungen zu treffen, die schlecht für sie sind.

Nachdem sie die Probleme aufgelistet hatten, fanden die Forscher dreiundfünfzig Wege, diese zu lösen. Sie ließen diese nicht einfach als zufällige Liste stehen; sie verknüpften sie alle miteinander. Sie zeigten auf, welche spezifische Lösung welches spezifische Problem behebt und wie diese Lösung das zugrunde liegende ethische Prinzip unterstützt. Dies schuf eine strukturierte Wissenslandkarte. Es ist ein Werkzeug, das sagt: „Wenn Sie dieses Problem sehen, hier ist die spezifische Maßnahme, die Sie ergreifen sollten, und hier ist der Wert, den sie schützt.“ Diese Landkarte bildet die Grundlage für ihren Hauptbeitrag, eine neue Denkweise für diese Experimente, das Cactus-Modell.

Das Cactus-Modell ist darauf ausgelegt, den Verantwortlichen dieser Experimente zu helfen, bessere Entscheidungen zu treffen. Der Name stammt von der Idee eines Kaktus, einer zähen Pflanze, die in harschen Bedingungen überlebt, indem sie eine schützende äußere Schicht besitzt. In gleicher Weise bietet das Modell eine schützende Struktur für ethische Entscheidungsfindung in der schnelllebigen, unter Hochdruck stehenden Welt der Softwareentwicklung. Es sagt einem Team nicht exakt, was es tun soll, aber es gibt ihnen einen schrittweisen Weg vor, um über die Konsequenzen ihrer Entscheidungen nachzudenken. Das Modell ist auf vier Ebenen aufgebaut, die zusammenarbeiten.

Die erste Ebene befasst sich mit der genauen Untersuchung des Experiments, um potenzielle Probleme zu finden. Das Team fragt: „Was könnte schiefgehen?“ Sie nutzen die Karte der ethischen Probleme, um ihr Design zu prüfen. Sie fragen zum Beispiel, ob das Experiment transparent ist, ob es alle Nutzer fair behandelt oder ob es die Freiheit des Nutzers respektiert, Nein zu sagen. Sie bewerten, wie wahrscheinlich ein Problem ist und wie viele Menschen es betreffen könnte. Dieser Schritt verwandelt vage Sorgen in spezifische, identifizierbare Probleme.

Die zweite Ebene befasst sich mit der Abwägung der Konsequenzen. Hier betrachtet das Team die gefundenen Probleme und fragt: „Warum könnten wir sie ignorieren wollen?“ Oft gibt es einen geschäftlichen Grund, wie etwa Zeitersparnis oder höhere Gewinne, der ein Team dazu verleitet, ethische Sicherheitsvorkehrungen zu überspringen. Das Modell zwingt sie dazu, diese Versuchung aufzuschreiben und sie dann direkt gegen den Schaden abzuwägen, den sie verursachen könnte. Sie prüfen die Auswirkungen auf das Vertrauen der Nutzer, deren Privatsphäre und deren Wohlergehen. Dieser Schritt stellt sicher, dass die Entscheidung zum Fortfahren nicht nur ein Bauchgefühl ist, sondern eine begründete Wahl, bei der die Kompromisse klar ersichtlich sind.

Die dritte Ebene befasst sich mit dem Handeln. Sobald das Team die Risiken und Vorteile abgewogen hat, entscheidet es, was zu tun ist. Sie können entscheiden, das Experiment wie geplant durchzuführen, das Design zu ändern, um die Probleme zu beheben, oder es ganz abbrechen. Wenn sie sich für die Durchführung entscheiden, leitet das Modell sie dazu an, spezifische Lösungen aus ihrer Karte zu wählen, um die Nutzer zu schützen. Wenn sie beispielsweise ein Risiko der unfairen Behandlung festgestellt haben, könnten sie eine Regel hinzufügen, um sicherzustellen, dass alle Nutzergruppen gleich behandelt werden. Dieser Schritt verwandelt ihr ethisches Denken in konkrete Änderungen am Experimentprozess.

Die letzte Ebene befasst sich mit dem Lernen aus der Erfahrung. Nachdem das Experiment abgeschlossen ist, blickt das Team zurück auf das Geschehene. Sie überprüfen die getroffenen Entscheidungen und sehen nach, ob ihre Vorhersagen richtig waren. Sie halten fest, was sie gelernt haben, damit sie beim nächsten Mal ein besseres Experiment durchführen können. Dieser Schritt ist entscheidend, da er ein einzelnes Experiment in eine Lektion für die gesamte Organisation verwandelt und dabei hilft, dieselben Fehler in Zukunft zu vermeiden.

Die Forscher testeten dieses Modell anhand eines realen Beispiels mit einer Liefer-App, die verschiedene Preisstrategien testen wollte. Sie zeigten auf, wie ein Team das Modell nutzen könnte, um zu erkennen, dass die Änderung von Preisen für verschiedene Nutzer als unfair oder verwirrend empfunden werden könnte. Durch das Durchlaufen der Ebenen erkannte das Team, dass es transparenter darüber sein müsste, wie Preise festgelegt werden, und sicherstellen müsste, dass vulnerable Nutzer nicht unfair ins Visier genommen werden. Sie nutzten dann die spezifischen Lösungen aus ihrer Karte, um ihren Plan anzupassen, indem sie klare Erklärungen für die Nutzer hinzufügten und Grenzen für die Teilnahme am Test setzten. Dieses Beispiel zeigte, dass das Modell nicht nur für einzelne Experimente funktioniert, sondern auch für Familien von Tests, die gleichzeitig stattfinden, wodurch Teams in der Lage sind, die gleichen ethischen Standards über viele verschiedene Projekte hinweg anzuwenden, ohne jedes Mal von vorne beginnen zu müssen.

Die Studie kommt zu dem Schluss, dass zwar die Werkzeuge zur Durchführung dieser Experimente mächtig sind, die Werkzeuge zur ethischen Steuerung dieser Prozesse jedoch gefehlt haben. Die Forscher haben ein Wissensgebiet und ein Denkmodell bereitgestellt, um diese Lücke zu schließen. Sie betonen, dass dies keine endgültige Lösung ist, die jedes ethische Dilemma für immer löst. Stattdessen ist es ein Ausgangspunkt, der das Unsichtbare sichtbar macht. Es gibt Software-Teams eine Möglichkeit, über Ethik in derselben Sprache zu sprechen, die sie auch für Code und Daten verwenden. Indem sie den Prozess des ethischen Denkens klar und strukturiert gestalten, hilft das Modell sicherzustellen, dass das Streben nach Innovation nicht auf Kosten der Menschen geschieht, die die Technologie nutzen. Die Arbeit legt nahe, dass Unternehmen mit dem richtigen Rahmenwerk weiterhin von ihren Nutzern lernen können, während sie diese gleichzeitig mit der Würde und dem Respekt behandeln, die sie verdienen.