Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

デジタル世界において、企業はソフトウェアをより良く、より速く、あるいはより魅力的にするために、絶えず微調整を繰り返しています。ボタンの色を変えたり、メニューの配置を組み替えたり、価格の表示方法を新しくテストしたりすることもあります。これらの変更が機能するかどうかを確認するために、彼らはしばしば「オンライン実験」と呼ばれるものを実施します。これらのテストでは、実在の人間が、必ずしも自分が研究の一部であるとは知らされないまま、ソフトウェアを使用することになります。一般的な手法の一つは、あるグループのユーザーには機能のバージョンAを見せ、別のグループにはバージョンBを見せて、その行動の違いを比較するというものです。このアプローチは、企業が人々の望みを知る助けとなりますが、同時に、普通のユーザーを、自分たちの選択やデータが仮説検証のために操作される状況に置くことにもなります。この慣行はイノベーションを推進する一方で、静かながらも深刻な問いを投げかけています。それは、「企業はこうしたテストを実行できるからといって、本当にすべきなのか？」という問いです。そして、もし実行するのであれば、ソフトウェアを成立させている人々を傷つけないようにするにはどうすればよいのでしょうか。

ブラジルの2人の研究者は、このデジタルテストの倫理的な側面に着目することで、これらの問いに答えようと試みました。彼らは、多くの企業がこうした実験を行っている一方で、人々を公平に扱うためのルールが、しばしば不明確であったり、散漫であったり、あるいは完全に無視されていたりすることに気づきました。研究者たちは、ソフトウェアチームが実際に活用できる明確なガイドを作成したいと考えました。彼らは単に正義や悪に関する抽象的な概念を列挙したのではなく、これらのテスト中に発生する具体的な問題を集め、それらを解決するための実践的な方法と結びつけました。彼らの目標は、実験を一度でも開始する前に、専門家がその倫理的な結末について深く考えられるようなモデル（サボテン・モデル）を作ることでした。

このモデルを構築するために、研究者たちは幅広い既存の情報に目を通しました。まず、継続的およびオンライン実験における倫理に特化した研究を探しましたが、そのトピックに関する記述は極めて少ないことが分かりました。問題が少数の論文だけで解決できるほど大きなものではないと悟った彼らは、検索範囲を広げました。人工知能、一般的なコンピュータサイエンス、さらには医学研究といった関連分野の倫理規定を調査しました。彼らは、行動規範、技術的ガイドライン、学術論文を読み、共通のテーマを見出しました。この膨大な情報源のコレクションから、誠実さ、公平性、個人の選択の自由への尊重といった16の主要な倫理原則を特定しました。次に、これらが現実世界でどのように侵害されるのかを深く掘り下げ、48の具体的な事例を見つけ出しました。例えば、テストの真の目的をユーザーに隠したり、ユーザーが自分にとって不利益な決定を下すように仕向けるシステムを設計したりすることが、違反の一例となります。

問題のリストを作成した後、研究者たちは53の解決策を見つけ出しました。彼らはこれらを単なるランダムなリストとして残したのではなく、すべてを相互に関連付けました。どの特定の解決策がどの特定の問題を解決し、その解決策がいかにして根底にある倫理原則を支えるのかを示したのです。これにより、構造化された知識の地図が作成されました。これは、「もしこのような問題が発生したら、取るべき具体的な行動はこれであり、それが守ろうとしている価値観はこれである」と示すツールです。この地図が、彼らの主要な貢献である「サボテン・モデル（Cactus Model）」と呼ばれる、新しい思考法の基礎となっています。

サボテン・モデルは、実験の責任者がより良い意思決定を行えるように設計されています。その名前は、過酷な環境下でも保護層を持つことで生き抜くサボテンという植物に由来します。同様に、このモデルは、スピード感がありプレッシャーの強いソフトウェア開発の世界において、倫理的な意思決定のための保護的な構造を提供します。これはチームに「何をすべきか」を具体的に指示するものではなく、自らの選択がもたらす結果について考えるための、ステップ・バイ・ステップの手順を与えるものです。モデルは、相互に作用する4つのレイヤーで構成されています。

第1のレイヤーは、実験を詳細に観察して潜在的な問題を見つけ出すことです。チームは「何が起こり得るか？」と問いかけます。彼らは、倫理的問題のマップを用いて、設計をチェックします。実験が透明であるか、すべてのユーザーを公平に扱っているか、あるいはユーザーの拒否する自由を尊重しているかなどを確認します。彼らは、問題が発生する可能性と、それがどれほど多くの人に影響を与えるかを評価します。このステップにより、漠然とした懸念が、特定可能で識別可能な課題へと変わります。

第2のレイヤーは、結果を検討することです。ここでは、見つかった問題に対して、「なぜそれを無視したいと思うのか？」とチームに問いかけます。多くの場合、時間の節約や収益の増加といったビジネス上の理由が、チームに倫理的な安全策をスキップさせようと誘惑します。モデルは、その誘惑を書き留めさせ、それを引き起こし得る害と比較することを強制します。彼らは、ユーザーの信頼、プライバシー、そして幸福への影響を検討します。このステップにより、決定を下すことが単なる直感ではなく、トレードオフが明確になった合理的な選択であることを保証します。

第3のレイヤーは、行動に移すことです。リスクとベネフィットを天秤にかけた後、チームは取るべき行動を決定します。計画通りに実験を進めるか、問題を修正するために設計を変更するか、あるいは実験自体を中止するかを選択できます。もし進行すると決めた場合、モデルはマップの中からユーザーを保護するための具体的な解決策を選ぶよう導きます。例えば、不公平な扱いを受けるリスクが見つかった場合、すべてのユーザーグループが平等に扱われることを保証するルールを追加します。このステップにより、倫理的な推論が、ソフトウェアや実験プロセスにおける具体的な変更へと変わります。

最終的なレイヤーは、経験から学ぶことです。実験が終わった後、チームは起きた出来事を振り返ります。彼らは自分たちが下した選択をレビューし、自分たちの予測が正しかったかを確認します。そして、次にテストを行う際に、より良く行えるよう、学んだことを記録します。このステップは、単一の実験を組織全体の教訓に変えるため、非常に重要です。これにより、将来同じ間違いを避けることができるようになります。

研究者たちは、異なる価格戦略をテストしようとする配送アプリに関する実世界の事例を用いて、このモデルをテストしました。彼らは、ユーザーごとに価格を変えることが、不公平感や混乱を招く可能性があることを、チームがどのように察知できるかを示しました。各レイヤーに従うことで、チームは価格設定の方法についてより誠実である必要があり、脆弱なユーザーが不当にターゲットにされないようにする必要があることに気づきました。その後、彼らはマップから具体的な解決策を用いて計画を調整し、ユーザーへの明確な説明を追加し、テストに参加する対象に制限を設けました。この例は、モデルが単一の実験だけでなく、同時に進行している一連の実験に対しても有効であり、ゼロからやり直すことなく、多くの異なるプロジェクトに対して同じ倫理基準を適用できることを示しました。

本研究は、こうした実験を実行するためのツールは強力である一方、それらを倫理的に導くためのツールが欠けていたと結論付けています。研究者たちは、その空白を埋めるための知識体系と思考モデルを提供しました。彼らは、これがあらゆる倫理的ジレンマを永遠に解決する最終的な解決策ではないことを強調しています。むしろ、これは「見えないものを可視化する」ための出発点なのです。それは、ソフトウェアチームに対し、コードやデータと同じ言語で倫理について語るための手段を与えます。倫理的な推論プロセスを明確かつ構造化されたものにすることで、このモデルは、イノベーションへの追求がテクノロジーを利用する人々の犠牲の上に成り立つことがないよう支援します。この研究は、適切な枠組みがあれば、企業はユーザーにふさわしい尊厳と敬意を払いながら、ユーザーから学び続けることができるということを示唆しています。