Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright

人間の精神は、古くからプライベートな聖域、すなわち外部からの干渉を受けることなく、静寂の中で思考が形成される場所であると考えられてきました。数十年にわたり、国際法は「フォルム・イルヌム（内的領域）」として知られるこの内なる空間を、政府やテクノロジーによって侵害されることのない絶対的な権利として保護してきました。この保護は、もともと、人々が自らの信念を変えることを強制されたり、自身の考えによって罰せられたりすることを防ぐために設計されたものです。しかし、配線やインプラント、あるいは脳への直接的なアクセスを必要としない、新しい種類の脅威が出現しています。それは、ソーシャルメディア、ニュースフィード、オンラインショッピングを動かしている日常的なアルゴリズムからやってくるのです。これらのシステムは私たちの心を直接読み取ることはありませんが、私たちの行動を観察し、習慣を学習し、私たちの選択を導くために、周囲の世界を巧妙に配置します。その危険性は、たとえ自分たちの決定がコンピュータプログラムによって弱点を突かれるように注意深く設計されたものであったとしても、私たちは自分自身で決定を下していると感じてしまう点にあります。

ハノイ法科大学の二人の研究者、グエン・ティ・ロンとチャン・ゴック・ヒエップは、既存の法律がこの目に見えない影響力を阻止するのに十分な強さを持っているかどうかを検証しました。彼らは、個人のデータを保護したり、特定の種類の人工知能を規制したりすることに焦点を当てた現在の規則では、真の問題を見逃していると主張しています。問題は、誰が私たちの情報を見ているかということではなく、いかにして私たちの「自律的に考える能力」が静かに作り変えられているかという点にあるのです。著者らは、「精神的自己決定」を全く新しい権利としてではなく、古来の思想の自由という権利の現代的な適用として理解する必要があると提案しています。彼らは、通常の説得と違法な操作を区別するための明確な条件を提示しており、デジタル時代において、最も強力なツールが私たちの脳に決して触れることのない中で、思考の誠実さを守るための方法を提案しています。

研究者たちは、まず現在の法的保護におけるギャップを調査することから始めました。彼らは、欧州連合（EU）のAI法やデータプライバシー規制のような法律は、アルゴリズムによる操作によって引き起こされる特有の危害を捉えるようには設計されていないことを見出しました。例えば、AI法は、行動を歪める隠れた手法を用いるシステムを禁止していますが、それは企業が操作を「意図」したこと、そしてその結果が重大かつ具体的な実害をもたらしたことの証明を求めています。これは非常に高いハードルであり、多くの日常的なアルゴリズムはこのハードルを容易にクリアしてしまいます。これらのシステムは、多くの場合、人々を明示的に欺くためではなく、エンゲージメントや売上を最大化するように設計されており、その影響は単発の劇的なミスというよりも、世界の見方における緩やかで漸進的な変化であることが多いのです。同様に、データ保護法は情報の収集と保存に焦点を当てています。それらは、データの使用に同意したかどうかを問いますが、そのデータの使い方が密かに思考を誘導しているかどうかまでは問いません。著者らは、これが法律における構造的な穴を残していると主張しています。つまり、あるシステムがデータプライバシーやAIの安全性に関するすべての規則に従っていたとしても、それでもなお、人が判断を形成するプロセスを事実上ハイジャックできてしまう可能性があるということです。

このプロセスがどのように起こるかを理解するために、著者らは、ユーザーが特定の投稿や広告を目にするずっと前から始まるプロセスについて説明しています。システムはまず、ユーザーの詳細なモデルを構築し、ユーザーの感情的なトリガー、弱さの瞬間、そして何が注意を引くのかを学習します。これにより、巨大な知識の不均衡が生じます。コンピュータは、ユーザー自身が自分自身について知っている以上に、ユーザーの脆弱性を知っているのです。次に、システムはこの知識を用いて、選択が行われる環境を形作ります。例えば、ユーザーが疲れているタイミングで特定のニュースを表示したり、ある選択肢が実際よりも自然に見えるような順序で選択肢を提示したりすることがあります。その結果、一種の影響が生じますが、それは個人的な好みのように感じられます。ユーザーは依然として自分自身の決定の作者であると感じていますが、そこに至るまでの道筋は、アルゴリズムによって密かに舗装されていたのです。これは、選択を強制する「強制」や、検討すべき理由を提示する「説得」とは異なります。それは、意識的な内省をバイパスする、心の隠れた操縦なのです。

論文は、思想の自由という権利を、単に脳インプラントに対する盾としてではなく、思考の形成を妨害するあらゆるテクノロジーに対する盾として捉えるべきだと論じています。著者らは、アルゴリズムが許容される影響から違法な操作へと境界線を越えるかどうかを判断するための、具体的なテストを提案しています。彼らは、ある慣行が違法となるのは、以下の4つの条件を同時に満たす場合のみであると示唆しています。第一に、影響を与える手法がユーザーから隠されていること。ユーザーがターゲットにされていると知っていれば、それは操作ではありません。第二に、深い知識の不均衡が存在すること。つまり、ユーザーが気づけない方法で、システムがユーザーの弱点を把握していることです。第三に、システムが理性に訴えるのではなく、感情的な状態や認知的な盲点といった特定の脆弱性を利用していること。最後に、その影響が単に利用可能な選択肢を変えるだけでなく、ユーザーが決定に至るプロセスそのものを変えてしまうことです。

この枠組みは、チリにおける最近の法的事例に基づいています。チリは、脳活動に対して憲法上の権利を認めた最初の国となりました。そのケースでは、裁判所は、適切な同意なしに脳のデータを収集したことが上院議員の権利を侵害したと判決を下しました。著者らは、これはニューロライツ（神経権利）の勝利ではあるものの、脳から直接データが取得される状況に限定されていると指摘しています。彼らの研究はこの論理をデジタル世界へと拡張し、たとえ精神から物理的なデータが取り出されない場合であっても、同じ保護が適用されるべきであると主張しています。法の目的が思考の誠実さを保護することであるならば、干渉が頭蓋内のワイヤーによるものか、画面上の巧妙に設計されたアプリによるものかは問題ではないのです。害の本質は同じです。それは、自分自身の信念を形成する能力の浸食なのです。

研究者らは、これらの概念を適用することは容易ではないことも認めています。特定のアルゴリズムが特定の人物の精神に特定の変化を引き起こしたことを証明することは困難です。なぜなら、これらの影響はしばしば微妙で累積的なものだからです。また、彼らは、新しいテストがすべての形態の広告や推奨機能を誤って禁止しないよう、裁判所によって慎重に適用される必要があるとも警告しています。しかし、彼らは、精神的自己決定を構成する明確な基準がなければ、法は最も蔓延している自律性への脅威に対して盲目のままであり続けると結論付けています。操作をこれら4つの要因によって定義することで、著者らは、人間の精神という内なる聖域を守るための道筋を示しています。たとえ周囲の環境が、私たちを変えるために常に最適化されている世界であっても、私たちの思考が私たち自身のものであり続けることを保証するために。