自分自身の未来を夢想するという、静かで内面的な営みを想像してみてください。それは単なる白昼夢ではありません。それは、自分がどのような存在になり得るかを思い描くために必要な道具、物語、そしてイメージを集める精神的なプロセスです。私たちはこれらの可能性を真空の中で発明するのではありません。むしろ、読書、映画鑑賞、広告、そして交わされる会話といった、周囲の世界からそれらを借りてくるのです。これらの共有された文化的素材は、一種の精神的な足場として機能し、何が可能であり、何が望ましく、何に努力する価値があるのかという概念を構築する助けとなります。これらの素材が豊かで多様であれば、私たちの想像力は成長する余地を持ちます。しかし、それらが狭く、あるいは歪んでいれば、私たちの未来へのヴィジョンは縮小してしまいます。これは、研究者が「アスピレーショナル・アフォーダンス（志向的アフォーダンス）」と呼ぶ領域であり、単に、私たちが利用できるリソースがいかに私たちの新しい目標への到達能力を形作るかを表す言葉です。

さて、人工知能がこれらのリソースの生成と共有の方法を急速に変えつつあることを考えてみてください。AIシステムはもはや単なるデータの整理ツールではなく、私たちの物語の著者であり、画像のキュレーターであり、個人の成長のガイドになりつつあります。AIはキャリアに関する助言を書き、未来の画像を生成し、仲間としての役割も果たします。これらのシステムが私たちの生活に浸透するにつれ、一つの重要な問いが生じます。私たちが夢を見るために使う道具そのものが、少数の強力なアルゴリズムによって制御されているとき、異なる未来を想像する私たちの能力はどうなってしまうのでしょうか。これが、ノースイースタン大学のシナ・ファゼルプールとメイカ・マグナニによる新しい論文の核心的な懸念です。彼女たちは、AIが公平に扱われているか、あるいはリソースを正しく分配しているかといった、従来のAIに関する懸念を超えて、AIがいかにして私たちの自己や社会に対する「可能である」という信念を密かに制限してしまうのかを検証する必要があると主張しています。

著者らは、この現象を説明するために特定の概念を導入しています。それが「アスピレーショナル・アフォーダンス」です。これを、文化が提供する精神的な「ハンドル」や「グリップポイント（把握点）」と考えてみてください。それは、新しい自分というアイデアを掴み取るためのものです。例えば、物理的な階段が登る能力を持つ人に対して「登ること」をアフォード（提供）するように、ある文化的な物語やイメージは、それを理解できる人に対してある種の志向性をアフォードします。これらのアフォーダンスは決定論的なものではありません。つまり、私たちに特定の行動を強制するわけではありません。しかし、それらは特定の道を明白で達成可能なものと感じさせる一方で、他の道を不可視、あるいは不可能であると感じさせるのです。研究者たちは、AIシステムがこれらの物語や画像を生成するとき、それらは単にコンテンツを増量しているのではなく、私たちが想像できる範囲の風景を根本的に変容させているのだと示唆しています。

論文では、AIが私たちの志向性に与える影響が、従来のメディアとどのように異なり、なぜより危険なのかについて、3つの明確な理由を挙げています。第一に、AIとの相互作用はしばしばプライベートで、パーソナライズされており、かつ対話的です。公に共有される映画や本とは異か、AIチャットボットはライフコーチやセラピストのように振る舞い、一対一の設定でカスタマイズされた助言を提供することがあります。この親密さは、その提案をより客観的なものと感じさせ、疑問を挟みにくくします。第二に、その影響は「生態学的（エコロジカル）」です。つまり、アイデアが生成される環境そのものを変えてしまうということです。AIは現在、脚本の執筆、広告のデザイン、都市計画などに使用されています。これは、人間が引き出すアイデアの源泉そのものが、私たちに届く前にアルゴリズムによってフィルタリングされ、再形成されていることを意味します。第三に、この力は高度に集中しています。少数の企業が、これらの文化的リソースを生成する主要なAIシステムを支配しています。少数の声が未来の物語を決定するとき、可能性の範囲は狭まり、代替的なヴィジョンは消し去られるリスクがあります。

これらのリスクを理解するために、著者らは「アスピレーショナル・ハーム（志向的危害）」という新しいカテゴリーの危害を提案しています。これは、より馴染みのあるAIの危害、例えば「表現上の危害（特定のグループがステレオタイプであったり侮辱的であったりする場合）」や「配分的危害（リソースが不公平に分配される場合）」とは異なるものです。アスピレーショナル・ハームは、AIシステムが解釈のリソースを歪めたり減少させたりすることで、個人の人生における実践的な可能性を想像する能力を損なう場合に発生します。それは必ずしも、侮辱されたり仕事を拒否されたりすることではなく、「前へ進むための道が見えなくなること」を指します。たとえAIが特定のグループを敬意を持って描いていたとしても、もしそのグループを狭い役割の中にしか示さないのであれば、それはアスピレーショナル・ハームを引き起こす可能性があります。それは、他のあり方を巡る扉を事実上閉ざしてしまうからです。

研究者らはこれを3つの具体的な例で説明しています。第一に、キャリア・ガイダンスについてです。あるAIシステムは、女性が科学技術分野に進むのを助けるために、成功した女性科学者の画像を見せるかもしれません。しかし、もしそのシステムが、例えば敵対的な環境における極端な回復力を必要とするような、単一で硬直した成功の原型（アーキタイプ）のみを提示する場合、それは意図せずして、他の妥当な科学者としての在り方を消し去ってしまう可能性があります。それは、多様な可能性を単一の狭い台本へと置き換え、異なる種類のキャリアパスを望んでいたかもしれない若い女性たちの想像力を制限してしまうのです。

第二の例では、AIがどのように未来を可視化するかを検証しています。著者らは、画像生成AIに対し、「2040年のイランの女子学生」の絵を作るよう指示することでこれをテストしました。現実世界の文脈には、政治的自由と強制的なドレスコードの撤廃を求める運動が存在します。しかし、AIは、ホログラフィック・タブレットや環境に優しい建築といった技術的進歩に完全に焦り、社会・政治的な現状をそのまま維持した画像を生成しました。少女たちは依然としてヒジャブを着用しており、政治的な制限も残ったままでした。AIには未来を想像する力がありましたが、技術は変わっても人権は変わらないというバージョンをデフォルトとして選択したのです。これは、抗議者たちの志向を事実上消し去り、自由な未来という彼らのヴィジョンを不可視にし、ひいては、その画像を見る人々にとって、それを実現可能性の低いものにしてしまったのです。

第三の例は、AIが私たちの社会的可能性の理解をどのように形作るかに関するものです。AIシステムがニュースを要約したり質問に答えたりする際、主流の視点へとユーザーを巧妙に誘導し、代替的なナラティブを抑制することがあります。もしAIが、現在の社会秩序を唯一の論理的、あるいは必然的な結果として一貫して提示する場合、それは人々が「物事は変わり得る」と想像することを阻害する可能性があります。これは単なるバイアスの問題ではなく、社会変革のために利用可能な精神的空間を縮小させる問題なのです。現状を唯一の現実であると感じさせることで、これらのシステムは変革に必要な希望を侵食してしまう可能性があるのです。

論文は、これらの危害は現実的なものであり、緊急の注意を要すると結論づけています。著者らは、AIが私たちの夢を盗む怪物であると主張しているわけでも、被害が避けられないと言っているわけでもありません。むしろ、私たちが未来について考えるために用いるリソースそのものを形作る、これらのシステムの独特な力を認識すべきだと主張しています。危険は、何百万ものパーソナライズされた相互作用とアルゴリズムによる選択がもたらす、静かで累積的な効果の中にあります。その危険は、私たちの想像力の地平を狭めるのではなく、広げるためのツールとしてAIを設計するための、新たな対話を切り開くことを目的として、「アスピレーショナル・ハーム」という独自のカテゴリーを特定することにあります。目標は、これらのテクノロジーが私たちの生活に統合されていく中で、それらが想像力を閉じ込めるのではなく、抵抗と変革のための道具として機能し続け、真にすべての人に開かれた未来を構想し、築き上げる助けとなるようにすることです。