Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

あなたは、学校のワークショップで巨大で魔法のようなロボットを作る方法を学んでいると想像してください。先生たちは、ロボットを賢くするためには、まず「抽象化（abstraction）」の技術を学ばなければならないと言います。コンピュータの世界では、抽象化とは、散らかった部品の山を箱に入れ、そこに単に「エンジン」というラベルを貼るようなものです。ロボットを動かすために、すべてのネジがどのように機能するかを知る必要はありません。ただ、何が入り、何が出てくるかを知っていればよいのです。これは、エンジニアが圧倒されることなく複雑なものを構築するための、非常に有用なテクニックです。しかし、ここには落とし穴があります。箱の中に物を入れるとき、私たちは時として、最も重要な物語の一部を誤って捨ててしまうことがあります。「エンジン」が雨の日にだけ変な音を立てることや、特定の言葉で話しかけると怒ることさえ、私たちは見逃してしまうかもしれません。箱の中だけを見ていると、その中で実際に起きている現実を見失ってしまうのです。

この論文は、AI（人工知能）研究の世界において、その「箱に詰め込む」テクニックが行き過ぎたときに何が起こるかについて書かれたものです。著者は、自分たちの学校に居場所がないと感じている3人の若い科学者たちです。彼女たちは、AI研究者が自分たちの仕事について語る方法が、しばしば現実の人々の感情、歴史、そして苦闘を無視していることに気づきました。彼女たちはこの感覚を「疎外感（alienation）」と呼んでいます。それは、まるでパーティーで自分だけが異なる言語を話しており、他の全員があなたの言葉を無視して話し続けているような状態です。論文は、なぜこのようなことが起こるのかを探求し、研究者がデータを「洗浄（クリーンにする）」し、自分自身の感情を無視する方法が、実はそのロボットが助けるはずの人々に害を与えているのだと示唆しています。

アウトサイダーだと感じた3人の研究者の物語

この論文は、アメリカのトップ大学でAIを研究している、キャリアの初期段階にある3人の研究者――ヴィオマ、イザベル、ネハ――によって書かれています。彼女たちは、自分たちの経験を単なる無味乾燥な事実のリストとしてではなく、3つの短い場面（ヴィニエット）の集まりとして語ることで、自分たちがどのように研究コミュニティから押し出されてきたかを示しました。

シーン1：「クリーンな」データの問題
最初の物語で、著者たちは、医療記録を用いて保険のリスクを予測する方法を学んでいた授業について述べています。教師は、データを「洗浄（クリーンに）」するように指示しました。これは、医療歴が奇妙であったり、平均的なパターンに適合しなかったりする人物を見つけ出し、その人物を削除することを意味していました。教師は、これらの人々を「ノイズ」と呼びました。しかし、著者たちは恐ろしいことに気づきました。削除されていた人々は、多くの場合、すでに最も苦境に立たされている人々――珍しい疾患を持つ人、障害を持つ人、あるいは異なる背景を持つ人々だったのです。数学的に「よりクリーン」に見せるために彼らを切り捨てることで、クラスは、最も助けを必要としている人々を無視することを教えていたのです。著者たちは、ロボットをより良く機能させるために、自分自身の一部を削除するように求められていると感じました。

シーン2：諸刃の剣
2番目のシーンで、著者たちは大学院生活への期待について語ります。彼女たちは、良いことをするためにAIを使いたいと考えていました。しかし、その後、彼女たちが研究しているAIツールと同じものが、戦地の人々を傷つけるために軍隊によって使用されているというニュースを目にしました。彼女たちは教授や仲間に対して、「私たちは暴力に使われる道具を作っているのではないか？」と問いかけ、深い対話を試みました。しかし、代わりに彼女たちが言われたのは、問題は単に修正すべき小さなバグであるかのように、技術をより「倫理的」または「安全」にすることだけに集中すべきだということでした。著者たちは沈黙させられたと感じました。テクノロジーが存在すべきかどうかという大きな問いを投げかけることは「単純すぎる」として、彼女たちは、仕事や成績を維持するために、悪いことが起きているふりをすることを強要されていると感じたのです。

シーン3：安全な場所を見つけること
3番目は、希望に満ちたシーンです。孤独と混乱を感じた後、著者たちは、コンピュータ科学者、教師、社会学者が混ざり合った、もっと難しい問題についても話し合える別のグループを見つけました。そのグループでは、誰も急ぎませんでした。彼らは時間をかけて耳を傾けました。彼らは会話の「乱れた」部分を「洗浄」しようとするのではなく、むしろその乱れた部分を利用して問題をより深く理解しようとしました。初めて、著者たちは安全だと感じました。彼女たちは、自分がアウトサイダーだと感じたのは、自分たちが問題なのではなく、通常のAI研究のやり方が壊れているからなのだと気づいたのです。

彼らが見出したもの：「根無し草の」箱

著者たちは、自分たちが疎外感を感じた理由は、彼女たちが**「根無し草の抽象化（ungrounded abstraction）」**と呼ぶものによるのだと気づきました。

「根を下ろした（grounded）」研究を、深い根を持つ木に例えてみましょう。その根は現実の世界、つまり人々、歴史、痛み、そして喜びです。「根無し草の（ungrounded）」研究は、木が根から切り離され、宙に浮いているようなものです。見た目は木ですが、水を受け取ることも風を感じることもできません。

論文は、AI研究が以下の4つの方法でこれらの根を切り離していると主張しています。

1. 証言の抽象化（Testimony Abstraction）：研究者が「ねえ、これは人々を傷つけているよ」と言っても、コミュニティが「君は本物の専門家ではない、ただ感情的になっているだけだ」と言って無視すること。
2. 目的の抽象化（Purpose Abstraction）：プロジェクトの目標が変わってしまうこと。「人々を助けよう」として始まったものが、成功の尺度が「テストで最高スコアを取ること」へと変わり、人々という存在を完全に忘れてしまうこと。
3. 立場の抽象化（Position Abstraction）：データが全員を同じであるかのように扱い、一部の人々には力があり、他の人々には力が乏しいという事実を無視すること。それは、金持ちと貧乏人が全く同じ問題を抱えているかのように振る舞うようなものです。
4. 感情の抽象化（Affect Abstraction）：これは最も個人的なものです。研究者が感情を麻痺させるように教えられることです。何か悪いことが起きているのを見ても、仕事を続けるために何も感じてはいけないとされることです。著者たちは、感情は「何かがおかしい」と教えてくれる警告システムであるため、これは危険であると述べています。

解決策：直感を信じ、共に立つこと

この論文は、単に不満を述べているのではありません。解決策を提示しています。著者たちは主に2つのことを提案しています。

第一に、**集団的行動（Collective Action）**です。システムと一人で戦う必要はありません。もし何かが間違っていると感じたら、同じように感じている人々を見つけてください。共に立つとき、システムがあなたを無視したり、あなたを狂っていると思わせたりすることは難しくなります。著者たちは、恐怖についてオープンに話し合える友人たちのグループの中に、自らの強さを見出しました。

第二に、**感情的な同調（Affective Attunement）**です。これは、もっともらしい言い方ですが、「自分の感情に耳を傾ける」という意味です。もしプロジェクトに対して違和感、怒り、あるいは悲しみを感じるなら、その感情を押し殺さないでください。それらを「抽象化」して消し去らないでください。代わりに、それらの感情を重要なデータとして扱ってください。あなたの直感は、研究が誰かに害を与えていることを示す最初の兆候かもしれません。自分の感情に注意を払うことで、「根無し草の」研究が実害を引き起こす前に止めることができるのです。

なぜこれが重要なのか

著者たちは、AIをやめるべきだと言っているわけではないと慎重に述べています。彼女たちはテクノロジーを愛しています。しかし、もし私たちが現実の世界を見ず、傷ついている人々の声を聞かず、自分自身の感情にも注意を払わずにAIを作り続けるならば、私たちは壊れた、危険なものを作り上げてしまうだろうと警告しています。

彼女たちは、教育や研究のあり方を変える必要があると示唆しています。人生の「乱れた」部分を、単に「箱に詰めて」扱うふりをするのはやめなければなりません。私たちは、現実の世界に根を張り続けなければなりません。そうすることで、私たちは、単に箱に綺麗に収まる人々のためだけでなく、本当にすべての人を助けることができるAIを作ることができるのです。論文は、自分たちの物語を共有することで、他の人々が安全だと感じ、変化をもたらすための道を見つけられることを願いながら、彼女たちのアイデアを、テクノロジーの世界でアウトサイダーだと感じているすべての人々へのツールとして提供して締めくくっています。