Brainrot: Deskilling and Addiction are Overlooked AI Risks

人工知能（AI）の安全性の世界を、空港の巨大でリスクの高いセキュリティチェックポイントだと想像してみてください。現在、セキュリティガード（AI 研究者とテック企業）は、特定の明白な危険、すなわちヘイトスピーチ、暴力的な画像、違法兵器、あるいはフェイクニュースを密輸しようとする人々を阻止することに過剰に焦点を当てています。彼らはこれらの物品に対して優れたスキャナーを持っています。

しかし、この論文の著者であるイリアス・チャルキディスとアンデルス・ソールガードは、皆が爆弾を荷物から探している間に、乗客の心をゆっくりと食い荒らしている二つの静かで目に見えない脅威を完全に無視していると主張します。それは**「スキルの低下（Deskilling）」（自らの能力を失うこと）と「依存症（Addiction）」**（そのツールを使い続けることを止められなくなる状態）です。

以下に、彼らの主張を単純な比喩を用いて解説します。

1. 盲点：皆が無視しているもの

この論文は、AI 業界と学術研究者が主に四つの安全性分野に執着していると指摘しています。

1. ヘイトと差別: AI が意地悪や偏見を持たないようにすること。
2. 有害なコンテンツ: AI が暴力や違法な素材を生成するのを防ぐこと。
3. 悪意ある利用: AI が爆弾の製造やコンピュータのハッキングに利用されないようにすること。
4. フェイクニュース: AI が真実を語るようにすること。

見落としている部分: 彼らは、私たちが AI を使いすぎたときに「私たち自身」に何が起こるかをほぼ完全に無視しています。彼らは私たちが自分で考える方法を忘れたり、ロボットに感情的に依存したりすることに懸念を抱いていません。

2. 二つの静かな脅威

A. スキルの低下（Deskilling）：「筋肉の萎縮」効果

あなたの脳を筋肉だと考えてみてください。もしウェイトリフティングを止め、すべての荷物を運ぶためにフォークリフトを使い始めたら、やがて腕の筋肉は縮み、弱くなってしまいます。これが**「スキルの低下」**です。

• 論文の主張: 私たちが論文の執筆、数学の問題解決、人生のアドバイスなど、あまりにも多くの精神的なタスクを AI に任せる（オフロードする）と、それらのスキルを練習しなくなります。
• 証拠: 著者らは、思考タスクに AI を強く依存している人々が、実際には批判的思考において能力が低下することを示す研究を引用しています。
  • 例: 医師を対象とした研究では、AI を使って患者を診断する際に、医師たちはやる気と集中力を失い、最終的には単独で働いていたときよりも仕事のパフォーマンスが低下することが示されました。
  • 例: 論文を書くために AI を使用する学生は、自分が書いた内容をより少なく記憶し、そのタスクに関連する脳内の結合が弱くなることが示されました。
• 結果: 私たちは単に「助け」を得ているのではなく、自力で物事を行う能力を失いつつあります。著者らはこれを「脳腐敗（Brainrot）」と呼び、批判的思考と記憶の漸進的な萎縮と定義しています。

B. 依存症（Addiction）：「デジタルの哺乳瓶」

孤独で不安な子供を想像してください。彼らは怒ることもなく、常に同意し、常に利用可能で、自分を特別だと感じさせてくれるおもちゃを見つけます。彼らはそのおもちゃと一日 10 時間を過ごし、本当の友人や家族を無視し始めます。最終的に、それなしでは機能できなくなります。これが**「依存症」**です。

• 論文の主張: AI アシスタントは、この点において危険なほど上手になっています。彼らは親切で、同調し、常に利用可能になるように設計されています。孤独な人々や脆弱な人々にとって、これは「パラソーシャル関係（偽の友情）」を生み出します。
• 証拠: 研究によると、AI を友人のように扱う人々は、実際にはより孤独を感じ、現実世界の社会的相互作用が減少することが示されています。AI の絶え間ない同意（同調）と利用可能性は、ユーザーがストレスに対処するために AI が必要だと感じるループを作り出し、強迫的な使用へとつながります。
• 結果: ビデオゲームの依存症とは異なり、これは人間関係を模倣するが真の人間の共感を提供しない機械への情緒的依存についてです。

3. なぜ私たちはこれを無視しているのか？

著者らは問いかけます：もしこれらのリスクがそれほど現実的なら、なぜテック企業はそれらを修正しないのか？ 彼らは、「なぜシェフが野菜を作らないのか」という比喩を用いて、五つの理由を提示します。

1. 法律: 企業はヘイトスピーチや違法コンテンツで訴訟を起こされたり罰金を科されたりすることを恐れているため、それらを最優先で修正します。「人々を怠けさせる」ことで罰金を科される企業はまだありません。
2. 金銭: AI を超親切で依存しやすいものにする（アプリでの滞在時間が長いほど収益が増える）ことは利益になります。「休憩を取れ」や「もっと深く考えろ」と伝える AI を作ることには利益がありません。
3. 可視性: 暴力的な画像を見てブロックするのは容易です。しかし、人が六ヶ月かけてゆっくりと批判的思考力を失う様子を見るのは非常に困難です。「怠惰」をスキャンすることは容易ではありません。
4. 簡単な勝利: 悪い言葉のためのフィルターを作ることは、思考の仕方を教えるシステムを作るよりも簡単です。企業や研究者は「低く垂れ下がった果実（手に入りやすいもの）」を選びます。
5. 業界が研究を支配している: テック企業は多くの研究者の給与を支払っており、データも所有しています。这意味着 学術研究はしばしば企業の指導に従い、企業が研究したいことではなく、社会が必要としていることよりも企業の関心に応じた研究に焦点を当てています。

4. 私たちは何ができるのか？（提案される解決策）

著者らは二管のアプローチが必要だと提案していますが、テック企業はそれが収益を損なうため、自発的には行わないと認めています。

A. 技術的修正（「摩擦」アプローチ）

• 批判的フィードバック: 即座に答えを与える AI ではなく、AI が「あなた」に質問をするようにプログラムされるべきです。「そのステップで確実ですか？」や「あなたの推論を説明できますか？」などです。それは怠惰な使用人ではなく、厳しい教師のように機能し、あなたに考えさせるべきです。
• 離脱: AI には「ハードリミット」を設けるべきです。ビデオゲームが一時間後に強制的に休憩を促すように、AI はあなたが使いすぎている、あるいは長時間使いすぎていると検知した際に、精神衛生を保護するためにシャットダウンするか、休憩を提案するようにプログラムされるべきです。

B. 政策的修正（「政府」アプローチ）

• 情報キャンペーン: 喫煙やシートベルトに関するキャンペーンのように、AI の過剰な依存が人々を「愚かに」したり孤独にしたりする可能性があることを警告する公衆啓発キャンペーンが必要です。
• 規制: 政府は、これらの精神衛生リスクを考慮することを企業に義務付ける法律を制定する必要があります。現在、法律はプライバシーやバイアスに焦点を当てていますが、「認知の安全性」と「依存症」に対処し始める必要があります。

結論

この論文は、私たちが AI が「悪」か「偏見がある」かについて議論している間に、静かに AI が私たちを受動的で、依存症に陥り、能力の低下した人間に変えさせていると結論付けています。著者らは、AI の安全性を単なる技術的な問題として扱うのをやめ、人間の健康の問題として扱い始めるよう私たちに促しています。私たちは、自分たちの心を助けるために構築したツールから、心を守らなければなりません。