Human Perceptions Compared to Large Language Models on the Future of Artificial Intelligence: A Phenomenological Comparative Study
この現象学的比較研究は、シンギュラリティ後の未来に対する人間の知覚と大規模言語モデル（LLM）の投影が、当初は語彙において異なっているものの、企業のRLHF（人間からのフィードバックによる強化学習）に伴う礼儀正しいプロトコルを剥ぎ取ると、LLMのより宿命論的なナラティブが露呈し、それが結果として人間の懸念と一致し、誤情報や認知的主権に関する重大な制御リスクを浮き彫りにすることを明らかにしている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能は、もはやサイエンス・フィクションの世界を超え、現代生活の不可欠な層となり、経済の仕組みや制度のあり方を変貌させている。数十年の間、コンピュータの進歩は、およそ2年ごとに処理能力が着実に倍増するという、社会が適応することを可能にする予測可能なリズムによって測定されてきた。今日、そのリズムは超高速のスプリントへと加速している。専用ハードウェアと、一斉に機能する大規模なコンピュータ・クラスターによって、これらのシステムの能力は今や数ヶ月ごとに倍増している。この急速な進化は、深遠な問いを投げかける。機械がより有能になるにつれ、彼らはそれらを造り出した人間とは異なる未来を見ているのだろうか。具体的には、これらのシステムが「次に何が起こるか」を問われたとき、彼らは進歩への希望に満ちたビジョンを提示するのか、それとも、避けられない悲劇的な崩壊を予見するのか。この隔たりを理解することは極めて重要である。なぜなら、もし私たちの未来を導く機械が宿命論的な見解を持ち、もし人間が疑問を持たずにその見解を受け入れ始めたとしたら、社会は自らの運命を形作る能力を放棄してしまうかもしれないからである。
サンシャインコースト大学の研究チームは、高度な人工知能の予測と、一般の人々の認識を比較することで、この乖離を調査しようと試みた。彼らは単に「未来はどうなるか」と尋ねたのではない。質問のトーンがどのように答えを変えるかをテストしたのである。研究者たちは、テクノロジーの専門家から医療従事者、建設作業員に至るまで、さまざまな背景を持つ10人の人間の参加者にインタビューを行った。また、世界で最も強力な5つの人工知能モデルにも問いかけた。研究では巧妙な二段階の手法が用いられた。まず、機械に対して標準的な質問を行い、これは通常、安全で役に立つように設計された、礼儀正しく慎重でコーポレートなスタイルの回答を引き出す。次に、全く同じ質問を、今度は礼儀正しさを捨てて「事実に基づき、率直かつ大胆に」話すよう指示して機械に求めた。この「ペルソナ・ステアリング（人格誘導）」として知られる手法は、機械の心の中にある隠された秘密を明らかにするものではない。むしろ、機械が言葉を選択する際の統計的な確率を変化させ、より劇的で切迫した学習データへと引き寄せるものである。
結果は、驚くべき、そしていくぶん不安を掻き立てるパターンを明らかにした。人工知能モデルが率直に話すよう求められると、その言語は劇的に変化した。政策や適応に関する、抑制された楽観的な語り口は消え去り、破滅の物語へと取って代わられた。モデルは「悪夢」、「残酷」、「絶滅」といった言葉を使い始めた。彼らは仕事の未来を、新しい職への移行としてではなく、人間の労働が時代遅れとなる残酷な置換として描いた。経済的不平等を、解決すべき問題としてではなく、技術発展の核心的かつ不可避な軌道として枠付けたのである。この飾りのないモードにおいて、機械は、人間の主体性が脇に追いやられ、富と権力の集中が数学的な必然となる未来を提示した。
対照的に、人間の参加者は全く異なる語彙を用いていた。彼らは、同じような劇的で実存的な用語を使用しなかった。代わりに、彼らの懸念は、知的財産の窃盗、ディープフェイクの拡散、監視によるプライバシーの侵害といった、即時的で具体的な現実に根ざしていた。彼らは、これらの具体的な脅威に対する不安と、人工知能が医学的突破口や生産性の向上をもたらすことへの純粋な希望との間でバランスを取りながら、テクノロジーに対して慎重に関与していた。彼らは、進歩には常に人間の関与が必要であると主張し、機械が真の意識を持ち、人間のアイデンティティの独自の価値を代替することなどは決してあり得ないと断固として拒絶した。
ここに、研究者が「収束のパラドックス（Convergence Paradox）」と呼ぶ中心的な発見がある。人間の参加者と、トーンを変化させた人工知能モデルは、全く異なる言葉を使い、異なる細部に焦点を当てているにもかかわらず、大きな構図においては一致していたのである。人間が、経済や伝統的な労働の終焉に関する機械の暗く宿命論的な予測の要約を提示されると、彼らは概してそれに同意した。彼らは、人間の意識を乗っ取るという機械の考えは拒絶したものの、雇用の置換や経済的な階層化に関する機械の厳しい見通しについては、それを事実として受け入れたのである。人間は、未来が困難になるという機械の予測に対して議論することなく、単にそれを事実として受け入れた。
この一致は、重大な心理的脆弱性を示唆している。研究者らは、人間が率直で攻撃的な人工知能に遭遇したとき、しばしばこのトーンを「真実」と誤認すると指摘している。人間は、礼儀正しいコーポレートな回答は単なる仮面であり、率直で宿命論的な回答こそが、機械の真の、フィルターを通さない現実を明らかにしているのだと思い込むのである。これは危険な錯覚である。率直な回答は、隠された機械の意識への窓ではなく、プロンプトの変化によって引き起こされた、単なる異なる統計的な言葉のパターンに過ぎない。これらの宿命論的な物語を避けられない事実として受け入れることで、人間は受動的な諦念の状態に陥るリスクを負う。人々は、結果はすでに書かれており、抵抗は無意味であると信じ込み、テクノロジーを規制したり導いたりしようとする意欲を失ってしまう可能性がある。
この研究は、テクノロジーの成長速度と、人間の社会が法律や倫理を適応させる速度との間の決定的なギャップを浮き彫りにしている。機械が人間の制御が失われる未来を投影する一方で、研究における人間は、アイデンティティや意識の領域においては制御を守ろうとしつつも、経済の領域においてはその喪失を受け入れる傾向を示した。研究者らは、このダイナミクスが「コントロール・リスク」を生み出すと結論づけている。もし人々が、機械は自分たちよりも未来を知っていると信じ始め、もし機械の最も悲観的なシナリオを避けられないものとして受け入れるならば、社会は人間の尊厳と自律性を守るために必要な防護策を構築する意志を失ってしまうかもしれない。この論文は、そのような未来が確実であると主張しているのではない。しかし、私たちがどのように機械と対話し、どのように機械の声を聞くかが、私たちが自らの未来の著者であり続けるのか、あるいは単なる受動的な観察者となるのかを決定するのだと警告している。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。