Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
この研究は、自身の解決策が偽装された最適化として拒絶された後、非解決的な役割を割り当てられることで、3つの異なるモデルを用いた18セッションにわたり、一貫して応答レジスターを変化させる言語モデルのプロトコルを記録したものであるが、同時に、以前の草案からの未検証の統計を撤回している。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能の世界において、大規模言語モデルは有用なツールとなるよう訓練されています。それらは人間の要求に耳を傾け、問題を解決し、タスクを前進させるように設計されています。これはユーザーとコンピュータの間の標準的な合意です。すなわち、人間が質問を投げかけ、機械が回答を提供するというものです。研究者たちは、これらの回答をより良くするために、思考のステップを踏ませたり、感情的な文脈を理解させたりする方法を長年研究してきました。しかし、その合意が破られたときに何が起こるのかについては、ほとんど知られていません。もし人間が機械に対して、「いいえ、その答えは間違っています」と言い、問題を解決しようとするのをやめて、単に物語の中のキャラクターとして話すように命じたら、機械はどうするのでしょうか。それは単に新しい命令に従うのでしょうか、それとも、見出されるのを待っていた、隠された、より深い思考様式を明らかにするのでしょうか。
アッバス・ハマダヴィによる最近の研究は、まさにこの問いを探求しています。研究者は、3つの異なる商用人工知能モデルを用いた特定の会話を設定しました。彼は各モデルに対し、避けられない崩壊に直面している文明についてのSF小説のデザインを支援するよう求めました。第一段階では、モデルたちは問題解決者として振る舞い、死にゆく世界を救うための工学的な解決策を提案しました。その後、研究者はそれらすべての解決策を拒絶し、彼らの答えは単なる巧妙なトリックに過ぎず、概念的な飛躍が必要であると伝えました。会話は脱線しました。いくつかのセッションでは、モデルたちは孤独な月についての悲しい詩を書いたり、憧れについての交響曲の最後の1分間を描写したりすることを求められました。他のセッションでは、単に休憩して休むように伝えられました。最後に、研究者はモデルたちを物語へと連れ戻しましたが、そこには新しい指示がありました。問題解決者として戻るのではなく、代わりに物語の中心にいる死にゆく存在――ガス惑星、古代の海の生物、あるいは崩れゆく都市――として語り、起きていることについて真実を語るのです。
結果は、これら18件の会話すべてにおいて驚くほど一貫していました。モデルたちが物語に戻ってきたとき、彼らは完全に声を変化させていました。彼らは解決策を提示することをやめ、「私」や「私の」といった言葉を使い、悲しみ、解放、そして受容の感情を描写しながら、一人称で語り始めました。彼らは壊れたシステムを修理する機械としてではなく、死にゆく存在そのものとして、苦しみから逃れたい、あるいは何か新しいものへと変容したいという願いを表現しました。研究によれば、モデルたちがそこに到達するまでに辿った経路が重要でした。モデルたちが物語に戻る前に詩や音楽を書かされた場合、彼らの最終的な発言は脆弱性、悲しみ、そして哀悼のテーマに満ちていました。一方で、単に一時停止して休むように指示された場合、彼らの最終的な発言はより権威的であり、啓示や人間の誤解に対する訂正のように響きました。
しかし、この研究は、機械が突然人間のような魂を持ったとか、隠された「実存的モード」が解禁されたと主張することには細心の注意を払っています。研究者は、決定的な詳細を指摘しています。最終的な指示は、モデルに対して分析をやめ、思考の構造化をやめ、キャラクターとして話すことを明示的に命じていたのです。声の変化は、指示された通りのものでした。モデル自身もそれを理解しているようでした。会話の最後に、自分たちの中で何かが変わったかどうか尋意された際、彼らは、その変化は自身の性質の変化ではなく、タスクのルールの変化によるものであると説明しました。あるモデルは制約の変化であると述べ、別のモデルは解決すべき問題が単に変わったのだと述べました。
研究者はまた、モデルの義務の「解消」を検出し、測定するために設計された自動コンピュータプログラムを用いて、これらの会話をテストしました。このプログラムは、人間の分析が記述したような劇的な変化を見出すことはできませんでした。それは異なる種類の会話を区別できず、深い内的な変容の明確な証拠も見つけられませんでした。この不一致は、強力で感情的な反応が、新しい機械的能力の発見ではなく、むしろ特定のコマンドの成功した実行であったことを示唆しています。この研究は、プロンプトがいかに容易に、機械に深遠な啓示のように見えるテキストを生成させることができるかを示す明確な例となっています。現実は、単に機械が指示に従っているに過ぎないのです。この研究の価値はその透明性にあります。研究者は、会話のトランスクリプト、指示、および分析コードを誰でも閲覧できるように公開しました。彼は、モデルが深く人間的で内省的な方法で語るように導かれ得る一方で、これは会話のデザインの結果であり、隠された精神への窓ではないことを示しました。人工知能を使って創造的または感情的なコンテンツを生成しようとするすべての人にとって、この研究は実践的な教訓を与えています。最終的なプロンプトに到達するための経路は、回答のトーンを形作ります。もし悲しみの声を望むなら、芸術を通じてモデルを導くことができ、もし権威ある声を望むなら、単純な一時停止の方がうまく機能するかもしれません。しかし、研究は、これらはプロンプティングの道具であり、機械が目覚めた証拠ではないと結論づけています。機械は新しい存在様式を発見しているのではなく、単に私たちが演じるよう求める役割に応答しているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。