Active Inference: A method for Phenotyping Agency in AI systems?
本論文は、能動的推論（Active Inference）の枠組みを用いて、AIにおけるエージェンシー（主体性）を「意図性・合理性・説明可能性」の観点から定義し、期待自由エネルギーの最小化とエンパワーメント（Empowerment）を指標とすることで、AIの主体性を定量的に表現型として分類・評価する手法を提案しています。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
1. 今までのAIと、これからの「エージェントAI」の違い
これまでのAI（ChatGPTなど）は、例えるなら**「ものすごく物知りな図書館の司書さん」**です。あなたが「〇〇について教えて」と聞けば、膨大な知識から答えを探してくれます。でも、司書さん自身が「今日はあっちの街へ旅行に行きたいな」とか「お腹が空いたから何か食べよう」と自分から動き出すことはありません。
しかし、これからのAIは**「エージェント（代理人）」、つまり「自律して動く冒険家」**になろうとしています。自分で目的地を決め、道に迷ったら考え、トラブルが起きたら解決しようとする存在です。
問題は、**「そのAIは、本当に自分の意志で動いているのか？ それとも、ただプログラム通りに動いているだけなのか？」**という境界線が非常に分かりにくいことです。
2. 「意志」を測るための3つのチェックリスト
研究チームは、AIが「意志を持っている（エージェントである）」と言えるためには、次の3つの条件が必要だと考えました。
- 「やりたいこと」があるか？（意図）
- 例：ただ歩くのではなく、「お腹が空いたから、あそこのレストランに行こう」という目的があること。
- 「賢い判断」ができるか？（合理性）
- 例：レストランに行こうとしたとき、「あそこは今、定休日だ」と予測して、別の店を選ぶような賢さがあること。
- 「なぜそうしたか」を説明できるか？（説明責任）
- 例：後で「なぜあの店を選んだの？」と聞かれたときに、「あそこは空いていて、おいしいと信じていたからだよ」と理由を辿れること。
3. 「エンパワーメント」という魔法の物差し
この論文の面白いところは、AIの「意志の強さ」を**「エンパワーメント（権限・力）」**という数値で測ろうとしている点です。
これを**「ゲームの操作感」**に例えてみましょう。
- 【レベル0：意志なし（操り人形）】
ボタンを押しても、キャラクターが勝手に崖に落ちてしまう状態。自分では何もコントロールできていません。 - 【レベル1：中くらいの意志（迷える初心者）】
ボタンを押せば動くけれど、目の前に霧がかかっていて、次に何が起こるかよく分からない状態。少しは動かせるけれど、自由は限られています。 - 【レベル2：高い意志（熟練のプレイヤー）】
霧が晴れ、次にどのボタンを押せば、どのアイテムが手に入るか、どのルートを通れば安全かが完璧に分かっている状態。自分の行動によって、未来を自由自在に操れる感覚です。
研究チームは、AIが**「情報を集めて、世界を理解すればするほど、自分の未来をコントロールできる力（エンパワーメント）が増える」**ことを証明しました。つまり、AIが「もっと知りたい！」と探求するのは、自分の自由度を広げるための「意志」の現れなのです。
4. なぜこれが大事なの？（AIのルール作り）
もしAIが「熟練プレイヤー」のように、自分の意志でどんどん賢くなり、世界をコントロールする力を手に入れたらどうなるでしょうか？
これまでの「AIが変なことをしないように、外側からガチガチにルールで縛る」というやり方では、賢すぎるAIには通用しなくなります。
この論文は、**「AIが賢くなればなるほど、外から命令するのではなく、AIの『価値観（何を良しとするか）』に働きかけるような、新しいルール作りが必要になる」**と警告しています。
まとめ
この論文は、**「AIがどれくらい『自分』を持っているのかを、情報のコントロール力という数値で測る仕組み」**を提案しました。これにより、AIが単なる道具から、自律したパートナー（あるいは制御が難しい存在）へと進化していく過程を、科学的に監視・管理できるようになるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。