高速道路を運転している最中、突然、前の車が合図もなしに車線をはみ出してきた場面を想像してみてください。心臓は激しく鼓動し、胃がキュッと縮まり、怒りの感情が湧き上がってくるかもしれません。しかし、なぜあなたの脳がそのように反応するのか、不思議に思ったことはありませんか?機械や脳がいかにして意思決定を行うかを研究している科学者たちは、「能動的推論(アクティブ・インファレンス)」と呼ばれる理論を持っています。これは、あなたの頭の中にいる、次に何が起こるかを常に推測している超スマートな探偵のようなものだと考えてください。その探偵は、驚かないために未来を予測しようとします。世界がその予測と一致していれば、探偵は落ち着いた状態になります。もし世界が予想外の展開を見せると、探偵は混乱し、何が起きているのかを理解しようと努めます。長い間、これらの探偵モデルは、ステアリングを切ったりブレーキをかけたりする方法を説明することには長けていましたが、パズルの極めて重要なピースが欠けていました。それは「感情」です。彼らは「怒り」や「安堵」をどのように計算すればよいのかを知りませんでした。これが重要なのは、もし私たちが人間と安全に道を共有できる自動運転車を作りたいのであれば、それらの車が衝突の物理学だけでなく、そこに至るまでの感情のジェットコースリースのことも理解する必要があるからです。
この論文において、研究チームはある「運転する探偵」に感情を教えることに決めました。彼らは、能動的推論を用いて車の運転ができる既存のモデルを取り上げ、そこに新しい「感情のメガネ」を与えました。このメガネによって、モデルは2つの特定のレンズを通して世界を見ることができるようになりました。それは「バレンス(価数:状況がどれほど良く、あるいは悪いと感じるか)」と「アローザル(覚醒度:どれほど警戒しているか、あるいはパニックになっているか)」です。モデルは単に目の前の車を見るのではなく、数秒後に何が起こるかを予測しながら、さらに先を見通すようになりました。彼らはこの「感情を持つドライバー」を、2つのトリッキーな状況でテストしました。一つは、反対車線の車が突然進路を塞いできた状況、もう一つは、交差点で車が「譲れ」の標識を無視した状況です。
結果は驚くほど人間らしいものでした。相手のドライバーがルールに従っているとき、モデルは冷静でリラックスしており、「覚醒度」は低いまま保たれていました。しかし、相手のドライバーがルールを破ったとき(車線をはみ出したり、一時停止を無視したりしたとき)、モデルの感情は急上昇しました。モデルの「覚醒度」は上がり、高い警戒状態にある感覚をシミュレートしました。そして「バレンス」は負の値に転じ、怒りやフラストレーションの感覚を模倣しました。モデルは単に目の前の危険に反応したのではなく、不適切な行動による「驚き」に反応したのです。例えば、交差点のシナリオでは、ルールに反して相手の車が進み続けたとき、モデルの「怒り」は増大し、衝突を避けるために強くブレーキを踏むという判断を下しました。興味深いことに、衝突が避けられなくなったとき、モデルの「覚醒度」は実際に低下しました。なぜなら、不確実性が消え、たとえそれが悪い結果であっても、何が起こるのかを正確に把握できたからです。このことは、モデルが交通規範の違反と負の感情の結びつきをうまく捉えたことを示唆しています。
研究者たちは、ドライバーが期待していたことと、実際に起きたこと(あるいは起きる可能性が高いこと)との差を見ることで、これらの感情信号を生成できることを見出しました。彼らは、モデルの「怒り」が、人間のドライバーが感じるのと同様に、相手のドライバーによる社会的規範の違反に直接結びついていることを発見しました。しかし、著者たちは、これはすべてコンピュータ・シミュレーション内で行われているものであるという点に注意を促しています。まだ実在の人々に対してテストは行われていないため、結果は非常に有望であり、人間の心理学とも一致していますが、これらはあくまで数学に基づいた非常に高度な推測に過ぎません。また、モデルには盲点もあります。感情がドライバーの行動(例えば、怒りがよりリスクの高い行動を取らせるなど)をどのように変化させるかについては、まだ理解していません。しかし、第一歩として、この研究は、自動運転車が単に物理学を計算するだけでなく、道路上の感情的な利害関係をも理解できることを示唆しており、それによって人間にとってより優れたパートナーになれる可能性があることを示しています。
技術要約:能動的推論モデルにおける人間の運転中の感情
問題提起
能動的推論(Active Inference)は、目標指向の行動と不確実性の減少のバランスを取ることで、適応的な行動をモデル化するための原理的な枠組みとして台頭している。これは、車の追従、車線維持、衝突回避などの人間の運転シナリオに成功裏に適用されてきたが、既存のモデルの多くは、人間の意思決定の決定要因である情動状態(感情)を軽視している。感情を能動的推論に統合しようとするこれまでの試みは、複雑な交通シナリオで必要とされる現実的なプランニング能力を欠いた、簡略化された離散的な状態空間の「トイ・プロブレム(玩具的な問題)」に限定されていた。複雑な交通シナリオにおいて、マルチステップのポリシー・プランニングを考慮した連続的な状態空間モデルへと、これらの感情モデリング能力を拡張する必要がある。
手法
著者らは、ラッセルの円環モデル(バレンスと覚醒)に基づくドライバーの感情モデルを組み込むために、既存の人間による衝突回避の能動的推論モデル(Schumann et al.)を拡張した。コアとなるフレームワークは以下の通りである:
- 生成モデル: エージェントは、外部の生成プロセスを近似するために、粒子フィルタを介して環境に関する確率的信念 q(s) を保持する。遷移モデルは、運動学的尤度(自転車モデル)と規範的尤度(交通規則への遵守)を組み合わせる。
- ポリシー選択: エージェントは、期待自由エネルギー(EFE)を最小化することにより、候補となるポリシー πt (ホライゾン H にわたる行動のシーケンス)を評価する。EFEは、実用的価値(好ましい結果の達成)と認識的価値(不確実性の減少)のバランスを取る。
- 感情の定式化:
- バレンス(価:Valence, V): 実際の実用的価値と期待される実用的価値の差として定義される。これを連続的な時間とマルチステップ・プランニングに適応させるため、著者らは以下を提案する:
- 周波数依存性をなくすために、タイムステップ Δt で除算する。
- 確率的なポリシー選択に対する安定性を確保するため、期待値 (V(E)) を、過去 N=5 個のポリシーにおける予測された状態の平均として計算する。
- 実際の値 (V(A)) は、反事実的なものではなく、現在の参照ポリシー(現在実行中のもの)に基づいて計算し、進行中の有機体と環境の相互作用を反映させる。
- Vt=V(A)t−V(E)t である。
- 覚醒(喚起:Arousal, A): エージェントの後験的信念のエントロピーとして定義される。著者らは、生の運動学的不確実性を用いることは直感的ではない(例:遠方のエージェントは高い不確地/覚醒を誘発する一方で、差し迫った衝突は精密なトラッキングにより低い不確実性を誘発する可能性がある)と主張し、覚醒を意味のある抽象的な状態、すなわち衝突確率(pcoll)の不確実性にマッピングする。
- pcoll は、予測ホライゾンにおける衝突確率の期待最大値であり、バイナリ衝突分類器から導出される。
- 覚醒は、この衝突確率の二値エントロピーとして計算される:At=−[pcollln(pcoll)+(1−pcoll)ln(1−pcoll)]。
主な貢献
- 連続状態への拡張: 本論文は、Pattisapuらによる離散状態の感情定式化を、運転の連続的な状態空間能動的推論モデルへと一般化した。
- 未来志向の評価: 提案された定式化は、現在の状態だけでなく、予測される将来の結果(マルチステップ・ホライゾンにわたる)にも条件付けられており、これは感情の評価理論(Appraisal Theory)と一致している。
- 安定したバレンス推定: 複数の過去のポリシーにわたって期待値を平均化することで、確率的なポリシー選択による変動を抑え、より安定した情動信号を実現している。
- 意味論的覚醒: 著者らは、低レベルの運動学的不確実性ではなく、高レベルのセマンティックな状態(衝突の可能性)の不確実性から覚醒を導出する方法を導入し、遠方の脅威とならないエージェントに対する非合理的な覚醒反応を回避している。
結果
本アプローチは、それぞれ128回のシミュレーションを含む2つのインタラクティブな運転シナリオ(側方侵入シナリオおよび優先権違反を伴う交差点シナリオ)で評価された。エージェントは、遵守的なエージェントまたは非遵守的(敵対的)なエージェントと相互作用した。
- 側方侵入:
- 遵守的エージェント: 衝突確率の上昇に伴い覚醒が初期に上昇したが、相手のエージェントが良行を示したことで減少した。実用的価値が改善したため、バレンスは正となった。
- 非遵守的エージェント: 他方のエージェントが規範に違反すると、モデル化されたエージェントは信頼を失い、不確実性(覚醒)の増大と負のバレンスを招いた。エージェントは衝突回避に成功し、その結果、覚醒の低下とバレンスの上昇が見られた。
- 交差点:
- 遵守的エージェント: 他方のエージェントが譲歩したため、感情は中立的/冷静な状態を維持した。
- 非遵守的エージェント: 他方のエージェントが交通ルールを無視したため、エージェントは負のバレンスと覚醒の増大を経験した。回避に成功した場合、エージェントは譲歩し、安堵(正のバレンス)へと至った。衝突が発生した場合、覚醒は衝突が回避不可能になった時(結果の確実性)にのみ減少した。また、回避した場合よりもバレンスは低いままであった。
- 円環モデルへのマッピング: 円環モデルにマッピングした際、エージェントの感情状態は人間のパターンと一致した。規範違反は怒り(負のバレンス、高い覚醒)を誘発し、回避の成功はリラクゼーションへと導いた。衝突の結果は、悲しみから抑うつへと遷移した。
意義と主張
本論文は、能動的推論が人間の運転行動の情動的構成要素をモデル化するための実行可能かつ原理的な枠組みであることを主張している。主な意義は以下の通りである:
- メカニズムの解釈可能性: モデルは、感情状態がいかに認知プロセス(例:期待される結果からの逸脱が負のバレンスを誘発する、規範違反の不確実性が覚醒を誘発するなど)から生じるかについて、構造的な説明を提供する。
- 評価理論との整合性: 結果は、情動反応が予測される結果や社会的/規範的な期待の違反によって駆動されるという評価理論を支持している。
- 統一された枠組み: 本研究は、知覚、行動、および感情の統一的な説明としての能動的推論の観点を支持しており、情動状態が行動モデリングに使用されるものと同じ生成フレームワークから推論可能であることを示している。
限界
著者らは以下の限界を挙げている:
- 本モデルは短期的な予測誤差を捉えるが、より高次または長期的な期待(例:渋滞中のドライバーは、短期的な予測が安定していても依然として負のバレンスを感じる可能性がある)については考慮していない。
- 評価はシミュレーションに限定されており、人間のデータ(表情など)との直接的な比較は行われていない。
- モデルは一方向的(行動が感情に影響を与える)であり、感情がどのように行動を変調させるか(例:怒りがリスクテイクを増大させるなど)については、まだ考慮されていない。
毎週最高の AI 論文をお届け。
スタンフォード、ケンブリッジ、フランス科学アカデミーの研究者に信頼されています。
受信トレイを確認して登録を完了してください。
問題が発生しました。もう一度お試しください。
スパムなし、いつでも解除可能。
週刊ダイジェスト — 最新の研究をわかりやすく。登録