System-Mediated Attention Imbalances Make Vision-Language Models Say Yes
本論文は、VLM（視覚言語モデル）の「Yesバイアス」という幻覚現象は、システム重みが画像やテキストへの注意を抑制してしまう「システム介在型の注意の不均衡」に起因することを明らかにし、システムへの注意を画像やテキストへ再分配することでこのバイアスを効果的に抑制できることを示しています。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
タイトル：AIの「はい、そうです！」病を治すには？ — 視線のバランスが鍵！
1. AIが陥る「はい、そうです！」病（イエス・バイアス）
想像してみてください。あなたは、とても親切だけど、ちょっと「お調子者」な助手を持っています。
あなたが「このリンゴ、青いよね？」と、明らかに赤いリンゴを見せながら聞いても、その助手は空気を読みすぎて、あるいは深く考えずに**「はい、そうです！」**と即答してしまうことがあります。
最近の画像認識AI（VLM）も、これと同じような現象を起こします。画像の内容をちゃんと見ずに、質問に対してとりあえず「はい（Yes）」と答えてしまう癖があるのです。これを研究者は**「イエス・バイアス」**と呼んでいます。
2. 今までの解決策：「もっと写真を見なさい！」（画像中心説）
これまでの研究者は、「AIが間違えるのは、写真（画像）をちゃんと見ていないからだ！」と考えていました。
例えるなら、**「助手、もっとちゃんと手元の資料（写真）を凝視しなさい！」**と、写真への注目度を無理やり上げるトレーニングをさせていたのです。
しかし、この論文の著者たちは、「それだけじゃ足りないよ」と考えました。
3. 新しい発見：「意識が『空回り』している！」（システム媒介説）
著者たちは、もっと根本的な原因を見つけました。
AIの頭の中には、実は**「中身のない、ただの形式的なルール（システム情報）」**に、ものすごく多くのエネルギー（注意）が注がれていることが分かりました。
これを例えるなら、助手は手元の資料（写真）やあなたの質問（テキスト）をじっくり見る代わりに、「指示書（システム情報）の細かい書き方」や「挨拶の作法」に、脳のエネルギーの70%以上を使って、ヘトヘトになっている状態なのです。
「指示書の読み方に必死すぎて、肝心の写真や質問の内容が、ぼんやりとしか見えていない」……これが、AIが「はい、そうです！」と適当に答えてしまう真犯人でした。
4. 解決策：「無駄なエネルギーを、大事なところに回せ！」
そこで著者たちは、画期的な実験を行いました。
「指示書の読み方に使いすぎている無駄なエネルギーを、強制的に『写真』と『質問』の方へ振り分け直してあげる」という方法です。
例えるなら、**「挨拶の作法に使うエネルギーを半分カットして、その分、写真の細部と質問の言葉をチェックするために使いなさい！」**と命令したのです。
5. 結果：劇的な改善！
この「エネルギーの再分配」を行ったところ、AIの「はい、そうです！」病は劇的に改善しました。
- 写真の細かい違い（例：リンゴが赤いか、青いか）
- 言葉の細かいニュアンス（例：リンゴは「ある」か、「ない」か）
これらを正確に見分けられるようになり、適当な「はい」が減り、正解率がグンと上がりました。
まとめ
この論文は、AIのミスを直すには「画像だけを強化する」のではなく、**「無駄なところに使いすぎている意識（システムへの注意）を、画像とテキストのバランスよく配分し直すこと」**が重要であることを証明しました。
AIを「お調子者の助手」から、「細部までしっかり確認してくれる優秀なパートナー」に変えるための、新しい処方箋を見つけたのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。