🤖 AI

Latent Action Control for Reasoning-Guided Unified Image Generation

本論文は、推論を共有バックボーン内の隠れた連続行動として表現することで統一された画像生成を強化する手法「潜在行動制御（LAC）」を提案し、これによりモデルは中間的な推論トークンや画像を生成することなく、推論された知識や空間的関係を高品質な視覚出力へ効果的に変換することを可能にする。

原著者： Fuxiang Zhai, Sixiang Chen, Yingjin Li, Shuaibo Li, Jianyu Lai, Tengjun Huang, Lei Zhu

公開日 2026-05-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Fuxiang Zhai, Sixiang Chen, Yingjin Li, Shuaibo Li, Jianyu Lai, Tengjun Huang, Lei Zhu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、青写真を読み解き、家が「あるべき姿」を把握することに極めて長けた天才的な建築家（AI）を持っていると想像してください。しかし、この建築家が実際に家を建てようとすると、細部を誤ることがよくあります。「左側に青い扉のある赤い家」というプロンプトを理解しているにもかかわらず、完成した建物は右側に緑の扉がついている、といった結果になります。

この論文「Latent Action Control for Reasoning-Guided Unified Image Generation（推論誘導型統合画像生成のための潜在行動制御）」は、「理解」と「構築」の間のこのギャップを埋める新しい方法を提案しています。彼らはその解決策を**LAC（Latent Action Control：潜在行動制御）**と呼んでいます。

以下に、その仕組みを簡単な概念と比喩に分解して示します。

問題点：「沈黙のギャップ」

画像を理解し、生成する両方の能力を持つ現在の AI モデルは、しばしば断絶に悩まされています。彼らは正しい答えについて「考える」ことができます（例：「マットの上に猫がいる必要があると知っている」）、しかしその思考が最終的な画像の正しい画素に自動的に変換されるわけではありません。まるで、料理の味がどうあるべきかを正確に知っているシェフが、調理中に塩を入れるのを忘れ続けるようなものです。

解決策：「内部リハーサル」

AI に「ステップ 1：猫を描く。ステップ 2：マットを描く…」といった長い指示リストを書かせる代わりに、LAC は AI に秘密の内部リハーサル空間を与えます。

LAC を、シーンが撮影されている最中に俳優に事前に脚本を渡すのではなく、耳元で直接指示をささやく映画セットのディレクターだと考えてください。

AI はこの内部リハーサルを通じて、4 つの特定の「役割」または段階を、すべて隠された見えない空間（「潜在」空間）で遂行します。

計画（Plan）: AI は全体像を把握します（例：「よし、夕日とビーチと犬が必要だ」）。
草案（Draft）: AI は頭の中でラフで目に見えないスケッチを作成します。これはユーザーには見せず、アイデアが妥当かどうかを確認するための仮説に過ぎません。
診断（Diagnosis）: AI は自分の頭の中のスケッチをチェックします（例：「待てよ、犬はビーチに対して大きすぎるし、太陽の位置も間違っている」）。
洗練（Refine）: AI は最終的な画像が描き始められる前に、それらの誤りを修正するための小さく目に見えない調整を行います。

学習方法：「教師のカンニングペーパー」

AI がこの思考を秘密の目に見えない空間で行っているため、研究者たちは単に「これが正しい思考プロセスだ」と教えることができませんでした。代わりに、彼らは巧妙なトレーニングのトリックを使用しました。

教師: 彼らは「教師」モデルを使用して、問題を解決する方法についての完璧で構造化されたメモ（脚本のようなもの）を作成しました。
翻訳: これらのテキストメモを、AI がトレーニング中に「見る」ことができる視覚的な画像（フローチャートや図表のようなもの）に変換しました。
整合: AI は、それらの視覚的メモの「感覚」を模倣するように学習し、独自の目に見えない「行動」を生成しました。
結果: トレーニングが完了すると、教師のメモは捨てられました。AI はもはや、描画プロセスを導くためにこれらの目に見えない「行動」を自発的に生成する方法を知っています。

「最終的な仕上げ」：結果からの学習

AI が基礎を学んだ後、彼らはLF-GRPOと呼ばれる手法を使用します。AI が絵を描き、その出来栄えに基づいてスコアを受け取り、そのスコアを使って最終的な絵と、そこに至るまでの目に見えない「リハーサル」のステップの両方を調整するゲームを想像してください。これにより、内部的な思考プロセスが実際に最終結果に役立っていることが保証されます。

発見（結果）

彼らはこの新しいシステム（LAC）を他のトップ AI モデルと比較してテストしました。

詳細の向上: 「青い木の隣にある赤い車」のような複雑な指示に従う能力が大幅に向上しました。
空間認識: 位置関係（左対右、上対下）を正しく把握する能力が大幅に向上しました。
世界の知識: 現実世界の事実をよりよく理解しました（例：猫は犬より小さいこと、または太陽は東から昇ることなど）。

証明：「スイッチを切る」

この目に見えない「リハーサル」が実際に機能していることを証明するために、研究者たちは面白い実験を行いました。彼らはトレーニング済みの AI を用いて、生成プロセス中に目に見えない行動をランダム化または削除しました。

結果: 画像の品質は著しく低下しました。
結論: これは、AI が単に「楽しみのために」考えているのではなく、画像の構築方法を制御するためにこれらの目に見えないステップを積極的に利用していることを証明しました。

まとめ

LAC は、AI の「思考」を、画像生成プロセスを内側から外側へと導く目に見えない連続的な行動のセットに変換します。プロンプトを理解するだけで、それを盲目的に描こうとするのではなく、AI は今や、最終的な画像がプロンプトと完璧に一致することを保証する、構造化された内部的な「リハーサル」（計画、草案、診断、洗練）を持っています。まるで、芸術家に筆を導く目に見えない手を与え、最終的な絵画が想像したものと完全に一致するようにするのと同じです。

技術的概要：推論誘導型統合画像生成のための潜在行動制御

問題定義

統合マルチモーダルモデルは、共有バックボーン内で視覚的理解と画像生成を成功裡に統合してきた。しかし、「理解と生成のギャップ」という持続的な課題が残っている：モデルは理解フェーズ中にオブジェクト、関係、または制約を正しく推論できても、生成された画像においてそれらを忠実に具体化できない場合がある。このギャップを埋める既存のアプローチは、通常、推論を自然言語の計画、テキストのチェックリスト、または反復的な編集指示として外部化している。これらの手法は、推論を生成器の隠れ状態ダイナミクス外部の人工物として扱い、条件付け信号として再解釈することを必要とする。あるいは、潜在推論手法は熟考を連続空間へ移行させるが、これらの状態を合成を直接誘導する役割固有の実行可能行動として定式化するのに失敗することが多い。その結果、視覚的合成が始まる前に、推論された制約を生成時の条件付け信号に変換する制御インターフェースが欠落している。

手法：潜在行動制御（LAC）

著者は、推論を統合画像生成のための内部制御インターフェースへと変換するフレームワーク、潜在行動制御（Latent Action Control: LAC） を提案する。推論をテキストにデコードする代わりに、LAC は生成プロセスを条件付けるためにモデルの隠れストリームに書き戻される連続的な潜在行動を放出する。

1. 役割構造化潜在行動制御

LAC は、4 つの明確で順序付けられた役割に組織化された潜在行動軌道 $Z$ を展開することで動作する：

計画（Plan）： 全球的意図の計画。
草案（Draft）： 内部視覚仮説の形成（単一ステップ、中間画像は出力されない）。
診断（Diagnosis）： 失敗の診断。
洗練（Refine）： 対象を絞った洗練。

これらの行動は、統合生成器（BAGEL-7B-MoT 上でインスタンス化）の隠れストリームに注入される連続ベクトル（ $z \in \mathbb{R}^d$ ）である。軌道の長さは学習された停止ヘッドによって決定され、可変であり、プロセスはセンチネルトークンで終了する。モデルは、この潜在展開から生じる隠れ状態に基づいて、その後のフローベース画像生成を条件付ける。

2. 事前分布誘導変分潜在行動アライメント

真の行動軌道が利用できないため、LAC は訓練中に事前分布誘導変分潜在行動アライメント戦略を採用する：

教師信号： （計画、診断、洗練用の）構造化された教師記録は、コンパクトなドキュメントスタイルの画像としてレンダリングされ、高密度な目標埋め込みとして符号化される。「草案」役割については、目標は不完全な候補画像の視覚特徴から導出される。
変分目的関数： モデルは行動をサンプリングするための自己回帰方策 $q_\theta$ を学習する。教師信号（ $E$ ）から固定分散のガウス事前分布が構築される。方策は、変分損失（ $L_{var}$ ）を使用して、サンプリングされた展開をこれらの事前分布に整合させるように訓練され、推論中に教師信号を直接入力として注入することなく行動が実行可能であることを保証する。
教師あり微調整（SFT）： 全体の目的関数は、変分アライメント、潜在状態を意味に接地させるための語彙的アンカー損失、教師あり停止損失、および画像フローマッチング損失を組み合わせる。

3. 結果整合型潜在フロー GRPO（LF-GRPO）

局所的な教師事前分布だけでなく、最終的な画像品質に基づいて潜在行動を最適化するために、著者は潜在フロー GRPO（LF-GRPO） を導入する。

メカニズム： 与えられたプロンプトに対して、展開のグループがサンプリングされる。各展開は、潜在行動軌道とフロー生成軌道から構成される。
報酬： 最終生成画像に対して終端画像報酬が計算される。
クレジット割り当て： グループ相対アドバンテージ（GRPO）を用いて、終端報酬は連続的な潜在行動とフロー生成遷移の両方に共有されたアドバンテージ信号として割り当てられる。これにより、画像レベルのフィードバックが隠れ行動軌道を形成し、計画、草案作成、診断、および洗練のステップを最終的な視覚的結果に整合させることが可能になる。

主要な貢献

制御としての推論の定式化： 本論文は、統合画像生成における推論を潜在行動制御として定式化する。これは、役割固有の連続行動が推論された制約を生成時の条件付け信号に変換し、熟考を隠れた連続空間内に保持するものである。
事前分布誘導アライメントと LAC-15K： 著者は、事前分布誘導変分アライメントを用いた訓練手法を導入し、レンダリングされた意味事前分布、視覚的草案目標、および教師あり停止信号を提供する役割構造化データセットLAC-15Kを構築した。
LF-GRPO 目的関数： 共有された終端画像報酬の下で、隠れた潜在行動とフロー生成遷移を共同最適化する新しい結果レベルの目的関数であり、生成器が合成を改善するために潜在推論をどのように使用するかを学習することを可能にする。

実験結果

この手法は、BAGEL-7B-MoT をベースとして、GenEval（構成的生成）およびWISE（世界知識に基づく生成）で評価された。

GenEval： LAC は、全体スコアを BAGEL ベースラインの 0.77 から 0.82 に向上させた。 gains は制約に敏感なカテゴリで最も顕著であった：位置（+0.11）、色（+0.13）、および色属性（+0.05）。LLM で書き換えられたプロンプトを使用した場合、スコアは 0.90 に達した。
WISE： LAC は、全体加重スコアを 0.49 から 0.54 に向上させ、生物学（+0.18）および化学（+0.07）で顕著な gains を示した。
アブレーション研究：
- 訓練経路： レンダリングされた意味事前分布または視覚的草案接地（Latent-SFTNR）を除去すると、ベースライン以上の改善は見られず、事前分布の具体的な性質が重要であることを確認した。
- 潜在介入： 学習された潜在行動をゼロベクトルまたはランダムベクトルに置き換えると、性能が大幅に低下した（例：GenEval で -7.92）。これは、生成器がこれらの行動を積極的に消費していることを証明する。役割順序をシャッフルしても性能が低下し、計画 - 草案 - 診断 - 洗練の構造の機能的必要性を検証した。
- 役割除去： 「草案」役割を除去すると最大の低下が生じ、属性バインディングおよびオブジェクト追跡に対する内部視覚仮説の重要性を浮き彫りにした。

意義と主張

本論文は、理解が単に符号化されるだけでなく、生成プロセス中に実行可能（アクション可能）にされる場合、統合画像生成が大幅に恩恵を受けることを主張する。推論された制約を順序付けられた隠れ行動軌道に変換することにより、LAC は推論から合成への直接的な制御経路を提供する。結果は、「理解と生成のギャップ」を、外部のテキスト人工物ではなく、内部で実行可能な制御インターフェースとして推論を扱うことで狭めることができることを示唆している。著者は、このアプローチが一貫した gains を示している一方で、現在、教師由来の事前分布に依存しており、教師への依存を減らし、強化学習の効率を向上させるためのさらなる作業が必要であると指摘している。