Narrative Weaver: Towards Controllable Long-Range Visual Consistency with Multi-Modal Conditioning

本論文は、マルチモーダル大規模言語モデルによる物語計画と動的メモリバンクを備えた制御モジュールを統合し、長期的な視覚的一貫性と物語の整合性を維持する「Narrative Weaver」を提案するとともに、関連タスクの初となる大規模データセット「EAVSD」を公開し、生成 AI による長編コンテンツ制作の可能性を拓いたことを述べています。

Zhengjian Yao, Yongzhi Li, Xinyuan Gao, Quan Chen, Peng Jiang, Yanye Lu

公開日 2026-03-10
📖 1 分で読めます☕ さくっと読める

Each language version is independently generated for its own context, not a direct translation.

この論文「Narrative Weaver(物語の織り手)」は、AI による画像や動画生成の「大きな壁」を乗り越えるための新しい仕組みを紹介しています。

一言で言うと、**「AI が長い物語を、キャラクターや背景が崩れずに、まるで映画監督のように一貫して作り上げるための『魔法の道具』」**です。

これまでの AI は、短い動画や 1 枚の絵は上手に描けますが、物語を長く続けると「さっきまで赤い服だったはずの女の子が、次のシーンで青い服になっていた」や「背景の街並みが突然変わっていた」といった**「記憶違い(ドリフト)」**が起きがちでした。

この論文のアイデアを、3 つの身近な例え話で解説します。


1. 問題点:「記憶力のない絵描き」

これまでの AI は、天才的な絵描きですが、「短期記憶」しかありません
「赤いマントの女の子が公園で赤ちゃんにミルクをあげてね」と頼むと、1 枚目は完璧に描けます。でも、2 枚目、3 枚目と続けて「次のシーンでは女の子が座ってね」と頼むと、AI は「あ、赤いマントの女の子だっけ?」と迷い始め、服の色が変わったり、顔が別人になったりしてしまいます。まるで、**「次のコマを描くたびに、前のコマを忘れている画家」**のようです。

2. 解決策:「3 人のチームワーク」

Narrative Weaver は、この問題を解決するために、**「監督」「脚本家」「記憶庫」**という 3 つの役割を連携させる新しいシステムを作りました。

  • 監督(マルチモーダル大規模言語モデル):
    まず、この「監督」が物語の全体像を設計します。「最初のシーンではこうで、次はこうで…」という**脚本(ストーリーボード)**をテキストで書き上げます。

    • 例え話: 映画の監督が「このシーンではカメラを左に振って、次はアップで」と指示を出すようなものです。
  • 脚本家(学習可能なクエリ):
    監督の指示を、絵描き(画像生成 AI)が理解できる「特別なメモ」に変換します。このメモには、キャラクターの特徴や背景の重要な情報が凝縮されています。

    • 例え話: 監督の指示を、現場のスタッフ全員が共通認識できる「簡潔なメモ用紙」に書き換える作業です。
  • 記憶庫(ダイナミック・メモリーバンク):
    ここが最も重要な新技術です。AI は過去のすべての画像を丸ごと覚えておくのではなく、「重要な特徴だけ」を圧縮して記憶庫に保管します。新しい画像を作るたびに、この記憶庫から「さっきの女の子は赤いマントだった」「背景は秋の公園だった」という情報を呼び出し、現在の絵に反映させます。

    • 例え話: 長い旅をする際、すべての荷物を背負うのではなく、**「必要な道具だけが入ったコンパクトなリュック」**を持って旅をするイメージです。これにより、100 枚目になっても、1 枚目のキャラクターの顔や服が崩れることがありません。

3. 学習方法:「段階的な修行」

このシステムを教える際、いきなり全てを同時に教えるのではなく、**3 つの段階(ステージ)**に分けて修行させました。

  1. ステージ 1(物語の構成): まず「監督」だけを鍛え、物語の筋書きを上手に考える力を身につけさせます。
  2. ステージ 2(意味の一致): 次に、監督の指示と絵が合致するように、メモ(クエリ)の作り方を学びます。
  3. ステージ 3(細部の調整): 最後に、キャラクターの服の皺や光の当たり方まで、一貫して美しく描けるように微調整します。

このように段階を踏むことで、少ないデータでも高品質な結果を出すことができます。

4. 実用化:「EC 広告のストーリーテラー」

この技術は、単なるお遊びではありません。著者たちは、**「EC(ネット通販)の広告動画」**を作るための新しいデータセット(EAVSD)も作りました。
例えば、「新しいコートの広告を作りたい」と頼むと、AI は以下のように自動で提案します。

  • シーン 1: 公園のベンチでコートを着て本を読む女性。
  • シーン 2: 街角を歩く女性(コートの動きが自然に描写)。
  • シーン 3: カフェでコーヒーを飲む女性(コートの質感が変わらず、同じ人物)。

これまでの AI だと、シーンが変わるたびに「別人」になってしまいましたが、Narrative Weaver は**「同じ人物が、同じコートを着て、異なる場所で活躍する」**一貫したストーリーを、人間が手作業で指示しなくても自動で作り上げることができます。

まとめ

この論文は、**「AI に『物語』を語らせる」ための重要な一歩です。
これまでの AI が「1 枚の絵」を描くのが得意だったのに対し、Narrative Weaver は
「長い映画」**を、キャラクターも背景も崩さずに、監督の意図通りに織り上げることを可能にしました。

まるで、**「記憶力抜群で、監督の意図を完璧に理解し、何枚でも同じキャラクターを描き続けられる、魔法のアニメーター」**が誕生したようなものです。これにより、映画制作や広告業界など、長編の視覚コンテンツを作る分野で、大きな革新が起きることが期待されています。