← 最新论文
🤖 AI

Directing the Narrative: A Finetuning Method for Controlling Coherence and Style in Story Generation

该论文提出了一种包含组共享注意力机制与直接偏好优化的两阶段框架,通过实现帧间无损身份对应及基于人类偏好数据的风格对齐,显著提升了故事生成中角色一致性与风格连贯性,并在 ViStoryBench 基准测试中取得了新的最先进性能。

原作者: Jianzhang Zhang, Yijing Tian, Jiwang Qu, Chuang Liu

发布于 2026-03-19
📖 1 分钟阅读☕ 轻松阅读

原作者: Jianzhang Zhang, Yijing Tian, Jiwang Qu, Chuang Liu

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

这篇论文讲述了一个关于**“如何教 AI 画连环画,让主角从头到尾长得一样、画风也不变”**的故事。

想象一下,你让一个画家(AI)根据故事书画一系列图片。以前,这个画家有个坏毛病:画第一页时,主角是个戴红帽子的帅哥;画到第十页时,主角突然变成了戴蓝帽子的老头,或者画风从“水墨画”突然变成了“油画”。这就是论文里说的**“身份漂移”“风格不一致”**。

为了解决这个问题,作者们设计了一套**“两步走”**的独家训练秘籍,让 AI 变成了一个超级靠谱的“连环画大师”。

核心难题:为什么以前的 AI 画不好连环画?

以前的 AI 就像是一个**“失忆的画家”**。

  • 它画每一张图时,都是“单干”,画完一张就忘了上一张长什么样。
  • 如果强行让它记住,以前的方法就像是在画家的脑子里塞一个**“压缩过的照片”**(比如用外部编码器),结果信息丢失,画出来的人物面目全非,或者和故事描述对不上号。

作者的解决方案:两步走训练法

作者把训练过程分成了两个阶段,就像教一个学徒先学“骨架”,再学“神韵”。

第一阶段:给画家配一个“超级参考群”(Group-Shared Attention, GSA)

比喻:从“单兵作战”变成“开视频会议”

  • 以前的做法:画家画一张图,只能看自己手里的参考图,而且参考图是被压缩过的(像看低像素的缩略图),细节全丢了。
  • 作者的做法(GSA)
    想象画家在画第 5 张图时,他的面前不仅仅有一张参考图,而是所有其他角色的“高清原图”都悬浮在空中
    作者设计了一种机制(GSA),让 AI 在画当前这一帧时,能直接“伸手”去抓取同一批训练数据里其他图片的高清细节
    • 效果:就像画家在画主角时,能实时看着主角在上一张图里的脸、衣服纹理,直接“抄作业”(无损复制特征)。这样,主角的发型、痣的位置、衣服花纹就能严丝合缝地保持一致,不需要额外的“记忆插件”。

第二阶段:请“毒舌评委”来挑刺(Direct Preference Optimization, DPO)

比喻:从“画得像”到“画得美”

  • 问题:虽然第一阶段解决了“长得一样”的问题,但 AI 画出来的东西可能还是有点“僵硬”或者“奇怪”(比如手指画歪了,或者光影很假)。
  • 作者的做法(DPO)
    这时候,他们引入了一个**“人类审美评委团”
    他们给 AI 看很多对图片:一张是
    “完美的”(主角像、风格对、画得美),另一张是“有瑕疵的”**(主角稍微有点变形、风格跑偏)。
    然后告诉 AI:“你更喜欢哪张?以后就照着好的学,把坏的改掉。”
    • 效果:这不像以前那样用复杂的数学公式去硬算“哪里错了”,而是直接让 AI 学习人类的直觉和审美。经过这一轮“特训”,AI 不仅画得准,而且画得漂亮、自然,消除了那些奇怪的“机械感”。

成果如何?(成绩单)

这套方法在著名的测试题(ViStoryBench)上取得了碾压级的胜利:

  1. 主角一致性(CIDS):比以前的最强对手高了 10 分。这意味着主角从头到尾就像同一个人,不会突然变脸。
  2. 风格一致性(CSD):比对手高了 18.7 分。这意味着无论是画卡通风、油画风还是水墨风,AI 都能稳稳地守住画风,不会画着画着就“变味”了。
  3. 人类评价:在真人盲测中,大家一致认为这套方法画出来的故事,主角最稳定,画面最好看。

总结

简单来说,这篇论文就是给 AI 装了两个“超能力”:

  1. GSA(群聊功能):让 AI 在画画时能随时看到“高清参考群”,保证主角长得一样
  2. DPO(审美导师):让 AI 通过“挑刺”学习人类的喜好,保证画风好看且自然

这就好比把一个普通的画工,培养成了既能死磕细节(身份一致),又能把握艺术感(风格统一)的连环画大师。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →