DesignSense: A Human Preference Dataset and Reward Modeling Framework for Graphic Layout Generation

本文提出了名为 DesignSense-10k 的大规模人类偏好数据集及基于视觉语言模型的奖励框架，通过五阶段数据构建流程和四分类标注体系，显著提升了图形布局生成的评估精度与生成质量，有效解决了现有模型在布局美学判断上的不足。

要点

这篇论文介绍了一个名为 DesignSense 的新项目，它就像是为 AI 设计软件请了一位“超级人类审美导师”。

为了让你更容易理解，我们可以把图形排版（Graphic Layout）想象成布置一个房间。

1. 核心问题：AI 会“装修”，但不懂“住感”

现在的 AI 模型（比如那些能生成海报、广告图的模型）已经非常厉害了。它们能像熟练的装修工人一样，把文字、图片、图标这些“家具”摆进房间里。

但是，这些 AI 有一个大毛病：它们不懂“住起来舒不舒服”。

• 现有的 AI 是看着“照片”（比如风景照、人像）来学习的，它们觉得“这张图看起来像真的照片”就是好图。
• 但排版（Layout）不一样。排版就像摆家具：哪怕你用的家具（元素）完全一样，只是把沙发往左挪了 10 厘米，或者把画挂歪了一点，整个房间的“风水”（美感）就全变了。
• 现有的 AI 就像是一个只懂看照片的装修工，它分不清“左边摆得好”还是“右边摆得好”，因为它没受过专门的“摆家具”训练。

2. 解决方案：造了一个“审美训练场” (DesignSense-10k)

为了解决这个问题，Adobe 的研究团队做了一个巨大的工程，他们造了一个专门的“审美训练场”，里面包含了 10,235 对 精心设计的排版对比图。

他们是怎么造这个训练场的？（就像在造一个“家具摆放模拟器”）

1. 分组（Grouping）：先把相关的元素（比如“标题”和“副标题”）绑在一起，就像把“餐桌和椅子”绑成一组，避免 AI 把它们拆散。
2. 预测（Prediction）：让 AI 试着把这些组在房间里重新摆放，生成很多种方案。
3. 筛选（Filtering）：把那些明显摆得乱七八糟（比如桌子叠在椅子上）的方案扔掉。
4. 多样化（Clustering）：确保留下的方案风格各异，有的像客厅，有的像办公室，有的长条，有的方正。
5. 精修（Refinement）：最后用更高级的 AI 把细节微调一下，比如把歪掉的画扶正，把重叠的桌子分开。

关键一步：人类来打分
在这个训练场里，他们请了真人（人类标注员）来当评委。面对两张排版图，人类评委不是简单地说“哪个好看”，而是有四种选择：

• 🅰️ 左边好
• 🅱️ 右边好
• ✅ 两个都挺棒（有时候两个方案都很完美）
• ❌ 两个都太烂（有时候两个方案都一塌糊涂）

这种“四个选项”的机制非常聪明，因为它捕捉到了人类审美的模糊性——有时候真的很难选，或者两个都很差。

3. 成果：诞生了“超级审美 AI" (DesignSense 模型)

有了这个训练场，他们训练出了一个新模型，叫 DesignSense。

• 它的超能力：它不再是一个只会看照片的 AI，而是一个懂空间、懂平衡、懂层级的“空间设计师”。
• 战绩：在测试中，它打败了所有现有的“大明星”模型（包括 GPT-4o, GPT-5, Gemini 等）。
  • 其他模型就像只会背书的考试机器，遇到复杂的排版题就乱猜（比如把“两个都烂”猜成“左边好”）。
  • DesignSense 就像经验丰富的老设计师，它能准确判断出哪个布局更舒服，准确率比其他模型高了 54.6%。

4. 实际应用：让 AI 设计得更好

这个模型有什么用呢？它不仅仅是用来“打分”的，它还能反过来教生成排版的 AI。

• 强化学习（RL）：想象一下，让一个 AI 设计师（比如 AesthetiQ）去设计海报。以前它没有好的老师，只能瞎试。现在，DesignSense 充当了严厉的教练。AI 每设计一张图，教练就打分。如果设计得好，就奖励；设计得不好，就让它重做。
  • 结果：经过教练指导后，AI 设计师的“胜率”（做出人类喜欢的图）提升了 3%。
• 推理时缩放（Inference-time Scaling）：这就像让 AI 设计师一次画 10 张草图，然后让 DesignSense 教练从中挑出最好的一张给人看。
  • 结果：这种方法让最终呈现给人类的图，质量又提升了 3.6%。

总结

这篇论文的核心思想就是：
以前的 AI 学排版，是拿着“风景画册”在学，所以学歪了。
现在，我们给 AI 建了一个专门的“家具摆放训练场”，请真人来教它什么是“舒服的空间感”，并造出了一个懂审美的“超级裁判”。

这个“超级裁判”不仅能准确评价好坏，还能手把手教其他 AI 设计师，让它们生成的海报、广告和网页，真正符合人类的审美直觉。

技术摘要

DesignSense 论文技术总结

1. 研究背景与问题 (Problem)

图形布局（Graphic Layout）是广告、海报、数字艺术等领域视觉传达的核心。尽管基于深度学习的布局生成模型（如扩散模型、Transformer）在生成速度和质量上取得了进展，但它们难以与人类细微的审美判断保持一致。

现有的偏好数据集和奖励模型（如 ImageReward, HPS 等）主要基于文生图（Text-to-Image）任务训练，其评估标准侧重于图像的真实性、提示词对齐度和内容质量。然而，图形布局的审美质量主要取决于相同元素的空间排列、构图平衡和层级关系，而非图像内容本身。这种分布上的不匹配导致现有模型在评估布局时表现不佳，且缺乏大规模的人类偏好标注数据集来专门解决布局美学问题。

2. 方法论 (Methodology)

本文提出了 DesignSense，包含一个大规模人类偏好数据集和一个基于此训练的奖励模型。

2.1 数据构建流程 (五阶段管道)

为了生成高质量、多样化的布局对比对，作者设计了一个基于 Crello 数据集的五阶段管道：

1. **分组 **(Grouping)：利用 GPT-4o 根据语义关系、空间邻近性和视觉层级，将相关元素（如占位符与其文本、事件日期等）聚类成组。这降低了布局预测的复杂度并保持了设计意图。
2. **预测 **(Prediction)：使用重训练的布局生成模型 AesthetiQ，在分组级别上生成候选布局。输入包括分组后的元素图像和目标宽高比，输出为边界框预测。
3. **过滤与聚类 **(Filtering & Clustering)：
   • 利用 GPT-4o 作为中间裁判，过滤掉存在重叠、溢出等明显低质量的布局。
   • 基于 IoU（交并比）进行聚类，从每个簇中选择最具代表性的布局，以确保数据集的多样性。
4. **细化 **(Refinement)：使用 OpenAI o3 模型微调布局，消除细微的重叠、调整间距和对齐，确保视觉上的完美。
5. 变体生成：通过改变宽高比（拉伸 2 倍、反转宽高比）生成多样化的布局变体，挑战模型在不同约束下的适应能力。

2.2 数据集构建 (DesignSense-10k)

• 规模：最终构建了 10,235 个人类标注的布局偏好对。
• 标注协议：采用 4 类标注方案，而非传统的二元选择：
  • "Left" (左侧更好)
  • "Right" (右侧更好)
  • "Both Good" (两者都好)
  • "Both Bad" (两者都差)
  • 这种设计捕捉了审美判断中的模糊性（Ambiguity）和双输/双赢的情况。
• 划分：8,735 对用于训练，500 对验证，1,000 对测试。

2.3 模型训练 (DesignSense Judge)

• 架构：基于预训练的 InternVL3-8B 视觉语言模型（VLM）。
• 训练策略：
  • 在 DesignSense 数据集上进行微调。
  • 数据增强：引入受控扰动（随机偏移位置 20-50% 或缩放 0.8x-1.2x），将扰动后的布局标记为负样本，增强模型对设计缺陷（如错位、不平衡）的识别能力。
  • 提示工程：引导模型关注视觉吸引力、间距、对齐、清晰度及设计原则，并包含打破平局的规则（优先选择无视觉缺陷的布局）。

3. 关键贡献 (Key Contributions)

1. 首个大规模布局偏好数据集：推出了 DesignSense-10k，包含 10,235 个具有人类偏好标注的布局对，涵盖多种宽高比和元素组合，填补了布局美学评估数据的空白。
2. 新颖的数据构建管道：提出了一套结合语义分组、布局预测、过滤、聚类和 AI 细化的五阶段管道，能够高效生成高质量、多样化的布局对比对。
3. 专用奖励模型：训练了 DesignSense 模型，作为布局生成的“裁判”（Judge）。该模型在多项指标上显著优于现有的开源和闭源基础模型。
4. 下游应用验证：证明了该奖励模型能显著提升布局生成模型（如 AesthetiQ）的性能，并支持推理时的扩展（Inference-time Scaling）。

4. 实验结果 (Results)

4.1 基准测试性能

在 4 类布局偏好任务上，DesignSense 全面超越了现有模型（包括 GPT-5, OpenAI-o3, Gemini 等）：

• Macro F1：达到 0.456，比最强的闭源基线（GPT-5-fewshot-deepthink, 0.295）提升了 54.6%。
• Weighted F1：达到 0.520，比基线提升 86.4%。
• Binary Accuracy：达到 0.732，优于所有基线。
• 分析：前沿 VLM 在 4 类任务上表现糟糕（常将偏好误判为“都好”或“都差”），而 DesignSense 能有效区分细微差别。

4.2 泛化能力

• **分布外数据 **(Out-of-Distribution)：在未见过的 PrismLayers 数据集上，DesignSense 的 Macro F1 (0.41) 显著高于 Gemini 2.5-Pro (0.32)。
• 不同生成器：在 LayoutNUWA 生成的布局对上，DesignSense 的二元一致性达到 92.3%，远超 OpenAI-o3 (79.7%) 和 GPT-5 (72.9%)。在 4 类任务中，DesignSense 准确率为 68.3%，而前沿模型均低于 42.5%。

4.3 下游提升

• 强化学习训练：将 DesignSense 作为奖励模型用于 AesthetiQ 的强化学习（AAPA）训练，使生成模型在 GPT-5 评估下的胜率提升了约 3% (从 15.49% 到 18.41%)。
• **推理时扩展 **(Inference-time Scaling)：通过生成多个候选布局并使用 DesignSense 进行排序选择，胜率提升了 3.6% (从 16.6% 到 20.2%)。

5. 意义与结论 (Significance)

DesignSense 解决了图形布局生成中人类审美对齐的关键瓶颈。

• 理论价值：揭示了通用 VLM 在特定领域（布局美学）的局限性，证明了针对空间关系和构图原则进行专门训练的必要性。
• 实用价值：提供了一个可落地的框架，通过高质量的数据集和奖励模型，显著提升了自动化设计工具的输出质量。
• 未来影响：该工作为构建更智能的 AI 设计助手奠定了基础，使得机器生成的布局不仅能“看起来像”，更能“符合人类审美标准”。

总结来说，DesignSense 通过构建专用数据集和训练专用奖励模型，成功弥合了通用生成模型与专业图形设计审美之间的鸿沟，为自动化设计领域树立了新的标杆。