技术摘要：概念创造力作为元学习

问题定义

本文探讨了定义和计算建模概念创造力的根本挑战。虽然现有系统在检索熟悉概念或从少量示例中学习新概念方面表现出色（通过元学习、原型表示或上下文学习），但创造新概念的举动仍然难以捉摸。

作者认为，并非所有新颖性都具有创造性。纯噪声在数学上是独特的，但在感知上缺乏结构；而熟悉的模式（例如一条简单的线）虽然可理解，却缺乏新颖性。本文提出，真正的创造力存在于“理解的边界”：即对观察者当前的表征而言是陌生的，但在经过几次接触后变得可记忆（易于快速学习）的刺激。核心问题在于形式化一个计算框架，以生成此类刺激——即那些最初令人惊讶但能迅速被同化的产物——而无需依赖显式的语言条件设定或重新训练基础生成模型。

方法论：创造者 - 评估者框架

作者提出了一个形式化为双层优化问题的创造者 - 评估者元学习框架。

1. 作为自适应系统的观察者

观察者被建模为一个预测系统，包含：

• 慢权重（$\theta$）： 固定参数，持有观察者的先验知识。
• 快权重（$\phi$）： 在内部循环中适应的参数，用于拟合特定刺激。
• 评估者（$A$）： 该观察者的一个特定实例，它不仅进行预测，还报告其学习进展。

2. 双层优化

该框架涉及两个相互作用的智能体：

• 创造者（$C$）： 一个生成模型（例如扩散模型），用于生成候选概念 $c$。
• 评估者（$A$）： 通过内部循环优化适应 $c$。

过程：

1. 内部循环（评估者适应）： 给定来自 $C$ 的候选 $c$，评估者在 $T$ 步内最小化预测损失 $\mathcal{L}_A(\phi, \theta; c)$，将其快权重从 $\phi_0$ 更新为 $\phi_T$。
2. 奖励计算： 奖励 $R$ 是学习进展，定义为预测误差的减少量：
   $$R = \mathcal{L}_A(\phi_0, \theta; c) - \mathcal{L}_A(\phi_T, \theta; c)$$
   这衡量了观察者在适应新概念后，其模型改进了多少。
3. 外部循环（创造者优化）： 创造者优化其参数（或潜在变量）以最大化此奖励。目标是找到 $c$，使其在初始阶段难以预测（高初始损失），但在适应后变得易于预测（低最终损失）。

3. 具体实现

该框架在两种设置中进行了具体实现：

• MNIST（自编码器评估者）：
  • 创造者： 预训练的 DDPM。
  • 评估者： 一个冻结的编码器和一个轻量级解码器。内部循环在单个候选图像上微调解码器。
  • 奖励塑形： 为防止系统偏向高噪声输入（具有高初始损失但可能不可学习），原始改进量乘以两个高斯门控：
    • 复杂度门控（$g_0$）： 将初始损失限制在“可学习但陌生”的范围内。
    • 成功门控（$g_T$）： 确保最终损失较低（解码器实际上拟合了输入）。
• 自然图像（CLIP 评估者）：
  • 创造者： Stable Diffusion v1.5。
  • 评估者： 一个冻结的 CLIP 视觉 - 语言模型。内部循环在文本投影层上适应一个低秩适配器（LoRA），以最大化生成图像与文本嵌入之间的余弦相似度。
  • 机制： 可学习变量是文本嵌入本身。元梯度更新该嵌入，以最大化由 LoRA 适配器实现的相似度提升（$\Delta \text{sim}$）。

主要贡献

1. 创造力的形式化定义： 本文将创造力操作化为生成“陌生但可记忆”的刺激，将焦点从单纯的新颖性转移到有界可学习性。
2. 创造者 - 评估者元学习： 一种新颖的双层优化框架，其中生成器由自适应观察者的学习进展引导，而非静态判别器或固定奖励函数。
3. 针对可学习性的奖励塑形： 引入门控机制（复杂度和成功门控），确保生成的概念位于理解的边界，既避免琐碎的熟悉感，也避免无结构的噪声。
4. 零样本概念生成： 证明了冻结的扩散模型可以生成新概念和风格变体，而无需微调模型权重，仅通过元梯度优化输入提示嵌入即可实现。

实验结果

MNIST 实验

• 信号验证： 塑形后的奖励成功区分了结构化、新颖的概念（如希腊/韩文字符）与噪声混合体。噪声混合体具有高初始损失，但未能显示出显著改进（低学习进展），而结构化的新颖概念则显示出损失的大幅下降。
• 基线比较：
  • 普通 DDPM： 生成熟悉的数字。
  • 噪声扰动： 仍停留在原点附近（熟悉）或无法学习。
  • 排斥引导： 增加了陌生感，但未能产生可学习的结构（停留在 $L_T \approx L_0$ 的对角线上）。
  • 创造者 - 评估者： 成功生成了连贯的、类似笔画的字形，这些字形既陌生（高 $L_0$）又能快速学习（低 $L_T$），占据了 $(L_0, L_T)$ 平面的右下区域。

自然图像实验

• 风格创新： 使用 Stable Diffusion 和 CLIP 评估者，该系统生成的图像在保留语义连贯性的同时，显著偏离了提示的字面含义。示例包括将“狮子”渲染为秋叶，或将“芝士汉堡”渲染为日落景观。
• 容量与保真度的权衡：
  • 随着 LoRA 秩（$r$）的增加，内部循环奖励（$\Delta \text{sim}$）增加，表明学习进展更强。
  • 然而，较高的秩导致“概念保真度”（与原始提示的相似度）下降，并且在 VLM 相关性检查中的通过率降低。
  • 较低的秩起到约束作用，使输出保持在提示类别附近；较高的秩允许系统探索类别之外、风格上更具戏剧性的区域。
• 新颖性验证： 生成的样本在嵌入空间中与任何由普通 Stable Diffusion 生成的样本（即使进行 1000 次采样）的中位距离远 5 倍，证实了元梯度发现了标准采样无法触及的输出空间区域。

意义与主张

本文主张，该框架通过将概念创造力与观察者的适应能力联系起来，提供了对概念创造力的计算抓手。

• 相对于观察者的创造力： 作者强调，创造力并非刺激的固有属性，而是相对于观察者当前的表征及其更新这些表征的能力而言的。
• 超越偏差： 与以往鼓励偏离训练分布的方法（可能导致不连贯）不同，该方法优化的是结构化新颖性。对快速可学习性的要求作为一个原则性约束，过滤掉了噪声。
• 操作性定义： 这项工作支持了这样的观点：如果创造力是由其对观察者的影响（改善其预测模型）而非创造者的现象学体验来定义的，那么机器是可以进行创造的。
• 局限性： 作者谦逊地指出，当前框架解决的是感知价值（美学/可学习性），而非功能价值。评估者在不同创作之间是无记忆的，缺乏人类所拥有的依赖上下文的记忆。该标准被提出为人类水平创造力的必要条件，而非充分条件。

本文总结道，创造者 - 评估者结构是一个可推广的范式，只要生成器能与自适应预测器配对，该范式就可以扩展到图像扩散之外，应用于语言、音乐和交互设计领域。