Ad Headline Generation using Self-Critical Masked Language Model
本文提出了一种通过将强化学习策略梯度方法应用于基于 Transformer 的掩码语言模型，来生成高质量电子商务广告标题的新颖程序化解决方案，该方案在语法正确性和创意质量方面均优于现有模型和人工生成的标题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你经营着一家拥有数百万种产品的超大型在线商店。每当你想要销售一组相关的商品（比如一套露营装备或一组手机配件）时，你都需要为广告撰写一个吸引人的标题。
问题所在：
手动编写这些标题非常令人精疲力竭。如果你试图通过简单地将产品详情拼接在一起来实现自动化，结果会显得枯燥且机械化，就像机器人在读电话簿。如果你使用像“购买更多 [产品]”这样简单的模板，感觉又会非常平庸。挑战在于，如何创建一个语法完美、具有创意，并且能同时捕捉到多个不同产品“神韵”的标题，同时又不会被混乱、无结构的细节所干扰。
解决方案：一个带有“教练”的“智能编辑”
作者们构建了一个计算机系统（一种人工智能），它扮演着超级聪明编辑的角色。他们通过使用两个主要成分来训练它：
- “填空式”学生（掩码语言模型）：
可以把这部分 AI 想象成一名读过数百万本书籍（维基百科和小说）的学生。他们非常擅长理解单词是如何组合在一起的。
- 运作方式： 系统向 AI 展示一组产品标题和一个有部分单词缺失（被遮盖/掩码）的标题。AI 的任务是根据产品的上下文来猜测缺失的单词。
- 转折点： 通常，这类学生接受的训练只是为了匹配人类给出的正确答案。但作者意识到，仅仅匹配单词是不够的；标题必须是“好”的。
- “自我批判型”教练（强化学习）：
这是其中的秘诀。想象一下，学生写了一个标题，然后“教练”（AI 本身）对其进行评价。
- 训练过程： AI 为相同的产品生成两个标题。
- 标题 A： AI 进行随机猜测（就像一个在瞎猜的学生）。
- 标题 B： AI 采取稳妥策略，选择最显而易见、概率最高的单词（就像一个死记硬背教科书的学生）。
- 教训： 教练会将两者进行比较。如果标题 A（随机猜测）的结果比标题 B（稳妥猜测）更好，AI 就会获得“奖励”，并学会承担更多的创意风险。如果标题 B 更好，AI 则会学习要更加谨慎。
- 目标： 这种被称为“自我批判”（Self-Critical）的过程，教会了 AI 去优化“质量”和“创意”，而不仅仅是匹配字典定义。这就像一个练习写作的作家，阅读自己的草稿，并在不需要人类老师纠正每一句话的情况下，学会如何让文字更有冲击力。
它是如何处理多种产品的
通常，AI 在面对过多输入时会表现挣扎。这个系统很特别，因为它能够观察一整组产品（例如：帐篷、睡袋和炉灶），并为它们完美地撰写“一个”标题。它不仅仅是列出这些产品，而是找到了它们的共同点（如“露营必备品”），并将其编织进一个动人的短语中。
结果：比人类更出色？
团队将他们的系统与以下对象进行了测试：
- 旧的计算机方法（如基础模板）。
- 其他 AI 模型。
- 为这家商店撰写标题的真实人类。
结果令人惊讶：
- 语法： AI 犯的语法错误比人类更少（98% 对 93%）。
- 创意： 当人类评委（不知道标题是谁写的）对标题进行评分时，AI 撰写的标题在“吸引力”和“准确性”方面的评分更高。
- 速度： AI 可以瞬间生成这些标题，为公司节省了数千小时的人工工作时间。
简而言之
这篇论文描述了一种教计算机撰写广告标题的新方法。他们不是让 AI 仅仅死记硬背模式，而是教会了 AI 通过“自我评价”来进行“练习”。结果是一个不仅能写出语法完美、而且在盲测中甚至能击败人类作家的创意广告文案系统，同时还能毫不费力地处理复杂的商品组合。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。