🤖 AI
A Survey on Recent Advances in Conversational Data Generation
本文全面综述了合成对话数据生成的最新进展,系统回顾了面向开放域、任务导向和信息检索系统创建多轮对话的方法,同时概述了通用框架、评估指标、当前挑战及未来研究方向。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你正在教一个机器人如何进行自然、类人的对话。你不能只是告诉它“要友善”。你需要向它展示成千上万个优质对话的示例。这正是本文要解决的核心问题:我们如何在不雇佣一支人类大军来撰写每一行对话的情况下,获取足够多的高质量对话数据来训练这些机器人?
以下是用简单类比对本文观点的拆解。
问题:“人类写手”瓶颈
传统上,为了获取对话数据,研究人员会雇佣大量人群(例如在亚马逊土耳其机器人平台上)坐下来互相聊天。
- 类比:想象一下,试图通过让一个人手写每一本书来建立一座图书馆。这极其缓慢、昂贵,而且在耗尽时间和金钱之前,你只能写出有限数量的书。
- 本文观点:这种方法太慢且太昂贵,尤其是对于小众话题(如专业医疗建议)或使用者不多的语言。
解决方案:“合成厨师”
与其雇佣人类来撰写每一行对话,不如让计算机自己生成对话。这就像一位合成厨师,能够利用食谱书烹饪出无限多的菜肴(对话)。
本文根据这些“厨师”烹饪的菜肴类型,将它们组织成三个主要“厨房”:
1. 任务导向型厨房(TOD)
- 是什么:机器人有特定任务要完成的对话,例如预订航班或预订餐桌。
- 挑战:机器人不能只说“好的,我这就预订”。它需要知道确切的事实:航班是否有空位?什么时间?价格是多少?如果机器人编造了一个航班号,用户就会陷入麻烦。
- 他们如何做:
- 蓝图:他们从包含真实事实的严格“蓝图”(数据库或知识图谱)开始(例如,“E123 次列车下午 3 点发车”)。
- 过程:计算机将这些事实包裹在自然语言中。这就像机器人填写“疯狂填词”模板,但要让它听起来像人类。
- 安全网:由于事实来自真实数据库,机器人不太可能撒谎。本文指出,较新的方法使用“大语言模型”(LLM)让语言听起来不那么像机器人,但它们仍然会根据数据库核对事实。
2. 开放域厨房(ODD)
- 是什么:随意的闲聊。没有特定目标。只是“你好,你好吗?”“我很好,你呢?”
- 挑战:这些对话需要有趣、多样化且不重复。如果机器人每次都回答“我不知道”,那就很无聊。
- 他们如何做:
- 种子:他们不从数据库开始,而是从一个“种子”开始。这可以来自知识图谱的随机事实(例如,“玛德琳向她的目标迈出了一步”)或用户档案(例如,“我喜欢爵士乐,讨厌下雨”)。
- 过程:他们将这个种子输入强大的 AI(如 GPT-3),并说:“写一段两个人关于这个主题的对话。”
- 安全网:由于没有严格的数据库,AI 可能会编造内容。因此,研究人员使用“过滤器”来剔除有毒、重复或无意义的对话。
3. 信息寻求型厨房(CIS)
- 是什么:用户寻找特定信息的对话,例如向图书管理员求助找书,或向医生询问症状。
- 挑战:对话需要逻辑流畅。用户可能会问一个模糊的问题,机器人请求澄清,用户提供更多细节,最后机器人给出答案。
- 他们如何做:
- 脚本:他们通常从真实文档(如维基百科文章)开始。
- 过程:他们将文档视为脚本。他们可能会“隐藏”文本的某些部分,并让 AI 写出能引出这些答案的问题。或者,他们模拟学生就某个主题向老师提问。
- 安全网:他们会检查以确保机器人的答案确实与源文档匹配。如果机器人说“法国的首都是伦敦”,系统就会丢弃该对话。
我们如何知道它是否好?(味觉测试)
一旦计算机生成了这些对话,我们如何知道它们是否优质?本文解释了两种方法:
- 机器人味觉测试(自动):计算机将新对话与“黄金标准”对话进行比较。它们检查单词是否匹配或含义是否相似。它们还检查多样性(机器人是否在重复自己?)和连贯性(它是否讲得通?)。
- 人类味觉测试(人工评估):人类阅读对话并对其进行评分。“这有趣吗?”“它听起来像真人吗?”本文指出,虽然人类是最好的评判者,但他们速度慢且昂贵,因此研究人员尝试使用机器人进行初步筛选。
大局观
本文总结道,虽然我们现在可以自动生成海量的对话数据,但这还不够完美。
- “自循环”问题:如果我们用机器人生成的数据来训练机器人,然后又用机器人来评判这些数据,它们可能会开始互相附和,变得无聊或带有偏见。
- 未来:目标是让这些合成对话变得如此优质且可控,以至于它们可以替代或显著增强人类编写的对话数据,特别是在个性化辅导或复杂医疗建议等困难任务中。
简而言之:本文是一幅地图,展示了研究人员如何教导计算机编写自己的对话训练手册,从“填空”发展到“烹饪整餐”,同时努力确保食物尝起来不像塑料。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。