From Prompts to Context: An Ontology-Driven Framework for Human-Generative AI Collaboration
本文介绍了“从提示到上下文”,这是一个本体驱动的框架,它通过上下文协作人工智能本体(CCAI)将短暂的提示 - 响应交互转化为可查询的结构化协作轨迹,从而增强人机生成式人工智能协作中的信任、可追溯性和问责制。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
以下是论文《从提示到语境》的通俗解读,辅以生动的类比。
问题:“黑盒”对话
想象一下,你请一位才华横溢但略显健忘的助手写一个故事。你只给了一张便条:“写一个关于龙的故事。”随后他们递给你一篇完成的故事。
问题出在哪里?你不知道他们为什么那样写。他们是否假设龙是友好的还是可怕的?他们是否使用了你之前提到的特定地图?他们是否忽略了你设定的某条规则?在生成式人工智能(如编写代码或文本的模型)的世界里,情况正是如此。人类给出简短的“提示”,人工智能给出“输出”。而中间的一切——语境、规则、人工智能具体执行的任务——都烟消云散了。
这篇论文认为,这种“消失”现象使得难以信任人工智能、难以修正错误,也难以明确责任归属。
解决方案:“共享蓝图”(本体论)
为了解决这个问题,作者构建了一个名为CCAI 本体论的共享蓝图。
可以将这个本体论想象为一个带有严格标签系统的数字文件柜。系统不再让人类仅用模糊的句子与人工智能对话,而是强制所有参与者(人类和人工智能)在开始工作之前就细节达成一致。
该蓝图组织了四个关键要素:
- 谁在工作?(代理:是人类开发者还是人工智能助手?)
- 任务是什么?(任务:是编写代码、检查错误,还是设计标志?)
- 有哪些可用工具?(资源:我们是否有特定的数据库、风格指南或规则列表?)
- 规则是什么?(约束:是否有预算?截止日期?安全限制?)
工作原理:“图书管理员”类比
在论文提出的系统中,人工智能不再仅仅猜测你的需求。它像一位超级图书管理员,在写下第一个字之前会先检查文件柜。
- 请求: 人类说:“我需要‘查看和更新能力档案’功能的代码。”
- 检查: 系统不会直接将那句话发送给人工智能。它首先针对共享蓝图运行一次“搜索查询”(称为 SPARQL)。
- 检索: 系统提取出该功能的特定文件。它找到了:
- 谁在工作: "Carol(人类)和人工智能助手。”
- 使用什么工具: “能力数据库和风格指南。”
- 语境: “这是项目第一冲刺阶段的任务。”
- 组装: 系统将人类的请求与所有检索到的事实合并成一条巨大而详细的指令。
- 结果: 人工智能收到的提示是:"Carol 和人工智能助手正在处理第一冲刺阶段的任务。他们需要使用风格指南更新能力数据库。请为此特定功能编写代码。”
因为人工智能拥有了这份完整的“蓝图”,它无需猜测。它确切地知道要使用什么工具以及遵循什么规则。
案例研究:构建“技能追踪器”
作者在一个开发教育工具(用于追踪学生技能/能力)的软件团队中测试了这一理念。
- 没有该系统时: 开发者可能会让人工智能“修复登录页面”。人工智能可能会编写出适用于通用登录的代码,但由于不知道该项目使用的特定“技能数据库”而失败。开发者随后不得不浪费时间进行修复。
- 有了该系统后: 开发者向系统寻求帮助。系统自动从蓝图中抓取关于“技能数据库”、“登录任务”和“设计规则”的详细信息,并将其提供给人工智能。人工智能编写的代码完美契合,因为它获得了完整的语境。
结果:清晰的轨迹
论文声称,使用这种“蓝图”方法会带来三个主要好处:
- 不再猜测: 语境不再被隐藏。每个人都知道人工智能确切被要求做什么,以及它遵循了什么规则。
- 可追溯性(“纸质记录”): 如果出现问题,你可以查看蓝图,确切地看到是哪个人工智能代理和哪个人类负责,使用了哪些资源,以及原始任务是什么。这就像拥有了项目的 GPS 历史记录,而不仅仅是最终目的地。
- 问责制: 由于“谁、什么、如何”都被记录在案,因此更容易审查工作,并确保其符合道德和质量标准。
论文未声称的内容
重要的是要注意这篇论文没有说什么:
- 它不声称该系统能让人工作得更快或节省资金。其重点严格在于使工作更清晰、更透明。
- 它不声称人工智能永远不会犯错。人工智能仍然可能出错,但现在我们确切地知道它为什么会犯那个错误,因为我们能看到它工作时的语境。
- 它不声称这是解决所有人工智能问题的灵丹妙药。它是专门用于管理复杂项目中人类与人工智能协作的特定工具。
核心结论
这篇论文建议,为了与生成式人工智能有效合作,我们需要停止将其视为一个我们提出问题并得到随机答案的“魔法八号球”。相反,我们应该将其视为一名团队成员,需要清晰的职位描述、工具列表和一套规则。通过构建“共享蓝图”(本体论)来管理这些细节,我们可以使人工智能的协作更加诚实、可追溯且可靠。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。