A Survey on Human-AI Collaboration with Large Foundation Models
本综述探讨了大型基础模型在人机协作中的集成，通过围绕模型开发、设计原则、伦理以及高风险应用构建其分析结构，旨在论证实现这些系统的潜力需要审慎的以人为本的设计，以确保其可靠性、可信度及益处。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
几十年来，人工智能的梦想一直是建造能够像我们一样思考的机器。早期的尝试，例如那个著名的 18 世纪国际象棋自动机（其内部秘密隐藏了一名人类玩家），表明我们长期以来一直着迷于模仿我们自身思维的技术。今天，我们已经远远超越了隐藏人类操作员的阶段。我们拥有被称为“大型基础模型”的强大计算机系统。这些不仅仅是工程师逐行编写的简单程序；它们是在来自互联网的海量文本和图像的基础上训练而成的庞大系统，使它们能够识别模式并生成类人语言、图像和代码。由于这些系统如此庞大且复杂，它们有时会犯错、表现出不可预测的行为，或者反映出其所喂养数据中存在的偏见。这导致研究人员有了新的认识：使用这些工具最有效的方式不是让它们独立工作，而是将它们与人类智能相结合。这种人与计算机协作以解决问题的伙伴关系，正是加州大学圣克鲁兹分校一个研究小组最新调查研究的焦点。他们致力于研究人类如何与这些先进的人工智能系统进行有效的、安全的且公平的协作，以应对生活中的不同领域。
研究人员首先观察了在人工智能与用户相遇之前，这些伙伴关系是如何构建的。他们发现，这个过程不仅仅是将数据喂给机器并等待结果。相反，人类在人工智能开发的每一个阶段都发挥着积极的作用。首先，人们对人工智能学习的数据进行策展，仔细选择那些能够教导系统辨别是非的范例。他们充当老师，引导模型专注于特定任务，并过滤掉有害或误导性的信息。接着，人类塑造人工智能的目标。通过一种人们对计算机给出的不同答案进行排序的过程，他们教会系统哪些响应是有益、安全且符合伦理的。最后，人类评估人工智能的工作，不仅是看它是否正确，还要检查它是否值得信赖且公平。该调查表明，一个成功的 AI 伙伴不仅仅是更强大的模型本身的结果，更是这种细致的人类中心设计过程的结果，即人类不断引导机器向更好的行为迈进。
一旦人工智能构建完成并准备好投入使用，人机协作的性质就会发生变化。研究人员确定了几种人类与人工智能在现实世界中互动的不同方式。在某些情况下，一个人扮演着“飞行员”的角色，在人工智能工作时给予指令和纠正。在其他情况下，人工智能充当一名强大的助手，为人类提供建议或总结信息供其审阅。还有一些情况是人类和人工智能轮流主导对话，各自贡献其独特的优势来完成一项共同任务。一种更新且更复杂的模式正在出现，即人工智能作为一个“代理”（agent）可以自主执行一系列步骤，例如使用工具或浏览网页。在这些场景中，人类的角色转变为“监督者”，负责设定目标、审查计划，并仅在必要时介入。该调查强调，这些互动成功的关键不仅在于技术，还在于界面的设计。工具必须被构建得让人类能够轻松理解人工智能正在做什么，看到它在何处存在不确定性，并在情况出错时夺回控制权。
该论文还探讨了人类与机器协作时产生的深层伦理和社会问题。研究人员指出，虽然人工智能可以提高生产力，但它也带来了风险。存在人们过度信任机器的危险，或者系统基于其训练数据中隐藏的偏见做出不公平决策的可能性。为了防止这种情况，该调查强调了透明度和明确规则的必要性。人类必须保持在“环路中”（in the loop），能够质疑人工智能的选择并对其进行问责。研究人员发现，在医疗保健等高风险领域（在那里，错误的答案可能会伤害患者），或在安全领域（在那里，错失威胁可能导致危险），这种伙伴关系必须得到谨慎的管理。例如在医学领域，人工智能可以帮助医生更快地诊断疾病，但最终决定必须始终由理解患者完整背景的人类专家做出。同样，在教育领域，AI 导师可以适应学生的需求，但教师必须确保技术是支持学习，而不是取代对成长至关重要的人际连接。
展望未来，研究人员确定了必须解决的几个主要挑战，以使这些伙伴关系真正可靠。最大的障碍之一是扩展人类引导的规模。随着这些模型变得越来越强大，它们需要更多的人类反馈来保持与人类价值观的一致，但从多样化人群中收集这种反馈是非常困难的。如果反馈仅来自一个狭窄的群体，人工智能将会学习该群体的特定偏见并忽略他人。另一个挑战是创造既自然又安全的界面。虽然用自然语言与计算机交谈感觉很容易，但这有时会掩盖机器正在进行的复杂步骤，使得人类很难知道何时应该干预。调查建议，未来的系统需要清晰地展示其工作过程，允许人们在人工智能做出最终决定之前进行暂停、检查和纠正。
这项研究的终极目标是超越将人工智能视为单纯替代人类劳动的工具这一观念。相反，研究人员愿景中的未来是人工智能与人类形成真正的伙伴关系，各司其职，发挥所长。计算机可以处理海量信息并发现人类可能忽略的模式，而人类则带来判断力、伦理感和创造力。调查总结道，人工智能的未来将不取决于机器变得多么自主，而取决于我们与其建立的关系质量。通过专注于细致的设计、伦理治理和持续的人类监督，我们可以将这些大型模型的原始力量转化为造福整个社会的可靠伙伴。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。