Legal Status of the AI-Transparency Duties at the Consumer-Facing Interface
通过对十一个司法管辖区的结构化比较分析，本文将面向消费者的界面处多样化的人工智能透明度义务归纳为四级类型学，揭示了欧盟、中国、大韩民国及其他全球地区在监管技术上的部分趋同，同时也凸显了其在法律效力与执行力度方面的显著差异。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数字世界中，你所注视的屏幕不仅仅是一个窗口；它是人类之手与机器之脑交汇的触点。几十年来，规范屏幕上发生之事的规则一直散落在不同的法律类别中，例如隐私声明或服务条款。但人工智能的兴起改变了这种交会的本质。当一个计算机程序撰写故事、诊断疾病或扮演亲密伴侣时，人与机器之间的界限变得模糊。对于律师和政策制定者而言，问题不再仅仅关乎技术本身，而在于用户在交互时刻所能看到和知晓的内容。如果一个人正在与一个听起来完全像真人的机器人对话，或者正在阅读一篇由机器撰写的文章，他们有权知情。这就是透明度的领域：即向使用者揭示机器不可见本质的义务。
一组研究人员着手绘制了十一个不同国家和地区如何处理这一义务的图谱。他们考察了欧盟、美国、中国、英国、加拿大、日本、韩国、新加坡、澳大利亚、巴西和阿拉伯联合酋长国。他们的目标不是统计存在多少法律，而是理解在屏幕本身上要求执行哪些具体动作。他们专注于四种主要的可见义务：告知用户他们正在与机器交谈、为机器生成的内容贴上标签、在机器做出高风险决策时向用户发出警告，以及确保机器背后的组织对其规则保持公开。通过将屏幕视为一个共同的比较点，他们得以观察到不同的法律体系——尽管拥有各自独特的历史和语言——是如何试图解决同一个问题的。
研究人员发现，虽然法律的写法各异，但屏幕上的实际要求正开始趋于相似。在欧盟、中国和韩国，规则是严格的且被写入了具有约束力的法律之中。这些地方要求公司清晰地标注 AI 生成的图像或文本，并要求在用户与系统而非真人互动时立即告知用户。例如，在中国，特定法规规定 AI 生成的内容必须带有标签；在韩国，公司必须公布有关其如何管理高影响 AI 系统风险的信息。欧盟建立了一套全面的规则，适用于其所有成员国，涵盖了从聊天机器人到深度伪造视频的各项披露要求。
相比之下，美国并没有一部统一的全国性法律来涵盖这一切。相反，规则是由联邦执法行动和各州通过的法律组成的拼凑体。联邦政府利用现有的消费者保护法来阻止公司在 AI 方面进行欺骗，而加利福尼亚州、纽约州和科罗拉多州等州则通过了自己的特定法律。这些州法通常侧重于“伴侣型”聊天机器人——即那些旨在成为朋友或知己的系统——要求它们披露其非人类的本质，并为处于危机中的用户制定安全协议。这导致一家在美国境内运营的公司必须应对一张复杂的不同州级要求的地图，而不是遵循单一的国家标准。
其他地区仍处于制定规则的过程中。加拿大和巴西等国提出了类似于欧洲模式的法律，但这些法律尚未正式生效。新加坡和澳大利亚目前依赖于自愿性指南和行业标准，鼓励企业保持透明，而不通过严厉处罚进行强制。英国和阿拉伯联合酋长国采取了不同的方式，利用现有的数据保护法或新的政府机构来进行 AI 监管，而不是创建一部单一的、专门的 AI 法律。研究人员指出，在这些地方，透明度的义务往往取决于具体的语境，例如 AI 是否正在做出关于个人的工作或信贷的决策。
该研究得出结论，虽然法律基础是碎片化的，但屏幕上的实际结果正在趋同。在全球范围内，反复出现的诉求是四件事：明确告知机器参与其中、对合成内容进行标注、对高风险决策发出警告，以及公开系统治理的信息。然而，研究人员警告说，仅仅在屏幕上贴一个标签是不够的。一个仅写着“这是 AI”的通用警告或许是可见的，但它并未解释谁在负责、涉及哪些风险，或者一个人如何对决策提出质疑。未来的真正挑战是确保这些可见的披露能够与机器的实际功能以及控制机器的人紧密相连。随着 AI 成为日常生活的标准组成部分，目标应当是从简单的标签转向一个让用户能够真正理解其行为与机器响应之间关系的系统。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。