Expectations and Practices around AI Disclosure in CS Research
本文调查了当前人工智能披露政策与计算机科学领域研究人员预期之间的错位，揭示了尽管研究人员优先披露如研究设计等低参与度任务中的人工智能使用情况，但实际的披露实践却频繁过度报告了如写作辅助等不太关键的使用情况，从而提出了更好地使政策与这些预期保持一致的建议。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代计算机科学实验室中，一种新型的助手已悄然入驻。这些是生成式人工智能工具，这类软件能够以一种曾经被认为机器无法实现的流畅度来撰写句子、调试代码并组织思路。研究人员已开始依赖它们来加速工作，从最初的灵感迸发到手稿的最终润色。然而，这种便利性在科学界引发了一场看似平静实则紧迫的辩论：当机器协助撰写论文时，谁该获得荣誉，以及这种帮助应当向读者披露到何种程度？问题的核心在于信任。科学依赖于这样一种理解，即所呈现的工作是人类思考与努力的产物。如果工具承担了繁重的任务，除非读者明确知晓哪些部分由人完成而哪些部分由机器完成，否则发现的完整性可能会受到损害。因此，许多顶尖的计算机科学会议已开始要求作者提交一份声明，以披露其对这些工具的使用情况，这一规则旨在通过这种方式在技术快速变革的时代维持透明度。
来自班加罗尔印度科学理工学院的一个研究小组着手调查这些新规则是否真的达到了预期效果。他们想知道，会议组织者制定的政策是否符合研究人员实际认为必要的标准，以及作者在论文中所写的声明是否反映了这些预期。为此，他们首先研究了规则本身。他们检查了65个主要计算机科学会议以及该领域四个最大专业协会的指南。他们发现，虽然大多数此类场合现在都有要求披露的政策，但规则往往很模糊。它们告诉作者要诚实，但很少明确指出哪些任务需要提及，或者必须包含哪些细节。这就像一位老师告诉学生要“认真对待作业”，却没解释针对不同的作业，“认真”究竟意味着什么。
为了填补这些空白，研究人员向109位计算机科学家提出了一个简单的问题：在研究过程的哪些部分，承认使用了人工智能工具是真正重要的？他们向研究人员展示了一个包含21项常见任务的列表，范围涵盖了从生成新想法、设计实验到编写代码和润色语法。他们还要求研究人员考虑在每项任务中人类控制的参与程度。结果是具有启发性的。研究人员发现，科学界普遍认为，当人工智能用于重大的智力工作（如设计研究、分析数据或构思新假设）时，披露最为关键。在这些领域，人类的贡献最容易被机器所掩盖。相反，研究人员发现，使用人工智能仅用于修正错别字、改写句子或格式化参考文献，被认为披露的必要性较低。有趣的是，人类控制的程度至关重要。当研究人员使用人工智能工具但保持密切监督，即核实每一项输出并做出最终决定时，披露的需求感较低。但当人工智能在极少监管的情况下运作时，对透明度的需求则急剧上升。
随后，该团队将注意力转向了现实世界中正在发生的情况。他们收集并分析了提交给两个主要会议（EMNLP和ICLR）的近一万四千份披露声明。他们将这些现实世界的声明与此前通过调查收集到的预期进行了对比。两者之间的差距令人震惊。虽然研究人员发现最重要的披露涉及责任归属和具体执行的任务，但他们审查的大多数论文都未能包含这些信息。相反，最常见的披露是针对那些社区认为最不重要的任务：编辑文本和修复代码。在许多情况下，作者仅写下简短、笼统的句子，承认使用人工智能进行“润色”，却未提及人工智能是否对核心科学研究有所帮助。
或许最令人担忧的发现是，在数十篇互不相关的论文中出现了完全相同的、复制粘贴的声明。在一次针对单一会议的投稿中，有一个特定的段落——列出了标准的AI用途并声明不承担责任——被逐字逐句地出现在95份不同的提交件中。这表明对于许多作者而言，披露已变成了一种“打卡式”的任务，而非对其工作流程的真实记录。研究人员指出，尽管其中一些声明内容详尽，但其在无关作品中的重复出现表明了一种“表演式合规”，即作者遵循了规则的形式，却并未践行其精神。研究还发现，作者很少提到他们具体使用了哪种人工智能模型，尽管许多读者曾表达过希望了解这一细节的意愿。
基于这些发现，研究人员建议改变政策的制定方式。他们建议从宽泛的、一刀切的规则转向一种根据研究任务的必要程度进行分类的系统。他们建议会议应创建一个清晰的列表，将某些高风险任务（如设计实验）标记为强制披露，而将低风险任务（如格式化参考文献）设为可选。为了帮助作者应对，他们还设计了一个简单的模板。该模板会提示作者列出人工智能具体协助了哪些任务、人类的监督程度如何，并明确声明作者对最终成果承担全部责任。其目标并非惩罚对辅助工具的使用，而是确保人类研究者与机器之间的关系是清晰、诚实且值得信赖的。通过使规则与科学界的实际预期保持一致，研究人员希望能在不阻碍这些新工具为研究过程带来真实益处的前提下，维持透明度。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。