Perspective on AI and quantum open-source software
本文认为，建立严格的验证实践和贡献标准对于确保人工智能辅助量子开源软件开发的可靠性至关重要，从而减轻维护者负担并实现可复现、可信赖的量子研究。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
量子信息科学是一个快速发展的领域，旨在利用亚原子世界的奇特规则来解决当今计算机无法解决的问题。这项科学在很大程度上依赖于软件，用于构建电路、运行模拟以及控制承载量子比特的精密硬件。多年来，这些软件一直由全球研究人员组成的社区公开构建和共享，允许任何人检查、改进并基于其成果进行开发。近来，人工智能开始重塑这一格局。这些智能工具可以编写代码、建议校准机器的新方法，甚至帮助发现纠正错误的新方法。然而，正如新引擎需要一套新的安全检查一样，将人工智能引入这一高风险环境也提出了一个关键问题：我们如何知道这些工具编写的代码确实是正确的，以及谁该负责检查它？
来自 Unitary Foundation 和中科大量子技术中心（Centre for Quantum Technologies）的一个研究小组对这一新兴现实进行了深入观察。他们研究了人工智能目前如何被用于编写和维护量子软件，并分析了这给维持这些项目运行的人类志愿者带来的负担。通过研究公共代码库、五场年度黑客松活动的记录以及对 1,600 多名社区成员的调查，研究人员发现，虽然人工智能是一个强大的助手，但它也在制造一个隐形的瓶颈。研究表明，如果没有严格的新验证规则，那些维持量子软件安全的人正面临着因需要检查并非由自己编写的代码而导致的过载，这种情况威胁着要减缓科学进步的速度，并侵蚀开放协作所需的信任。
研究人员首先绘制了人工智能在量子软件栈中应用的精确图谱。他们发现，这些工具已经在协助处理从编写基础代码、优化电路编译到设计硬件控制脉冲，乃至发现纠正错误的新方法等各个方面。在某些情况下，人工智能代理正在进行循环操作：提出方案、测试方案并不断完善方法，以达到科学目标。这种“自动研究”的方法对于加速发现具有巨大的潜力。然而，团队指出一个显著的差距：虽然工具在生成想法和代码方面变得越来越好，但验证这些输出是否具有科学有效性的方法却未能同步跟进。对于量子软件而言，验证过程异常困难，因为检查答案往往需要模拟整个系统，而一旦系统规模超过几十个粒子，经典计算机执行此类任务就会变得不再可能。
为了理解这一差距在现实世界中的影响，团队查看了数据。他们分析了来自公共代码库的数千个文件，发现量子软件社区比主流软件社区规模更小且稳定性更低。主流库每月有数百万次下载，而量子库的下载量则少得多，且使用这些库的代码通常透明度较低。更重要的是，他们发现用于检查这些代码的测试几乎总是运行在微小的、简化的问题版本上。在主要量子框架的测试套件中，用于测试的粒子数中位数仅为两个，且几乎所有的测试都涉及二十个或更少的粒子。这意味着现有的安全网是为小型、可控的问题设计的，在面对需要扩展到实际科学工作所需规模时，可能会无法捕捉到错误。
这个故事中的人类因素或许是最紧迫的。研究人员调查了该社区，发现当人工智能生成代码时，检查的负担沉重地落在项目维护者的身上。在最近的一项调查中，79% 的受访者表示他们依赖人工审查来验证由人工智能编写的代码，而只有 60% 使用自动化测试。这种对人工审视的依赖正在改变社区活动的形式。年度黑客松的组织者报告称，原本用于指导新贡献者的时间，正逐渐被用于审查可能由人工智能生成的提交内容。一位维护者描述这种体验就像是通过界面与人工智能工具对话，而不是在引导一名人类学习者。数据表明，虽然人工智能可以加快任务完成速度，但它并不一定能帮助新贡献者掌握成为未来维护者所需的技能，并且存在将审查过程变成瓶颈从而拖慢整个领域进程的风险。
论文认为，解决方案在于建立关于如何进行贡献和验证的新标准。研究人员提出，任何提交代码的人（无论是人类还是人工智能编写），都必须提供其更改有效的可复现证据。这意味着，贡献者不应仅仅提交一个修复程序，而应包含证明该修复程序正确的特定测试和数据。他们建议，项目应该使用专门的工具，在无需模拟整个系统的情况下即可验证电路的逻辑，并且这些工具应当成为标准审查流程的一部分。团队还建议，项目应为人工智能代理设定明确的边界，确保它们在没有人类批准的情况下不会消耗硬件资金或安装危险软件。通过将验证作为工作流的常规部分，社区可以确保人工智能产生的结果是可靠的，并且可以被其他科学家信任。
归根结底，这项工作旨在维护自动化辅助时代科学发现的完整性。研究人员维护着一个开源伴随代码库，以帮助项目采用这些新实践，提供模板和工具使验证变得更加容易。他们设想了一个未来的景象：软件贡献将受到与学术期刊论文同等的严谨对待，支持一项主张的证据与主张本身同样重要。通过将人工智能的速度与独立验证的严谨性相结合，量子社区可以在不失去开放科学所赖以生存的信任与协作的前提下，继续突破可能的边界。研究结论指出，虽然人工智能是探索的强大工具，但人类对验证的承诺将决定它所帮助实现的发现究竟是真实的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。