Invariance can prevent overfitting and shortcut learning in Quantum Neural Networks
本文证明了，在具有相同架构和参数数量的情况下，将 对称性引入量子神经网络，能显著提高其在多种图像分类任务中的泛化能力、对捷径学习的鲁棒性以及抗噪能力，其表现优于非不变性模型。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能领域，计算机正在通过扫描图像并寻找模式来学习观察世界。当机器看到一张猫的照片时，它并不在乎这只猫是坐着的、躺着的，还是从不同角度拍摄的；“猫”这个标签始终保持不变。这种能够识别出物体的核心身份即使在位置改变时也保持不变的能力被称为“不变性”（invariance）。几十年来，工程师们一直构建经典的计算机程序来硬编码这一规则，教它们忽略旋转和反射，以便它们能学得更快、更准确。现在，科学家们正试图构建一种新型计算机，利用奇特的量子物理定律来处理信息。这些量子机器在理论上极其强大，但目前规模很小且非常脆弱，在尝试从有限数据中学习时容易出错。一个主要问题在于，这些新型量子机器是否也能学会忽略物体的方位以成为更好的学习者，还是说其独特的物理特性会使其对这些细节过于敏感。
一个研究小组为了回答这个问题，构建了四种不同的量子模型来解决图像分类任务。他们想看看，强制要求量子计算机尊重图像的对称性——即将其视为旋转后的图像仍为同一物体——是否会有助于其更好地学习。为了公平起见，他们构建了四个截然不同的模型，这些模型在除了如何处理对称性之外的所有方面都是完全相同的。他们使用了相同数量的量子比特、相同数量的可调参数以及相同的底层数学结构。其中两个模型在本质上被设计为“不变”的，这意味着它们的内部规则强制它们忽略图像的方向。另外两个模型则被允许注意到方向，将旋转后的图像视为完全不同的输入。研究人员在四个不同的挑战中测试了这些模型：识别手写数字、识别简单的几何形状、区分两种类型的星系，以及识别不同形状的红细胞。在每种情况下，图像都以随机旋转的形式出现，就像在现实世界中一样。
结果在所有四个任务中都清晰且一致。那些旨在忽略图像方向的模型学习速度更快，并且在面对新的、未见过的图片时犯错更少。因为它们被强制要求只关注物体的形状而非其位置，所以它们不会浪费有限的学习能力去记忆训练照片中的特定细节。相比之下，那些被允许注意到方向的模型很快就记住了它们所看到的少量图像的具体姿态。当这些非不变模型遇到具有不同旋转角度的新图像时，它们往往会完全失败。研究人员发现，仅仅让量子计算机的电路具有对称性是不够的；计算机读取答案的最后一步也必须是对称的。如果计算机是用对称规则构建的，但在给出答案时却被要求给出非对称的答案，它仍然无法实现泛化。
该研究还探讨了机器学习中一个常见的问题，即“捷径学习”（shortcut learning），即模型通过寻找一种简单的技巧来猜测答案，而不是学习真正的规则。研究人员在每张训练图像的角落添加了一个微小的隐藏水印，以观察模型是否会依赖它。能够注意到方向的模型立即学会了这个技巧；它们会看向角落，看到水印，然后直接猜出答案，而无需看主体图像。当研究人员将水印移动到另一个角落时，这些模型便失败了，表现水平降至随机猜测的水平。然而，不变模型却根本看不见水印，因为水印会随着图像旋转。相反，它们被迫观察图片的实际内容，并且即使在移除这个“技巧”后，依然能正确识别物体。
最后，团队测试了这些发现如何应对当前量子硬件中典型的噪声和错误。真实的量子计算机并不完美，它们的信号经常受到热量和干扰的扭曲。研究人员模拟了这些情况，并发现不变模型的优势依然存在。即使在量子信号存在噪声的情况下，那些忽略方向的模型仍然比它们的对手更加准确，且不易产生过拟合。这项研究表明，为了让量子计算机在现实世界中发挥作用（尤其是在数据稀缺的情况下），将对称性直接内置于其设计之中是一种强大的工具。它起到了护栏的作用，防止机器被无关细节分散注意力，并帮助它专注于定义周围世界的真实模式。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。