← 最新论文
⚛️ 量子物理

Trainable Quantum-Native Language Models: Dissipative Memory, Capacity Limits, and Hardware Validation

本文提出了一种可训练的量子原生自回归语言模型,该模型利用耗散动力学实现了超越单个标记(token)的记忆时界,并在 IBM 设备上成功实现了硬件执行,尽管目前其尚未展现出相对于经典基准模型的计算优势,且存在与寄存器宽度相关的容量限制。

原作者: Deniz Yunus Göğüş

发布于 2026-10-12
📖 1 分钟阅读🧠 深度阅读

原作者: Deniz Yunus Göğüş

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

在构建能够理解语言的机器的过程中,科学家们长期以来一直在思考,量子世界的奇特规则是否能为一种新型的思维机器提供可能。经典计算机——即我们日常使用的计算机——将信息存储为要么是零、要么是一的比特。相比之下,量子计算机使用量子比特(qubits),它们可以同时存在于一种微妙的状态叠加之中。这种特性使它们能够以一种与经典存储方式根本不同的方式持有复杂的信息。然而,对于一个需要学习和适应的机器来说,它必须具备遗忘的能力。正如人类大脑会丢弃无关细节以专注于当下一样,一个学习系统需要释放旧数据,以为新输入腾出空间。在量子领域,一条严格的物理定律往往阻碍了这一点:如果一个系统在没有损失能量或与环境发生相互作用的情况下演化,它所持有的信息就无法被擦除或压缩,只能被重新排列。这为构建“量子大脑”制造了一个悖向:赋予量子计算机强大能力的正是这些物理定律,但这些定律似乎也将它们锁死在了一种无法遗忘的状态中;而没有遗忘的能力,它们就无法有效地学习。

一位研究人员最近开始测试,是否可以完全由这些量子部分构建一个语言学习机器,以及如果可以,它需要遵循什么样的规则才能成功。他不仅是在标准计算机上进行模拟,还构建了模型,对其进行了训练,并在真实的量子处理器上运行,以观察物理规律是否成立。他的工作揭示了这项技术清晰的前进路径,但也揭示了一个关于目前记忆容量的硬性上限。研究人员发现,纯粹的量子存储器由于试图让所有信息都保持完美完整,导致其无法学习语言。它陷入了携带陈旧、无用数据的困境,因为它无法丢弃这些数据。为了解决这个问题,他必须引入一种机制,允许系统有目的地丢失信息,这一过程被称为“耗散”(dissipation)。通过教导量子系统以受控的方式去遗忘,他创建了一个能够记住有用信息数个步骤的模型。然而,这种记忆极其脆弱且有限。即使采用了最好的技术,该系统也只能保留信息大约两个步骤,随后量子世界的噪声和规模限制就会导致其失效。

实验从一个简单的问题开始:一个将思想存储为量子态的机器,能否学会预测句子中的下一个字母?研究人员设计了一个系统,其中“隐藏状态”(即大脑中持有上下文的部分)是一个微小的量子比特寄存器。随着机器读取每个字母,它会更新这个量子态。在第一次尝试中,他使用了一种保持量子态完美隔离的方法,确保没有任何信息丢失。这就像试图端着一满杯水行走而不洒出一滴:你可以移动它,但你无法倒出任何水。结果令人失望。该机器的表现甚至不如一个仅观察最后一个字母的简单版本。原因在于,机器被迫携带它所见过的每一个字母,用无关的历史信息填满了它的记忆。它无法学会忽略过去,而没有这种能力,它就无法预测未来。

为了解决这个问题,研究人员改变了规则。他引入了一个“耗散”通道,一种让量子系统与环境相互作用并有目的地丢弃旧信息的途径。他让这种遗忘过程依赖于当前正在读取的字母,从而允许机器根据上下文决定保留什么和丢弃什么。这种方法奏效了。这个现在能够遗忘的新模型,其表现显著优于那个试图记住一切的版本。它学会了如何保留信息超过一个步骤,这表明遗忘的能力不是一个缺陷,而是学习系统的一项必要特性。然而,这种进步存在一个陡峭的极限。即便有了这种遗忘的能力,该模型也永远无法学会回溯超过两个字母。当研究人员在更长的句子上测试它时,模型的性能达到了平台期,与一个仅观察前两个字母的简单系统持平。它无法深入更远。

研究人员随后调查了为什么存在这种限制。他进行了一系列测试,要求机器记住键值对(类似于在字典中查词)。他将量子存储器的规模从四个量子比特增加到七个。使用四个量子比特时,机器可以可靠地记住一个键值对;使用六个或七个时,它可以记住两个键值对。但当要求它记住三个键值对时,无论使用多少个量子比特,它每次都会失败。这表明,小型量子存储器所能持有的信息量严格受限于可用量子比特的数量。研究人员指出,这种限制符合一个被称为“霍莱沃界限”(Holevo bound)的基本物理定律,该定律规定了可以从量子系统中提取多少经典信息。虽然他并未证明该定律是失败的唯一原因,但证据有力地表明,机器是因为缺乏存储必要细节的空间而耗尽了资源。

为了确保他们的发现不仅仅是计算机模拟的结果,研究人员将模型带到了真实的量子计算机上,具体是来自 IBM 的一台 156 量子比特处理器。他将数学模型转化为可以在该硬件上运行的物理电路。他逐步测试了系统,检查量子态是否按预测演化,以及下一个字母的概率是否与模拟结果相符。结果在物理层面是成功的:机器的运行完全符合理论预期,且测得的下一个字母的概率与预期值非常接近。系统逐字节生成文本,每一次决策都基于对量子态的物理测量。然而,它生成的文本并不流畅,也没有实际意义。它显得很弱,甚至不如最简单的经典语言模型。研究人员明确表示,他并不是在声称实现了语言质量的突破或相对于经典计算机的速度优势。相反,他是在证明一种特定类型的量子架构——即一种学会遗忘的架构——是可以被构建并运行在真实硬件上的。

研究得出结论:尽管构建“量子原生语言模型”的梦想在物理上是可能的,但目前的技术距离与经典系统竞争还很遥远。研究人员证明了量子存储器必须能够丢失信息才能进行学习,但这种记忆受到其规模的严重制约。他发现,利用现有的少量量子比特,系统在仅经过两个步骤后就会撞墙。为了构建能够理解更长句子的机器,他建议我们需要更大规模的量子存储器,这可能需要目前尚不存在的纠错系统。这项工作为该领域提供了一个至关重要的现实检验,它准确地展示了向前迈进究竟需要什么:不仅是更多的算力,还需要对如何教导量子系统去遗忘有更深刻的理解。通往量子语言模型的道路已经开启,但路途漫长,而最初的几步已经向我们展示了障碍究竟所在。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →