← 最新论文
🧬 biology

Information Entropy of Biological Data: An Empirical Analysis

本文通过对六种生物数据模态的统一实证分析,证明了有限样本偏差会严重扭曲信息论估计,并指出在未指明估计器和样本量的情况下报告熵与互信息是站不住脚的,因为经偏差修正后的方法揭示了截然不同的生物学信号,并纠正了对熵的系统性低估以及对信息含量的系统性高估。

原作者: Alexander Memming

发布于 2026-07-22
📖 1 分钟阅读☕ 轻松阅读

原作者: Alexander Memming

原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 ⚕️ 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明

不要仅仅将生物学视为细胞和化学物质的集合,而要将其想象成一个庞大、嘈杂的信息图书馆。每一个生命体,从微小的细菌到人类,都在不断地阅读、书写和传递信息。为了理解这些信息中存在多少“惊喜”或“多样性”,科学家们使用了一个名为**熵(entropy)**的数学工具。可以将熵想象为衡量信息不可预测程度的指标。如果一段 DNA 序列只是由重复不断的相同字母组成,那么它的熵就很低(它是枯燥且可预测的)。如果它是一个由不同字母组成的混乱混合体,那么它的熵就很高(它充满了惊喜)。

与熵密切相关的是互信息(mutual information),它衡量的是两个事物之间能告诉对方多少信息。如果你知道外面的天气,是否能告诉你该穿什么衣服?是的,这就是互信息。如果你知道特定的基因序列,是否能告诉你它会制造出什么样的蛋白质?同样是的。科学家们热爱这些工具,因为它们有助于解码生命的规则。然而,这里有一个陷阱:当你没有完美、无限的数据时,使用这些工具是非常棘手的。在现实世界中,我们只有有限的样本——就像试图通过只品尝几勺冰淇淋来猜测一家大型冰淇淋店的所有口味一样。如果你不小心,你的判断可能会大错特错,这并不是因为冰淇淋很奇怪,而是因为你的样本量太小了。

这正是亚历山大·梅明(Alexander Memming)在一项新研究中解决的谜题。该论文提出了一个简单但至关重要的问题:当科学家测量生物数据中的“信息”时,他们发现的内容中有多少是真实的生物学现象,又有多少仅仅是由于样本量过少而导致的数学误差?

作者通过观察六种不同类型的生物数据来测试这一点:DNA 序列、蛋白质结构、基因活性,甚至是生活在我们肠道中的细菌群落。他不仅观察了数据,还使用六种不同的数学“估计器”(计算熵的方法)对同一数据集进行了大规模实验。为了测试哪种方法是在说真话,他首先在已知答案的计算机生成的伪造数据上测试了这些方法。

结果令人大开眼界。研究发现,最常见的“天真型”计算方法(称为“插值法”估计器,plug-in estimator)经常是在撒谎。当科学家在小型数据集上使用这种简单方法时,他们会系统性地低估 DNA 和蛋白质中存在的熵(多样性),使它们看起来比实际情况更具可预测性。相反,他们会高估互信息,使得原本无关的基因或蛋白质看起来像是正在进行某种“对话”。

例如,在 DNA 的世界里,研究证实了遗传密码确实高度复杂,其熵率约为每碱基 1.9 比特(最大可能值为 2 比特)。然而,天真型方法让它看起来复杂程度略低。在蛋白质的世界里,误差巨大:简单方法低估了氨基酸的多样性约 12%。在基因网络中,天真型方法产生的偏差如此之大,以至于创造了“幽灵连接”,使得原本独立的基因看起来产生了相互作用。研究表明,通过使用更好的、经过偏差修正的方法,科学家可以恢复真实的信号。例如,在预测蛋白质折叠时,使用修正后的方法显著提高了接触预测的准确性,将最佳方法的成功率从 25% 提升到了 67%。

论文还观察了单细胞,并发现随着细胞变得更加专业化(从干细胞分化为特定组织类型),其内部的“噪声”或熵会下降,这证实了专业化细胞具有更高的可预测性。此外,他们还发现了一个大约 2.3 比特的基因熵“底线”,即使是最先进的 AI 模型也无法消除这一数值,这表明基因表达中存在一种根本性的、不可还原的随机性。

最终,这项研究起到了“现实检查”的作用。它证明了这种偏差并非随机产生的;它遵循一种基于数据量与可能情况数量之间关系的预测模式。作者认为,在报告熵值时,如果不说明使用了哪种方法以及有多少可用数据,将不再是可接受的行为。正如你不会在不知道天气预报所用工具的情况下信任天气预报一样,我们也不应该在不知道数学如何针对样本限制进行修正的情况下,去信任关于生物信息的结论。这项研究并没有发明新的生物学知识,但它提供了必要的校准,以确保我们发现的生物学现象是真实的,而不是由小样本量制造出的幻象。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →