TreeGRNG: Binary Tree Gaussian Random Number Generator for Efficient Probabilistic AI Hardware

想象一下，你正试图制造一个超级聪明的机器人，它能够做出决策，但它不仅仅是简单地说“是”或“否”，而是要说：“我有 80% 的把握它是一只猫，但可能有 20% 的把握它是一只狗。”这就是贝叶斯神经网络 (BNNs) 的世界。它们之所以出色，是因为它们能够承认自己的不确定性，这使得它们在自动驾驶汽车或医疗诊断等领域更加安全。

然而，这里有一个巨大的问题：为了让这些网络发挥作用，机器人的每一个“脑细胞”（神经元）都需要一个被称为高斯随机数生成器 (GRNG) 的特殊工具。你可以把这个工具想象成一个神奇的掷骰子器，它掷出的不只是 1 到 6 之间的数字，而是遵循“钟形曲线”（大部分结果集中在中间，极少数在两端）的数字。

旧工具的问题
直到现在，为这些用于小型、电池供电机器人（如你的智能手表或无人机中的设备）的这些神奇掷骰子器进行构建一直是一场噩梦。旧方法就像是用一个巨大的工业烤箱、一本复杂的食谱和一个厨师团队来烤蛋糕。它们需要：

• 繁重的数学运算（乘法、平方根）。
• 巨大的内存表（就像一本巨大的食谱）。
• 大量的能量和空间。

这使得它们过于庞大且过于耗能，无法装进那些用于“极边缘”设备的微型芯片中。

解决方案：“TreeGRNG”
该论文的作者发明了一种构建这种掷骰子器的新方法，称为 TreeGRNG。他们没有使用复杂的厨房，而是构建了一个二叉树（决策树）。

它是这样工作的，让我们用一个简单的类比：

1. “加权硬币投掷”树

想象一下，你想挑选一个 0 到 100 之间的数字，但你希望中间的数字（如 40–60）被选中的频率远高于边缘的数字（如 0 或 100）。

与其通过计算复杂的公式来挑选一个数字，TreeGRNG 会进行一系列简单的“是/否”提问，就像玩“二十个问题”的游戏一样：

• 第 1 层： “这个数字是否小于 50？”（投掷一次硬币）。
• 第 2 层： 如果是，那么“这个数字是否小于 25？”（再次投掷硬币）。
• 第 3 层： 如果是，那么“这个数字是否小于 12？”（再次投掷硬币）。

神奇之处在于： 在普通的比赛中，硬币是公平的（50/50）。但在 TreeGRNG 中，硬币是加权的。

• 如果“钟形曲线”显示该数字很可能在中间，那么硬币被设定为有 90% 的概率落在“是”上。
• 如果数字很可能在边缘，那么硬币被设定为有 90% 的概率落在“否”上。

通过遵循这些加权硬币投掷的路径，机器自然而然地得到了正确的数字，而无需进行任何复杂的数学运算。

2. 硬件的“秘密武器”

论文强调了两个主要原因，说明为什么这对硬件来说是一个游戏规则的改变者：

• 不需要计算器： 旧方法需要昂贵的数学芯片（乘法器、加法器）。TreeGRNG 只需要比较器 (comparators)。把比较器想象成一个简单的裁判，它只问：“这个数字是不是比那个数字大？”它的构建成本极低且体积微小。
• “镜像”技巧： 因为钟形曲线是对称的（左边看起来和右边一样），所以机器可以使用同一个“裁判”处理两边，只需反向观察答案即可。这使硬件尺寸减半。
• “分组”技巧： 在树的最末端（极端的边缘），数字之间的差异非常微小，因此机器可以使用同一个裁判来处理多个不同的问题。这进一步缩小了硬件体积。

结果：为什么它很重要

作者构建了这个系统，并将其与现有的最佳技术（称为 TI-HT）进行了对比。以下是他们的发现：

• 能量： 每个样本消耗的能量减少了 3.7 倍。这就像是在获得相同里程的同时，使用了一个更小的电池。
• 速度与空间： 在相同的芯片空间内，每秒生成的数字数量增加了 5.8 倍。这就像把一台超级计算机装进了一个鞋盒里。
• 准确度： 它在创建完美的钟形曲线方面实际上比旧方法更准确。
• 灵活性： 虽然论文的重点是高斯（钟形曲线）数字，但该系统非常灵活，理论上你可以通过改变硬币的“权重”来创建任何形状的概率分布，而不局限于钟形曲线。

总结
该论文提出了一种巧妙的方法，通过用一系列简单的“加权硬币投掷”取代沉重的数学运算，来构建人工智能的随机数生成器。通过这样做，他们设计出了一个体积微小、能效极高且速度极快的芯片，足以将先进的、“具备不确定性感知能力”的 AI 带到世界上最微小、最耗电的设备中。