Compression of 3D Gaussian Splatting Data Using GPU-friendly Graphics Texture Coding
本文提出了一种适用于 GPU 的 3D 高斯泼溅(3D Gaussian Splatting)压缩方法,该方法利用硬件加速的纹理编码和原语重排序,在实现大规模并行解码的同时,能够高效压缩球谐函数颜色系数,且几乎不造成视觉质量损失。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你是一位数字建筑师,正试图构建一个如此真实的虚拟世界,以至于你可以走进去,环顾四周,看到水洼中的倒影或窗户上闪烁的阳光。几十年来,科学家们一直试图通过学习一堆照片来教会计算机做到这一点。这个领域最新的明星被称为“3D 高斯泼溅”(3D Gaussian Splatting)。你可以这样理解:与其用僵硬的砖块或光滑的墙壁来构建场景,不如让计算机用数百万个微小的、模糊的、漂浮的云团来构建世界。每个云团都是一个“基元”(primitive),它精确地知道自己在哪里、有多大,以及从任何角度看应该是什么颜色。
神奇之处在于,这些云团可以根据你所处的位置改变颜色。如果你绕着一个发亮的苹果走动,高光就会随之移动。为了实现这一点,计算机使用了一种复杂的数学工具——“球谐函数”(spherical harmonics)来描述颜色的变化。问题在于?为了让场景看起来真正具有照片级的真实感,你需要海量的这些云团,而且每一个云团都携带了巨大的颜色数据。这就像是为了向朋友展示一张照片,就得在背包里背着一整座百科全书图书馆一样。这些文件体积巨大,难以存储,难以通过互联网传输,也难以让你的计算机快速处理。这就是这篇论文切入的地方,它提出了一个简单的问题:我们能否在不让虚拟世界看起来模糊或有块状感的情况下,缩小这些巨大的文件?
作者们是来自高通(Qualcomm)的研究人员,他们提出了一种巧妙的解决方案,将这些 3D 云团视为一种视频游戏纹理。在现代视频游戏中,计算机使用一种特殊的技巧进行“纹理压缩”,将图像打包成计算机图形卡(GPU)可以立即读取的小块。论文建议我们可以使用同样的技巧来处理我们的 3D 云团。然而,这里有一个陷阱:标准的纹理压缩在相邻颜色相近时效果最好。如果你有一个红蓝相间的棋盘格,压缩就会遇到困难。但在 3D 场景中,计算机拥有在保存数据之前重新排列这些云团顺序的自由。
该论文的主要发现是,如果我们先对这些数百万个 3D 云团进行排序,让颜色相似的云团聚集在一起——就像在把乱七八糟的蜡笔放进罐子之前,先按颜色把它们整理好一样——我们就可以更高效地压缩数据。研究人员通过根据颜色对这些 3D 云团进行重新排序,测试了标准 3D 场景(如自行车、盆栽树和花园)。然后,他们将它们打包成固定大小的块,并使用了已经内置在你计算机图形卡中的标准图形压缩格式(具体为 BC1 和 BC7)。
结果非常令人振奋。团队发现,如果先按颜色对云团进行排序,我们可以在保持几乎完美的视觉质量的同时,显著压缩数据。在测试中,他们对最重要的颜色数据使用 BC7,对其余部分使用 BC1,实现了与原始未压缩数据在视觉上难以区分的细节水平。他们使用了一个名为 PSNR(峰值信噪比)的分数来衡量,该分数越高越好。例如,在“盆栽”(Bonsai)场景中,他们最好的方法得分是 45.55 dB,非常接近原始未压缩版本的 50.17 dB。他们还展示了,如果你只是尝试在不先进行排序的情况下压缩数据,质量会大幅下降,这证明了重新排序步骤才是“秘密武器”。
论文明确反对了“需要复杂的变长压缩(如 JPEG)才能获得良好结果”的观点。虽然 JPEG 对照片非常有效,但对于 3D 场景所需的即时、并行处理来说,它太慢且太复杂了。作者们证明,坚持使用固定大小的块(这允许计算机在无需等待的情况下立即获取数据)实际上是更好的路径,只要你事先聪明地组织数据。他们还展示了你不需要对云团的每个部分都进行同等的压缩;通过将“漫反射”(基础)颜色与“镜面反射”(闪亮)高光分离,你可以为数据的不同部分使用不同的压缩设置,从而节省更多空间。
简而言之,论文表明我们不需要发明一种全新的方式来缩小 3D 世界。相反,我们只需要在打包之前把数据整理整齐。通过按颜色对 3D 云团进行排序,然后使用你的图形卡已经知道如何读取的标准压缩工具,我们可以让这些庞大的、照片级真实的 3D 场景变得足够小,以便装进手机或通过互联网进行流式传输,同时保持极高的渲染速度和图像质量。作者通过使用真实的 3D 场景和标准的压缩软件测量了这些结果,表明视觉降级通常微小到人类肉眼无法察觉。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。