Quantization-Aware Neuromorphic Architecture for Skin Lesion Classification on Resource-Constrained Devices
本文介绍了 QANA,一种量化感知神经形态架构,通过优化 CNN 到 SNN 的转换,并在 BrainChip Akida 处理器上实现卓越的性能、延迟和能效,使资源受限设备上的皮肤病变分类能够具备鲁棒且高精度的表现。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你正试图教一个机器人识别朋友的面孔,但你手里只有一个用来进行思考的微型、电池供电的手表。这就是边缘计算(edge computing)的世界:直接在手机或可穿戴设备等小型设备上运行智能程序,而不是将数据发送到庞大且耗能的云端服务器。这就像是在繁忙的街道上行走时,尝试在脑海中解决一道复杂的数学题,而不是打电话向一台超级计算机求助。挑战在于,我们通常用于这种任务的“大脑”——被称为卷积神经网络(CNN)——就像是沉重且耗能巨大的卡车。它们擅长发现模式(比如皮肤上的斑点),但它们会消耗过多的电池电量,并且在微型手表上运行速度太慢。
为了解决这个问题,科学家们正在探索一种被称为类脑计算(neuromorphic computing)的技术,它使用一种不同的“大脑”,即脉冲神经网络(SNN)。把标准的 CNN 想象成一盏持续照射的泛光灯,时刻检查每一个像素;而 SNN 则像是一个运动传感器灯:只有当有趣的事情发生时,它才会“触发”或发送一个微小的电火花(即“脉冲”)。这使得它极其快速且高效,非常适合那些需要靠单次充电维持一整天运行的设备。但问题在于,这些脉冲大脑非常挑剔。如果你试图强迫一个标准的“泛光灯”大脑像“运动传感器”大脑那样工作,它往往会变得混乱、失去记忆,或者开始犯错,尤其是在数据杂乱或不平衡的情况下。
这就是 QANA 故事开始的地方。由王海腾(Haitian Wang)及其同事领导的研究人员,想要构建一个皮肤病变分类器,使其能够在微型、高能效的类脑芯片(具体为 BrainChip Akida)上运行,同时又不丧于分辨无害痣与危险黑色素瘤的能力。他们意识到,仅仅将一个标准的 AI 模型转换为脉冲模型,就像是试图把方榫头塞进圆榫孔里——这往往会导致损坏或表现不佳。
因此,他们设计了一种名为 QANA(量化感知类脑架构,Quantization-Aware Neuromorphic Architecture)的新架构,作为这两个世界之间的桥梁。他们并没有只是简单地拿一个标准模型并寄希望于其转换效果,而是构建了一个专门为在转换过程中生存而设计的量化感知 CNN 主干网络。他们使用了一种巧妙的技巧——Ghost 模块(Ghost modules),它就像一位大师级厨师,通过创造性地延伸极少的食材来制作出一顿丰盛美味的大餐。这使得系统能够在不需要庞大计算能力的情况下,生成丰富的特征。他们还加入了特殊的“注意力机制”,就像一个聚光灯,帮助 AI 专注于皮肤图像中最重要的部分,同时忽略背景噪音。
至关重要的是,他们解决了“转换失败”的问题。通常,当我们把一个标准 AI 转换为脉冲 AI 时,数值会变得混乱,准确率也会下降。QANA 使用了一种叫做量化感知训练(quantization-aware training)的技术,这就像是在练习一首乐曲,而节拍器只在特定的节拍上发出“咔哒”声。通过从一开始就训练模型去预期这些特定的、受限的“咔达声”(低比特数字),模型学会了即使在随后被转换为脉冲格式时也能保持稳定。他们还使用了一种在数字“嵌入空间”(图像的一种数学表示)中的 SMOTE 方法,以帮助 AI 更好地学习罕见的皮肤病变类型,确保它不会忽略那些虽然不常见但却危险的情况。
结果令人印象深刻。在通过一个名为 HAM10000 的大型公开皮肤图像数据集进行测试时,QANA 达到了 91.6% 的准确率,显著优于其他转换模型。更令人兴奋的是,当他们在实际的类脑硬件(BrainChip Akida)上运行它时,该系统表现得极其快速且高效。它处理单张图像仅需 1.5 毫秒,且仅消耗 1.7 毫焦耳 的能量。换句话说,它比同类规模的最佳竞争模型快了约 21%,且能效提高了约 23%。他们还在来自中国一家医院的真实临床数据集上进行了测试,结果显示其仍保持了 90.8% 的高准确率,证明了它可以在无需将患者信息发送到云端的情况下,处理现实世界的医疗数据。
简而言之,这篇论文表明,通过在训练和转换过程中就让 AI 学习使用类脑硬件的“母语”,而不是在事后才尝试翻译,我们可以创造出不仅聪明,而且快速、私密且省电(足以装进你的口袋)的医疗诊断工具。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。