A Lightweight Diffusion-Augmented Framework for Efficient Children Facial Expression Recognition

技术摘要：一种用于高效儿童面部表情识别的轻量化扩散增强框架

问题陈述
儿童面部表情识别（FER）面临着不同于成人 FER 的独特挑战，这主要是由于数据集可用性有限、领域差异显著（例如，发育中的面部肌肉、自发性反应）以及实时应用的计算约束。现有解决方案面临权衡：深度卷积神经网络（CNN，如 ResNet）虽然能实现高精度，但计算成本高昂；而轻量化模型（如 MobileNet、LITE-FER）虽然提供了效率，但往往会导致精度下降和跨领域泛化能力差。此外，在成人面部上训练的模型经常无法泛化到儿童，而数据稀缺问题则加剧了类别不平衡现象。

方法论：HLDA-FER
作者提出了 HLDA-FER（用于儿童面部表情识别的混合轻量化扩散增强框架），这是一个旨在平衡识别性能与计算效率的统一流水线。该框架集成了三个核心组件：

1. 轻量化特征提取： 骨干网络采用基于深度可分离卷积的 MobileNet 式架构。与标准 CNN 相比，这降低了计算复杂度，同时保留了识别儿童表情所需的判别性细节。
2. 扩散增强数据生成： 为了解决数据稀缺和领域差异问题，该框架采用了扩散模型。该模型通过逆转噪声过程来学习生成分布，从而重建逼真的类儿童表情。这些合成样本（$I' \sim p_{diff}(I' | I)$）被用于增强训练集，增加了多样性并平衡了代表性不足的类别。
3. 知识蒸馏： 采用了教师-学生学习框架来弥合轻量化模型与重型模型之间的性能差距。大型 ResNet 基教师网络生成软概率（$q_t$），用以引导轻量化学生网络的训练（$q_s$）。总损失函数（$L$）是分类交叉熵损失（$L_{CE}$）与知识蒸馏损失（$L_{KD}$）的加权和，由平衡因子 $\alpha$ 控制。

训练流水线统一了这些组件，使轻量化学生能够同时学习领域不变特征和判别性知识。

主要贡献
论文概述了四个主要贡献：

• 混合框架： 将轻量化 CNN 与专门为儿童 FER 定制的扩散增强技术相结合。
• 统一优化： 一个将基于扩散的增强与知识蒸馏进行联合优化的单一训练流水线，而非将其视为独立的阶段。
• 计算效率： 一种设计，实现了高识别性能与低复杂度的结合（约 5.0M 参数和 0.65 GFLOPs），使其适用于资源受限的环境。
• 提升泛化能力： 通过结合使用合成数据增强和轻量化特征学习，增强了针对儿童表情的跨领域泛化能力。

实验结果
该框架在两个基准数据集上进行了评估：LIRIS-CSE（6-12 岁儿童的视频片段）和 CAFE（2-8 岁儿童的静态图像）。所提方法与 ResNet-50、MobileNet 和 LITE-FER 进行了对比。

• LIRIS-CSE： HLDA-FER 达到了 92.8% 的准确率，优于 ResNet-50 (89.2%)、MobileNet (85.1%) 和 LITE-FER (87.6%)。它还表现出卓越的精确率 (91.5%)、召回率 (91.0%) 和 F1 分数 (91.2%)。
• CAFE： HLDA-FER 达到了 90.5% 的准确率，超过了 ResNet-50 (87.4%)、MobileNet (83.2%) 和 LITE-FER (85.0%)。
• 复杂度： 虽然 ResNet-50 需要约 4.1 GFLOPs 和 25.6M 参数，但 HLDA-FER 在约 0.65 GFLOPs 和约 5.0M 参数下即可运行，在不牺牲准确性的情况下显著降低了计算成本。
• 消融研究： 去除基于扩散的增强会导致准确率明显下降，证实了其在处理数据稀缺方面的作用。排除知识蒸馏也会降低性能，验证了其在传递判别性知识方面的作用。

意义与主张
论文声称 HLDA-FER 成功解决了儿童 FER 中准确性与效率之间的权衡。通过在统一框架内集成用于数据增强的扩散模型和用于模型压缩的知识蒸馏，该方法在保持低计算足迹的同时，在基准数据集上实现了最先进的性能。作者断言，这使得该框架特别适用于教育、医疗保健和辅助系统（如辅助机器人）中的实时及资源受限应用。这项工作强调了将轻量化建模与先进的数据增强技术相结合，以克服识别儿童情绪方面特定挑战的重要性。