💻 computer science

Class-Aware Semantic Hybrid Data Augmentation for Imbalanced Sentiment Classification Using Multiple Transformer Models

本文提出了一种类感知语义混合数据增强（CSHDA）框架，该框架通过向少数类有选择地应用多样化且经过语义验证的增强技术，有效地缓解了类别不平衡问题，并显著提升了多种基于 Transformer 的模型在不平衡情感分类任务上的性能与鲁棒性。

原作者： Prashant Upadhyaya, G.L. Saini, Atul Makrariya

发布于 2026-08-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Prashant Upadhyaya, G.L. Saini, Atul Makrariya

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在广阔的互联网数字景观中，人们不断地分享着他们的观点，从对当地餐厅的评论到对航班延误的抱怨。计算机已经变得非常擅长阅读这些文本，并判断其背后的情感是快乐、悲伤还是介于两者之间。这种被称为“情感分析”的能力，帮助企业了解其客户，并让组织追踪公众情绪。然而，为了让计算机学会这项技能，它需要经过大量实例的训练。当这些实例分布不均时，一个显著的障碍便出现了。想象一个教室里有九十名学生正在学习识别红色物体，但只有十名学生在学习识别蓝色物体。被红色示例淹没的老师可能会开始猜测所有东西都是红色的，仅仅因为这是他们看到最频繁的东西。在数据领域，这被称为“类别不平衡”（class imbalance），它会导致计算机模型为了迎合多数派而忽略少数派的观点，例如中性或负面的感受。

为了解决这个问题，研究人员通常尝试为少数群体创造更多示例，这一过程被称为“数据增强”（data augmentation）。他们通过对现有句子进行微小的改动，比如将一个词替换为同义词，或者删除几个字母，希望能生成新的、有效的训练数据。虽然这在过去有所帮助，但一项新的研究表明，如果改动是盲目的，那么仅仅增加副本是不够的。研究人员发现，对每种类型的句子应用相同的随机改动，实际上会干扰计算机，产生听起来与原始情感完全不符的例子，或者更糟的是，只是在重复同一个句子。

由 Prashant Upadhyaya、G.L. Saini 和 Atul Makrariya 领导的研究团队提出了一种更聪明的方法来处理这个问题。他们开发了一个被称为“类别感知语义混合数据增强”（Class-Aware Semantic Hybrid Data Augmentation）的系统。该系统并不对所有观点一视同仁，而是像一位理解每个群体特定需求的细心编辑。当系统遇到少数派情感（例如在大量正面评论中出现的罕见中性观点）时，它不会只是随机地切割或替换单词。相反，它会根据该特定类型的句子需要保持其含义的需求，选择特定的技术。对于某些句子，它可能会使用强大的语言模型以不同的方式重写句子，同时保持完全相同的感受。对于另一些句子，它可能只是删除一个词或插入一个新词。至关重要的是，系统会将生成的每一个新句子与原句进行对比，以确保含义没有发生偏移。如果一个新句子听起来与原句差异过大，或者只是已经制作过的句子的重复，系统就会将其丢弃。

研究人员在两组截然不同的真实世界数据上测试了这种方法：一组是来自大学美食广场的评论集合，另一组是关于航空公司的海量推文数据集。在这两种情况下，数据都呈现出严重的倾斜，即一种情感占据了主导地位。他们训练了四种不同的先进计算机模型，即“Transformer”，它们是目前理解语言的最前沿工具。首先，他们在原始的不平衡数据上训练这些模型，以观察它们的表现。正如预期的那样，这些模型在正确识别少数派观点方面表现挣扎，经常将负面或中性的评论误标为正面。随后，他们将这种新的增强方法应用于训练数据，仅针对少数派群体生成高质量且多样化的示例。

结果令人瞩目。当模型在这些改进后的数据上进行重新训练时，它们识别少数派情感的能力大幅提升。在美食评论数据集上，模型的整体准确率有了大幅提升，识别负面评论的能力从极低的水平上升到了强有力的多数水平。在航空推文数据集上（由于其简短和非正式的性质，该数据集极具挑战性），某些模型的提升甚至更加剧烈。其中一个此前几乎无法识别中性推文的模型，开始能够正确识别其中一半以上的推文。研究人员确认，这些改进不仅仅是幸运的猜测，而是具有统计学意义的，这意味着结果是可靠且可重复的。

这项工作的价值在于，它不需要改变计算机模型本身。它作为一个准备步骤，在学习开始之前对数据进行清洗和丰富。研究还表明，这种方法适用于不同类型的模型，无论是规模庞大、复杂的模型，还是较小、较快的模型。通过仔细平衡新数据的创建与确保含义完整的严格检查，研究人员证明了质量远比数量重要。他们证明了，通过给计算机提供一些更多、但更好的关于稀有观点的例子，它可以学会倾听每一个人，而不仅仅是房间里声音最大的人。这种方法为使人工智能在理解人类情感的全谱系方面变得更加公平和准确提供了一条切实可行的路径。

技术摘要：用于不平衡情感分类的类感知语义混合数据增强

问题陈述
使用基于 Transformer 的模型进行情感分类面临着一个关键挑战：类别不平衡。在现实世界的数据集中，一种情感类别（例如正面或负面）往往显著多于其他类别，导致模型产生向多数类倾斜的偏差。这会导致对少数类情感（特别是“中性”和“负面”类别）的识别能力变差。虽然现有的数据增强技术（如 Easy Data Augmentation 或 EDA）可以增加样本量，但它们通常对所有类别应用相同的变换，而未考虑特定类别的特征。这种统一的方法往往会导致语义漂移、生成冗余或噪声样本，并限制了对少数类学习的提升。

方法论
本文提出了一种**类感知语义混合数据增强（Class-Aware Semantic Hybrid Data Augmentation, CSHDA）**框架，旨在缓解类别不平衡问题，同时保持语义保真度。该方法通过以下步骤运行：

针对性增强： 与增强所有数据的标准方法不同，CSHDA 仅对少数情感类别进行增强。其目标是通过生成样本使少数类数量与多数类数量相等（ $T = \max_{c} n_c$ ）来平衡数据集。
类感知概率分布： 该框架为每个少数类分配特定的增强概率（ $P_c$ $P_{c}$ ），并从四种互补的技术中进行选择：
- 基于 BERT 的改写（BP）
- 同义词替换（SR）
- 随机插入（RI）
- 随机删除（RD）
- 注：概率是根据数据集特征进行经验性调优的（例如，对于结构化评论中的中性类，采用更高的 BP 概率；对于负面类，采用更高的 RD 概率）。
语义一致性验证： 为了防止语义漂移，每个生成的候选句子都使用 Sentence-BERT (SBERT) 进行验证。计算原始句子与增强句子之间的余弦相似度。只有当样本落在特定的阈值范围内（ $0.65 \leq \text{sim} \leq 0.97$ ）时，才会被接受，这确保了增强后的文本在语义上与原句保持相似，同时在差异性上足以增加多样性。
重复项感知过滤： 维护一个已接受句子的库，以确保不会向训练集中添加重复的增强实例。
模型评估： 使用增强后的数据集对四种 Transformer 架构进行微调：BERT、RoBERTa、DistilBERT 和 ALBERT。研究使用了两个具有不同不平衡特征的基准数据集：CUFC 语料库（食品评论，正面类占多数）和 Twitter Airline 数据集（社交媒体，负面类占多数）。

核心贡献
本文概述了三个主要贡献：

一种新颖的框架： 提出了 CSHDA，它根据少数类情感特征动态分配增强概率，而非应用统一的变换。
集成质量控制： 与标准 EDA 不同，CSHDA 同时实现了概率自适应、通过 SBERT 进行语义一致性验证、去除重复项，并将增强限制在仅少数类内。
语义一致性机制： 引入了 SBERT 相似度阈值，以平衡句子的多样性与上下文保留，有效地防止了语义漂移。

实验结果
该框架在 CUFC 和 Twitter 数据集上通过五个随机种子进行了评估。主要发现包括：

CUFC 数据集：
- BERT： Macro F1 分数从 60.80% 提升至 81.10%。
- DistilBERT： Macro F1 分数从 55.43% 提升至 80.01%。
- RoBERTa： 从 70.79% 提升至 81.22%。
- 在少数类（负面和中性）的召回率方面观察到了显著增益，减少了向多数类（正面）的偏差。
Twitter 数据集：
- BERT： Macro F1 分数从 60.65% 提升至 69.82%。
- DistilBERT： 表现出最剧烈的提升，从 42.98% 上升至 71.21%。
- RoBERTa： 虽然基准性能已经很强，但该框架保持了稳健的表现，仅有轻微的 Macro F1 下降（约 3.1%），表明了其稳定性。
统计显著性： 配对 t 检验确认了 Macro F1 分数的提升具有统计学意义（ $p < 0.05$ ），且具有较大的效应量（Cohen's $d$ 范围在 1.76 到 2.85 之间）。
消融研究： 与单个 EDA 技术（SR、RI、RD、RS）的比较表明，混合型的 CSHDA 方法比任何单一的增强方法都能在不同的 Transformer 架构上提供更一致且更泛化的性能。

意义与主张
作者声称，CSHDA 框架通过生成语义一致且多样化的少数类样本，有效地解决了当前增强策略的局限性。该工作的意义在于其能够：

缓解类别不平衡： 通过仅针对少数类进行增强，该框架在不扭曲原始多数类分布的情况下，减少了学习偏差。
确保语义保真度： 使用 SBERT 过滤确保了增强数据在提高模型鲁棒性的同时，不会引入噪声或改变预期的情感。
跨领域泛化： 该框架在结构化评论数据（CUFC）和嘈杂、非正式的社交媒体文本（Twitter）上均表现有效，表明了其在跨领域情感分类中的适用性。
提高少数类召回率： 该方法专门增强了对中性和负面情感的检测，这些类别通常是由于不平衡场景中最难识别的类别。

论文得出结论，尽管由于 SBERT 相似度检查引入了一些计算开销，但这种权衡带来了统计可靠且具有实际意义的 Transformer-based 情感分类性能提升。建议未来的工作探索自适应阈值和更高效的语义过滤技术。

技术摘要：用于不平衡情感分类的类感知语义混合数据增强

类似论文