Fuzzy Convolution Neural Networks for Tabular Data Classification

技术摘要：用于表格数据分类的模糊卷积神经网络

问题陈述
尽管卷积神经网络（CNN）在图像和文本分类方面取得了显著成功，但其在表格数据上的应用仍属于探索不足且充满挑战的领域。表格数据缺乏 CNN 旨在利用的图像中固有的空间网格结构和局部相关性。传统的机器学习方法（例如决策树、支持向量机、随机森林）通常依赖于手工特征或基于显式规则的表示。相反，标准 CNN 在处理表格数据时面临困难，原因在于特征关系的非空间性、可能导致过拟合的小数据集规模，以及将变长特征向量映射到卷积层所需的固定大小输入张量的难度。此外，深度学习的“黑盒”性质往往与金融和医疗等结构化数据领域对可解释性的需求相冲突。

方法论
本文提出了一种新颖的框架——模糊卷积神经网络（FCNN），旨在弥合模糊逻辑与深度学习在表格数据应用之间的鸿沟。该方法论包含一个三阶段流程：

1. 模糊化：将表格向量中的原始特征值映射为模糊隶属度值。作者利用五个术语集（very_low, low, medium, high, very_high），由梯形隶属函数表示。这一步骤将精确的数值数据转换为模糊隶属度，引入了一层不确定性处理和抗噪鲁棒性。
2. 图像转换：将模糊化后的特征向量转换为适合 CNN 处理的二维图像。在此映射中，每个特征被分配为一行，五个术语集对应列。生成的图像由方形网格组成，其中每个方形的面积与其对应的模糊隶属度值成正比。这创建了特征向量的视觉表示，卷积核可从中提取局部模式。
3. 深度学习分类：将生成的图像输入到现有的深度卷积神经网络（DCNN）架构中。本研究实现了两种具体模型：AlexNet 和 ResNet-50。这些模型在生成的图像数据集上进行训练，以学习分层表示并执行分类。

主要贡献

• 新颖架构：引入 FCNN 架构，专门解决将 CNN 应用于结构化表格数据的挑战，通过利用模糊逻辑创建具有空间意义的图像表示。
• 数据转换策略：一种将特征向量映射为图像的具体方法，使用几何形状（正方形）表示的模糊隶属度值，这与以往依赖特征比率或复杂嵌入技术的方法不同。
• 全面评估：与最先进机器学习算法（包括决策树 (DT)、支持向量机 (SVM)、贝叶斯分类器、随机森林 (RF) 和模糊神经网络 (FNN)）进行了严格的对比分析。

实验结果
作者在六个人工生成的、复杂的、含噪声的非线性可分数据集上评估了 FCNN 框架：Half Kernel、Two Spirals、Cluster-in-Cluster、Crescent Moon、Corners 和 Outliers。每个数据集包含 400 个样本（70% 用于训练，30% 用于测试）。

• 性能：提出的 FCNN 模型（同时使用 AlexNet 和 ResNet-50）在 Two Spirals、Cluster-in-Cluster、Crescent Moon 和 Corners 数据集上实现了 100% 的准确率。在 Half Kernel 和 Outliers 数据集上，它们分别达到了 99.19% 和 99.17% 的准确率。
• 对比：FCNN 模型始终优于或匹配传统机器学习算法的性能。例如，随机森林在 Two Spirals 数据集上达到了 95% 的准确率，而 FCNN 达到了 100%。相比之下，SVM 和贝叶斯分类器在某些数据集上表现挣扎（例如，SVM 在 Cluster-in-Cluster 上降至 56.67%），而 FCNN 保持了 100%。
• 效率：训练时间在配备奔腾双核处理器的台式机上记录。AlexNet 每个数据集大约需要 4 分 50 秒，而更深层的 ResNet-50 大约需要 78 分钟。作者指出，使用 GPU 加速的工作站可以减少执行时间。

意义与主张
本文声称 FCNN 模型为表格数据分类提供了一种可行的替代方案，成功证明了当与模糊逻辑结合时，深度学习技术可以适应结构化数据。作者认为，他们的方法有效地从表格数据中学习了有意义的表示，实现了与现有方法相比具有竞争力或更优越的性能。

然而，本文在局限性和未来工作方面保持了适度的立场。作者承认，该方法目前最适合特征数量较少的数据集，因为映射图像中形状的数量与特征数量和术语集的乘积成正比，这受限于有限的图像尺寸。作者概述的未来工作包括：

• 通过将图像直接输入 DCNN 来消除中间的“数据集市”存储。
• 尝试不同的映射图像形态形状（圆形、六边形等）。
• 评估其他隶属度函数（高斯函数、三角形函数）和其他 DCNN 架构（VGG-16、GoogleNet）。
• 将模型部署到实际应用中。

研究结论认为，尽管挑战依然存在，但所提出的 FCNN 框架有望为利用深度学习进行结构化数据分析开辟新的机遇。