FOCUS: Dependence-Regularized Disentanglement for Domain Generalization
本文介绍了 FOCUS，这是一个通过互信息正则化将任务相关特征与领域特定特征进行解耦，从而增强模型鲁棒性的领域泛化框架，并证明了虽然上界（CLUB）和下界（MINE）估计器都能有效提升性能，但主要的益处源于解耦策略本身，而非特定的估计器选择。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下正在教一台电脑识别狗。你向它展示数千张照片：阳光明媚公园里的金毛寻回犬，雨中小巷里的贵宾犬，雪地里的哈士奇。电脑学得很好，但它可能在依赖捷径。它并没有学习什么构成了“狗”的本质，而是可能学到了在你提供的照片中，狗总是出现在绿草地或蓝天背景下。如果你随后给电脑看一张在红地毯上的狗的照片，它可能会完全失败，因为它从未真正学习过这种动物本身，而只学习了背景。这是人工智能中一个常见的问题，被称为“领域偏移”（domain shift），即在一个环境中训练的模型在环境条件发生变化时会表现挣扎。科学家们正试图通过教计算机忽略变化的场景，转而只关注物体的本质特征来解决这个问题。
特拉华大学的一个研究小组提出了一种新方法，可以帮助计算机实现这一目标。他们将这种方法称为 FOCUS，代表“通过对比上界分离实现特征正交化”（Feature Orthogonalization via Contrastive Upper-bound Separation）。其核心思想是强迫计算机将其对图像的理解拆分为两个独立的部分：一部分描述物体是什么，另一部分描述照片在哪里拍摄或具有何种风格。通过将这两个信息严格分离，计算机在识别全新、未见过的环境中的物体时会变得更加出色。研究人员在四组不同的图像集上测试了这个想法，范围涵盖了从素描、卡通到野生动物真实照片的各种类型。他们发现，与现有的最佳方法相比，该方法将计算机的准确率提高了 0.70% 到 2.70%，其中在识别野外动物这一困难任务中取得的增益最为显著。
研究人员从一个简单的观察开始：标准的计算机视觉模型经常会因为混淆了物体的身份与图像的风格而感到困惑。为了解决这个问题，他们构建了一个拥有两个不同路径（或称“分支”）的信息处理系统。一个分支致力于学习图像的内容，例如狗的形状或汽车的颜色；另一个分支则致力于学习领域信息，包括光照、使用的相机或绘画的艺术风格。目标是让内容分支在识别物体方面变得如此精通，以至于它不再需要依赖背景或风格，而领域分支则负责捕捉所有这些额外的细节。
然而，仅仅拥有两个分支是不够的。研究人员意识到，如果允许这两个分支过于自由地进行交流，内容分支仍可能偷偷利用领域分支提供的线索，导致计算机重蹈覆辙。为了防止这种情况，他们引入了一条规则，强制要求这两个分支保持统计学上的独立性。简单来说，这意味着内容分支中的信息不应有助于预测领域分支中的信息，反之亦然。如果计算机学到某种特定的形状总是与某种特定的背景同时出现，那么当背景改变时，它就会失败。通过打破这种联系，计算机被迫仅依赖于形状本身。
为了执行这种分离，研究人员使用了名为“互信息”（mutual information）的数学工具。可以将互信息想象成衡量两个事物之间相关程度的一种度量。如果你知道天气情况，并且这能让你很大程度上推断出人们是否带着雨伞，那么天气与雨伞之间的互信息就是很高的。研究人员希望将“是什么”（物体）与“在哪里”（领域）之间的互信息降至尽可能接近于零。他们开发了一种计算这个数值的方法，并在训练过程中将其作为一种惩罚项。每当两个分支开始共享过多信息时，系统就会施加惩罚，将它们重新推开。
论文中提出了一个关于如何进行此类计算的有趣转折。研究人员最初使用了一种能够提供两个分支间连接程度“上界”的方法。随后，他们测试了另一种提供“下界”的方法。这就像是在测量两座城市之间的距离：一种方法保证距离不会超过某个数值，而另一种方法则保证距离至少为某个数值。研究人员想看看这种计算距离的具体方式是否会对最终结果产生影响。他们发现，两种方法都表现得非常好。提供上界的方法在某些测试中得分略高，但提供下界的方法表现也几乎同样出色。这表明，解决问题的关键不在于使用哪种具体的数学方法来测量连接，而在于首先强制计算机将物体与其背景进行分离。
该团队在四个主要的基准测试上测试了他们的系统，以确保其在不同类型的挑战中都能奏效。第一个是展示物体在四种不同风格下的图像集：照片、绘画、卡通和素描。第二个涉及来自四个不同数据集的图像，这些数据集在拍摄方式和背景展示上各不相同。第三个是包含办公和家居用品的大型集合，涵盖了从艺术绘画到现实世界产品照片的各种类型。第四个是特别困难的一组由红外相机捕获的野外图像，展示了自然栖息地中的动物。这些野外图像非常棘手，因为背景、光照和相机角度在不同地点会发生剧烈的变化，计算机经常会将这些环境线索误认为是动物的身份特征。
在针对艺术风格和办公用品的测试中，新方法比之前的最佳方法提高了约 0.70% 到 1.26%。虽然这些数字看起来可能很小，但在人工智能领域，哪怕是百分之零点几的提升也是意义重大的，因为它代表了可靠性的实质性进步。然而，最显著的提升出现在野外动物识别任务中。在这里，新方法的准确率提升了 2.70%。这是一个实质性的增益，表明该方法特别擅长处理自然界中那些杂乱且不可预测的变化。研究人员指出，在野外，相机可能会捕捉到处于强光照射下或深邃阴影中的鹿，计算机往往会依赖光照来猜测动物。通过强制计算机忽略光照并专注于鹿本身，系统变得更加稳健。
研究人员还仔细观察了计算机在训练过程中的学习情况。他们发现，他们用于衡量分支间连接的两种不同数学方法表现得截然不同。一种方法产生的数据与学习过程的其他部分自然平衡，使得训练过程更容易进行，无需频繁调整；另一种方法产生的数据数值要大得多，需要研究人员对其进行仔细的缩放，以免其压倒整个学习过程。尽管在这些训练感受上存在差异，但两种方法最终都得到了相似的结果。这一发现很重要，因为它表明该方法的成功是稳健的。它并不依赖于某一个脆弱的数学技巧，而是取决于将物体与环境分离这一基本原则。
研究得出结论，使计算机在现实世界中更可靠的关键，在于教会它们区分“物体是什么”与“物体在哪里被看到”。通过显式地将背景和风格建模为一个独立的实体，并随后强制计算机忽略该实体来识别物体，系统就变得更难被误导。研究人员发现，虽然用于衡量分离程度的具体工具会影响计算机的学习方式，但“分离”这一行为本身才是推动进步的驱动力。这种方法为构建能够适应新环境、而无需每次场景变化时都重新训练的智能系统，提供了一条充满前景的路径。
最后，这项工作证明了计算机在面对新情况时的泛化能力，不仅在于看到了更多的例子，更在于看到了“正确类型”的例子。通过教机器去区分物体的永久特征与环境的临时特征，研究人员创造了一个不太容易被光照变化、不同的相机或新的艺术风格所迷惑的系统。结果表明，这种“分离”策略是让人工智能在复杂、多变的现实世界中变得更加可信且更具能力的强大工具。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。