Cross-Sample Relational Fusion: Unifying Domain Generalization and Class-Incremental Learning
本文提出了跨样本关系融合（CORF），这是一个统一框架，通过利用空间贡献图进行样本细化以及采用级联蒸馏机制实现多粒度知识迁移，同时解决类增量学习中的域偏移和灾难性遗忘问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在训练一个机器人来识别物体，但它周围的世界却不断变化。
问题：机器人的记忆危机
通常，当我们教机器人学习新事物（例如在已经认识“马”之后学习识别“斑马”）时，它往往会忘记旧事物。这被称为灾难性遗忘。这就像一个学生为历史考试复习，然后立刻开始准备数学考试，结果突然忘记了关于法国大革命的一切。
但还有第二个隐蔽的问题：域偏移。想象一下，你的机器人只在阳光明媚的城市公园里学习过识别“狗”。如果你突然把它带到雾气弥漫的乡村农场，它可能会感到困惑，因为照片的照明、背景和风格完全不同。这就像机器人只在狗戴着墨镜出现在城市里时才学会了识别“狗”；现在它看到一只狗在泥泞的田野里，就完全认不出来了。
大多数现有方法只解决一个问题而忽略另一个。它们要么帮助机器人记住旧事物，却在新环境中失效；要么帮助它适应新环境，却导致它忘记旧的类别。
解决方案：CORF（跨样本关系融合）
作者提出了一种名为CORF的新系统。可以将 CORF 想象为一位超级聪明的学习教练，它利用两个主要技巧来帮助机器人在环境变化时学习新类别而不忘记旧知识。
技巧一：“智能照片编辑器”（双敏感细化）
想象一下，你正试图教机器人“马”长什么样。
- 高置信度技巧：教练挑选一张机器人 100% 确定的马的照片。然后，它从完全不同的地方（如不同的国家或天气）找到另一张马的照片。教练使用“掩码”来观察机器人关注的是哪里。它发现机器人正专注于马的身体（重要部分），但被背景（噪声部分）搞糊涂了。教练随后将第一匹马清晰的身体与第二匹马的背景融合。这教会机器人：“关注马，忽略背景。”
- 低置信度技巧：有时机器人会感到困惑（置信度低）。也许它看到了一张模糊的图像。教练将这张令人困惑的图像与同一场景中的不同动物（如牛）混合。这迫使机器人密切关注使马成为马、牛成为牛的具体细节，而不是仅仅根据背景进行猜测。
结果：机器人学会了识别物体的本质，无论它是晴天、雨天、城市还是乡村。
技巧二：“关系地图”（基于分层核的蒸馏）
当机器人学习新事物时，它往往会忘记旧事物彼此之间的关系。
- 想象机器人拥有一张它已知所有动物的心理地图。“狗”离“狼”很近，离“汽车”很远。
- 当机器人学习一个新类别时，它可能会无意中打乱这张地图，使“狗”和“汽车”看起来相似。
- CORF 使用一种蒸馏技术。它保留一份“旧地图”（新学习之前的）副本，并将其与机器人正在构建的“新地图”进行比较。
- 它不只是检查机器人是否答对了答案，而是检查动物之间的关系是否仍然正确。“狗是否仍然比离汽车更靠近狼？”如果新学习扰乱了这些关系，教练会温和地将机器人推回正确的轨道。这确保了机器人记住的是其知识的结构，而不仅仅是标签。
大局观
通过结合这两种技巧，CORF 创造了一个机器人，它能够：
- 记住一切：在学习新类别时不会忘记旧类别。
- 适应任何地方：它可以在阳光城市、雾天农场或潦草的素描中识别物体，因为它学会了忽略环境的“噪声”。
该论文在多个数据集（如 OfficeHome 和 DomainNet）上测试了这一点，发现将 CORF 添加到现有学习系统中，显著提高了它们处理这些现实世界挑战的能力。这就像给学生提供更好的学习指南和记忆辅助，使他们能够在任何教室、任何科目中通过考试，而不会忘记去年学到的内容。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。