Routing Matters in MoE: Scaling Diffusion Transformers with Explicit Routing Guidance
针对现有混合专家模型(MoE)在扩散变换器(DiT)中因视觉 Token 特性而表现不佳的问题,本文提出了 ProMoE 框架,通过引入包含条件路由与原型路由的两步显式路由引导机制,有效促进了专家专业化并提升了图像生成性能。
4214 篇论文
针对现有混合专家模型(MoE)在扩散变换器(DiT)中因视觉 Token 特性而表现不佳的问题,本文提出了 ProMoE 框架,通过引入包含条件路由与原型路由的两步显式路由引导机制,有效促进了专家专业化并提升了图像生成性能。
本文提出了名为"Brain-IT"的脑启发式方法,通过引入脑交互 Transformer(BIT)有效整合功能相似脑区簇的信息,仅需少量数据即可实现比现有最先进方法更忠实、更高质量的 fMRI 图像重建。
该论文提出了一种仅凭单路语音输入即可生成高分辨率说话人脸视频的新方法,通过结合语音条件扩散模型、统计面部先验、区域增强模块以及基于离散码本的图像渲染网络,实现了从语音直接驱动高质量、高保真且口型同步的说话人脸生成。
本文提出了 ThinkMorph 模型,通过微调 24K 条高质量图文交错推理轨迹,使文本与图像思维形成互补而非同构的协同机制,从而在视觉基准测试中取得显著性能提升,并展现出包括未见视觉操作技能、自适应推理模式切换及测试时扩展能力在内的涌现式多模态智能。
该研究通过系统分析 15 项医学图像分割任务,揭示了其遵循受解剖结构限制的幂律缩放规律,并证明拓扑感知增强策略能通过扩展有效拓扑覆盖来提升数据效率,而不会改变基本的缩放法则。
本文提出了速度对比正则化(VeCoR),一种通过引入“吸引”与“排斥”双向监督机制来增强流匹配模型稳定性的训练方案,有效解决了轨迹误差累积问题,并在 ImageNet 和 MS-COCO 等数据集的低步数及轻量级配置下显著提升了生成图像的质量。
本文提出了名为 UltraViCo 的免训练即插即用方法,通过抑制超出训练窗口 token 的注意力分散,有效解决了视频扩散 Transformer 在长度外推中面临的周期性重复与质量退化问题,将外推极限从 2 倍提升至 4 倍并显著优于现有基线。
本文提出了一种名为 ReSAM 的点监督自提示框架,通过“细化 - 重查询 - 强化”循环机制,仅利用稀疏点标注即可有效克服域偏移问题,显著提升了 Segment Anything Model 在遥感图像分割任务中的性能与鲁棒性。
本文提出了 InnoGym,这是首个旨在通过性能增益和新颖性指标系统评估 AI 代理创新潜力的基准与框架,揭示了当前代理在创造力与有效性之间存在的差距。
本文提出了 AdaptVision,一种受人类主动视觉机制启发的视觉语言模型新范式,它通过粗到细的自适应视觉令牌获取策略和去耦回合策略优化(DTPO)强化学习框架,在显著减少视觉令牌消耗的同时实现了优于现有高效方法的性能。
本文提出了名为 FARL 的框架,通过利用傅里叶分析将图像的相位(结构)与幅度(风格)特征解耦,并借助双交叉注意力机制引导视觉 - 语言模型进行自适应,从而显著提升了其在少样本场景下的泛化能力。
本研究提出了一种基于轻量级无监督变分自编码器(VAE)的模型,利用 3 米分辨率的 Planet Labs 4 波段卫星影像,在约 24 至 30 小时内实现了对苏丹冲突相关火灾区域的近实时检测,其性能在召回率和 F1 分数上均优于传统变化检测方法。
该论文通过构建控制变量实验框架,系统性地揭示了在持续测试时适应任务中,掩码家族(空间域与频域)的选择对模型稳定性的决定性影响,指出在基于 Patch 的架构中空间掩码能通过保持结构连贯性避免灾难性遗忘,而频域掩码的适用性则高度依赖于架构与任务的匹配程度。
本文提出了名为 Brain-Semantoks 的自监督框架,通过语义分词器和自蒸馏目标学习 fMRI 时间序列的抽象动态表示,从而在无需领域适应的情况下显著提升下游任务性能及泛化能力。
本文提出了-CLIP,这是一种通过跨注意力机制实现多粒度文本与视觉区域层级对齐,并引入-上下文对比对齐损失(-CAL)来平衡严格匹配与上下文关联的框架,从而在无需硬负样本的情况下显著提升了细粒度视觉 - 语言检索性能并达到了最先进水平。
CRISP 提出了一种从单目视频中恢复可模拟的人体运动与场景几何的新方法,其核心在于通过拟合平面基元构建凸且干净的仿真就绪几何、利用人体接触建模补全遮挡区域,并结合强化学习控制器确保物理合理性,从而显著降低了运动跟踪失败率并提升了仿真效率。
本文提出了 Solution Flow Models (SoFlow) 框架,通过结合流匹配损失与无需计算雅可比 - 向量积(JVP)的解一致性损失,实现了从 scratch 训练的高效单步生成模型,并在 ImageNet 256x256 数据集上超越了 MeanFlow 模型。
本文提出了一种结合深度学习图像分析与包含家族史数据的可解释多模态 AI 框架,旨在通过整合遗传风险因素提升皮肤病诊断的准确性与个性化水平,并规划了后续的临床验证以推动其在医疗工作流中的实际部署。
本文提出了名为 GeoTeacher 的半监督 3D 目标检测框架,通过设计基于关键点几何关系的监督模块和引入距离衰减机制的体素级数据增强策略,有效解决了有限标注数据下模型对物体几何信息敏感度低的问题,从而在 ONCE 和 Waymo 数据集上实现了新的最先进性能。
该研究提出了一种名为"ForCM"的新方法,通过将多种深度学习模型(如 AttentionUNet 和 ResUNet)与面向对象图像分析(OBIA)相结合,利用 Sentinel-2 多光谱影像显著提升了亚马逊雨林森林覆盖的制图精度(最高达 95.64%),并验证了结合开源工具进行全球环境监测的潜力。