🤖 machine learning

Learning-To-Measure: In-Context Active Feature Acquisition

本文介绍了学习测量（Learning-to-Measure, L2M），这是一个元学习框架，它通过利用用于不确定性量化的自回归预训练以及最大化条件互信息的贪婪智能体，实现了跨多样化任务的上下文内主动特征获取，从而在无需针对每个任务进行重新训练的情况下，在标签稀缺和高缺失率的情境下表现优于基准模型。

原作者： Yuta Kobayashi, Zilin Jing, Jiayu Yao, Hongseok Namkoong, Shalmali Joshi

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yuta Kobayashi, Zilin Jing, Jiayu Yao, Hongseok Namkoong, Shalmali Joshi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一名试图诊断病人的医生，但你并不掌握病人的完整病史。你知道他们的年龄和性别（这些是“基准”特征），但你不知道他们的血压、胆固醇，或者他们是否对某种药物过敏。在现实世界中，获取这些额外细节需要成本、耗费时间，甚至可能存在风险（比如进行痛苦的活检）。

问题所在：“数据猜谜游戏”
传统的机器学习模型通常假设它们能一次性获得所有数据。但在现实中，数据往往是混乱的。有些记录之所以缺失，是因为医生没有开具相关检查单，或者患者负担不起这项费用。这被称为**“回顾性缺失”（retrospective missingness）**。

旧的方法就像是一个试图背诵特定考试答案的学生。如果面对一场略有不同的考试，他们就会失败。他们还经常尝试用猜测（插补法）来填补缺失数据的空白，但这可能会导致错误的决策，因为猜测本身可能是错的。

解决方案：测量学习（Learning-To-Measure, L2M）
这篇论文介绍了一个名为**“测量学习”（L2M）的新框架。请不要把 L2M 仅仅看作是一个背诵考试答案的学生，而要把它看作是一个超级智能的侦探**，他读过成千上万本不同的推理小说。

以下是它如何运作的原理，我们使用简单的类比来解释：

1. “通用侦探”（元学习）

与其为每一个单独的案例都训练一个专门的侦探（这既慢又需要大量数据），L2M 通过大量的、多样化的“练习案例”来训练同一个单一模型。

类比： 想象一位侦探已经破解了 10,000 起不同类型的案件（有的缺少指纹，有的缺少不在场证明，有的只有一个目击者）。因为他见过如此多的变化，他不需要从头开始学习如何解决一个新的案件。他只需要观察新的线索并说：“啊，这看起来像是第 4,502 号案件。我知道下一步该向谁索要什么线索了。”
论文的观点： 这使得模型能够在不针对每个特定任务进行重新训练的情况下，处理全新的、未见过的任务。

2. “不确定性指南针”（可靠的不确定性）

当一名侦探感到困惑时，他知道自己为什么困惑。L2M 的特别之处在于它不仅仅是瞎猜；它内置了一个**“不确定性指南针”**。

类比： 如果你问一个普通的模型，“这是一只猫还是狗？”它可能会以 99% 的信心回答“狗”，即使它没看到动物的面部图像。而 L2M 会说：“我认为它是狗，但我只有 60% 的把握，因为我看不见它的耳朵。”
论文的观点： 该模型使用序列建模技术（就像语言模型预测句子中的下一个词一样）来预测结果。这赋予了它一种非常可靠的、感知自己有多“困惑”的能力。

3. “策略性线索猎人”（主动特征获取）

这是核心魔力所在。模型不只是在猜测；它会主动决定下一步该购买哪 piece 信息，以最大限度地减少其困惑程度。

类比： 想象你在玩“二十个问题”的游戏。一个糟糕的玩家会问随机的问题。而一个聪明的玩家会问：“它是一种动物吗？”因为这个问题能立即将可能性减半。
L2M 是如何做的： 它观察自己的“不确定性指南针”。如果它对病人是否患有心脏病感到困惑，它会检查：“如果我获取这个血液检测结果，我会变得不再困惑吗？如果我做一次X光检查，我会变得不再困惑吗？”它会选择那个能提供最大“性价比”（即以最低成本换取最多信息量）的选项。
论文的观点： 它使用了一种数学技巧，使这个决策过程变得平滑且快速，从而使其能够在所有的练习案例中学习到最佳的提问策略。

4. 为什么它比旧方法更好

论文在真实世界的数据（如医院记录）和模拟数据上，将 L2M 与旧方法进行了对比测试。

结果： 当数据稀缺（标注样本很少）或数据非常混乱（有很多缺失部分）时，L2M 胜出了。
类比： 如果你有一个缺失了很多碎片的小拼图，旧的方法可能会试图强行把一块碎片塞进错误的位置。而 L2M 会观察整个画面，意识到自己缺少一个特定的角落碎片，然后首先请求获取那个特定的碎片，从而更快、更准确地完成拼图。

总结

测量学习（Learning-To-Measure）是一个通过学习大量过去的经验，从而成为决定下一步收集什么信息的专家的系统。

它不需要为每一项新工作重新进行训练。
它知道自己何时感到困惑，并利用这种感觉来引导下一步行动。
在数据缺失或获取成本高昂的情况下，它表现得最为出色，成为了信息的“聪明购物者”。

作者证明了这种方法比以往的方法更具鲁棒性（稳健性）和准确性，尤其是在数据不完整的棘手情况下。

技术摘要：学习测量：上下文内主动特征获取 (Learning-To-Measure: In-Context Active Feature Acquisition)

1. 问题定义

本文探讨了主动特征获取 (Active Feature Acquisition, AFA)，这是一个序列决策问题，即智能体通过为特定的测试实例自适应地选择要获取哪些特征，以在最小化获取成本的同时提高预测性能。这在医学诊断等领域尤为重要，因为获取某些特征（如影像学检查、活检）会产生显著的经济成本或风险。

现有 AFA 方法的一个关键局限在于其对回顾性缺失 (retrospective missingness) 的处理。历史训练数据通常包含由于先前的采集策略（例如，优先进行实验室检测而非影像检查的临床方案）导致的系统性特征缺失。标准方法往往无法考虑到这种缺失结构，从而导致获取策略出现偏差，且不确定性估计校准能力差。此外，大多数现有方法是为单一的、预定的任务设计的，需要针对每个任务进行重新训练，并依赖复杂的潜在变量模型，这些模型在高维设置下难以实现扩展性和可靠性。

作者将 Meta-AFA 问题形式化：训练一个单一的智能体，使其能够在具有多样化数据分布和缺失模式的任务分布上进行学习，从而使其能够在推理阶段泛化到未见的任务，而无需进行特定任务的重新训练。

2. 方法论：学习测量 (L2M)

作者提出了 学习测量 (Learning-To-Measure, L2M)，这是一个通过预训练序列模型（Transformer）进行上下文内 (in-context) AFA 的元学习框架。该框架由两个主要阶段组成：

2.1. 理论基础

AFA 的目标是最大化目标变量 $Y$ 与候选特征 $X_j$ 在给定当前已观测特征 $X_t$ 情况下的条件互信息 (Conditional Mutual Information, CMI)。
$I_\tau(Y; X_j | X_t = x_t) \triangleq \mathbb{E}_{X_j|x_t} [D_{KL}(P_\tau(Y | X_j \cup x_t) \parallel P_\tau(Y | x_t))]$

本文建立在因果框架（潜在结果模型）的基础上，阐明了在回顾性缺失数据中识别 CMI 的条件。在满足随机缺失 (Missing at Random, MAR)、缺失对目标无直接影响 (No Direct Effect) 以及正值性 (Positivity)（即有足够的采集动作覆盖）的假设下，仅使用实际测量了该特征的观测数据即可估计 CMI。

2.2. 架构与训练

L2M 使用自回归序列建模取代了显式的生成式建模。

模型架构： 一个带有两个头的 Transformer 序列模型：
1. 目标头 ( $f_\phi$ )： 在部分观测输入及历史样本上下文的条件下，预测目标的后验预测分布 (PPD)。
2. 策略头 ( $\pi_\theta$ )： 选择下一个要获取的特征。
上下文内学习 (In-Context Learning)： 模型将一系列上下文样本（具有已知标签和缺失模式的历史数据）和查询样本（部分观测的输入）作为输入。它学习直接从上下文中推断特定任务的数据生成机制和缺失结构。
代理优化 (Surrogate Optimization)： 由于精确的 CMI 最大化在计算上是难以处理的，L2M 优化了一个代理目标：即在获取候选特征后，目标头的一步前瞻预期预测损失（例如负对数似然）。
- 策略的训练目标是最小化该损失，在理论上，这对应于在贝叶斯最优预测器下最大化 CMI。
可微策略学习： 为了实现特征选择这一离散动作的梯度优化，作者采用了直通 Gumbel-Softmax 松弛法 (straight-through Gumbel-Softmax relaxation)。这使得模型在正向传播时可以采样动作，同时通过连续松弛进行反向传播梯度。
阻断策略 (Blocked Policies)： 在训练期间，策略被约束（“阻断”），使其只能选择在回顾性训练数据中存在的特征 ( $R_j=1$ )，从而确保模型在给定缺失约束的情况下学习有效的获取策略。

2.3. 训练程序

预训练过程涉及从先验（合成或半合成）中采样多样化的任务，这些任务具有变化的特征分布、标签机制和缺失模式。模型在上下文序列和查询样本上进行端到端训练，优化预测器和策略的联合损失。

3. 核心贡献

元学习形式化： 本文形式化了 Meta-AFA 问题，使单个智能体能够学习跨越具有多样化数据分布和回顾性缺失模式的、时间不变任务的获取策略，消除了对每个任务进行重新训练的需求。
用于不确定性和决策的序列建模： L2M 通过可扩展的 Transformer 架构结合了不确定性估计与决策制定。它为部分观测的输入提供可靠的不确定性估计，并利用这些估计来获取能最小化预期损失的特征。作者证明，这种形式化能够实现贪婪型和基于规划（前瞻）型 AFA 策略的元学习。
对数据稀缺和缺失的鲁棒性： 实验结果表明，L2M 在标签数据稀缺和特征缺失率较高的情形下，表现优于特定任务的基准方法。该方法通过在序列模型中显式传递不确定性，避免了确定性插补带来的弊端。

4. 实验结果

作者在合成和真实世界表格基准数据集（Metabric, MiniBooNE, MIMIC-IV, MNIST）上对 L2M 进行了评估。

不确定性量化： 与特定任务的 MLP 基准相比，L2M 展示了卓越的确定性校准能力。覆盖率图显示，L2模型在整个获取轨迹中更接近理想对角线，表明其预测分布更加可靠。
获取性能： L2M 的对数损失（预测性能）低于随机获取，并且在各种数据集上一致优于特定任务的贪婪策略（GDFS, DIME）和强化学习（DQN）基准。
泛化能力： 在合成任务上预训练的单个 L2M 模型可以泛化到未见的真实世界任务（如 MIMIC-IV）以及分布外 (OOD) 核设置（Matern 与 RBF），且无需微调即可保持性能。
前瞻能力 (Lookahead Capabilities)： 该框架支持前瞻策略（k 步规划）。实验表明，前瞻变体可以优于贪婪策略，特别是在子模性假设失效的特征协同任务中。
效率： 用于策略学习的路径梯度估计器被证明比 REINFORCE 等零阶方法更具样本效率且更稳定。

5. 重要性与声明

本文声称 L2M 代表了迈向面向序列决策的基础模型的重要一步，特别是在数据稀缺和高缺失环境下的应用。通过利用上下文内学习，L2M 消除了对复杂潜在变量近似和针对每个任务重新训练的需求，提供了一种原则性、可扩展且经过校准的特征主动获取方法。

作者将这项工作定位为概念验证 (Proof of Concept)。他们明确指出，虽然该方法在减少不必要测量（例如在临床分诊中）方面展现出潜力，但尚未达到部署阶段。实际应用需要进行前瞻性验证、仔细设定成本与效用，并辅以人工监督。这项工作为将元学习扩展到更广泛的数据模态和更丰富的任务分布开辟了道路，同时也承认了目前在处理随时间变化的动态特性以及依赖 MAR 假设方面的局限性。