想象一下你是一名试图破解谜团的侦探，但你有一个严格的规则：你对任何受访者只能提三个问题。如果你采访的是一群青少年、一群退休人员和一群办公室职员，那么最适合青少年的三个问题对退休人员来说可能根本毫无意义。这正是机器学习的日常困境，机器学习是科学的一个分支，计算机通过寻找数据中的模式来学习如何进行预测。通常，这些计算机程序是在一个混合了所有人的庞大数据堆上进行训练的。但在现实世界中，人们并不都是一样的。一个针对“平均水平”人群训练的模型可能对大多数人效果极佳，但会对较小或不同的群体表现糟糕，就像一张地图为大多数司机显示了清晰的道路，却把少数人引向了沼泽。大问题在于：我们如何挑选出一套单一且有限的问题集（或称为“特征”），使其对所有人都有效——即便每个人都是不同的——而不需要为每个群体准备一份单独且昂贵的调查问卷？

这正是卡内基梅隆大学的研究人员在名为《通过广义福利优化实现人口稳健的特征选择》（Population-Robust Feature Selection via Generalized Welfare Optimization）的新论文中所解决的难题。他们引入了一种聪明的全新方法——PopFS。你可以把 PopFS 想象成一位超级聪明、具有公平意识的百科全书编辑。通常，编辑会挑选最热门的话题收录进书里，这使得书籍对大多数读者来说很棒，但却遗漏了小众读者的重要细节。然而，PopFS 使用了一个特殊的“公平调节旋钮”（称为福利目标），让这位编辑可以决定在多大程度上优先考虑那些服务不足的群体的需求。如果你把旋钮调高，编辑就会确保即使是那些通常获得最差预测结果的群体也能获得公平的机会，而不会破坏对其他所有人的整体效果。

研究人员发现 PopFS 是一个游戏规则改变者。它并没有试图寻找一个适用于所有人的完美模型（这通常是不可能的），也没有仅仅寻找在平均水平上表现最好的特征，而是挑选了一套共享的“问题”集，让每个群体都能基于这套问题构建属于自己的“答案解析”。在涉及八个不同群体、六项现实任务（从预测收入到追踪血液铅含量）的测试中，PopFS 的表现一致优于现有方法。它不仅帮助了平均情况，还将表现最差的群体的性能提升了高达 22%。

最令人兴奋的部分是它的灵活性。在研究人员追踪 43 个美国州份 COVID-19 症状的一个案例研究中，他们展示了只需通过调节他们的“公平旋钮”，就能将表现最差的州份的预测准确度提高近 40%，而几乎不会降低表现良好的州份的性能。这就像是在调节收音机，以确保坐在房间角落的听众不再听到杂音，同时又不让坐在扬声器旁的人听到的音乐变得更糟。该方法速度极快，能在不到 15 分钟内处理数千个潜在问题，这使其在现实世界中具有实用性。

问题所在：一种尺寸并不适合所有人

想象你是一名需要诊断病人的医生，但你只有一个微小的、固定的症状清单可以询问。你的病人来自全国各地：有些年轻健康，有些年长且患有慢性病，有些则生活在具有不同环境风险的地区。如果你挑选出对“平均”病人最有效的三个症状，你可能会错过老年人或年轻人至关重要的征兆。

这就是特征选择的核心问题。在机器学习中，“特征”只是你输入给计算机的数据点或问题（例如“年龄”、“收入”或“是否发烧？”）。通常，科学家会挑选那些能让计算机对最大规模人群表现最聪明的特征。但这会让规模较小或不同的群体掉队。

之前的一些方法试图通过构建一个巨大的、超稳健的模型来解决这个问题，试图让它对每个人都奏效。但这就像试图制造一双既能完美契合幼儿、又能适配篮球运动员和祖母的鞋子——这几乎是不可能的。另一些方法则尝试为每个群体建立一个单独的模型，但这需要为每个群体准备一份单独且昂贵的清单，这违背了拥有有限且共享资源的初衷。

解决方案：PopFS 与公平旋钮

论文作者提出了一个折中方案。他们希望找到一套共享的特征清单供所有人使用，但随后允许每个群体根据这份清单构建自己的定制化模型（即自己的“答案解析”）。

为此，他们发明了 PopFS。它是这样运作的，让我们用一个简单的类比来说明：

1. 老师与学生： 想象一位掌握了世界上所有信息的“大师老师”（Teacher）。这位老师知道每个学生的完美答案。PopFS 首先要求这位老师查看所有数据，并找出每个群体的“完美”预测。
2. 压缩测试： 现在，研究人员问道：“如果我们只给学生一份很小的、共享的 $k$ 个问题清单（特征），他们还能猜出老师的答案吗？”他们测试不同的问题清单，看哪一个能让学生最接近老师的智慧。
3. 公平旋钮（福利目标）： 这是神奇之处。研究人员意识到，仅仅挑选那个能获得最高平均分数的清单并不是公平的。因此，他们添加了一个可调节的旋钮，称为福利参数（用希腊字母 $\alpha$ 表示）。
   • 如果将旋钮设为 1，系统主要关注所有人的总分（即平均值）。
   • 如果将旋钮调低至 0 甚至 -1，系统就会开始更加关注那些目前得分最低的学生。它会迫使系统选择有助于那些挣扎中的群体的特征，即使这意味着表现最好的群体获得的帮助会略微减少。

他们是如何实现快速运行的

你可能会想：“等等，如果存在数千个可能的问题，而我们必须在数十个不同的群体上进行测试，那会耗费很长时间！”你是对的。尝试每一种可能的问题组合，就像是在一本拥有数千页内容的食谱中尝试每一种可能的食材组合一样，这会耗费一辈子。

PopFS 使用了一个巧妙的两步走策略来解决这个问题：

1. 大屏幕筛选： 首先，它快速扫描所有数千个特征，剔除那些明显无用的特征，只保留一个最具潜力的“候选名单”。这就像是一个选秀节目的评委，快速淘汰那些完全不会唱歌的人，这样就不必去听世界上每一个人的歌声。
2. 智能交换： 然后，它不再测试每一种组合，而是从一个好的清单开始，尝试一次交换一个问题。它使用一个快速的“猜谜游戏”（一个数学上的快捷方式，称为代理函数/surrogate）来预测哪些交换效果最好。它只对那些最好的候选者进行完整的、缓慢且昂贵的测试。这使得它即使面对数千个选项，也能在不到 15 分钟内找到完美的清单。

他们的发现

研究人员在包括以下内容在内的现实世界数据上测试了 PopFS：

• 收入预测（使用 ACS 和 UCI Adult 数据集）。
• 健康风险（来自 NHANES 的儿童和成人血液铅水平，以及来自 HELOC 的信用风险）。
• COVID-19 追踪（基于症状搜索，预测 43 个美国州的住院人数）。

在几乎所有的测试中，PopFS 都击败了其他方法。

• 对每个人都更好： 它提升了所有群体的平均表现。
• 对弱势群体更好： 最重要的是，它显著提升了那些通常获得最差预测结果的群体的表现。在某些情况下，与标准方法相比，它将“表现最差”群体的性能提升了高达 22%。
• COVID-19 案例研究： 当他们将此应用于预测 43 个州的 COVID-19 住院人数时，他们发现了一件非常有趣的事。通过将公平旋钮调至优先考虑那些最困难的州，他们将这些州的预测准确度提高了约 40%，而所有州的平均准确度几乎没有变化。

他们还注意到，PopFS 选择的特征会随着旋钮的变化而改变。当他们优先考虑处于困境中的州时，系统开始选择不同的症状（例如发烧的具体时间或味觉丧失），这些症状对于这些特定地区来说效果更好，而不是仅仅选择最常见的症状。这表明该方法实际上是在为正确的工作寻找正确的工具，而不仅仅是挑选最流行的工具。

为什么这很重要

这篇论文并不声称解决了世界上所有的难题。作者谨慎地指出，他们的方法依赖于初始“老师”模型的质量，并且使用了智能的快捷方式（启发式算法）而非每次都寻找数学上的完美答案。然而，其结果在许多不同类型的数据中都是强大且一致的。

核心结论是，我们不必在“对大多数人好”和“对每个人都公平”之间做选择。有了 PopFS，我们可以拥有一个单一的、可部署的问题集，它对每个人都有效，而且我们可以对其进行微调，以确保那些最需要帮助的人能得到帮助，而不会牺牲整个系统的质量。这是向着让机器学习不仅聪明，而且公平且能适应复杂多样现实的世界迈出的重要一步。