Failing FDA drug inspections are recorded later and less often than passing ones, biasing models trained and monitored on them
本文表明，FDA药物检查分类存在严重的报告偏差，即与通过检查相比，未通过检查的记录频率较低且存在显著延迟，这导致机器学习模型和监测指标出现实质性的性能退化，而这种退化只能通过特定的统计调整进行部分缓解，或通过发布发布日期来解决。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
每年，美国食品药品监督管理局（FDA）都会派遣检查小组前往制药厂，以确保其生产药物的安全。这些检查是公共卫生事业的重要组成部分，该机构也会公布检查结果。当检查员未发现问题时，设施会获得合格成绩。当发现严重问题时，设施会收到不及格成绩，这可能导致罚款、没收产品或其他法律行动。对于任何想要了解这些工厂运营状况的人来说，这些公开记录都是一个信息宝库。它们带有日期，涵盖了数十万家设施，并且是免费供任何人使用的。这使得它们非常适合用于训练被称为机器学习模型的计算机程序，以预测哪些工厂未来可能面临风险。人们希望通过研究过去的记录，这些程序能够能够在问题发生前发现隐患，从而帮助监管机构将其有限的资源集中在最需要的地方。
然而，在这些记录的保存方式中存在着一个直到现在才被察觉到的隐藏缺陷。这个缺陷不在于检查本身，而在于最终结果是如何被记录并向公众发布的。当一家工厂通过检查时，机构会快速且可靠地记录结果。但当一家工厂失败时，过程要慢得多，而且结果往往根本不会记录在公开数据库中。这为任何使用这些数据的人创造了一个扭曲的现实图景。一个观察这些记录的计算机程序看到的将是一个几乎一切都运行良好的世界，因为坏消息要么缺失，要么到达得太晚，以至于程序已经处理完相关环节并转向了下一项。这并非一个小错误；这是一种根本性的偏差，改变了数据的真实含义。
一位名叫 Phani Kumar Balagam 的研究人员通过调查 2018 年至 2023 年间进行的超过一万次药物检查调查了这一问题。该研究聚焦于一组已经有足够时间完成处理流程的检查记录。研究结果令人震惊：对于以合格成绩结束的检查，约有 74% 在数据库中有最终决策记录。而对于以不及格成绩结束的检查，仅有约 26% 有记录。这意味着，一次合格的检查出现在公开记录中的可能性几乎是失败检查的三倍。此外，即使一次不及格的检查最终被记录下来，也需要很长时间。平均而言，一次合格的检查大约在 86 天内被记录，而一次不及格的检查则需要超过 300 天。在许多情况下，不及格的结果根本不会出现。
这种延迟和缺失给依赖这些数据的计算机模型带来了严重问题。这些模型通常通过查看一个工厂的历史记录来预测其未来。如果一家工厂在五年前失败过，模型理想情况下应该知道这一点。但由于那次失败的记录可能尚未存在，或者根本不存在，模型就无法看到它。研究人员重建了一个预测模型，以测试当计算机被迫等待记录实际出现后才能使用它时会发生什么。结果显示，模型的辨别优劣工厂的能力显著下降。模型的准确性出现了可衡测的下降，证明之前的所谓高分在很大程度上是一种幻象，是由模型在当时实际上无法获取的数据所造成的。该模型一直在利用那些在现实世界中尚未可用的信息进行预测。
当试图在这些模型投入使用后对其进行监测时，问题变得更加严重。监管机构通常通过将模型的预测结果与实际发生的情况进行对比，来检查模型是否仍在正常工作。他们查看模型预测的失败次数与实际发生的失败次数之比。由于公开记录遗漏了如此多的失败案例，这种检查给出的答案是完全错误的。研究人员发现，标准的检查只能观察到模型本应捕捉到的实际失败案例中的百分之六左右。这就像是通过观察水面上产生的涟漪来测量河流的深度，却忽略了深层的暗流。
该研究还测试了统计学家用来修复缺失数据的标准数学技巧。其中一种常见方法是根据现有信息来推测缺失了多少失败案例。研究人员发现，在这种情况下，该方法完全失效了。缺失的失败案例不仅是被延迟了，它们往往是永久消失了。由于数据并未告知我们为什么某条记录缺失，计算机无法推测出真相。另一种涉及“等待更长时间以观察数据是否到达”的方法虽然有所帮助，但程度不够。即使在等待了两年之后，这种检查仍然遗漏了绝大部分的失败案例。研究结论指出，目前无法利用现有的公开数据来解决这一监测问题。缺失的信息根本无法被找回。
研究人员建议，解决方案出人意料地简单。FDA 已经掌握了所需的信息，它只需要多发布一条数据：即分类决策何时对公众可见的确切日期。如果该机构增加一个显示记录发布时间的简单字段，就能让计算机程序准确知道自己在任何时刻能看到什么，以及不能看到什么。这将防止模型利用“未来的信息”来进行“过去的预测”，并能让监测人员明确了解自己遗漏了多少信息。如果不做出这种改变，公开记录将继续呈现出一个制药厂比实际情况更安全的假象，而旨在保护我们的工具也将对它们本应发现的危险视而不见。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。