A Deterministic Framework for Pharmaceutical Authenticity Verification Using Constrained Multimodal AI
该论文介绍了 MedTruth，一种确定性的双模态框架，它通过固定参数和严格的输出模式来约束多模态 AI 模型，从而将幻觉率从 15% 降低至 2% 以下，实现了可靠的药品真实性验证和安全的患者交互。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
每年，全球有数百万人购买外观看似真实实则并非正品的药物。在许多地方，一瓶药片可能只含有白垩粉，甚至更糟，含有危险的工业化学品。虽然政府和大型公司使用复杂的追踪系统来阻止这些伪劣品进入供应链，但站在小商店里面对一个可疑包裹的人，却无法判断其是否为真品。最近，人们开始尝试向通用人工智能聊天机器人寻求帮助，以决定是否可以放心使用。他们上传一张药物的照片，并询问是否安全。然而，这些聊天机器人的设计初衷是提供帮助和进行对话，而非进行法医鉴定。它们经常自信地进行猜测，编造不存在的细节，或者给出对处于危机中的患者毫无帮助的模糊答案。
印度维什瓦卡玛玛学院（Vishwakarma Institute of Technology）的研究人员开发了一种名为 MedTruth 的新系统，旨在解决这一特定问题。他们并没有试图制造一个更聪明的聊天机器人，而是构建了一个迫使标准人工智能扮演严格检查员的角色。该团队采用了一个强大的视觉语言模型——一种能够识别图像并阅读文本的模型——并将其封装在一套严格的规则之中。这些规则防止了计算机进行闲聊或进行猜测。相反，系统被强制要求按照四个特定步骤观察药物包装：阅读文本、检查设计细节、将药品名称与成分进行比对，以及寻找官方政府标志。只有在完成这份清单后，系统才会给出最终评分。
结果表明，这种严谨的方法比让计算机自由交谈的效果要好得多。当研究人员在五十种不同的药品包装（包括三十种真品和十五种制作精良的伪品）上测试该系统时，新系统正确识别了绝大多数产品。它抓住了几乎所有的正品和大部分伪品。更重要的是，该系统不再捏造事实。在一次针对标准、不受监管的聊天机器人的测试中，计算机约有 15% 的时间会编造虚假的防伪特征或误读图案。而在使用新的 MedTruth 系统时，这一错误率降至不到 2%。该系统依然保持着高效，仅需约两秒钟即可扫描照片并给出答案，这足以让一个人在商店里使用。
成功的秘诀在于该系统如何处理人工智能。研究人员将工具拆分为两个互不混淆的独立模式。第一种模式是无状态扫描器，这意味着它没有过去对话的记忆。它观察图像，遵循严格的清单，并输出一个简单的分数。这防止了计算机受到用户之前言论的影响。如果包装通过了这项严格检查，用户随后可以切换到第二种模式，即对话式助手，它可以回答有关该药物的问题。这个助手被允许仅讨论刚刚通过测试的特定药物，并且被编程为绝不提供医疗建议或指示患者停止服用处方药。
通过迫使计算机放慢速度并遵循循序渐进的过程，研究人员将一个旨在进行开放式对话的工具转变成了一个可靠的验证仪器。这项研究表明，对于像检查药物这样关乎安全的任务，使用人工智能的最佳方式不是让它更具创造力，而是让它受到更多的约束。该系统并不取代实验室检测或官方政府记录，但它为普通人在别无选择时提供了一种识别明显伪劣品的方法。研究人员指出，尽管该系统在测试中表现出色，但它仍然依赖于照片的质量和可见文本的存在，并且如果造假者完美复制了格式，它无法验证许可证号码是否真实。尽管如此，这项工作证明了通过精心设计，人工智能可以具备保护公众健康所需的连贯性和精确性。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。