技术摘要：基于微调 MedGemma 的本地优先临床文本结构化用于再入院风险评估

1. 问题陈述

非结构化临床笔记仍然是可部署医疗 AI 的关键瓶颈。虽然大语言模型（LLM）提高了对临床文本的理解能力，但其在实际部署中面临四大障碍：

1. 隐私性： 基于云端的推理需要传输敏感的患者数据，这在许多研究场景下甚至是被禁止的。
2. 格式不稳定性： LLM 的输出具有非确定性，会对相同的输入生成不同的格式，从而破坏下游处理流水线。
3. 基础设施访问受限： 许多临床机构缺乏访问云端 API 或高端 GPU 集群的条件。
4. 可审计性： 黑盒化的专有模型增加了临床验证的难度。

此外，现有的临床 NLP 系统（如 cTAKES、MetaMap）主要针对检测单个概念进行了优化，而非将整个文档转换为具有预定义模式（Schema）的、结构化的、具有操作价值的数据。

2. 方法论：MedGemma StructCore

作者提出了 MedGemma StructCore，这是一个本地优先的两阶段提取流水线，旨在无需云端依赖的情况下，在消费级硬件（Apple Silicon、标准 GPU）上运行。该系统将自由文本形式的电子健康档案（EHR）笔记转换为一种被称为 KVT4（Cluster|Keyword|Value|Timestamp，即：类别|关键词|数值|时间戳）的规范化、可审计格式。

2.1 架构

该流水线完全通过 llama.cpp 在离线状态下使用 MedGemma 4B 模型（通过 GGUF Q5_K_M 量化）运行。

• 阶段 1：模式引导推理（SGR）摘要

  • 模型： 基础 MedGemma 4B（无 LoRA）。
  • 机制： 使用模式引导推理来强制执行严格的 Pydantic 模式，将自由文本笔记转换为涵盖九个临床类别（人口统计学、生命体征、实验室检查、问题、症状、药物、程序、利用率、处置）的结构化 JSON。
  • 策略： 通过头部/尾部 + 关键词窗口进行输入压缩；生成温度设置为 0.0 以确保确定性。
  • 角色： 采用 SGR 主要是作为一种格式稳定性机制，通过显式的模式引导来补偿参数量较少（4B）带来的局限。

• 阶段 2：KVT4 投影

  • 模型： 使用 “hard200” 数据集（从格式漂移严重的 200 份复杂文档中筛选出的数据集）进行 LoRA（低秩自适应）微调后的 MedGemma 4B。
  • 任务： 将阶段 1 的 Markdown 摘要投影为规范的 KVT4 事实。
  • 输出契约 (KVT4)： 严格的四字段管道分隔元组：类别|关键词|数值|时间戳。
    • 客观类别（生命体征、实验室检查、利用率、处置）： 严格的数值或白名单。
    • 语义类别（问题、症状、药物、程序）： 仅限证据标志。
  • 归一化： 确定性的后处理包括关键词规范化、单位去除、时间戳映射和去重。

• 信号完整性门控与混合再生

  • 一个自动化门控用于检测阶段 1 和阶段 2 之间的“隐性客观信号丢失”（例如，数值事实在阶段 1 中存在但在阶段 2 中丢失）。
  • 离线混合再生： 一种确定性的恢复过程，通过重新解析原始输出并从阶段 1 的 Markdown 中补充缺失的事实，而无需额外的 LLM 调用。在 4,000 份文档的样本中，该过程将文档级客观损失从 15.55% 降低至 8.48%。

2.2 下游任务：再入院风险预测

该流水线通过在 MIMIC-IV 数据集（N=50,000 次住院；N_test=9,857）上进行的 30 天非计划再入院预测 进行验证。

• 实验组：
  • A4 (表格基准)： 基于结构化 EHR 特征（实验室检查、人口统计学、利用率）的逻辑回归。
  • A3factlevel (提议方案)： 结合了 A4 特征与源自 KVT4 事实的**事实级稀疏哈希标记（fact-level sparse hashed tokens）**的混合模型。
  • 类型融合 (探索性)： 一个后置分支，将类型的语义概率（例如，心力衰竭、脓毒症）融合进预测器中。
• 评估： 使用配对受试者自助法置信区间（K=2,000）来比较各组，以确保避免患者层面的数据泄露。

3. 关键结果

3.1 提取可靠性

• 格式有效性： 99.74% 的阶段 2 输出符合严格的 KVT4 契约。
• 结构化参考验证 (LABS)： 在完整测试集（N=9,857）上，系统相对于结构化表格参考实现了 0.4809 的微 F1 值。性能随关键词变化（例如，钠 F1=0.837；血小板 F1=0.201）。
• 扩展试点： 使用 GPT-4.1-mini 替换阶段 1 的试点显示，F1 值略有提升（0.521 vs. 0.484），但表明在 0.52 左右出现平台期，这表明限制因素在于叙述与表格之间的参考不匹配，而非模型容量问题。

3.2 再入院预测性能

• 表格天花板： 全监督表格基准（A4，基于 N≈35,000 训练）实现的 AUROC 为 0.685。
• 公平比较 (匹配训练)： 当将 A3factlevel 与在相同缩减训练集（N_train=1,500）上重新拟合的表格基准进行比较时：
  • AUROC： A3factlevel (0.659) vs. A4LR (0.656)。提升幅度（+0.0033）较小且未得到统计学确认（95% CI: [-0.0048, 0.0107]）。
  • AUPRC： A3factlevel 显示出经证实的改进（+0.0162; 95% CI: [0.0077, 0.0252]）。
  • Brier 分数： A3factlevel 显示出经证实的改进（-0.0012; 95% CI: [-0.0022, -0.0003]）。
• 估计器鲁棒性： 在相同特征上训练的 XGBoost 未能超越逻辑回归，证实了该特征集更倾向于线性模型，且基准模型并非人为削弱。
• 校准： A3factlevel 模型在高风险区间表现出过度自信（校准斜率 = 0.741），表明需要进行部署前的重新校准。

3.3 效率

• 提示词 KV 缓存复用： 在 llama.cpp 中实现提示词缓存使阶段 2 推理速度提升了 10.6%，且输出结果位精确一致。
• 硬件： 该流水线可在消费级硬件（如 Apple M3 Max、8GB+ VRAM GPU）上运行，推理时无需依赖云端。

4. 重要性与主张

本文的主要贡献不在于提出一个最先进的预测模型，而在于建立一个可靠、可审计、本地优先的文本结构化基础设施。

• 可靠性定义： 作者将“可靠性”定义为输出契约的稳定性（99.74% 的格式有效性）和信号完整性审计（检测并恢复隐性数据丢失），而非声称实现了每个类别完全验证的提取准确度。
• 本地优先隐私： 系统证明了紧凑型、领域适配的模型（4B 参数）可以在消费级硬件上执行复杂的结构化提取，从而消除了对云端 API 的需求，并确保患者数据永远不会离开本地设备。
• 审慎的准确性主张： 作者明确指出，虽然源自笔记的 KVT4 事实增加了有用的预测信号（在 AUPRC 和 Brier 方面得到证实），但 AUROC 的提升较小且尚未得到确认。他们警告称，更强的提取质量和公平性主张需要进一步验证，并指出语义类别（问题、症状）目前除了一个小规模精选集外，仍缺乏定量地面临的真实值（ground truth）。
• 未来方向： 这项工作为可重用的基础设施（例如用于护理差距标记或队列分析）奠定了基础，而非作为一个独立的临床决策支持工具。作者强调，由于观察到的过度自信现象，在进行任何基于概率的临床应用之前，预部署校准是必要的前提。

总之，MedGemma StructCore 提供了一个格式稳定、可审计的流水线，成功地在本地硬件上架起了非结构化临床文本与结构化数据之间的桥梁，为实现隐私保护的临床 AI 提供了一条可行路径，同时也承认了当前在提取准确性和校准方面的局限性。