Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
这项针对 47 项生物医学人工智能研究的系统综述表明,尽管 SHAP 和 LIME 等解释性方法被广泛用于解释因果预测模型,但其评估过程过度依赖基于属性的指标,且极少验证实际的因果有效性,从而凸显了模型解释与因果推理之间存在的关键差距。
3870 篇论文
这项针对 47 项生物医学人工智能研究的系统综述表明,尽管 SHAP 和 LIME 等解释性方法被广泛用于解释因果预测模型,但其评估过程过度依赖基于属性的指标,且极少验证实际的因果有效性,从而凸显了模型解释与因果推理之间存在的关键差距。
本文综述了半监督学习范式(如自训练和主动学习)如何解决标注数据稀缺的问题,以实现用于精准医学的因果生物医学知识图谱的可扩展构建,同时强调了涉及大语言模型的当前挑战与未来方向。
本文介绍了 Mechanist,这是一个自主智能体系统,它利用全面的科学知识库和精选的实验方法来发现、验证并干预人工智能模型的底层机制,从而推动该领域从仅仅理解模型行为向实现主动控制迈进。
本文通过引入“重构间隙”概念,旨在证明全息深度学习模型在噪声边界条件下存在显著且不可预测的内部度量误差,从而量化了黑盒人工智能审计在认证模型内部机制方面的根本局限性。
这项针对合成传感器数据的自适应 TinyML 的多种子实证研究表明,在线学习显著缓解了概念漂移,且自适应能量策略优于静态模型,同时揭示了输入特征量化在低至 4 位时仍能保持精度,联邦学习的公平性主张需要撤回,并且尽管模糊调优器具有更优的结构可解释性,但神经基准模型在准确率上仍优于后者。
本文批判性地分析了农业目标检测研究中广泛存在的数据泄露问题,引入了一个包含12项标准的评分系统来评估33项基于PlantDoc的研究,并揭示了尽管报告的性能很高,但大多数研究都存在方法论上的缺陷——特别是关于增强范围方面——从而削弱了现实世界的可靠性,并为此向作者、审稿人和数据集维护者提出了具体建议。
这项经验风险研究表明,在标签有限且存在数据集偏移的情况下,基于曲率的收缩相比于源域校准能改善预测损失,尽管其相对于更简单基准模型的优越性取决于具体语境,这凸显了在平均收益与有害重校准风险之间存在的关键部署权衡。
本文提出了一种名为 SSDT-YOLO 的优化型 YOLOv8 框架,该框架集成了 TEfficientNet、SPDConv、C2f-Dual 和 SCSA 机制,旨在复杂的低光照环境下实现高效、高精度的水下小目标检测,同时显著减少模型参数量。
本文提出了 C2Net,这是一种基于 CEDNet 的轻量级算法,它利用点标注和一种新型的聚焦反距离变换(Focus Inverse Distance Transform),在复杂的无人机图像中实现高精度的牛只检测与计数,解决了遮挡和标注成本方面的挑战,同时为边缘设备部署提供了实用的解决方案。
本文提出了一种自适应基于边际的度量学习框架,其具有一种针对不平衡数据集的新型损失函数和一种分层双线性池化策略,在保持低计算成本的同时,在 3D 点云分类和检索任务中实现了最先进的性能。