Where Reasoning Breaks Under Compression: A Layer-Localized Quantization Autopsy with Three Foundation-Model Case Studies
本文表明,基础模型的推理能力表现出随架构而异的层特定脆弱性模式,揭示了虽然均匀量化在高比特位宽下足以适用,但通过由层局部脆弱性图谱引导的混合精度策略,可以在不牺牲性能的情况下实现低于四比特的显著压缩。
4157 篇论文
本文表明,基础模型的推理能力表现出随架构而异的层特定脆弱性模式,揭示了虽然均匀量化在高比特位宽下足以适用,但通过由层局部脆弱性图谱引导的混合精度策略,可以在不牺牲性能的情况下实现低于四比特的显著压缩。
本文介绍了一种轻量级、与骨干网络无关的安全包络层,该层通过封装冻结的基础模型,提供可证明的有界预测偏差、校准置信度以及鲁棒的分布外拒绝功能,从而确保在不同中心和架构下进行临床牙科诊断所需的可靠性。
本文介绍了 VozConsultAI,一种用于巴西葡萄牙语远程医疗中自动生成 SOAP 记录的与供应商无关的微服务架构,并展示了首次使用一种全新的、以临床为基础且优先考虑安全性并惩罚幻觉的评估指标对开源权重大语言模型进行的对比基准测试。
本文提出了一种结合多种可解释人工智能(XAI)方法的人类监督元模型框架,旨在为阿拉伯语情感分析生成更具合理性且符合人类认知的解释,在利用 CatBoost 实现 F1 分数显著提升 0.84 的同时,与以往的集成方法相比牺牲了一定的忠实度。
本文提出了 AM-RAF,这是一种概念性的六层架构,它整合了智能体推理、检索增强生成以及不确定性门控延迟技术,旨在为面临连接性与公平性挑战的资源受限型医疗系统,构建一个值得信赖且保护隐私的临床决策支持系统。
本文引入了一种统一的三轴量子风险可观测性模型,该模型通过算法抗性、信道保护和密码敏捷性对资产进行评估,并辅以开源实现(Sezar)以及在 TLS、QKD 和敏捷性场景下的实证验证,旨在解决当前单轴发现工具的局限性。
本文提出了一种面向车载边缘计算的移动性驱动任务卸载框架,该框架利用异步优势行动者-评论家(A3C)深度强化学习算法来优化调度决策,从而在动态车辆环境中有效地最小化延迟和能量开销,同时确保可靠性。
本文提出了一种从有限的医学图像数据中选择小型且具有性能代表性的验证集的新方法,以提高模型开发的准确性,并通过前列腺癌 MRI 分割任务证明,该方法得到的性能估计值比传统的随机划分更显著地接近真实的独立结果。
本文提出了一种用于交通事故识别的轻量化目标检测模型 SDD-YOLO11n,该模型集成了 ShuffleNetV2 骨干网络、DW_ADown 模块和 DS_SENetV2 模块,旨在显著降低计算复杂度的同时,相比于原始的 YOLO11n 及其他主流模型,提升其准确率与实时性能。
本文提出了一种用于优化机场餐饮运营中复杂的带时间窗及用餐休息的多趟次容量限制车辆路径与调度问题(MTCVRSPTW-MB)的协同缩减变量邻域搜索(rVNS)元启发式算法,并证明了在旧金山国际机场的实际案例中,该算法相比精确算法具有更优越的效率和里程缩减能力。