TOAIAF: A Runtime AI Assurance Control Plane for Trustworthy On-Device Agentic AI in Consumer Intelligence Ecosystems
本文介绍了 TOAIAF,这是一个具有三阶段决策程序和七个治理组件的运行时 AI 保障控制平面,它在检测设备端智能体 AI 的安全违规、提示词注入和隐私风险方面显著优于基准系统,同时透明地报告了实验局限性,并将其框架映射至主要的国际 AI 安全标准。
2332 篇论文
本文介绍了 TOAIAF,这是一个具有三阶段决策程序和七个治理组件的运行时 AI 保障控制平面,它在检测设备端智能体 AI 的安全违规、提示词注入和隐私风险方面显著优于基准系统,同时透明地报告了实验局限性,并将其框架映射至主要的国际 AI 安全标准。
本研究提出了一种基于无人机的深度学习系统,该系统利用经过微调的 Mask R-CNN 算法来检测山洪灾害中的漂流受害者,并利用 GPS 元数据估计其运动轨迹,实现了超过 90% 的检测置信度,以增强搜索与救援行动。
本文介绍了 SpikeGate,一种超低功耗、事件驱动的脉冲神经网络门控机制,它通过在检测到异常时才对 Transformer 执行进行占空比控制,从而抑制常规背景信号,显著降低了连续端侧小语言模型推理的能耗。
本研究表明,在量子支持向量机的量子特征编码中引入统计关系可以影响二分类性能,但强调最优策略需要平衡预测准确性与电路复杂度,而非仅仅通过增加纠缠度来实现。
本研究开发并评估了一种基于 HealthLink BC 名录的透明且具备上下文感知能力的心理健康与物质使用服务检索系统,证明了将语义搜索与显式上下文权重相结合,能够比词法基准提高排序性能,同时也强调了在临床部署前需使用真实世界数据和人类相关性判断进行进一步验证的必要性。
本文提出了 ASWA,一种通信高效的联邦学习算法,该算法通过根据数据规模和更新相似度自适应地加权客户端更新,并优先考虑具有较高损失的客户端,在非独立同分布(Non-IID)数据下提升了准确率并减少了通信轮数,且无需额外的额外数据传输。
本文认为,现有的高风险人工智能治理框架(如 NIST、欧盟《人工智能法案》、ISO/IEC 42001)通过优先考虑以人工制品为中心的证据,而非进行抗辩所需的基于过程的证据,从而造成了关键的证据缺口,这一结构性缺陷在解释这些要求时固有的歧义性中得到了凸显,并最终损害了受治理利益相关者的程序性与认识论权利。
本文提出了 Agent Guard,这是一种 Linux 参考监视器,它通过使用基于 eBPF 的 LSM 来确定性地拒绝未经授权的文件和网络访问,并在进程层级间传播严格的“无出口”状态,从而为 AI 智能体执行人类授权的损伤边界,且其开销显著低于现有基准。
本文介绍了 Mastyf Guard 1.5B,这是一个轻量级的、基于能力的安全性框架,它通过实现一种“认知哈佛架构”来在物理上将数据摄取与动作执行解耦,从而在实现 99.33% 威胁召回率和标准 CPU 硬件上亚毫秒级延迟的同时,在数学上保证了对间接提示注入的免疫力。
本文介绍了 SmartADAPT-Net,这是一种轻量级神经框架,通过将固定群体模型与两阶段自适应策略(即基于即时观测的修正以及基于用户确认证据的渐进式个性化)相结合,在无需部署时重新训练的情况下,增强了在自由生活环境下基于智能手表的活动识别能力。