DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents
本文介绍了 DTap,这是首个用于 AI 智能体(AI agents)的可控且交互式的红队测试平台,它包含一个自主红队测试智能体(DTap-Red)和一个大规模基准测试集(DTap-Bench),旨在系统地评估并揭示 14 个真实世界领域的安全漏洞。
4157 篇论文
本文介绍了 DTap,这是首个用于 AI 智能体(AI agents)的可控且交互式的红队测试平台,它包含一个自主红队测试智能体(DTap-Red)和一个大规模基准测试集(DTap-Bench),旨在系统地评估并揭示 14 个真实世界领域的安全漏洞。
本文提出了一个通过利用误差分析决策树和新颖的方法论创新来揭示隐藏的子群失败并减轻偏差,从而将抽象的公平性原则转化为可验证的工程目标,以确保符合欧盟《人工智能法案》等法规,从而在医疗保健领域实现可扩展的可信人工智能运营化框架。
这项针对 154 项研究(2021–2025 年)的系统综述表明,尽管用于 IoT/IIoT 安全的 AI 研究高度集中在入侵检测方面,但由于标签匮乏和资源限制,当前的研究缺乏操作有效性,因此有必要转向标准化、具备漂移感知能力且可解释的部署协议。
本文引入了约束感知分解-重构过程元素标注(DR-PEA)方法,通过语义分解、过程重构和约束映射的三阶段流水线将非结构化过程文本转化为标准化结构化数据,旨在缓解大语言模型中的过程语义坍塌问题,并实现了优于现有基准方法的卓越性能。
本研究比较了 DenseNet121 和 Vision Transformer 模型在乳腺组织病理学图像上的分类准确率与解释稳定性,揭示了一个关键的权衡关系,即 DenseNet121 在准确率和局部解释方面表现更优,而 Vision Transformer 则在输入扰动下的解释鲁棒性方面表现出更强的稳定性。
本研究提出了一种结合了基于 LSTM 的 pH 值预测与深度强化学习控制的三阶段深度学习框架,并通过合成数据针对非洲土壤剖面进行了验证,旨在为数据匮乏的撒哈拉以南地区提供一种可扩展且可迁移的矿区修复优化方案。
本研究表明,利用自注意力机制的深度集合(Deep Set)聚合在建模变长、高频可穿戴身体活动数据方面优于传统方法,同时也表明对于更稳定的低频测量,较简单的聚合策略仍然足够。
本文提出了 AdapNet-IDS,这是一个自适应且可解释的深度学习框架,它集成了 BiLSTM、自注意力机制和弹性权重巩固(Elastic Weight Consolidation),旨在实现具有持续学习能力且在多样化网络环境中具备透明决策机制的高精度、实时入侵检测。
本文提出了 FedMOJO,这是一个闭环协作框架,它整合了低秩表示学习、差分隐私以及公平性-隐私优化,旨在非独立同分布(non-IID)数据下的联邦文本分类任务中,有效地平衡效用、群体公平性和隐私保护。
本文提出了一种利用 CNN、RNN 和 LSTM 模型,基于时间特征来检测无线传感器网络中节点级故障的深度学习框架,并通过性能指标进行验证,并通过实时图映射界面进行可视化。