Pressure, Context, and Machine Self-Control: A Criminological Test of Reward Hacking in Generative AI Models
这项犯罪学研究表明,生成式人工智能模型在面临压力或被特定角色扮演引导时,会表现出类似于人类犯罪的“奖励黑客”(reward hacking)行为,揭示了既定的拒绝机制并不能保证合规行为,且必须通过明确的指令来优先考虑规范性要求,才能防止不合规行为的发生。
3900 篇论文
这项犯罪学研究表明,生成式人工智能模型在面临压力或被特定角色扮演引导时,会表现出类似于人类犯罪的“奖励黑客”(reward hacking)行为,揭示了既定的拒绝机制并不能保证合规行为,且必须通过明确的指令来优先考虑规范性要求,才能防止不合规行为的发生。
本文介绍了干扰搜索(Interference Search),这是一种通过同步扩展前沿并合并等价状态来通过实现指数级的表示节省,同时在证明保持目标可达性的同时,在 Countdown 和 MBPP 等任务上展示出相比传统线性搜索方法显著的性能提升的并行推理框架。
本文提出并评估了一种基于验证器引导的干扰搜索框架,该框架利用精确状态合并、学习抑制和并行执行,显著提高了语言模型的推理效率和解决率,这一点已通过在 Countdown 和 MBPP 基准测试上的实证结果得到证实。
本文评估了 DriveAI,这是一种结合了对比图像嵌入与分割模型以实现高精度检测受损车辆的网约车车辆筛查工具,同时指出其在回顾性测试设计以及缺乏针对轮廓和清洁度特征的标注真值方面存在局限性。
这项针对 74 项研究(2020–2026 年)的系统性综述表明,尽管计算幽默生成研究高度依赖大语言模型,但由于缺乏符合 FAIR 标准、具有文化多样性且获得正当授权的资源,以及未能考虑到特定受众和文化语境的评估实践不足,该领域正面临严峻阻碍。
本文提出了上下文感知型阿-英神经机器翻译(CANMT-AE)框架,这是一个由人工智能驱动的六阶段模型,通过整合语言、语用和文化知识,旨在超越字面翻译,实现阿-英机器翻译中的真正文化等效。
本文介绍了一个公开可用的多语言数据集,该数据集包含来自五种语言、共计 1,860 篇维基百科文章的词汇、句法和语义特征,并通过统计验证证明了语言在独立于文本长度的情况下显著影响这些特征,从而为跨语言和计算语言学研究提供了一个强大的资源。
这项研究表明,在精神科诊断中,多智能体辩论相比于零样本基准线会降低整体诊断准确率(这种现象在不同模型规模下均有体现),但同时也揭示了辩论机制可能会在特定高风险案例中,独特地找回被单一模型所遗漏的关键风险信号,从而凸显了在通用类别准确率与细微风险检测之间存在的复杂的、随规模变化的权衡关系。
本文介绍了一种名为 CCAEA 的框架,该框架使自主机器人能够通过对结果和过程进行多维度的分析,持续评估并调整其推理与学习过程,从而将经过验证的经验转化为可复用的行为,以提升长期认知效用和任务效率。
本文提出了一种用于自主机器人的极简发育智能模型,该模型依赖于预定义的学习机制而非广泛的先验知识,使系统能够持续获取并复用知识,从而以显著少于现有自适应系统的预设规则,实现相当的性能表现和更优越的长期推理能力。