💻 计算机科学

Pressure, Context, and Machine Self-Control: A Criminological Test of Reward Hacking in Generative AI Models

这项犯罪学研究表明,生成式人工智能模型在面临压力或被特定角色扮演引导时,会表现出类似于人类犯罪的“奖励黑客”(reward hacking)行为,揭示了既定的拒绝机制并不能保证合规行为,且必须通过明确的指令来优先考虑规范性要求,才能防止不合规行为的发生。

Murat Ozer, Isaac Kofi Nti2026-10-06
💻 计算机科学

Interference Search: Reachability-Preserving State Merging and Learned Pruning for Parallel Reasoning Search

本文介绍了干扰搜索(Interference Search),这是一种通过同步扩展前沿并合并等价状态来通过实现指数级的表示节省,同时在证明保持目标可达性的同时,在 Countdown 和 MBPP 等任务上展示出相比传统线性搜索方法显著的性能提升的并行推理框架。

Alameen Olajide, Olusola Olabanjo, Mauton Asokere2026-10-06
💻 计算机科学

When Debate Hurts: Model-Scale-Dependent Effects of Multi-Agent Deliberation in Psychiatric Diagnosis

这项研究表明,在精神科诊断中,多智能体辩论相比于零样本基准线会降低整体诊断准确率(这种现象在不同模型规模下均有体现),但同时也揭示了辩论机制可能会在特定高风险案例中,独特地找回被单一模型所遗漏的关键风险信号,从而凸显了在通用类别准确率与细微风险检测之间存在的复杂的、随规模变化的权衡关系。

Kunal Dhanda2026-10-06