What Does Development Add? Multiple-State Evidence Improves Causal Recovery in Constructed Transformer-Circuit Dossiers
本研究表明,相比于仅提供最终状态,为语言模型分析师提供构建的 Transformer 电路的多个连续状态,能显著提高因果边恢复和干预后预测的准确性,即使在所有其他实验条件保持一致的情况下也是如此。
4105 篇论文
本研究表明,相比于仅提供最终状态,为语言模型分析师提供构建的 Transformer 电路的多个连续状态,能显著提高因果边恢复和干预后预测的准确性,即使在所有其他实验条件保持一致的情况下也是如此。
本文提出了一种因果、等效功率的协议,通过将中毒模型与匹配的零假设条件进行比较,并使用经过统计校正且时间对齐的检测器以避免多重测试和混杂因素导致的假阳性,从而严谨地测试内部后门前兆是否先于可观测的恶意行为。
本研究表明,尽管训练顺序(从不同方向趋向平衡混合物)会在上下文学习与权重内学习机制的强度上产生瞬时的、可衡量的差异,但它并不会导致小型 Transformer 中出现持久的滞后现象或根本不同的因果电路组织。
本研究通过操纵块顺序并进行因果干预,调查了关系性语言的暴露时机是否会影响小型视觉-语言 Transformer 中的组合式视觉接地,最终发现没有证据表明早期暴露比晚期暴露具有性能优势。
这项受控研究表明,训练顺序显著影响安全对齐机制及其结果,揭示了在安全对齐之后进行帮助性训练,与反向顺序相比,能大幅减少不安全的拒绝和良性的过度拒绝,同时还表明这些行为转变是由高层网络中的表示旋转而非稳定的因果中介所驱动的。
本研究表明,尽管一个基于证据的大型语言模型在高中阶段评估中仅表现出与教师评分的中度一致性,并呈现出趋于宽容的倾向,但它作为一种面向一致性调节和研究的价值且透明的工具,而非用于完全自主的高利害评分。
本文提出了一种具有双层信息共享框架和动态帕累托支配机制的改进型金矿优化算法(IGMO-DP),通过同时最小化任务时间、能量消耗和负载不均衡,有效地解决异构无人机集群的多目标调度问题,并证明了其相比于现有最先进算法具有更优越的收敛性和多样性。
本文介绍了一项无语言任务,该任务证明了人工认知系统可以推断并应用干预敏感的视觉过程规则(区分不同的中间状态)以实现新颖的结果,其表现显著优于仅基于终点的对照组,并表明即使在没有直接干预监督的情况下,显式的过程编码也可以通过中间图像替换而被逆转。
本文对 OpenClaw 进行了首次全面的、多维度的调查,OpenClaw 是一个被快速采用但存在安全漏洞的自主 AI 智能体框架,通过分析其架构、生态系统和治理,揭示了在新兴的自主 AI 智能体范式中,可访问性、速度与安全性之间内在的结构性张力。
本文引入了资格迹(eligibility trace)作为一种新颖的计算基质,它将时间的因果箭头直接嵌入硬件之中,通过证明其在脉冲神经网络中对于涌现分化性的独特必要性,以及在随机梯度下降中具有同构的因果结构,挑战了冯·诺依曼架构将时间仅视为序列号的假设。