What Does Development Add? Multiple-State Evidence Improves Causal Recovery in Constructed Transformer-Circuit Dossiers
本研究は、言語モデルのアナリストに対して、構築されたトランスフォーマー回路の最終状態のみならず、複数の連続的な状態を提供することが、他の実験条件がすべて同一である場合であっても、因果エッジの回復および介入後の予測の精度を大幅に向上させることを示している。
4092 件の論文
本研究は、言語モデルのアナリストに対して、構築されたトランスフォーマー回路の最終状態のみならず、複数の連続的な状態を提供することが、他の実験条件がすべて同一である場合であっても、因果エッジの回復および介入後の予測の精度を大幅に向上させることを示している。
本論文は、多重テストや交絡因子による偽陽性を回避するために、統計的に補正され時間的に整合された検知器を用いて、毒入れされたモデルを整合的なヌル条件と比較することにより、内部のバックドア前駆体が観測可能な悪意ある振る舞いに先行するかどうかを厳密に検証するための、因果的かつパワーマッチングされたプロトコルを提案するものである。
本研究は、学習の順序(異なる方向からバランスの取れた混合状態へと接近すること)が、インコンテキスト学習とインウェイト学習のメカニズムの強さに一過性的かつ測定可能な差異を生じさせる一方で、小規模なトランスフォーマーにおいては、持続的なヒステリシスや根本的に異なる因果回路構成をもたらさないことを示している。
本研究は、ブロックの順序を操作し因果介入を行うことで、関係性言語への曝露のタイミングが小規模な視覚言語トランスフォーマーにおける構成的な視覚的グラウンディングに影響を与えるかどうかを調査しており、最終的に、早期の曝露が後期の曝露に対して性能上の優位性をもたらすという証拠は見当たらないという結論に至っている。
この対照実験は、学習後の順序が安全性調整のメカニズムと結果に著しく影響を与えることを示しており、安全性調整の後に有用性の学習を行うことは、その逆の順序と比較して、不適切な拒絶と良性な過剰拒絶の両方を劇的に減少させる一方で、これらの行動の変化が安定した因果媒介変数ではなく、上層における表現の回転によって駆動されていることも明らかにしている。
本研究は、エビデンスに基づいた大規模言語モデルは、高校レベルの評価において教師のスコアとの一致度は中程度であり、寛容な傾向を示すものの、完全な自律型ハイステークス採点のためのツールというよりは、一貫性を重視した調整や研究のための価値ある透明性の高いツールとして機能することを示している。
本論文は、ミッション時間、エネルギー消費量、および負荷不均衡を同時に最小化することにより、異種混成UAVスウォームの多目的スケジューリング問題を効果的に解決するために、二層情報共有フレームワークと動的パレート優位性を備えた改良型ゴールドマイン最適化アルゴリズム(IGMO-DP)を提案し、既存の最先端アルゴリズムと比較して優れた収束性と多様性を実証するものである。
本論文は、人工的な認知システムが、介入に敏感な視覚的プロセス規則(異なる中間状態を区別するもの)を推論および適用することで、新たな結果を達成できることを示す言語フリーのタスクを導入しており、エンドポイントのみの対照群を大幅に上回る性能を示し、かつ直接的な介入の監督がない場合でも、明示的なプロセスコードが中間画像の置換によって逆転され得ることを示している。
本論文は、急速に普及しているもののセキュリティ上の脆弱性を抱える自律型AIエージェント・フレームワークであるOpenClawについて、そのアーキテクチャ、エコシステム、およびガバナンスを分析し、自律型AIエージェントという新たなパラダイムにおけるアクセシビリティ、速度、そしてセキュリティの間に内在する構造的な緊張関係を明らかにする、初の包括的かつ多角的な調査を提示するものである。
本論文は、時間という概念を単なるシーケンス番号と見なすフォン・ノイマン型アーキテクチャの仮定に対し、スパイキングニューラルネットワークにおける創発的な分化への特有の必要性と、確率的勾配降下法におけるその同型的な因果構造を実証することによって、時間の因果の矢をハードウェアに直接埋め込む新しい計算基質として、エリジビリティ・トレースを導入するものである。