What Does Development Add? Multiple-State Evidence Improves Causal Recovery in Constructed Transformer-Circuit Dossiers
본 연구는 언어 모델 분석가에게 구성된 트랜스포머 회로의 최종 상태뿐만 아니라 여러 순차적 상태를 제공하는 것이, 다른 모든 실험 조건이 동일할 때에도 인과적 엣지 복구 및 개입 후 예측의 정확도를 유의미하게 향상시킨다는 것을 입증한다.