What Does Development Add? Multiple-State Evidence Improves Causal Recovery in Constructed Transformer-Circuit Dossiers
Este estudio demuestra que proporcionar a un analista de modelos de lenguaje múltiples estados secuenciales de un circuito transformador construido, en lugar de solo su estado final, mejora significamente la precisión de la recuperación de bordes causales y de las predicciones post-intervención, incluso cuando todas las demás condiciones experimentales permanecen idénticas.