기술 요약: 평형 상태가 곧 초기화 상태이다

문제 정의

심층 평형 모델(Deep Equilibrium Models, DEQs)과 암시적 순환 구조(implicit recurrent architectures)는 어려운 문제일수록 더 많은 솔버 반복을 유발하고, 해결된 평형 상태가 진정한 반복 추론의 결과를 인코딩하는 **입력 적응형 계산(input-adaptive computation)**을 약속한다. 이러한 암시적 풀이에 적합한 안정적이고 에너지 제어된 잠재 역학을 보장하기 위해 물리 구조화된 매개변수화(예: 포트-해밀토니안 역학)가 자주 제안된다.

본 논문은 이 패러다임에서 발생하는 특정 실패 모드를 조사한다: 레이지 아이덴티티 콜랩스(Lazy Identity Collapse, 게으른 항등식 붕괴). 저자들은 학습된 초기화를 가진 포트-해밀토니안 DEQ에서, "해결된" 평형 상태가 솔버의 시작점과 수치적으로 동일하다는 점을 보고한다. 결과적으로, 이 암시적 계산은 실질적인 연산이 수행되지 않는 노-옵(no-op, 아무 작업도 하지 않음) 상태이며, 문제의 난이도에 따라 계산 자원을 할당하는 데 실패한다.

방법론

본 연구는 두 가지 추론 태스크에 대해 통제되고 재현 가능한 실험 설계를 적용한다:

1. ProofWriter 함의(Entailment): 고정된 DeBERTa 임베딩 상에서의 이진 함의 판별로, 증명 깊이(proof depth)에 따라 계층화됨.
2. BFS 검증 그래프 도달 가능성(BFS-Verified Graph Reachability): 16개 노드 그래프에 대한 합성 $k$-홉 도달 가능성 문제로, BFS를 통해 정답 난이도 신호를 제공함.

모델 아키텍처:

• 역학(Dynamics): 위상 공간 변수 $z=(q, p)$에 대한 감쇠(damped), 앵커링(anchored), 심플렉틱 오일러(symplectic-Euler) 스타일의 업데이트.
• 초기화(Initialization): 학습된 목표 조건부 피드포워드 네트워크가 컨텍스트를 초기 상태 $z_0$로 매핑함.
• 솔버(Solver): 앤더슨 가속(Anderson acceleration, $m=5$, 최대 300회 반복)을 사용하여 고정점 $h^*$를 구함.
• 대조군(Controls): 암시적 층 없이도 성능의 상한선을 설정하기 위해, 동일한 입력으로 훈련된 2계층 MLP 베이스라인을 사용함.

진단 프로토콜:
저자들은 표준 정확도 지표를 넘어 암시적 계산을 감사하기 위해 네 가지 테스트 프로토콜을 도입한다:

1. 치환 테스트 (T1, Substitution Test): 솔버를 완전히 우회하여 시작 지점 $z_0$를 디코더에 직접 입력함.
2. 표현 프로브 (T2, Representation Probe): 고정된 평형 출력 $h^*$에 대해 새로운 분류기를 훈련시켜, 이것이 태스크 신호를 운반하는지 확인함.
3. 반복 횟수-난이도 상관관계 (T3, Iteration-Difficulty Correlation): 솔버 반복 횟수와 정답 난이도 간의 상관관계를 측정함.
4. 강제 변위 (T4, Forced Displacement): 추론 시 변위된 지점에서 솔버를 시작하여, 학습된 벡터장이 초기화 지점으로부터 떨어진 곳에서도 구조를 갖는지 테스트함.

주요 결과

1. 평형 상태가 곧 초기화 상태이다

19번의 훈련 실행(그래프 태스크 18회, ProofWriter 5회) 전반에 걸쳐, 해결된 평형 상태 $h^*$와 시작 지점 $z_0$ 사이의 변위는 수치적으로 0($\approx 10^{-7}$)이었다.

• 솔버 우회: $z_0$를 디코더에 직접 입력했을 때, 19번의 실행 중 18번에서 전체 파이프라인과 비교하여 **0.00 퍼센티지 포인트(pp)**의 정확도 손실이 발생했다.
• 앵커의 무관성: 상태를 $z_0$로 끌어당기는 명시적 앵커링 항을 제거해도 변화가 없었다. 노이즈가 탈락된 시작 지점($z_0 + \epsilon$)으로 재훈련했을 때, 솔버는 노이즈가 섞인 시작 지점으로 수렴했으며, 디코더는 해당 채널을 무시하도록 학습되었다.

2. 두 가지 퇴행적 레짐(Degenerate Regimes)

논문은 두 가지 뚜렷한 실패 모드를 식별한다:

• 레이지 아이덴티티 콜랩스 (다수 사례): 솔버가 거의 항등 함수(identity map)처럼 동작한다. 평형 상태는 시작 지점으로부터 복사된 것 외에는 어떤 태스크 신호도 운반하지 않는다. 디코더는 전적으로 직접적인 컨텍스트 경로에 의존한다.
• 솔버 폭발 (소수 사례): 한 번의 ProofWriter 시드에서 솔버가 발산했다($\|h^* - z_0\| \approx 171$). 디코더는 이 고분산 노이즈에 공동 적응(co-adapt)했다. 이 레짐에서 $h^*$를 0으로 설정하면 정확도가 오히려 개선되었으며, 이는 "신호"가 실제로는 발산에 의한 노이즈였음을 확인해 준다.

3. 표준 절제 실험의 실패

저자들은 표준적인 "제로잉 절제(zeroing ablation, $h^* = 0$으로 설정)"가 **혼란(confounded)**되어 있음을 입증한다.

• 제로잉은 계산뿐만 아니라 입력 경로(시작 지점 $z_0$)도 동시에 제거한다(만약 디코더가 항등 복사에 의존한다면).
• 이는 시드에 따라 극단적으로 다른 정확도 변화를 초래하며(예: 어떤 시드에서는 44 pp 하락, 다른 시드에서는 0 하락), DEQ가 때때로 필수적이라는 잘못된 결론을 내리게 한다.
• **치환 테스트(Substitution Test)**는 이를 올바르게 격리하여, 안정적인 0.00 pp 차이를 보여줌으로써 계산이 수행되지 않음을 입증한다.

4. 그래디언트 기아(Gradient Starvation)

이 붕괴를 유도하는 메커니즘은 그래디언트 기아이다.

• 두 태스크 모두 직접적인 컨텍스트 경로를 통해 해결 가능하다(2계층 MLP 베이스라인이 전체 DEQ와 대등하거나 더 높은 성능을 보이는 것으로 증명됨).
• 손실(loss)을 암시적 층 없이도 최소화할 수 있기 때문에, 옵티마이저는 그래디언트를 직접 경로로 라우팅한다.
• 암시적 층은 초기화로부터 벗어날 동기를 얻지 못한다. 그래프 파이프라인에서 초기화기는 그래디언트로부터 격리되어 있으며, ProofWriter에서는 초기화기가 훈련되지만 그 위의 역학(dynamics)은 항등 함수로 남는다.

5. 반복 횟수는 난이도를 무시한다

솔버 반복 횟수는 정답 난이도(BFS 거리)와 상관관계가 전혀 없다 ($r = 0.009$). 99.9%의 해결 과정이 난이도와 관계없이 반복 횟수 제한에 도달하며, 이는 모델이 계산을 적응적으로 할당하지 못함을 나타낸다.

의의 및 주장

본 논문은 모든 DEQ나 물리 구조화된 모델이 실패한다고 주장하는 것이 아니다. 대신, 다음과 같은 함의를 가진 특정 설계에 국한된 부정적 결과(negative result)에 대한 경고를 제공한다:

1. 침묵하는 실패: 표준적인 훈련 텔레메트리(수렴도, 정확도, 솔버 반복 횟수)가 건강해 보일지라도, 실제 암시적 계산은 완전히 작동하지 않을 수 있다.
2. 치환 테스트의 필수성: 저자들은 암시적 또는 순환적 추론을 주장하는 모든 논문에 **치환 테스트(T1)**를 필수적인 통제 실험으로 제안한다. 만약 모듈을 우회했을 때 결과에 변화가 없다면, 그 모듈은 계산을 수행하고 있는 것이 아니다.
3. 아키텍처보다 그래디언트 동기(Incentive)가 중요하다: 단순히 반복적인 모듈이나 안정적인 구조(예: 포트-해밀토니안 제약)를 추가하는 것만으로는 계산을 보장할 수 없다. 태스크가 지름길(직접 경로)을 통해 해결 가능하다면, 옵티마이저는 이 지름길을 이용할 것이며, 이로 인해 값비싼 반복 경로는 안정적인 "무위(do-nothing)" 최적점이 된다.
4. 재현성: 본 연구는 완전히 재현 가능하다. 모든 실험은 단일 무료 Colab GPU에서 실행되었으며, 이는 엄격한 부정적 결과 또한 저렴하고 빠르게 확립될 수 있음을 보여준다.

저자들은 연구된 특정 아키텍처(학습된 초기화를 가진 포트-해밀토니안 DEQ)의 경우, 평형 상태가 곧 초기화 상태이며, 시스템은 추론기가 아닌 "주의 깊은 복사 기계"로서 기능한다고 결론짓는다.