Predictive Memory Localization: Forecasting Selective Intervention Paths from Internal Signals

기술 요약: 예측적 메모리 국소화 (Predictive Memory Localization, PML)

문제 정의
활성화 스티어링(Activation steering)은 연구자들이 특정 레이어에 국소화된 내부 표현을 주입함으로써 언어 모델의 행동을 제어할 수 있게 해줍니다. 그러나 기존 문헌은 중요한 간극을 시사합니다. 즉, 국소화(localization)가 정보가 어디에 존재하는지는 식별할 수 있지만, 특정 방향이 "선택적 운용 체제(selective operating regime)"를 허용하는지까지 보장하지는 못한다는 점입니다. 어떤 방향은 특정 개입 강도에서는 타겟 행동을 성공적으로 변화시키지만, 다른 강도에서는 의미론적 이웃(semantic neighbors)이나 관련 없는 능력에 손상을 줄 수 있으며, 혹은 어떤 강도에서도 깨끗한 효과를 내지 못할 수도 있습니다. 현재의 방법론들은 종종 정적인 국소화 증거나 고정된 강도의 개입에 의존하며, 이는 주어진 레코드, 방향, 그리고 레이어에 대해 사용 가능한 선택적 계수(selective coefficient)가 존재하는지를 예측하는 데 실패합니다. 핵심 문제는, 측정된 개입 경로상에서 레버리지를 제공하는 방향과 부수적인 피해를 초래하는 방향을 구분하는 것입니다.

방법론
저자들은 측정된 그리드 개입 경로를 메모리 국소화의 예측 대상으로 취급하는 프레임워크인 **예측적 메모리 국소화(PML)**를 도입합니다.

1. 측정된 그리드 개입 경로 (Measured-Grid Intervention Paths):
   PML은 사전 지정된 개입 강도($\alpha$)의 그리드에 걸친 레코드 조건부 경로를 정의합니다. 각 레코드 $i$, 방향 $v$, 레이어 $\ell$에 대해 시스템은 다음을 측정합니다:

   • 타겟 이동 ($\Delta T$): 원하는 행동에 대한 답변 마진(answer margin)의 변화.
   • 부수적 피해 (Collateral Damage): 의미론적 이웃($\Delta N$) 및 일반 능력($\Delta C$) 마진의 변화.
   • 무작위 교정 (Random Calibration): 무작위 가우시안 방향을 사용하여 무엇이 유의미한 타겟 효과 또는 피해인지를 정의하기 위해 별도의 95백분위수 임계값($\tau_T, \tau_N, \tau_C$)을 설정합니다.
   • 결과: 시스템은 홀드아웃(held-out)된 더 강한 계수들에 대해 네 가지 이진 이벤트를 기록합니다: Target-any, Neighbor Damage, Capability Damage, 그리고 Clean-any (피해 없는 타겟 효과).

2. 예측 신호 (Predictive Signals):
   PML은 다음과 같은 계층적 증거를 사용하여 이러한 결과들을 예측합니다:

   • 베이스라인 및 메타데이터 ($B+M$): 레코드 속성 및 모델 구성.
   • 정적 국소화 ($L$): 개입 없이 도출된 클래스 분리, 투영 및 돌출도(saliency)로부터의 특징들.
   • 지도 학습된 기하학 ($G$): 재귀적 특징 기계(RFM) 및 평균 그래디언트 외적 곱(AGOP)으로부터 도출된 특징들로, 여기에는 스펙트럼 집중도와 정렬도가 포함됩니다.
   • 저용량 반응 ($R$): 약한 개입 강도($|\alpha| = 0.1$)에서 측정된 "강도-분리된(strength-disjoint)" 인과적 측정치입니다. 이는 저렴한 동적 진단 도구 역할을 합니다.

3. 의사 결정 정책 (Decision Policy):
   위험 인지형 선택기(risk-aware selector)는 이러한 예측치를 사용하여 특정 계수를 선택하거나 포기(abstain)합니다. 효용 함수는 타겟 이동에는 보상을 주고 부수적인 마진 감소에는 벌점을 부여합니다. 이 정책은 밀집한 계수 그리드 스캔을 피하면서 효용을 극대화하는 것을 목표로 합니다.

주요 기여

• 무작위 교정 경로의 정의: 본 논문은 모든 레코드-방향-레이어 조합에 대해 타겟 레버리지, 의미론적 이웃 피해, 능력 피해, 그리고 깨끗한 계수를 공동으로 기록하는 측정된 그리드 경로를 정의합니다.
• 정적 vs 인과적 신호의 분리: 본 연구는 정적 국소화와 지도 학습된 기하학이 약한 예측 사전 확률(predictive priors)임을 입증합니다. 반면, $|\alpha|=0.1$에서의 강도-분리된 저용량 반응($R$)이 더 강한, 분리된 강도에서의 결과를 예측하는 지배적인 신호를 제공합니다.
• 실행 가능한 예측: PML은 예측을 실행(action)과 연결하여 홀드아웃된 부수적 피해 고려 정책을 제시합니다. 이 정책은 계수를 선택하거나 포기함으로써, 밀집한 개입 평가의 계산 비용을 줄이는 개념 증명을 제공합니다.

실험 결과
본 연구는 9개의 데이터셋과 14개 도메인에 걸쳐 3,000개의 동결된 레코드를 평가하여 30,000개의 고유한 경로를 생성했습니다. 결과는 세 가지 잔차 노름 매칭 베이스 모델(Qwen3-1.7B, Qwen3.5-2B, Ministral-3-3B)에서 확인되었습니다.

• 방향 성능: 학습된 방향(특히 레이어 7에서의 RFM/AGOP)은 무작위 대조군보다 유의미하게 우수한 성능을 보였습니다. 주요 연구에서 RFM/AGOP는 13.1%의 Target-any 및 12.3%의 Clean-any 발생률을 기록하여, 무작위 베이스라인보다 각각 3.6 및 3.4 퍼센트 포인트 높았습니다.
• 예측 계층 구조: 정적 국소화 특징은 베이스라인 메타데이터 이상의 예측 가치를 더하지 못했습니다. $|\alpha|=0.1$에서의 저용량 반응($R$)이 $|\alpha| \in \{0.25, 0.5\}$에서의 결과를 예측하는 가장 강력한 예측 변수였습니다.
• 모델 강건성: 예측 계층 구조(Low-dose > Static)는 세 가지 베이스 모델 모두에서 재현되었으며, 레코드-홀드아웃 매크로 AUROC 점수는 0.801에서 0.828 사이로 나타났습니다.
• 의사 결정 효용: 예측 기반 선택기는 고정 강도 정책에 비해 효용을 개선하고 의미론적 이웃 피해를 유의미하게 감소시킵니다. 이는 밀집한 스캔(26개의 계수)에서 약 2.55회의 평가(두 번의 약한 프로브와 최종 실행)로 평가 필요성을 줄여줍니다.

의의 및 주장
본 논문은 PML이 메모리 국소화를 정적인 주장으로부터 마진 수준의 선택적 결과에 대한 반증 가능한 예측으로 변환한다고 주장합니다. 핵심 발견은 작은 인과적 반응이 정적 국소화 기하학 단독보다 이후의 선택적 행동을 예측하는 데 더 유용한 예측 변수라는 점입니다.

저자들은 국소화가 자동으로 제어 가능성을 의미하는 것은 아니라고 강조합니다. 즉, 어떤 방향은 잘 국소화되어 있으면서도 선택적 운용 체제를 갖추지 못할 수 있습니다. PML은 국소화와 저렴한 인과적 측정을 결รรม함으로써, 어떤 방향이 사용 가능한 계수를 허용하고 어떤 방향이 포기를 요구하는지를 식별합니다. 이 연구는 일반적인 모델 편집을 해결하거나 모든 다운스트림 부작용에 대한 안전을 보장한다고 주장하는 것이 아니라, 측정된 경로 위상(path topology)에 기반하여 개입 강도를 선택하기 위한 엄격하고 위험 인지적인 프레임워크를 제공하는 데 목적이 있습니다.