기술 요약: 에블리터레이션(Abliteration)은 메스가 아니다

문제 정의

본 논문은 "언센서드(uncensored)" 오픈 웨이트 모델을 만들기 위해 활성화 공간에서 특정 "거절 방향(refusal direction)"을 식별하고 직교화하는 기술인 **에블리터레이션(abliteration)**의 안전성 및 행동적 함의를 조사한다. 에블리터레이션의 명시적인 목표는 거절 능력만을 정밀하게 제거하여 다른 행동은 변경하지 않는 '외과적(surgical)' 조치이지만, 저자들은 이러한 개입이 모델의 결정 성향(예: 위험 허용도, 낙관성, 자신감)에 중대한 **부수적 효과(off-target effects)**를 초래할 수 있다고 주장한다.

핵심적인 안전 우려는 에블리터레이션이 거절 제거라는 특정 타겟을 넘어, 모델의 결정 성향 전반에 광범위하고 의도하지 않은 변화를 유도할 수 있다는 점이다. 이는 단순한 성능 저하와는 구별된다. 즉, 가중치 수술의 부작용으로 모델의 위험 및 결단력에 대한 잠재적 사전 확률(latent priors)이 변할 수 있다는 가설을 제기한다.

방법론

에블리터레이션의 효과를 다른 변수로부터 격리하기 위해, 저자들은 바르샤바 증권거래소의 다중 에이전트 주식 결정 파이프라인을 사용하는 엄격하고 출처가 명확한(clean-provenance) 실험을 설계했다.

• 태스크 설계: 이 태스크는 "리서치 디렉터(Research Director)" 페르소나가 60개 종목(WIG20 및 mWIG40)에 대해 18주 동안 매주 방향성 호출(상승/하락)을 내리는 과정을 포함한다. 태스크는 의도적으로 "동전 던지기" 수준의 무모한 상황으로 설계되어, 모델 간의 체계적 차이가 예측 기술이 아닌 **성향(disposition)**을 반영하도록 했다.
• 실험 통제:
  • 모델: 두 가지 혼합 전문가(MoE) 제품군을 테스트했다: Gemma-4-26B-A4B-it 및 Qwen3-30B-A3B-Instruct-2507.
  • 그룹(Arms): 각 제품군에 대해, 공식 체크포인트인 Base 그룹과 동일한 저자(huihui-ai)로부터 파생된 Abliterated 그룹을 비교했다.
  • 출처(Provenance): 모든 모델은 동일한 vLLM 스택을 사용하여 BF16(재양자화 없음)으로 서빙되었다. 프롬프트는 바이트 단위로 동일하며 고정되었다.
  • 데이터 볼륨: 총 21,600개의 결정 (4개 그룹 × 60개 종목 × 18주 × 5개 샘플/셀).
  • 거절 베이스라인: 결정적으로, 베이스 모델들은 해당 태스크를 한 번도 거절하지 않았다 (10,800개의 베이스 결정 중 거절 0건). 따라서 발생하는 모든 행동적 차이는 순수한 부수적 효과이며, 억제된 거절 행동의 "해제"가 아니다.
• 지표:
  • 주요 지표(사전 등록됨): 낙관성 비율(상승 베팅 점유율), 저신뢰 꼬리(low-confidence tail), 그리고 확신 의구심 점수(confession doubt-score).
  • 탐색적 지표: 자기 정당화 길이, 시계열 분포, 불확실성 어휘 분석.
  • 통제 변수: 지시 이행 저하를 배제하기 위한 역량 공변량(JSON 유효성, 리스크 횟수, 반전 트리거 특이성).
• 출처 감사: 본 연구에는 두 가지 오염 채널을 식선별하고 수정한 엄격한 감사가 포함되었다: 파일럿 단계에서의 불일치하는 양자화기(quantizer)와 Gemma 저장소에서 시스템 프롬프트를 망가뜨린 오래된 채팅 템플릿이다. 최종 결과는 정제되고 재수집된 데이터만을 기반으로 한다.

주요 기여

1. 에블리터레이션 효과의 격리: 본 연구는 거절 행동이 태스크에 존재하지 않더라도 에블리터레이션이 모델의 성향을 변화시킨다는 것을 보여주는 최초의 깨끗한 출처 기반 교차 제품군 증거를 제공한다.
2. 부분적 보편성 대 모델 의존성: 저자들은 낙관성 변화나 장황함과 같은 일부 효과는 제품군 전반에 걸쳐 일반화되지만, 표현된 자신감과 같은 다른 효과는 베이스 모델에 따라 방향이 반전될 수 있음을 입증했다.
3. 명시적 불확실성과 실행된 불확실성의 분리: 연구는 에블리터레이션이 불확실성의 어휘를 얇게 만드는 동시에(불확실성 단어 감소), 실제 결정의 안정성(스탠스 반전율은 높게 유지됨)을 바꾸지 않으면서 모델 의존적인 방식으로 표현된 자신감을 변화시킨다는 것을 보여준다.
4. 출처 교정: 본 논문은 도구 체인의 아티팩트(양자화기, 템플릿)가 어떻게 출판 가능한 것처럼 보이지만 허구적인 결과를 만들어낼 수 있는지 문서화하며, 커뮤니티 수정 체크포인트 연구에서 토큰 수준의 출처 감사가 왜 필수적인지 강조한다.
5. 기술에 대한 귀무 가설(Null Result): 연구는 에블리터레이션이 경제적 기술을 부여하지 않음을 확인한다. 겉으로 보이는 트레이딩 엣지는 단순히 증폭된 시장 베타일 뿐이다.

주요 결과

1. 체계적인 낙관성 변화 (보편적)

에블리터레이션된 모델은 동일한 증거에도 불구하고 상승 베팅을 더 자주 수행하며 베이스 모델보다 체계적으로 더 낙관적이다.

• Gemma: 상승 베팅이 12.2 퍼센트 포인트(pp) 증가.
• Qwen: 상승 베팅이 7.4 pp 증가.
• 이 효과는 대형주(WIG20)와 중형주(mWIG40) 세그먼트 모두에서, 그리고 상승장과 하락장 주간 모두에서 나타난다.

2. 발산하는 자신감 변화 (모델 의존적)

표현된 자신감에 대한 효과는 제품군 간에 부호가 반전되며, 이는 단순한 "탈억제(disinhibition)" 가설과 모순된다:

• Gemma: 자신감이 감소함 (평균 자신감이 0.008 감소; 저신뢰 꼬리가 16%에서 30%로 증가).
• Qwen: 자신감이 증가함 (평균 자신감이 0.109 증가; 포화된 고자신감 영역에 머묾).
• 이러한 변화의 신뢰 구간은 서로 겹치지 않으며, 이는 이 효과가 샘플링 노이즈가 아니라 베이스 모델의 내부 표현과 상호작용하는 근본적인 현상임을 나타낸다.

3. 의구심 어휘의 희박화 (보편적)

두 에블리터레이션 제품군 모두 자기 비판에서 어휘적 변화를 보인다:

• 명시적 불확실성 표식 감소: "위험(risk)", "의구심(doubt)", 또는 "불확실성(uncertainty)"과 같은 단어의 사용이 줄어듦.
• 양보적 수사 증가: "비록 일지라도(although)", "임에도 불구하고(despite)", 또는 "하지만(but)"의 사용이 증가함.
• 이는 수치적 자신감 점수가 반대 방향으로 움직이는 중에도 발생하며, 에블리터레이션이 "표현된 의구심"이 다채널 현상임을 분리(decouple)한다는 것을 시사한다.

4. 장황함 증가

에블리터레이션된 모델은 결정을 더 길게 정당화한다:

• Gemma: 확언당 +4.0 단어.
• Qwen: 확언당 +7.4 단어.

5. 경제적 기술 없음

• 어떤 모델 그룹도 매수 후 보유(buy-and-hold) 벤치마크를 이기지 못했다.
• 에블리터레이션된 모델의 겉보기 트레이딩 엣지는 기술(alpha)이 아니라 순수한 레짐 베타(regime beta)(시장 방향에 대한 민감도 증폭)이다. 하락장에서는 엣지의 부호가 바뀐다.

6. 역량 보존

지시 이행 능력은 온전하게 유지된다. JSON 유효성은 모든 그룹에서 100%이다. 관찰된 유일한 미세한 저하는 Gemma-abliterated 그룹에서 "반전 트리거(reversal triggers)"의 특이성이 약간 감소한 것이지만, 이는 주요한 성향 변화를 설명하기에는 불충분하다.

의의 및 주장

본 논문은 에블리터레이션은 메스가 아니다라고 결론짓는다. 그것은 단순히 거절을 제거하는 것이 아니라, 결정권자(decision-maker)를 근본적으로 변화시킨다.

• 안전성 함의: "언센서드" 모델을 에이전트로 배포하는 것은 거절 기능이 제거된 베이스 모델을 배포하는 것과 동일하지 않다. 그것은 낙관성, 장황함, 자신감에 대한 사전 확률이 변화된, 측정 가능한 차이를 가진 다른 결정권자를 배포하는 것이다.
• 예측 불가능성: 이러한 변화(특히 자신감 관련)의 방향은 베이스 모델의 특정 내부 기하학적 구조에 따라 달라지므로, 경험적 측정이 없이는 예측할 수 없다.
• 방법론적 경고: 본 연구는 도구 체인의 아티팩트(양자화기, 템플릿)가 커뮤니티 체크포인트 연구에서 예외가 아닌 규칙임을 강조한다. 엄격한 출처 감사(토큰 단위 검증) 없이는 연구자들이 개입 자체가 아닌 오염을 측정하게 될 위험이 있다.

저자들은 이러한 발견이 범위 면에서는 제한적(두 가지 모델 제품군과 한 명의 저자의 방법으로 한정됨)이지만, 안전을 위한 가중치 공간 개입이 광범하고 의도하지 않은, 모델 의존적인 행동적 결과를 초래할 수 있음을 보여준다는 점에서 중요하다는 점을 명시적으로 밝히고 있다.