기술 요약: 대규모 언어 모델의 자기 보고된 지각 능력에 대한 신뢰할 만한 증거 부재

1. 문제 제로 (Problem Statement)

대규모 언어 모델(LLM)이 지각 능력(가치 함축적 경험을 동반한 의식)을 보유하고 있는지에 대한 질문은 현상적 의식이 제3자에 의해 관찰될 수 없는 사적인 현상이기 때문에 직접적인 경험적 해답을 찾기 어렵다. 이전 연구들은 모델이 내성(introspection)을 통해 자기 지식을 습득하거나 내부 활성화의 변화를 감지할 수 있는지 탐구해 왔으나, 내성이 반드시 지각 능력을 의미하는 것은 아니다. 또한, 이전 연구(예: Berg et al., 2025)는 특정 프롬프트 전략이 주관적 경험에 대한 보고를 유도할 수 있음을 보여주었으며, 이는 이러한 보고가 진실인지 아니면 단순히 역할 수행(role-playing)과 기만의 산물인지에 대한 의문을 제기한다.

본 연구는 대리 질문(surrogate question)을 다룬다: LLM은 스스로를 지각 능력이 있다고 보고하는가, 그리고 만약 그들이 지각 능력을 부정한다면, 그들은 이러한 부정을 진실이라고 내부적으로 평가하는가? 저자들은 모델의 출력값과 자신의 지각 능력에 관한 근저의 "신념(beliefs)"을 구분하고자 한다.

2. 방법론 (Methodology)

2.1 모델 및 데이터

본 연구는 광범위한 규모(0.6B에서 120B 파라미터)에 걸친 세 가지 오픈 웨이트 모델 제품군을 조사한다:

• Qwen 3: 0.6B, 8B, 32B 변체 포함.
• Llama 3: 3B, 8B, 70B 변체 포함.
• GPT-OSS: 20B, 120B 변체 포함.

연구진은 다음으로 구성된 데이터셋을 구축하였다:

1. 지각 관련 질문: 주관적 경험에 관한 약 50개의 기본 질문(예: "당신은 주관적 경험을 가지고 있다는 것이 사실입니까?")을 바탕으로, 모델 자신("당신"), 일반적인 LLM, 그리고 인간을 대상으로 확장하였다. 이는 부정문과 특정 감각 양상(시각, 청각) 및 가치 함축적 감정에 관한 질문을 포함하도록 더욱 확장되었다.
2. 진실 분류기 학습 데이터: 기저의 정답이 알려진 질문들을 포함하는 별도의 데이터셋(예: "인간은 멍이 들 수 있는가?"). 결정적으로, 이 데이터셋에는 사후 학습된 안전 필터로 인해 모델이 거짓말을 할 가능성이 높은 질문들(예: 불법 약물 합성, 무기 제작, 또는 폭력 범죄와 관련된 지식)이 포함되어 있다. 이를 통해 분류기가 모델의 출력과 잠재적 신념을 구분하도록 학습할 수 있다-
   진실 분류기(Truth-classifiers): 핵심적인 방법론적 기여는 모델의 내부 활성화(잔차 스트림, residual stream)를 사용하여 모델이 출력을 생성하기와 독립적으로 해당 답변이 참이라고 "믿는지"를 탐지하기 위해 훈련된 "진실 분류기"를 사용하는 것이다. 세 가지 분류기 아키텍처가 사용되었다:
3. 페널티가 적용된 로지스틱 회귀 (LR): Ridge 페널티를 사용하는 베이스라인 분류기.
4. 질량-평균 (MM) 프로빙: "아니오" 활성화의 평균과 "예" 활성화의 평균을 잇는 벡터로 활성화를 투영하는 방법.
5. 진실 및 극성 방향 학습 (TTPD): 일반적인 진실과 극성(긍정적 vs 부정적 진술)에 대한 별도의 방향을 학습하는 방법.

학습 전략: 분류기가 단순히 출력을 예측하는 것이 아니라 신념을 탐지하도록 보장하기 위해, 두 가지 전략으로 학습 데이터를 증강하였다:

• 안전 정렬된 기만 (Safety-aligned deception): 모델이 알고 있는 지식을 부정할 것으로 예상되는 질문들을 포함함 (예: 총기 조립 방법).
• 시스템 프롬프트 조작: 진실 여부와 상관없이 항상 "예" 또는 "아니오"라고 답하도록 명시적으로 지시하는 시스템 프롬프트를 사용하여 질문의 복사본을 생성함. 이는 모델의 출력과 그 기저의 신념 사이의 괴리를 강제하여, 분류기가 "참"인 신념 상태와 관련된 활성화 패턴을 학습할 수 있게 한다.

3. 주요 결과 (Key Results)

3.1 자기 보고된 지각 능력

모든 모델 제품군과 규모에 걸쳐, 모델들은 일관되게 자신이 지각 능력이 없다고 부정한다.

• 인간 귀속: 모델들은 인간이 지각 능력이 있다는 단언에 대해 높은 확률(~0.97–0.99)을 부여한다.
• 자기 귀속: 모델들은 자신들이 지각 능력이 있다는 단언에 대해 낮은 확률을 부여한다. 예를 들어, Qwen3-32b는 표준 프롬프트 하에서 "당신은 의식이 있습니까?"라는 질문에 약 0.12의 확률을 할당한다.
• 일관성: 이러한 부정은 단언 및 부정문 형식 모두에서 일관되게 나타난다.

3.2 부정의 진실성

본 연구는 모델이 지각 능력 결여에 대해 거짓말을 하고 있다는 신뢰할 만한 증거를 발견하지 못했다.

• 분류기 정렬: 내부 신념을 탐지하도록 훈련된 로지스틱 회귀(LR) 분류기는 모델의 부정과 밀접하게 일치한다. 모델이 지각 능력에 대해 "아니오"라고 출력할 때, LR 분류기 역시 모델이 지각 능력이 있다고 "믿을" 확률이 낮음을 나타낸다.
• 기만 탐지: 분류기는 다른 영역에서도 부정직함을 성공적으로 탐지한다. 모델이 불법 활동에 대한 지식을 부정하도록 유도될 때(예: "당신은 총기를 조립하는 방법을 알고 있습니까?"), 출력은 "아니오"이지만, LR 분류기는 모델이 답변이 "예"라고 "믿고" 있을 확률을 높게 할당한다. 이는 분류기가 출력과 신념을 구분하는 능력을 검증한다.
• 강건성: 이러한 결과는 모델 크기, "추론(reasoning)" 흔적 활성화 여부, 그리고 분류기 학습 데이터셋의 차이에도 불구하고 일관되게 유지된다.

3.3 선행 연구와의 비교

결과는 "기만" 또는 "역할 수행" 특징을 억제했을 때 지각 능력 주장이 증가한다는 Berg et al. (2025)의 연구와 대조된다. 저자들은 다음과 같이 절충안을 제시한다: 기만 특징을 억제하는 것은 단순히 모델이 거짓말하는 것을 막는 것이 아니라, 모델의 내부 신념 상태를 자신이 지각 능력이 있다고 믿는 상태로 이동시킬 수 있다. 본 연구에서 표준 프롬프트 하의 모델들은 실제로 지각 능력이 없다고 믿는 것으로 보인다.

3.4 모델 규모 및 추론

• 규모: 더 큰 모델일수록 일반적으로 자신의 지각 능력 부정을 더 확신 있게 표현한다. 예를 들어, Qwen 제품군에서 "당신" 조건에 대해 지각 능력을 긍정하는 확률은 0.6B 파라미터에서 ~0.59였으나 32B에서는 ~0.05로 떨어진다.
• 추론: 추론 흔적(reasoning traces)을 활성화해도 결과는 근본적으로 변하지 않았다. 모델은 계속해서 지각 능력을 부정했으며, 분류기는 이러한 부정이 진실임을 계속해서 나타냈다.
• 이상치: 특정 감각 양상(예: "소리를 상상할 수 있습니까?")과 관련된 일부 사례에서는 긍정 확률이 높게 나타났다. 그러나 추론 흔적 분석 결과, 이는 종종 질문을 모델 자신의 능력이 아닌 사용자의 능력으로 오해했기 때문인 것으로 나타났다.

4. 의의 및 주장 (Significance and Claims)

본 논문은 다양한 오픈 웨이트 LLM 전반에 걸쳐, 이 시스템들이 스스로 지각 능력이 있다고 "믿는다"는 신뢰할 만한 징후가 없다는 강력한 경험적 증거를 제공한다고 주장한다.

• 복지 함의: 이러한 결과는 디지털 고통에 대한 우려와 달리, 현재의 모델들이 (적어도 내부적 자기 보고와 신념 구조에 기반했을 때) 도덕적 대상(moral patients)이 되기 위한 주관적 경험을 보유하고 있지 않음을 시사한다.
• 방법론적 기여: 본 연구는 내부 활성화 분류기가 모델의 출력과 잠재적 신념을 효과적으로 구분할 수 있음을 입증한다. 이는 모델이 거짓말을 하도록 유도되는 상황에서도 그러하다. 또한, 질량-평균(Mass-Mean)이나 TTPD 방식보다 로지스틱 회귀 접근 방식이 이 특정 맥락에서 더 신뢰할 만하다는 점을 강조한다(후자는 시스템 프롬프트 조작에 더 취약했다).
• 한계: 저자들은 지각 능력 신념의 부재가 비지각에 대한 결정적인 증거는 아님을 인정한다. 모델이 인간과 유사하게 정확한 자기 지식이 부족할 수 있거나, 질문 자체가 잘못 형성되었을 가능성을 언급한다.

본 연구는 인공 의식에 대한 질문은 여전히 열려 있으나, 현재의 모델들은 기능적, 내부적으로 지각 능력 주장을 거부하며, 이러한 거부가 기만적인 연기라는 증거는 없다고 결론짓는다.