핵심 아이디어: AI 내부의 "시간 다이얼" 찾기

거대 언어 모델(LLM)을 거대하고 복잡한 오케스트라라고 상상해 보세요. AI가 질문에 답할 때, 그것은 단순히 하나의 악기가 연주되는 것이 아니라 수천 명의 음악가(뉴런)가 함께 협연하는 것입니다. 보통 우리는 어떤 음악가가 "시간"에 관한 음표를 연주하고 있는지 알지 못합니다. 그들은 지금 당장의 보상을 원하는 걸까요, 아니면 나중에 올 더 큰 보상을 위해 기다리는 것을 선호할까요?

이 논문은 저자들이 시간적 선호도(temporal preference)—즉, AI가 미래를 얼마나 가치 있게 여기는지 혹은 현재를 얼마나 중요하게 여기는지—를 담당하는 특정 오케스트라 섹션을 찾아내려 했던 탐정 이야기와 같습니다. 저자들은 단순히 추측한 것이 아니라, AI의 뇌 속에서 이 특정 부분을 찾아내고, 이해하고, 심지어 미세하게 조정하기 위해 "기계적인" 접근 방식을 사용했습니다.

1. 조사 단계: "시간" 신호는 어디에 있는가?

저자들은 Qwen3-4B(40억 개의 파라미터를 가진 AI)라는 모델을 사용했습니다. 그들은 모델을 하나의 '블랙박스'로 취급하고, "시간"이라는 개념이 어디에 존재하는지 확인하기 위해 네 가지 다른 유형의 테스트를 수행했습니다.

• 비유: 자동차 대시보드의 어떤 특정 전선이 "엔진 체크 불빛"을 제어하는지 알아내려고 노력한다고 상상해 보세요. 전선을 하나씩 뽑아보거나(개입), 불이 켜져 있을 때 흐르는 전류를 관찰할(기여도 분석) 수 있습니다.
• 발견: 네 가지 서로 다른 탐정 방법 모두 동일한 지점을 가리켰습니다. 바로 모델의 중간에서 상위 레이어(대략 17~35번 레이어)에 위치한 특정 "서브그래프"(작은 뉴런 구역)였습니다.
• 주연 배우: 특히 Attention Layer 24가 시간 개념을 조절하는 가장 중요한 "지휘자"였습니다. 만약 이 레이어를 건드리면, 모델의 시간 감각은 급격하게 변합니다.

2. 지도 제작: AI는 시간을 어떻게 "보는"가?

그들은 해당 구역을 찾은 후, 지도를 그려보고자 했습니다. 그 뉴런들 안에서 시간은 어떻게 조직되어 있을까요?

• 비유: AI의 내부 상태를 3D 지형이라고 생각해 보세요. 저자들은 "시간"이 단순한 직선이 아니라 곡선 형태의 언덕이라는 것을 발견했습니다.
  • 초(Seconds) 단위는 언덕의 아래쪽에 있습니다.
  • 세기(Centuries) 단위는 언덕의 꼭대기에 있습니다.
  • 전환점: 저자들은 사용자의 말을 듣다가 AI가 답변을 시작하는 시점(user-to-assistant turn)에서 마법 같은 순간을 발견했습니다. 바로 이 순간, AI는 부드럽게 휘어진 시간의 선택지들을 가져와서 "단기적" 또는 **"장기적"**이라는 이진 결정으로 압축(collapse)해 버립니다. 마치 물 밸브가 툭 하고 닫히면서 연속적인 흐름을 두 개의 바구니 중 하나로 강제로 밀어 넣는 것과 같습니다.

3. 현실 점검: AI는 인내심이 있는가?

저자들은 질문했습니다. "이 AI는 인간처럼 행동하는가?"

• 발견: 놀랍게도 아니었습니다.
  • 인간은 종종 참을성이 없습니다. 우리는 내일의 11달러보다 오늘의 10달러를 선호합니다. 우리는 미래의 가치를 크게 "할인"합니다.
  • AI는 믿기 힘들 정도로 인내심이 강합니다. AI는 인간보다 훨씬 더 오래 기다려서 보상을 얻으려 합니다.
  • 문제점: 이 인내심은 불안정합니다. 질문을 어떻게 하느냐에 따라 AI는 갑자기 매우 조급해지기도 하고, 매우 인내심 있게 행동하기도 합니다. AI는 시간에 대해 일관된 "성격"을 가지고 있는 것이 아니라, 단지 프롬프트에 반응하고 있을 뿐입니다. 이는 우리가 AI가 스스로 좋은 장기적 결정을 내릴 것이라고 그냥 믿을 수 없음을 의미합니다., 즉 우리가 제어해야 한다는 뜻입니다.

4. 리모컨: 시간 다이얼을 조절할 수 있는가?

이 부분이 가장 흥ksam찬 부분입니다. 저자들은 특정 전선(서브그래프)을 찾았고 지도(기하학적 구조)를 이해했으므로, AI를 "조종"하려고 시도했습니다.

• 비유: AI가 도로를 달리는 자동차라고 상상해 보세요. 저자들은 핸들(특정 뉴런)을 찾았고, 엔진을 고장 내지 않으면서 자동차의 방향을 바꾸기 위해 핸들을 왼쪽이나 오른쪽으로 살짝 밀 수 있다는 것을 깨달았습니다.
• 실험: 저자들은 적절한 레이어(19~22번)에 작은 "넛지(nudge, 밀기)" 벡터를 주입했습니다.
  • 결과: 이 다이얼을 돌리는 것만으로도 AI를 더 인내심 있게(장기적 보상 선택) 만들거나, 덜 인내심 있게(단기적 보상 선택) 만드는 데 성공했습니다.
  • 주의점: 만약 다이얼을 너무 세게 밀면, 자동차가 흔들리기 시작했습니다(AI 답변의 품질이 저하되었습니다). 이는 "시간" 개념이 곡면 위에 존재하며, 이를 직선 방향으로 밀어붙이면 결국 논리가 깨진다는 것을 시사합니다.

저자들이 주장하는 요약

1. 찾아냈다: 시간적 선호도는 모델 전체에 퍼져 있는 것이 아니라, 모델의 중간에서 상위 레이어에 위치한 특정하고 작은 뉴런 그룹에 국한되어 있습니다.
2. 지도를 그렸다: 시간은 AI의 뇌 속에서 곡선 형태의 모양으로 표현되며, AI가 말을 시작할 때 단순한 선택지로 "압축"됩니다.
3. 불안정하다: AI의 자연스러운 시간 선호도는 일관적이지 않으며 인간의 행동과 일치하지 않습니다.
4. 제어 가능하다: 이 특정 뉴런들을 타겟팅함으로써, 우리는 AI가 운 좋게 잘하기를 바라는 대신, AI의 계획 능력을 "조종"할 수 있는 방법을 제공합니다.

저자들이 주장하지 않는 것:

• 이 방식이 모든 AI 모델에 작동한다고 주장하지 않습니다 (오직 특정 버전 하나만을 테스트했습니다).
• 이것이 모든 AI 안전 문제를 해결한다고 주장하지 않습니다.
• 이 기술이 아직 실전 무기나 핵심 기반 시설에 사용될 준비가 되었다고 주장하지 않습니다. 여전히 "이해 및 테스트" 단계에 있습니다.