🤖 AI

ChronoState: Hidden Elapsed-Time Conditioning for Temporal-State Action Selection in Frozen-Backbone Language Models

ChronoState 논문은 동결된 언어 모델이 직접적인 감독 하에 숨겨진 비토큰 경과 시간과 상징적 작업 상태를 효과적으로 결합하여 시간적 행동을 선택할 수 있음을 보여주며, 특정 벤치마크에서는 높은 정확도를 달지만 보이지 않는 가족군으로 일반화하거나 단순한 프롬프트 주입 타임스탬프 베이스라인을 능가하는 데는 실패한다.

원저자: Sam Siavoshian, Omar Ramadan, Amir K. Saeed, Benjamin A. Johnson, Amin Mohamed El-Amin Diab, Benjamin M. Rodriguez

게시일 2026-08-11

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sam Siavoshian, Omar Ramadan, Amir K. Saeed, Benjamin A. Johnson, Amin Mohamed El-Amin Diab, Benjamin M. Rodriguez

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 인터넷에 쓰인 거의 모든 것을 읽은 매우 똑똑한 로봇과 대화하고 있다고 상상해 보세요. 이 로봇은 지시를 따르는 데 매우 뛰어나지만, 재미있는 약점이 하나 있습니다. 바로 자신이 지금 몇 시인지 모른다는 것입니다. 로봇에게 1분은 명시적으로 "현재 오후 3:00"라고 적어주지 않는 한, 1년과 똑같이 느껴집니다. 이는 현실 세계의 과업을 수행할 때 문제가 됩니다. 만약 로봇이 도서관을 관리한다면, 책이 연체되었는지 알아야 합니다. 보안 시스템을 운영 중이라면, 비밀번호가 만료되었는지 확인해야 합니다. 보통 우리는 인간이 힌트를 주듯 채팅창에 시간을 직접 입력하여 로봇에게 알려줍니다. 하지만 만약 우리가 로봇이 텍스트로서 시간을 읽지 못하게 하면서도, 그 로봇의 뇌 속으로 직접 '숨겨진' 시간 신호를 속삭여 줄 수 있다면 어떨까요? 이것이 바로 이 논문이 탐구하는 핵심 질문입니다. "고정된(frozen) 로봇의 뇌에 텍스트 형태가 아닌 '숨겨진' 시간 신호를 직접 주입하여, 로봇이 텍스트로 시간을 읽지 못하더라도 더 나은 결정을 내리게 할 수 있는가?"라는 질문 말입니다.

존스 홉킨스 대학교의 샘 시아보시안(Sam Siavoshian)과 동료들이 이끄는 연구진은 이 질문에 답하기 위해 ChronoState라는 특별한 테스트를 구축했습니다. 그들은 언어 모델(로봇의 뇌)에 눈에 보이는 텍스트가 아닌 '숨겨진' 시간 신호를 주입할 수 있는지 확인하고자 했습니다. 이렇게 생각해 보세요. 보통 로봇에게 얼마나 오래 기다렸는지 알려주려면, "당신은 5분 동안 기다렸습니다"라고 직접 타이핑해야 합니다. 하지만 이 실험에서 연구진은 다른 트릭을 시도했습니다. 텍텍스트는 정확히 동일하게 유지하면서, '5분'을 나타내는 숫자를 로봇의 내부 회로에 비밀스럽게 직접 주입한 것입니다. 이를 연구진은 **크로노메트릭 인젝션(Chronometric-Injection, 시계측적 주입)**이라고 불렀습니다. 이는 마치 로봇에게만 들리는 비밀 이어폰을 쥐여주어, 특정 이벤트(예: 작업 시작 또는 캐시 채움) 이후 시간이 얼마나 흘렀는지 정확히 알려주는 것과 같습니다.

연구팀은 Qwen2.5-3B-Instruct라는 특정 유형의 로봇 뇌를 사용했습니다. 그들은 로봇 뇌의 주요 부분을 "고정(freeze)"했는데, 이는 로봇이 새로운 사실을 배우거나 핵심 지식을 변경하지 못하도록 설정했음을 의미합니다. 대신, 그들은 이 비밀 시간 신호를 들을 수 있는 아주 작은 학습 가능한 "어댑터(새로운 배선 패치)"를 추가했습니다. 연구진은 컴퓨터 캐시가 여전히 신선한지, 백그라운드 작업이 완료되었는지, 혹은 사용자 세션이 너무 오래되어 신뢰할 수 없는지 등 6가지 시나리오를 바탕으로 로봇을 테스트했습니다. 로봇은 "재사용(Reuse)", "대기(Wait)", "새로고침(Refresh)", 또는 "확인 요청(Ask for confirmation)"과 같은 행동 중 하나를 선택해야 했습니다.

결과는 놀라운 성공과 명확한 한계가 섞여 있었습니다. 로봇이 올바른 숨겨진 시간 신호를 받았을 때, 정답률은 약 **93%**에 달했습니다. 이는 시간 신호가 없거나 0으로 설정되었을 때의 정답률인 **55%**에서 엄청나게 뛰어오른 수치입니다. 더욱 흥-미로운 점은, 연구진이 시간 신호를 뒤섞었을 때(예: 실제로는 2시간이 지났는데 5분이 지났다고 잘못 알려주는 경우) 로봇의 정확도가 약 **33%**로 떨어졌다는 것입니다. 결정적으로, 로봇은 잘못된 시간 신호를 무시한 것이 아니라, 그 잘못된 신호를 그대로 따라 잘못된 결정을 내렸습니다. 이는 로봇이 단순히 추측한 것이 아니라, 실제로 숨겨진 신호를 '듣고' 그것을 이용해 자신의 답을 계산했다는 것을 증명합니다.

하지만 이 논문은 이 기술을 마법 같은 해결책으로 과장하지 않도록 매우 주의를 기울였습니다. 연구진은 숨겨진 시간 트릭이 효과적이긴 했지만, 로봇에게 시간을 알려주는 '최선의' 방법은 아니라는 것을 발견했습니다. 단순히 채팅창에 시간을 직접 입력하고(일반적인 프롬프트 방식) 로봇을 학습시켰을 때, 로ло봇은 **99%**의 정확도를 보였습니다. 따라서 숨겨진 신호가 순수한 정확도 측면에서 '승리'한 것은 아닙니다. 대신, 이 방식의 가치는 별도의 제어 가능한 채널이라는 점에 있습니다. 이는 시스템이 텍스트에 시간을 노출하지 않고도 로봇의 시간 반응을 테스트할 수 있게 해주며, 이는 보안이나 로봇이 충돌하는 정보를 어떻게 처리하는지 테스트하는 데 유용할 수 있습니다.

또한 연구는 로봇의 뇌가 벽에 부딪히는 지점도 찾아냈습니다. 로봇은 새로운 템플릿과 다양한 시간 길이를 다루는 데는 매우 능숙해졌지만, 자신이 본 적 없는 완전히 새로운 유형의 작업(구체적으로 '쿼터(quota)' 리셋 작업)에 배운 내용을 적용하라고 했을 때는 어려움을 겪었습니다. 이 작업의 정답률은 약 **50%**에 불과했는데, 이는 사실상 동전 던지기와 다를 바 없는 수준입니다. 이는 로봇이 자신이 본 특정 작업들에 대한 규칙을 따르는 법은 배웠지만, '시간 제한'이라는 추상적인 개념을 완전히 이해하여 새로운 상황에 적용하는 능력까지는 갖추지 못했음을 시사합니다.

결론적으로, 이 논문은 고정된 로봇의 뇌에 시간을 속삭여 넣을 수 있으며, 로봇이 그 속삭임을 사용하여 결정을 내릴 수 있다는 것을 보여줍니다. 이는 작동 가능한, 제어 가능한 인터페이스입니다. 하지만 이것이 로봇이 스스로 시간 감각을 발달시켰다는 뜻도 아니고, 이 숨겨진 방식이 시간을 밖으로 말하는 것보다 더 낫다는 뜻도 아닙니다. 이 방식은 연구자들이 로봇이 시간을 어떻게 처리하는지 연구하기 위한 멋진 도구이지만, 현실 세계의 시스템을 구축할 때는 시간을 프롬프트에 직접 쓰는 전통적인 방식이 여전히 가장 신뢰할 수 있는 챔피언입니다. 저자들은 이 방법이 방어 및 보안 AI 분야에서 유용할 수 있다고 제안합니다. 왜냐하면 시간 정보를 텍스트 로그에 노출하지 않고도 로봇의 타이밍을 제어하고 싶을 수 있기 때문입니다. 다만, 비밀 신호가 틀릴 경우 로봇이 자신 있게 잘못된 결정을 내릴 수 있으므로, 시간 출처를 항상 주의 깊게 확인하고 재검증해야 한다고 경고합니다.

기술 요약: ChronoState – 시간적 상태 행동 선택을 위한 은닉 경과 시간 컨디셔닝

1. 문제 정의

배포된 언어 모델(LM) 시스템은 종종 기호적 작업 상태(예: "캐시 채워짐", "작업 시작됨")와 경과된 실제 시간(예: "5분 전", "내일 할당량 초기화") 모두에 의존하는 외부 상태와 상호작용합니다. 국방 및 보안 워크플로우와 같은 많은 시나리오에서, 사용자에게 보이는 프롬프트에 명시적인 타임스탬프를 작성하는 것은 최적이 아니거나 위험할 수 있습니다. 이는 시스템 타이밍을 유출하거나, 신뢰할 수 없는 텍스트와 섞이거나, 긴 컨텍스트 속에 묻힐 수 있기 때문입니다.

본 연구의 핵심 질문은 **동결된 백본 언어 모델(frozen-backbone LM)**이 가시적인 기호 상태( $s$ )와 결합하여 시간적 행동을 선택하기 위해, 토큰이 아닌 시스템 측의 스칼라 값인 경과 시간( $\tau$ )을 활용할 수 있는지 여부입니다. 본 논문은 이 "은닉된" 시간(토큰 스트림에는 보이지 않지만 계산에는 접근 가능한 시간)이 모델이 시간을 자율적으로 추적하거나 기호적 컨트롤러를 대체할 필요 없이, 결정론적인 의사결정을 인과적으로 유도할 수 있는지 조사합니다.

2. 방법론

2.1 크로노메트릭 인젝션(Chronometric Injection, CI) 인터페이스

제안된 인터페이스인 크로노메트릭 인젝션은 경과 초를 연속적인 특징 벡터로 인코딩하고 이를 동결된 LM 백본의 잔차 스트림(residual stream)에 주입합니다.

시간 인코딩: 경과 시간 $\tau$ 는 사인 및 로그 인코딩을 사용하여 31차원 고정 특징 벡터 $\chi(\tau)$ 로 매핑됩니다:
$\chi(\tau) = [\sin(\tau/T_1), \cos(\tau/T_1), \dots, \sin(\tau/T_{15}), \cos(\tau/T_{15}), \log(1 + \tau)]^\top$
여기서 $T_k$ 는 2초에서 604,800초 사이의 특정 분모들입니다.
변조(Modulation): 인코딩된 시간 벡터는 트랜스포머 레이어 $\ell$ 에서의 잔차 은닉 상태 $h_\ell$ 를 **게이트형 FiLM (Feature-wise Linear Modulation)**을 통해 변조합니다:
$h'_\ell = h_\ell + \alpha_\ell \odot (\gamma_\ell \odot h_\ell + \beta_\ell)$
여기서 $\gamma_\ell$ 와 $\beta_\ell$ 는 $\chi(\tau)$ 의 아핀 변환이며, $\alpha_\ell$ 은 학습된 채널별 게이트입니다.
초기화: 컨디셔닝 프로젝터는 제로 초기화( $\alpha_\ell=0$ , 가중치=0, 바이어스=1로 스케일링)되어, 훈련 시작 시 모델이 동결된 백본과 정확히 동일하게 동작하도록 하여 급격한 분포 변화를 방지합니다.
적응(Adaptation): 변조된 상태에 대한 행동 선택 정책을 학습하기 위해 어텐션 프로젝션과 언어 모델 헤드에 Rank-8 LoRA 표면이 적용됩니다. 백본 파라미터는 동결된 상태로 유지됩니다.

2.2 ChronoState 벤치마크

ChronoState는 시간적 상태 추론을 평가하기 위해 설계된 강제 선택형 벤치마크입니다.

태스크: 가시적인 프롬프트가 기호 상태 $s$ 를 설명하고 은닉된 스칼라 $\tau$ 가 주어졌을 때, 모델은 유한한 집합 $\{ \text{REUSE, WAIT, RETRIEVE, REFRESH, WAIT QUOTA, DEADLINE MISSED, ASK CONFIRM} \}$ 중 하나의 행동을 선택해야 합니다.
패밀리: 벤치마크는 캐시(TTL), 작업(지속 시간), 데드라인(여유 시간), 할당량(초기화), 노후도(세션 연령), 다중 제약(우선순위 결합)의 6개 패밀리를 다룹니다.
오라클(Oracle): 엄격한 규칙(예: $\tau \ge \text{TTL}$ 이면 REFRESH)에 따라 골드 라벨을 생성하는 결정론적 정책 $\pi(s, \tau)$ 를 사용합니다.
분할(Splits): 데이터셋은 표준 테스트 세트와 더불어 템플릿, 지속 시간(보간), 결합(다중 제약), 패밀리(순수 할당량, 훈련에서 제외됨)에 대한 홀드아웃 분할을 포함합니다.

2.3 실험적 대조군

가시적인 스칼라에 대한 인과적 의존성을 확립하기 위해 본 연구는 여러 대조군을 사용합니다:

No-time: $\tau$ 를 0으로 설정.
Shuffled-time: $\tau$ 를 다른 예제의 스칼라로 교체(원래의 라벨은 유지).
Prompt Timestamp: 시간을 프롬프트 내의 텍스트로 작성(은닉 $\tau=0$ ).
Conflict: 가시적인 텍스트와 은닉된 스칼라가 불일치함.
Baselines: LoRA-only (시간 채널 없음), Vanilla (LoRA 없음), Prompt+LoRA (텍스트 타임스탬프 기반 훈련)를 포함합니다.

3. 주요 결과

3.1 표준 태스크 성능

Qwen2.5-3B-Instruct를 동결된 백본으로 사용하여:

Hidden-time CI: 표준 테스트에서 0.9305 ± 0.0134의 정확도와 0.9410 ± 0.0103의 균형 정확도를 달성했습니다.
Prompt+LoRA Baseline: 0.9893 ± 0.0052의 정확도로 은닉 시간 방식보다 우수한 성능을 보였습니다.
No-Time Control: 정확도가 0.5511로 떨어졌으며, 이는 모델이 시간 스칼라에 의존함을 나타냅니다.
Shuffled-Time Control: 정확도가 0.3323으로 떨어졌으며, 높은 잘못된 상태 일관성(Wrong-State Consistency, WSC) (~0.91)을 보였습니다. 이는 모델이 스칼라가 잘못되었더라도 주입된 스칼라에 따라 행동을 인과적으로 재계산함을 확인시켜 줍니다.

3.2 일반화 및 한계

강한 일반화: 모델은 홀드아웃 템플릿(0.9357), 지속 시간(0.8375), 다중 제약 결합(0.8652)에 대해 잘 일반화되었습니다.
약한 전이: 순수 할당량(pure quota) 패밀리에 대해서는 성능이 붕괴되었습니다(0.5065). 다중 제약 훈련 예제에 할당량 로직이 등장했음에도 불구하고, 모델은 순수 할당량 술어를 고립된 상태에서 추상화하는 데 실패했습니다.
충돌 처리: 충돌 시나리오에서 모델은 가시적인 텍스트보다 은닉된 스칼라를 강력하게 따랐으며(스칼라 추종 ~0.90), 이는 은닉 채널의 지배력을 보여주지만 안전한 불일치 처리 능력은 부족함을 나타냅습니다.

3.3 선형 진단

설계된 상태 특징과 시간 인코딩( $\chi(\tau) + s$ )을 사용하는 선형 모델이 높은 성능(예: 표준 테스트에서 0.9230)을 달성하여, 이 태스크가 명시적 특징으로 해결 가능함을 입증했습니다. 신경망 모델은 이러한 구조를 상당 부분 포착했으나, 순수 할당량 분할에서는 선형 베이스라인의 성능을 따라잡지 못했습니다.

4. 주장 및 의의

본 논문은 다음과 같은 좁고 의도적인 주장을 합니다:

실현 가능성: 동결된 백본 LM에서 은닉된 비토큰 경과 시간 스칼라가 직접적인 감독 하에 가시적인 기호 상태와 인과적으로 결합하여 시간적 행동을 선택할 수 있습니다.
인터페이스 유용성: 크로노메트릭 인젝션 인터페이스는 제로화, 셔플링 또는 가시적 텍스트와의 충돌이 가능한 제어 가능한 시스템 측 채널을 제공하며, 이는 시스템 상태 인터페이스를 연구하는 데 귀중한 연구 대상이 됩니다.
우월성 미주장: 본 논문은 은닉 시간 컨디셔닝이 프롬프트 타임스탬프보다 우월하다고 주장하지 않습니다 (Prompt+LoRA 베이스라인이 더 강력함).
자율적 추적 불가: 모델은 자율적인 시간 인지 능력을 갖추고 있지 않습니다. 모델은 전적으로 외부에서 공급된 스칼라에 의존합니다. 스칼라가 틀리면 모델도 틀린 행동을 생성합니다.
광범위한 추상화 부재: 순수 홀드아웃 할당량 패밀리에 대한 실패는 모델이 모든 술어 유형에 대해 광범위하고 보이지 않는 패밀리 추상화를 달성하지 못했음을 나타냅니다.

결론: ChronoState는 시간이 가시적인 토큰 스트림에 들어오지 않으면서도 라우팅에 영향을 미쳐야 하는 보안 또는 제약 환경에서, 시간 인지적 의사결정 지원을 위한 특정 아키텍처 패턴을 검증합니다. 이는 일반적인 시간 지능이나 결정론적 기호 컨트롤러의 대체물이 아니라, 은닉 시간 컨디셔닝을 위한 벤치마크 및 평가 프로토콜로서 기능합니다.