당신이 로봇에게 북적이는 주방이나 어지러운 거실처럼 혼란스러운 세상을 항해하는 법을 가르치고 있다고 상상해 보십시오. 이를 위해 로봇은 '세계 모델(world model)'—자신의 팔을 움직이거나 머리를 돌렸을 때 다음에 어떤 일이 일어날지 예측하는 정신적 지도—을 구축합니다. 수년 동안 과학자들은 로봇이 가공되지 않은 비디오로부터 학습할 때, 어떻게 하면 혼란을 겪거나 스스로의 '두뇌를 망가뜨리지' 않고 학습하게 할 것인가라는 특정 문제로 골머리를 앓아왔습니다. '결합 임베딩 예측 아키텍처(Joint-Embedding Predictive Architectures, JEPA)'라고 불리는 최근의 돌파구는 로봇의 정신적 지도가 조직적이고 깔끔하게 유지되도록 강제함으로써 이 '망가지는' 문제를 해결했습니다. 이는 마치 사서가 모든 책이 선반에 완벽하게 들어맞도록 강제하는 것과 같습니다. 하지만 이 새로운 논문은 바로 그 도서관을 깔끔하게 유지하는 방식이 로봇으로 하여금 책이 빠졌는지 혹은 낯선 사람이 들어왔는지를 알아차리는 것을 불가능하게 만든다는 숨겨진 함정을 밝혀냈습니다. 로봇은 모든 것을 '정상'으로 유지하는 데 너무 집중한 나머지, 무해한 흔들림과 위험한 충돌을 구분하지 못하게 된 것입니다. Yu-Xiang Wu와 Yuyan Wu가 이끄는 이 새로운 연구는 바로 이 퍼즐을 해결하고자 합니다.

이 논문은 TRIM(Training-Time Regularization for Inference-Time Monitoring)이라는 영리한 새로운 프레임워크를 소개합니다. 이것은 로봇이 도서관을 정리하기 위해 사용했던 바로 그 도구를 보안 요원으로도 사용할 수 있게 만드는 마술 같은 기술입니다. 저자들은 로봇이 학습하는 동안 수행하는 '정리 작업'이 사실 비밀스러운 통계적 지문(statistical fingerprint)을 남긴다는 사실을 발견했습니다. 학습이 끝난 후 이 지문을 재사용함으로써, TRIM은 로봇이 추가적인 훈련이나 특별한 '경보' 학습 없이도 갑작스러운 이상한 움직임이나 부서진 물체와 같은 이상 징칙을 감지할 수 있게 해줍니다. 이는 마치 요리사가 채소를 완벽하게 써는 법을 배우는 과정에서 실수로 칼이 손에 느껴져야 하는 정확한 느낌을 배운 것과 같습니다. 나중에 그 요리사는 '나쁜' 칼이 무엇인지 따로 배우지 않았음에도 불구하고, 칼의 느낌이 '이상하다'는 것을 즉각적으로 알 수 있게 되는 것입니다.

문제점: "너무 깔끔한" 함정

왜 TRIM이 필요한지 이해하려면 로봇의 두뇌가 어떻게 작동하는지 살펴봐야 합니다. 로보가 블록을 쌓는 법을 배우고 있다고 상상해 보십시오. 로봇은 비디오를 보고 다음 프레임이 어떻게 보일지 예측하며, 자신의 예측을 현실과 일치시키려 노력합니다. 로봇이 포기하고 단순히 "모든 것이 똑같다"라고 추측해 버리는 문제(이를 '표현 붕괴(representation collapse)'라고 합니다)를 막기 위해, 과학자들은 SIGReg라는 도구를 사용합니다. SIGReg는 엄격한 코치처럼 작동하여, 로봇의 내부 생각이 마치 사람들이 완벽한 원형으로 서 있는 것처럼 고르게 퍼지도록 강제합니다. 이는 로봇의 두뇌를 안정시키고 붕괴를 방지합니다.

하지만 저자들은 이 접근 방식에 중대한 결함이 있음을 발견했습니다. 로봇의 생각을 완벽하고 균일한 원형으로 강제함으로써, SIGReg는 로봇이 사물을 구별하는 데 필요한 '랜드마크(지표)'를 의도치 않게 지워버렸습니다. 이는 집 안의 모든 방을 똑같은 베이지색 톤으로 칠하는 것과 같습니다. 이제 집은 매우 안정적이고 조직적이지만, 누군가 주방에 들어왔을 때 로봇은 주방과 침실의 차이를 구분할 수 없습니다. 모든 것이 똑같이 보이기 때문입니다. 로봇이 이 "너무 깔끔한" 두뇌를 사용하여 실수(예: 테이블에서 블록이 떨어지는 것)를 감지하려고 할 때, 로봇은 실패합니다. 정상적인 흔들림과 실제 재앙을 구분할 수 없는데, 이는 훈련 과정에서 '정상'과 '비정상' 사이의 경계가 너무 매끄럽게 다듬어졌기 때문입니다. 저자들은 이를 **규제-모니터링 딜레마(regularization-monitoring dilemma)**라고 부릅니다. 즉, 로봇을 안정시키는 도구가 곧 로봇을 위험에 눈멀게 만드는 도구라는 것입니다.

해결책: TRIM과 "시간 여행" 기법

이 논문은 이를 해결하기 위한 단순하지만 천재적인 변화를 제안합니다. 로봇의 현재 생각을 깔끔하게 만드는 대신, TRIM은 로봇의 시간에 따른 변화를 깔끔하게 만듭니다.

당신이 영화를 보고 있다고 상상해 보십시오. 만약 모든 프레임을 똑같이 보이도록 강제한다면, 영화는 지루해지고 무슨 일이 일어나는지 알 수 없게 됩니다. 하지만 한 프레임과 다음 프레임 사이의 차이를 예측 가능하고 깔끔하게 만든다면, 여전히 이야기가 전개되는 것을 명확히 볼 수 있습니다. TRIM은 정확히 이 방식을 취합니다. 이 방식은 "정리 규칙"(SIGReg)을 로봇의 현재 시점의 뷰에 적용하는 것이 아니라, 시간적 잔차(temporal residuals)—즉, 로봇이 1초 전에 본 것과 지금 보는 것 사이의 차이—에 적용합니다.

이 작은 변화는 세 가지 방식으로 딜레마를 해결합니다:

1. 두뇌를 안정시킵니다: 로봇의 두뇌가 붕괴하여 생각을 멈추면, 프레임 간의 "차이"가 0이 되며, 이는 규칙을 위반하게 되어 로봇이 스스로를 수정하도록 유도합니다.
2. 랜드마크를 유지합니다: 로봇의 현재 뷰를 완벽한 원형으로 유지하도록 강제하지 않기 때문에, 로봇은 여전히 "주방"이 "침실"과 다르다는 것을 기억할 수 있습니다. 랜드마크가 선명하게 유지됩니다.
3. 내장된 알람을 생성합니다: 로봇은 프레임 사이에 세상이 보통 얼마나 변하는지를 배웠기 때문에, 변화가 이상할 때 즉시 감지할 수 있습니다. 만약 로봇이 작은 흔들림을 예상했는데 거대한 도약을 본다면, "차이"가 매우 커지며 알람이 울립니다.

실제 작동 방식

저자들은 세 부분이 서로 협력하며 추가 학습 없이 작동하는 TRIM 시스템을 구축했습니다.

• TR-SIGReg (교사): 로봇을 훈련시키는 부분입니다. 로봇이 세상이 어떻게 변하는지 예측하도록 가르쳐서, 순간들 사이의 "차이"가 건강하고 예측 가능한 범위 내에 머물도록 합니다.
• TRIM-Monitor (보안 요원): 이것이 마법 같은 부분입니다. 훈련이 끝나면, 시스템은 로봇의 예측과 현실 사이의 "차이"를 살펴봅니다. 그리고 **마할라노비스 거리(Mahalanobis distance)**라는 점수를 계산합니다. 이 점수가 너무 높으면, 로봇이 예상치 못한 것을 보고 있다는 뜻입니다. 수학적 구조가 훈련 단계에 이미 포함되어 있기 때문에, 시스템은 인간이 추측할 필요 없이 무엇이 "너무 높은" 것인지 정확히 알 수 있습니다. 심지어 그것이 아주 작은 일시적인 글리치(예: 카메라 깜빡임)인지, 아니면 큰 구조적 재앙(예: 벽이 무너짐)인지도 구분할 수 있습니다.
• TRIM-Replan (조종사): 큰 문제가 발생하여 알람이 울리면, 로봇은 단순히 멈춰 서지 않습니다. 로봇은 특수한 지도를 사용하여 자신이 알고 있는 "안전 구역" 내에 머물도록 경로를 빠르게 다시 계획하며, 목표를 향해 가면서도 위험을 피합니다.

결과: 생각하고 반응할 수 있는 로봇

연구진은 블록 쌓기, 물체 이동하기, 지시 따르기 등의 작업을 포함하는 유명한 로봇 챌린지 세트인 LIBERO에서 이 새로운 시스템을 테스트했습니다.

결과는 인상적이었습니다. 기존의 "너무 깔끔한" 방식(Vanilla LeWM)을 사용하는 표준 로봇은 작업의 **53.2%**만을 성공했습니다. 연구진이 TRIM을 추가하자 성공률은 **73.6%**로 급등했습니다. 이는 엄청난 도약이며, 훨씬 더 복잡한 컴퓨팅 파워와 추가 훈련을 요구하는 시스템들의 성능에 근접한 수치입니다.

하지만 진짜 시험대는 연구진이 환경을 조작했을 때였습니다. 그들은 방의 구조를 갑자기 바꾸거나 로봇의 시야를 글리치 상태로 만드는 등 "구조적 교란(structural disturbances)"을 도입했습니다.

• 기존 방식은 처참하게 실패하여 단 **38.0%**의 성공률을 보였습니다.
• 이전의 최고 "수정" 시스템(VLA-Corrector)은 **62.5%**를 기록했습니다.
• TRIM은 **81.5%**로 치솟았습니다.

이는 TRIM이 최고의 기존 방법보다 재앙으로부터 회복하는 능력을 19.0 퍼센트 포인트 향상시켰음을 의미합니다. 더욱 놀라운 점은, TRIM이 알람 시스템을 위한 추가 훈련 없이 이 모든 것을 해냈다는 것입니다. "보안 요원"은 이미 훈련 과정의 수학 속에 숨어 있었고, 사용되기를 기다리고 있었습니다.

이것이 중요한 이유

이 논문은 TRIM이 우리가 로봇을 가르치는 방식을 어떻게 바꾸는지 주장합니다. "학습"과 "안전 모니터링"을 두 개의 서로 다른 도구가 필요한 별개의 작업으로 취급하는 대신, TRIM은 이 둘이 동전의 양면과 같음을 보여줍니다. 로봇이 세상이 어떻게 작동하는지 배우기 위해 수집하는 통계적 정보가 바로 무언가 잘못되었을 때 이를 알아차리는 데 필요한 바로 그 정보입니다.

이 접근 방식은 "제로샷(zero-shot)"입니다. 즉, 로봇은 재앙의 사례를 보고 학습할 필요가 없습니다. 그저 세상이 보통 어떻게 움직이는지에 대한 규칙을 이해하기만 하면 됩니다. 이는 시스템을 훨씬 효율적으로 만들며, 특히 실수를 즉각적으로 포착하는 것이 중요한 병원이나 공장에서 작동하는 로봇과 같은 실제 응용 분야에서 잠재적으로 더 안전하게 만듭니다.

저자들은 이 아이디어가 로봇뿐만 아니라 다른 많은 AI 분야에도 적용될 수 있다고 제안합니다. 미래를 예측함으로써 학습하는 모든 시스템은 자신의 "예측 규칙"을 사용하여 스스로의 안전 모니터 역할을 할 수 있을 것입니다. 이 논문은 시뮬레이션과 LIBERO 벤치마크에 초점을 맞추고 있지만, 그 결과는 AI를 단순히 똑똑하게 만드는 것을 넘어, 자신의 한계를 인식할 수 있게 만드는 강력한 새로운 방법을 제시하고 있습니다.