Steins;Gate Drive: Semantic Safety Arbitration over Structured Futures for Latency-Decoupled LLM Planning

기술 요약: Steins;Gate Drive: 지연 분리형 LLM 계획을 위한 구조화된 미래에 대한 의미적 안전 중재

문제 제기
본 논문은 자율 주행에서 발생하는 치명적인 타이밍 불일치를 다룹니다: 대규모 언어 모델 (LLM) 은 주행 의사결정을 위한 우수한 의미 추론 능력을 제공하지만, 반응형 차량 시스템의 단계별 제어 창을 초과하는 추론 지연을 겪습니다. 만약 LLM 을 마지막 반응 시점에のみ 질의한다면, 응답이 도착할 때쯤 이미 교통 상황이 변화하여 의사결정이 쓸모없게 될 수 있습니다. 반대로, 시스템이 더 일찍 계획을 수립하더라도, 장면 변화로 인해 계획이 만료되거나 무효화되었는지를 판단할 메커니즘이 부재합니다. 기존 접근법은 LLM 의 속도를 높이는 시도 (종종 실패함) 를 하거나, 지연을 무시하고 저수준 제어를 자유형 언어로 대체하거나, 미래 생성과 행동 선택을 대규모 루프에 결합하는 학습된 세계 모델에 의존합니다. 핵심적인 과제는 실시간 안전을 훼손하지 않으면서 느린 의미적 의사결정자를 최종 권한으로 활용하는 방법입니다.

방법론: Steins;Gate Drive
저자들은 Steins;Gate Drive를 제안합니다. 이는 지연 분리형 계획자 - 런타임 아키텍처입니다. 이 시스템은 LLM 주행을 두 가지 시간 척도의 의사결정 문제로 간주하여, "미래"의 느린 전략적 선택과 해당 미래의 빠른 런타임 실행을 분리합니다.

1. 역할 유형화 세계선 생성:
   비구조화된 시각적 미래를 생성하는 대신, 시스템은 "세계선 (world lines)"이라 불리는 유계된 반사실적 주행 미래의 집합을 구성합니다. 이들은 세 가지 역할로 분류됩니다:

   • 알파 (Alpha): 기본 동작 (예: 차선 변경, 가속) 에 기반한 정상적인 자기 조건부 미래.
   • 베타 (Beta): 특정 인근 차량을 압박하는 상호작용 반사실적 미래 (예: 앞차의 급제동, 차선 침입).
   • 감마 (Gamma): 구성된 환경적 위험을 적용한 위험 스트레스 미래 (예: 막힌 통로, 갑작스러운 장애물).
     생성기는 단시간 지평의 운동학과 분석적 점수를 사용하여 이러한 분기를 생성하고, 이를 단축 목록으로 가지치기합니다.

2. 전략적 예보 계약:
   전략적 LLM 은 단일 즉각적 동작을 출력하지 않습니다. 대신, 단축 목록 중 하나의 분기를 선택하여 유형화된 **전략적예보 (StrategicForecast)**로 확정합니다. 이 객체는 구조화된 의사결정이며 다음을 포함합니다:

   • 선택된 분기와 기본 동작.
   • 지평 (horizon): 유효 기간.
   • 유효성 원자 (Validity atoms): 참으로 유지되어야 하는 안전 스타일의 불변식 (예: 앞차 간격 > 12m).
   • 중단 원자 (Abort atoms): 활성 스타일의 정지 조건 (예: TTC < 2.0 초).
   • 대체 동작과 권한 수준.

3. 예보 버퍼링 런타임 중재:
   빠른 런타임 감독자는 선택된 예보를 실행합니다. 이는 예보의 유효성 및 중단 원자에 대해 실시간 장면을 지속적으로 모니터링합니다.

   • 재사용: 유효성 원자가 유지되고 드리프트 점수 (예상 간격/TTC 와의 편차 측정) 가 임계값 미만일 때, 예보는 여러 제어 단계 동안 재사용됩니다.
   • 무효화: 중단 원자가 발동하거나, 유효성 원자가 위반되거나, 지평이 만료되거나, 드리프트가 임계값을 초과하면 예보는 즉시 무효화됩니다.
   • 대체: 무효화 시, 런타임은 즉시 검증된 분석적 대체 동작으로 복귀하고 전략적 LLM 에게 갱신 요청을 트리거합니다.

주요 기여
본 논문은 네 가지 주요 기여를 제시하며, 모두 실증적으로 검증되었습니다:

1. 역할 유형화 세계선 생성기: 실현 가능한 기본 동작을 별도의 정상 (알파), 상호작용 반사실적 (베타), 위험 스트레스 (감마) 미래로 변환하여 LLM 에게 구조화된 선택 집합을 제공하는 방법.
2. 유형화된 전략적예보 인터페이스: LLM 이 마지막 순간 동작이 아닌 취소 가능한 유형화된 계약을 발행하는 두 시간 척도 아키텍처로, 의미적 의사결정의 재사용을 가능하게 함.
3. 배포 가능성 진단: 매칭된 고속도로 시드를 기반으로 반응형 LLM 제어, 결정론적 예보 재생, 그리고 이중 에이전트 버퍼링 런타임을 비교하는 평가 프레임워크. 이는 원시적 안전성 우위를 주장하기보다 지연 상쇄 및 행동 트레이드오프에 초점을 맞춤.
4. 지평 스윕 지연 상쇄: 예보 재사용 지평을 증가시킴으로써 시스템이 LLM 호출 비용을 상쇄할 수 있음을 시연하여, 지연을 양수에서 거의 제로 또는 음수 값 (버퍼가 호출 비용보다 더 많은 시간을 커버하는 경우) 으로 효과적으로 감소시킴.

결과
실험은 10 개의 매칭된 시드와 실행당 20 개의 의사결정 단계를 가진 highway-env 시뮬레이터를 사용하여 수행되었습니다.

• 지연 상쇄: GPT-5.4 mini 를 사용할 때, 시스템은 1 초 지평에서 +3.07 초의 유효 지연을 4 초 지평에서 -0.01 초, 12 초 지평에서 -7.79 초로 감소시켰습니다. 음수 지연은 버퍼링된 지평이 측정된 LLM 호출 비용보다 더 많은 시간을 커버함을 의미합니다.
• 안전: 모든 조건 (반응형, 결정론적 재생, 이중 에이전트) 에서 정상 고속도로 프로토콜의 무충돌율이 100% 로 유지되었습니다. 안전 바닥은 LLM 의 드리프트 점수가 아닌, 런타임의 원자 예측 및 분석적 대체에 의해 유지되었습니다.
• 행동 트레이드오프: 지평이 증가함에 따라 평균 속도는 감소했습니다 (H=1 초에서 73.4 km/h 에서 H=12 초에서 50.0 km/h 로). 이는 구식 약속이 위험한 행동이 아닌 보수적인 주행으로 나타난다는 것을 시사합니다.
• 역할 민감성: 프롬프트가 명시적으로 LLM 에게 이러한 역할을 동등한 가설로 취급하도록 지시했을 때 ("균형 모드") 만 시스템이 베타 및 감마 스트레스 증거를 효과적으로 활용했습니다. 그렇지 않으면 LLM 은 스트레스 시나리오를 무시하고 알파 분기로 기본값을 설정했습니다.
• 모델 변동성: GPT-5.4 mini 는 높은 완료율로 거의 제로 유효 지연을 달성한 반면, 다른 모델 (예: DeepSeek-v4-flash) 은 금지적인 지연으로 고생했고, 더 작은 모델 (Llama-3.2-3B) 은 진동 행동을 보였습니다. 이는 아키텍처의 성공이 기본 모델의 속도와 안정성에 의존함을 강조합니다.

의의 및 주장
본 논문은 Steins;Gate Drive가 세계선 선택을 취소 가능한 계약으로 변환함으로써 느린 의미 추론을 반응형 주행에서 사용 가능하게 만드는 아키텍처적 해결책을 제공한다고 겸손하게 주장합니다.

• 핵심 주장: 재사용 지평이 호출 비용을 커버할 때 예보 버퍼링 LLM 주행은 느린 추론 비용을 상쇄할 수 있으며, 실시간 중재 (유효성/중단 확인) 는 즉각적인 안전을 담당합니다.
• 안전 포지셔닝: 저자들은 반응형 LLM 주행이나 실세계 전이보다 안전성이 우월하다고 주장하지 않습니다. 100% 무충돌율은 "포화"된 정상 고속도로 프로토콜의 특성과 분석적 대체의 견고성 때문이지 LLM 의 고유한 안전성 때문이 아닙니다.
• 아키텍처적 기여: 이 작업은 강력한 LLM 을 분기 선택자로 유지하지만 선택된 미래를 기계 검증 가능한 가정과 결합하는 "계획자 지향 인터페이스"로 자신을 위치시킵니다. 이는 통합 잠재 계획자나 직접 LLM 드라이버와 구별됩니다. 안전 기여는 LLM 의 내부 드리프트 점수가 아닌 원자 예측 런타임 확인으로 식별됩니다.