📈 economics

Technology Speed Limits

이 논문은 기술적 증가율을 제한하는 적응형 속도 제한이 규모 확장과 대기를 통한 사적 학습 하에서 기술 규제를 위한 최적의 최악 사례 보장을 제공할 수 있는 유일한 시간 일관적 메커니즘임을 입증한다.

원저자: Andrew Koh, Sivakorn Sanguanmoo

게시일 2026-06-02

📖 4 분 읽기☕ 가벼운 읽기

원저자: Andrew Koh, Sivakorn Sanguanmoo

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 한 도시의 시장이라고 상상해 보십시오. 한 천재적이지만 무모한 기술 기업이 새로운 형태의 플라잉 카(flying car)를 만들고 싶어 합니다. 당신은 이 발명품이 세상을 더 좋게 바꿀 수 있다는 것을 알지만, 동시에 이것이 준비되지 않은 채로 비행하다가 모두를 죽게 할 수도 있다는 사실도 알고 있습니다.

문제는 당신이 그것이 언제 안전해질지 모른다는 점입니다. 당신은 오직 두 가지만을 알 수 있습니다:

실행을 통해: 그들이 더 많은 자동차를 만들고 실제로 날려 보냄으로써, 자동차가 어떻게 작동하는지 배우게 됩니다. 하지만 만약 그들이 너무 빠르고 많이 만들도록 허용한다면, 사고가 발생했을 때 피해는 돌이킬 수 없습니다. 당신은 이미 추락한 자동차를 다시 "날릴" 수는 없습니다.
기다림을 통해: 설령 그들이 새로운 것을 아무것도 만들지 않더라도, 시간이 흐름에 따라 당신은 다른 곳에서 발생한 사고나 새로운 과학적 발견으로부터 그 자동차가 위험할 수도 있다는 사실을 배울 수 있습니다.

앤드류 코(Andrew Koh)와 시반 상구안모(Sivan Sanguanmoo)의 논문은 다음과 같은 질문을 던집니다: 기술 기업이 공공의 안전보다 이윤을 더 중요하게 여길 수도 있는 상황에서, 진보를 저해하지 않으면서도 안전을 확보하기 위해 시장이 내릴 수 있는 최선의 규칙은 무엇인가?

"속도 제한" 솔루션

저자들은 최선의 규칙이 **적응형 속도 제한(Adaptive Speed Limit)**이라고 주장합니다.

이것을 "최대 일일 진척도" 표지판이 있는 건설 현장이라고 생각하십시오.

규칙: 기업은 매일 일정량만큼(예: "하루에 신규 차량 20대 미만") 플라잉 카의 수를 늘리는 것이 허용됩니다.
적응: 이 제한은 영원히 고정된 것이 아닙니다. 만약 기업이 10대의 자동차를 만들었는데 완벽하게 비행했다면, 시장은 이렇게 말할 수 있습니다. "좋습니다, 내일은 15대를 만들어도 됩니다." 하지만 만약 자동차가 추락하거나 새로운 위험이 발견된다면, 시장은 즉시 제한을 0으로 낮출 수 있습니다.

왜 이것이 "완벽한" 규칙인가요?

저자들은 복잡한 수학(이를 비유로 번역하겠습니다)을 사용하여 두 가지 핵심 사항을 증명합니다.

1. 최악의 시나리오를 위한 "안전망" (강건성/Robustness)
당신이 상대방의 규칙을 모르는 게임을 하고 있다고 상상해 보십시오. 상대방은 매우 똑똑하고 빠르게 학습할 수도 있고, 혹은 탐욕스러워서 위험을 무시할 수도 있습니다. 그들은 테스트를 통해 배울 수도 있고, 보고서를 읽어서 배울 수도 있습니다.

저자들은 적응형 속도 제한이 최악의 시나리오에서도 최선의 결과를 보장하는 유일한 규칙임을 보여줍니다.

비유: 지뢰밭을 걷고 있다고 상상해 보십시오. 당신은 지뢰가 어디에 있는지 모릅니다. "속도 제한"은 "10초마다 한 걸음씩 움직이시오"라고 말하는 규칙과 같습니다.
- 만약 너무 빨리 걷는다면(제한이 없다면), 즉시 지뢰를 밟을 수 있습니다.
- 만약 영원히 서 있다면(전면 금지), 보물에 결코 도달할 수 없습니다.
- 속도 제한은 지뢰가 어디에 숨겨져 있든, 혹은 당신이 얼마나 빨리 배울 수 있든 상관없이, 당신이 한 번에 두 개의 지뢰를 밟지 않도록 보장합니다. 이는 당신이 '딸깍' 소리를 들었을 때 멈출 수 있는 "선택권(option value)"을 줍니다.

2. 시장이 속임수를 쓰지 않을 유일한 규칙 (시간 일관성/Time-Consistency)
이 부분은 가장 까다로운 부분입니다. 시장이 기업에게 이렇게 약속한다고 가정해 봅시다. "나는 하루에 20대 이상의 자동차를 만드는 것을 절대 허용하지 않겠습니다."

문제: 다음 날, 기업이 10대의 자동차를 만들었는데 그것이 정말 놀라웠습니다! 시장은 흥분하여 생각합니다. "내일은 혜택을 더 빨리 누리기 위해 20대를 만들도록 허용해야겠어!" 하지만 만약 기업이 시장이 마음을 바꿀 수도 있다는 것을 안다면, 그들은 나중에 시장이 규칙을 완화해 줄 것이라는 데 베팅하며 오늘 엄청난 위험을 감수할 것입니다.
해결책: 저자들은 적응형 속도 제한이 **시간 일관적(Time-Consistent)**임을 증명합니다. 즉, 시장은 나중에 규칙을 바꿀 동기가 없습니다.
- 비유: 부모가 아이에게 "한 시간에 쿠키 한 개만 먹을 수 있어"라고 말하는 것과 같습니다. 아이가 하나를 먹었을 때, 부모는 여전히 다음 쿠키를 먹기 전까지 한 시간을 기다리고 싶어 합니다. 왜냐하면 지금 두 개를 먹게 허용하면 나중에 아이가 배탈이 날 수 있다는 것을 알기 때문입니다. 규칙은 매 순간에도 여전히 최선의 규칙으로 남기에, 부모는 결코 자신의 약속을 어기거나 거짓말을 할 필요가 없습니다.

"나쁜 놈들"은 어떻게 되나요?

이 논문은 기술 기업(대리인)이 사회(본인)와 목표가 일치하지 않을 수 있다고 가정합니다.

그들은 사고(부정적 외부효과)를 신경 쓰지 않을 수 있습니다.
그들은 아주 빠르게 부자가 되고 싶어 할 수 있습니다(불균형한 승자).

속도 제한은 기업이 시스템을 속이려 해도 작동합니다. 왜냐하면 이 제한은 "하드 캡(hard cap, 강제적 상한선)"이기 때문입니다(당신은 물리적으로 제한보다 더 빨리 진행할 수 없습니다). 기업은 더 조심하기 위해 제한보다 더 느리게 진행할 수는 있지만, 결코 제한보다 더 빠르게 갈 수는 없습니다.

"시간을 버는 것"에 대한 개념

논문은 속도를 늦추는 것이 "시간을 벌어준다"고 언급합니다.

비유: 플라잉 카를 불꽃이라고 생각해 보십시오. 만약 불꽃에 물을 너무 빨리 부으면, 오히려 불을 번지게 할 수도 있습니다. 만약 천천히 붓는다면, 당신은 방화벽(완화 조치)을 구축하거나 불을 더 잘 끄는 방법을 알아낼 시간을 벌 수 있습니다.
속도 제한은 기술이 너무 빨리 성장하여, 그 기술을 다루는 데 필요한 안전 조치(새로운 법률, 백신, 또는 AI 안전 연구 등)를 구축할 시간을 우리가 놓치지 않도록 보장합니다.

한 문장 요약

이 논문은 위험한 신기술을 규제하는 가장 똑똑하고 신뢰할 수 있는 방법은 새로운 정보에 따라 강화되거나 완화될 수 있는 움직이는 속도 제한을 설정하는 것임을 증명합니다. 왜냐하면 이것이 사회를 최악의 위험으로부터 보호하면서도 진보를 허용하는 유일한 규칙이며, 규제자가 실제로 끝까지 고수할 수 있는 유일한 규칙이기 때문입니다.

기술 요약: 기술 속도 제한 (Technology Speed Limits)

문제 제기
본 논문은 두 가지 서로 연결된 별개의 마진을 통해 학습이 발생하는 신기술의 최적 규제 문제를 다룬다: 경험 학습(learning-by-doing) (기술 규모를 확대함으로써 정보를 얻는 것)과 대기 학습(learning-by-waiting) (시간이 흐름에 따라 단순히 정보를 얻는 것)이다. 핵심적인 긴장은 경험 학습은 기술 배포의 비가역성 때문에 위험한 반면, 대기 학습은 잠재적 이득의 지연으로 인해 비용이 발생한다는 점에 있다.

저자들은 사회를 대표하는 설계자(principal)가 에이전트(예: 기업)를 규제하려는 시나리오를 모델링한다. 이때 에이전트의 유인 구조는 사회적 후생과 일치하지 않을 수 있다. 이러한 불일치는 부정적 외부효과(에이전트가 '나쁜' 상태에서의 피해를 과소평가하는 경우) 또는 과도한 이득(에이전트가 '좋은' 상태에서 과도한 이익을 독점하는 경우)에서 기인할 수 있다. 핵심 과제는 에이전트가 채택하는 구체적인 학습 과정이나 특정 위험 선호도에 관계없이 최적이며, 설계자가 미래의 행동에 대해 약속할 필요 없이 시간이 지나도 신뢰성을 유지할 수 있는 정책 메커니즘을 설계하는 것이다.

방법론
저자들은 이산적 시간 및 기술 수준 공간( $T \times L$ ) 상의 확률적 제어 모델을 개발한다.

학습 프레임워크: 표준적인 멀티 암드 밴딧(multi-armed bandit) 모델과 달리, 정보의 여과(filtration)를 다중 매개변수 필드(multiparameter field)로 모델링한다. 저자들은 기존 문헌에서 흔용되는 "교환(commutation)" 조건을 명시적으로 배제하여, 경험 학습과 대기 학습 간의 의존성을 허용한다. 이는 새로운 정보가 낮은 기술 수준에서 수신된 신호의 해석을 소급하여 변경할 수 있다는 현실을 반영한다.
메커니즘 설계: 설계자는 실현된 기술 경로에 기반한 흐름 이전(flow transfers, 세금 또는 보조금)을 포함하는 경로 적응형 메커니즘을 제안한다. 에이전트는 할인된 기대 효용(이전액 차감 후)을 극대화하기 위해 기술 수준의 비감소 경로를 선택한다.
강건성 기준: 저자들은 두 가지 강건성 문제를 정의한다:
1. 학습 강건성(Learning-robustness): 모든 허용 가능한 학습 여과( $F$ )에 대한 최적성.
2. 이중 강건성(Dually-robustness): 모든 허용 가능한 학습 여과( $F$ ) 및 모든 허용 가능한 에이전트 선호 구조( $U$ )에 대한 최적성.
시간 일관성(Time-Consistency): 메커니즘이 어떤 결정 이력 이후에도 그 지속(continuation)이 조건부 지배 불가(conditionally undominated)하다면, 그 메커니즘은 시간 일관적이라고 한다. 이는 새로운 정보가 도착하거나 기술 수준이 변함에 따라 설계자가 정책을 변경할 유인이 생기는 메커니즘을 배제한다.

주요 결과
본 논문은 **적응형 속도 제한(Adaptive Speed Limits)**에 관한 두 가지 주요 정리를 확립한다. 이는 단위 시간당 기술 수준이 증가할 수 있는 비율에 대한 상한선으로 정의되며, 이 상한선 자체는 설계자의 여과에 의해 드러난 정보에 따라 진화한다.

정리 1 (강건한 최적성): 설계자의 "직접 제어 문제"(설계자가 완전한 정보를 가정하고 경로를 직접 선택하는 문제)의 해로부터 도출된 적응형 속도 제한은 학습 강건성과 이중 강건성을 모두 갖는다.
- 직관: 이 증명은 속도를 늦추는 것의 옵션 가치(option value)를 비교하는 데 기초한다. 만약 에이전트가 속도 제한보다 느린 경로를 선택한다면, 이는 나중에 불리한 정보가 도착했을 때 중단할 수 있는 옵션을 보존하기 위한 예방적 조치인 경우가 많다. 저자들은 어떤 선호 구조에 대해서도, 에이전트의 최적 경로 하에서의 설계자 페이오프가 설계자의 직접 제어 하에서의 페이오프보다 약하게 높음을(weakly higher) 보여준다. 직접 제어 가치가 심지어 약속(commitment)이 있는 경우의 상한선 역할을 하므로, 속도 제한은 이를 강건하게 달성한다.
정리 2 (유일성 및 시간 일관성): 모든 이중 강건한 메커니즘 중에서, 적응형 속도 제한은 유일한 시간 일관적 메커니즘이다(유한한 기술 공간을 가정할 때).
- 직관: 증명은 시간-수준 격자(time-level grid) 상에서 후진 귀납법(backward induction)을 활용한다. 이는 시간 일관적인 모든 강건한 메커니즘이 적응형 속도 제한과 동일한 엄격한 제한을 부과해야 하며, 그 제한 아래에서는 에이전트에게 "평탄한(flat)" 지속 이전(continuation transfers)을 제공해야 함을 입증한다. 만약 이전액이 하향 곡선을 그려서(에이전트가 규모를 키울수록 더 많은 비용을 지불하게 함) 에이전트가 조기에 중단하도록 유도한다면, 설계자는 이러한 이전을 "다림질(ironing)"하여 설계자의 페이오프를 엄격히 개선할 수 있다. 이러한 이탈은 시간 일관성을 위반한다. 따라서 사후적으로 개선될 수 없는 유일한 메커니즘은 제한 아래에서는 이전액이 0이고, 제한 위에서는 무한한 벌칙을 부과하는 것이다.

의의 및 주장
본 논문은 적응형 속도 제한을 강건한 규제 도구로서 제시하는 최초의 이론적 토대를 제공한다고 주장한다.

학습의 통합: 다중 매개변수 여과를 사용하여 경험 학습과 대기 학습을 하나의 프레임워크 내로 통합하며, 기존 문헌의 제한적인 교환 가정을 넘어선다.
단순성 대 복잡성: 저자들은 에이전트의 확률적 제어 문제(일반적인 학습 과정 및 선호도를 포함)의 복잡성에도 불구하고, 최적의 규제 메커니즘이 단순하고 해석 가능하다는 것을 보여준다. 즉, 동적인 규모 확대율에 대한 캡(cap) 형태를 띤다.
약속 없는 구현(Commitment-Free Implementation): 설계자가 미래의 정책에 대해 스스로를 구속할 필요가 없다는 점을 보여주는 것이 중요한 기여이다. 이는 적응형 속도 제한이 설계자가 미래 행동에 구속되지 않을 때도 최적임을 보여주며, 기술 규제와 관련된 시간 불일치 문제를 해결한다.
리스크 완화: 모델은 구체적인 완화 기술을 추상화하지만, 저자들은 이 프레임워크가 기다림을 통해 안전 조치가 개발되는 내생적 전이를 포함하도록 확장될 수 있음을 언급하며, 이 경우에도 적응형 속도 제한이 유일한 시간 일관적 강건 솔루션임을 밝힌다.

저자들은 결론적으로, 속도 제한이 복잡하거나 강건하지 않거나 약속에 의존하는 정책에 의존하지 않고도, 학습의 필요성과 비가역적 배포의 위험 사이에서 균형을 맞추며 리스크를 추구하는 기업이 초래하는 외부효과를 규제하는 원칙적인 방법임을 제시한다.