당신이 로봇에게 거대하고 변화무쌍한 미로를 항해하는 법을 가르치려 한다고 상상해 보세요. 이것은 단순한 미로가 아닙니다. 벽이 움직일 수도 있고, 바닥이 사라질 수도 있으며, 로봇은 배터리가 다 떨어지거나 충돌하지 않고 목표에 도달하기 위해 찰나의 순간에 결정을 내려야 하는 세계입니다. 컴퓨터 과학의 세계에서, 이는 **마르코프 결정 과정(Markov Decision Process, MDP)**이라는 개념을 사용하여 모델링됩니다. MDP를 로봇이 직면할 수 있는 모든 가능한 상황에 대한 거대하고 초정밀한 지도라고 생각해보세요. 문제는, 세상이 더 복잡해질수록 이 지도의 크기가 폭발적으로 커진다는 점입니다. 너무 거대해져서 가장 빠른 슈퍼컴퓨터조차 제시간에 그 모든 것을 읽어낼 수 없게 됩니다. 이는 마치 점심 메뉴를 결정하기 위해 세상에 존재하는 모든 책의 모든 페이지를 다 읽으려는 것과 같습니다.

이를 해결하기 위해 과학자들은 **추상화(abstractions)**를 사용합니다. 그 거대하고 압도적인 지도를 접거나, 혹은 중요한 도로만을 표시하고 작은 골목길은 무시하는 간략한 스케치를 그리는 것을 상상해 보세요. 이렇게 하면 문제가 해결 가능해집니다. 하지만 여기에는 까다로운 점이 있습니다. 지도를 너무 많이 접으면, 실수로 보물로 가는 길을 지워버릴 수도 있습니다. 반대로 너무 적게 접으면 지도는 여전히 사용하기에 너무 큽니다. 그렇다면, 로봇의 특정 목표에 있어 어떤 부분이 실제로 중요한지를 어떻게 알 수 있을까요? 여기서 **인과관계(causality)**라는 개념이 등장합니다. 인과관계는 단순히 "무엇이 로봇의 성공이나 실패를 유발했는가?"라고 묻는 것입니다. 모든 세부 사항을 들여다보는 대신, 우리는 사건이 일어나는 구체적인 이유를 찾고자 합니다.

"Property-driven Causal Abstractions for Markov Decision Processes"라는 제목의 이 논문은 그 거대한 지도를 접는 아주 영리한 새로운 방법을 소개합니다. 저자들(독일, 네덜란드, 영국 대학 출신의 연구진)은 어떤 부분이 안전하게 무시될 수 있는지 결정하기 위해 "원인과 결과" 추론을 사용하는 방법을 제안합니다. 그들은 단순히 어떤 부분이 중요한지 추측하는 것이 아니라, 어떤 특정 설정(예: 배터리 잔량이나 위치)이 로봇의 성공과 실패의 실제 이유인지를 수학적으로 증명합니다. 이러한 "원인"들에만 집중함으로써, 그들은 거대한 지도를 여전히 안전하고 효율적인 작은 스케치로 축소할 수 있습니다. 그들은 전기 택시가 도시 격자를 주행하는 것부터 다른 복잡한 시나리오에 이르기까지 다양한 디지털 세계에서 이 방법을 테스트했으며, 그들의 방식이 여전히 로봇이 거의 완벽한 결정을 내릴 수 있게 하면서도 훨씬 더 작은 모델을 만들어낸다는 것을 발견했습니다.

전기 택시와 마법의 지도

이것이 어떻게 작동하는지 이해하기 위해, 저자들이 가장 즐겨 사용하는 예시인 전기 택시를 살펴봅시다. 택시가 격자형 도시를 주행하고 있다고 상상해 보세요. 택시는 승객을 태우고, 목적지까지 운전하며, 배터리가 방전되지 않도록 해야 합니다. 택시에는 배터리, 위치(x, y 좌표), 그리고 승객 상태가 있습니다. 작은 도시라면 택시가 처할 수 있는 상황이 몇 백 개 정도일 것입니다. 하지만 실제 도시라면 어떨까요? 가능한 상황의 수는 수백만 개로 폭발합니다. 컴퓨터는 모든 가능성에 대해 최적의 경로를 계산하려다 과부하가 걸립니다.

저자들은 말합니다. "잠깐만요. 택시가 이미 충전소에 도착했다면 굳이 정확한 배터리 잔량까지 알 필요가 있을까요?" 또는 "택시가 목적지에서 멀리 떨어진 곳에서 교통 체증에 갇혀 있다면, 승객이 차 안에 있는지가 정말 중요할까요?" 그들은 어떤 특정 목표(예: "배터리 방전 방지")를 위해서, 오직 특정 세부 사항만이 결과에 영향을 미친다는 사실을 깨달았습니다. 나머지는 그저 노이즈일 뿐입니다.

탐정 작업: "왜"를 찾아내기

연구팀은 이러한 컴퓨터 모델을 위한 새로운 종류의 탐정 작업을 개발했습니다. 전체 그림을 한꺼번에 보는 대신, 그들은 이를 "특징(features)"—배터리 잔량이나 위치와 같은 개별 변수들—로 나눕니다. 그리고 질문합니다. "어떤 특징이 좋은 결과나 나쁜 결과 뒤에 숨은 범인인가?"

그들은 이를 **특징 인과관계(feature causality)**라고 부릅니다. 이는 범죄 현장을 조사하는 탐정과 같습니다. 만약 택시가 배터리 방전으로 멈췄다면, 탐정은 하늘이 파란색이었는지 혹은 택시가 금속으로 만들어졌는지에는 관심이 없습니다. 탐정은 배터리가 낮았고 택시가 충전소에 들르지 않았다는 사실에 관심을 가집니다. 그것들이 바로 "원인"입니다. 저자들은 이러한 원인을 자동으로 찾아내는 수학적 방법을 만들었습니다. 그들은 로봇의 세계를 살펴보고, 특정 결과를 보장하는 설정들의 조합을 식별합니다.

이러한 원인을 찾으면, 그들은 마법 같은 일을 수행합니다. 동일한 원인을 공유하는 모든 상황을 하나로 묶는 것입니다. 1,000개의 서로 다른 레고 구조물이 들어있는 상자가 있다고 상상해 보세요. 대부분은 서로 달라 보이지만, 만약 900개의 구조물이 모두 똑같은 빨간색 브릭이 없어서 무너진다는 사실을 깨닫는다면, 당신은 그 900개를 하나의 단일한 "유형"으로 취급할 수 있습니다. 더 이상 각각을 개별적으로 분석할 필요가 없습니다. 그냥 "빠진 빨간 브릭" 그룹을 분석하면 됩니다. 이것이 저자들이 말하는 **인과적 분할(causal partition)**입니다. 그들은 실제 중요한 것에만 집중하며 거대한 지도를 조각냅니다.

지도를 접는 세 가지 방법

논문은 단순히 원인을 찾는 데 그치지 않고, 이를 사용하여 단순화된 모델을 구축하는 세 가지 다른 방법을 보여줍니다. 각 방법은 고유한 특성을 가집니다.

1. "원샷(One-Shot)" 접기: 빠르고 투박한 방법입니다. 목표에 대한 원인을 찾고, 일치하는 모든 것을 그룹화하면 끝납니다. 빠르지만 때로는 너무 거칠 수 있습니다.
2. "반복적(Iterative)" 접기: 신중한 방법입니다. 가장 극단적인 상황(예: 최악의 배터리 잔량)에서 시작하여 원인을 찾고, 그다음 단계의 상황으로 이동하며 이 과정을 반복합니다. 시간은 더 걸리지만 훨씬 더 상세하고 정확한 지도를 만들어냅니다.
3. "인과 그래프(Causal Graph)" 접기: 이 방법은 변수 간의 연결 관계를 살펴봅니다. 만약 어떤 변수(예: 택시의 색상)가 아무것도 변화시키지 않는다면, 그 변수는 완전히 제외됩니다. 이는 집의 실제 평면도를 보기 위해 모든 장식을 제거하는 것과 같습니다.

안전망: 얼마나 확신할 수 있는가?

여기서 이 논문은 정말 흥미로워집니다. 지도를 단순화할 때는 실수의 위험이 따릅니다. 저자들은 이 단순화의 불확실성을 다루는 세 가지 방법을 테스트했습니다.

• 평균 방식: 그룹 내의 모든 가능성을 단순히 평균 냈습니다. 빠르지만, 논문은 이 방식이 때때로 위험할 정도로 틀릴 수 있음을 보여줍니다. 이는 마치 "맑음"과 "토네이도"를 평균 내어 날씨를 예측하는 것과 같습니다. 결과는 "비"가 될 수 있지만, 이는 두 상황 중 어느 쪽에도 도움이 되지 않습니다.
• 구간 방식: 단일 숫자 대신 범위(예: "성공 확률은 40%에서 60% 사이입니다")를 제공합니다. 우리가 정확한 답은 모르더라도, 답이 그 상자 안에 있다는 것을 인정하기 때문에 더 안전합니다.
• 게임 방식 (최고의 성능): 가장 정교한 방법입니다. 이들은 단순화된 모델을 2인용 게임으로 변환했습니다. 한 플레이어는 로봇(승리하려고 노력함)이고, 다른 한 플레이어는 "악당"(로봇을 패배시키려고 노력함)입니다. 악당은 그룹 내에서 최악의 시나리오를 선택할 수 있습니다. 만약 로봇이 이 악당을 상대로도 여전히 이길 수 있다면, 로봇은 실제 세계에서도 확실히 안전할 것입니다.

저자들은 표준적인 여러 컴퓨터 벤치마크에서 그들의 방법을 실행했습니다. 그 결과, 반복적(Iterative) 방법과 게임(Game) 접근법을 결합했을 때 가장 좋은 결과를 얻었습니다. 이 조합은 원래 크기의 20% 미만인 아주 작은 모델을 만들면서도, 로봇이 거의 완벽한 결정을 내릴 수 있도록 했습니다.

더 큰 세상에서도 작동하는가?

저자들이 수행한 가장 멋진 테스트 중 하나는 그들의 "원인"을 재사용할 수 있는지 확인하는 것이었습니다. 작은 3x3 도시 격자를 위한 원인을 찾아냈다고 가정해 봅시다. 이 동일한 논리를 거대한 100x100 도시에도 적용할 수 있을까요?

그들은 원인이 일반화된다는 것을 발견했습니다. 작은 도시에서 찾은 단순한 규칙들이 큰 도시에서도 작동하는 경우가 많았습니다. 이는 로봇을 작고 저렴한 시뮬레이션에서 훈련시킨 뒤, 그 원인을 찾아내어 다시 비싼 수학적 계산을 반복할 필요 없이 거대한 실제 문제에 적용할 수 있음을 의미합니다. 그러나 저자들은 주의점도 언급했습니다. 단순화된 모델의 크기는 작게 유지되었지만, 훨씬 더 큰 세상으로 넘어갈 때 결정의 품질은 약간 떨어질 수 있다는 점입니다. 이는 작은 마을의 지도를 가지고 나라 전체를 항해하는 것과 같습니다. 방향은 맞출 수 있지만, 몇 번의 길을 놓칠 수도 있습니다.

결론

이 논문은 로봇을 영원히 더 똑똑하게 만드는 문제를 해결했다고 주장하지 않습니다. 저자들은 원인을 찾기 위해 먼저 전체 모델을 분석해야 하므로 현재 방식이 여전히 비용이 많이 든다는 점을 인정합니다. 이는 요약문을 쓰기 위해 백과사전 전체를 읽어야 하는 것과 같습니다.

하지만 그들은 인과관계가 복잡한 의사결정을 단순화하는 강력한 도구임을 보여주었습니다. 단순히 모든 것을 들여다보는 대신, 무엇이 실제로 성공이나 실패를 유발하는지에 집중함으로써, 불가능할 정도로 거대한 문제를 작고 해결 가능한 문제로 축소할 수 있습니다. 그들은 특히 "게임" 방식을 사용하여 안전망을 구축할 때, 이 접근 방식이 무작위 추측이나 단순한 평균화보다 더 효과적임을 입증했습니다. 로봇, 자율주행 자동차, 혹은 스마트 소프트웨어를 만드는 사람들에게 이 논문은 노이즈를 뚫고 진정으로 중요한 것에 집중할 수 있는 수학적으로 타당한 새로운 방법을 제시합니다. 이는 거대하고 무질서한 세상을 다루는 열쇠가 더 많은 데이터를 처리하는 것이 아니라, 데이터 뒤에 숨겨진 이유를 이해하는 데 있다는 것을 시사합니다.