Law as Code in Autonomous Drone Perception: Active Inference for Context-Dependent Legal Compliance
본 논문은 자율 주행 드론이 복잡한 시나리오에서 경직된 규칙 기반 시스템보다 뛰어난 성능을 보이면서도 계산 효율성을 유지하고 준수 관련 데이터 학습의 근본적인 한계를 해결할 수 있도록, 능동적 추론(Active Inference)을 통합하여 상충하는 법적 의무를 실시간으로 동적으로 균형을 맞추고 집행할 수 있는 법적 액추에이터 계층(Legal Actuator Layer, LAL)을 제안한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
도시 위를 비행하며 거리의 모습을 카메라로 지켜보는 드론 한 대를 상상해 보십시오. 이 드론은 엄격한 규칙 세트를 따라야 합니다. 사유지 위를 비행해서는 안 되며, 촬영에 동의하지 않은 사람들의 얼굴을 녹화해서도 안 되고, 지정된 비행 경로 내에 머물러야 합니다. 인간 운영자에게 이들은 명확한 지침입니다. 하지만 1초의 찰나에 결정을 내려야 하는 기계에게 상황은 훨씬 더 복잡합니다. 만약 의료 응급 상황이 발생하여 구호 물자를 전달하기 위해 제한 구역으로 진입해야 하는 동시에 개인정보 보호법을 위반해야 하는 상황이 발생한다면 어떻게 될까요? 단순히 "만약 ~라면, ~한다" 식의 경직된 명령 목록을 따르는 컴퓨터 프로그램은 아마도 멈춰버리거나 실수를 저지를 것입니다. 금지 구역에 머물러야 한다는 규칙과 생명을 구해야 하는 긴급함 사이에서 무게를 달아 판단할 수 없기 때문입니다. 이것이 자율 주행 기계를 규제하는 데 있어 핵심적인 과제입니다. 법은 단순히 정적인 규칙의 목록이 아니라, 맥락에 따라 변하는 유연한 원칙이기 때문입니다.
퀘벡 대학교 몬트리올(Université du Québec à Montréal)과 막스 플랑크 인간 인지 및 뇌 과학 연구소의 연구진은 이 문제를 해결하기 위한 새로운 방법을 제 제안했습니다. 그들은 드론에 하드코딩된 규칙 목록을 프로그래밍하는 대신, 법을 '선호도(preferences)'로 취급하는 시스템을 구축했습니다. 이 방식에서 드론은 단순히 어떤 행동이 허용되는지 체크박스를 확인하는 것이 아니라, 가치의 위계에 기반하여 자신이 무엇을 "원하는지"를 끊임없이 계산합니다. 일반적인 상황에서 드론은 제한 구역을 피하고 사람들의 프라이버시를 보호하는 것을 강력하게 선호합니다. 하지만 의료 응급 상황을 감지하면 이러한 선호도는 변화합니다. 목표에 도달하고자 하는 욕구가 너무 강력해져서 제한 구역을 피하려는 선호도를 압도하게 되며, 이를 통해 경직된 컴퓨터 프로그램은 할 수 없는 방식으로 법을 준수하며 행동할 수 있게 됩니다. 연구진은 드 enough의 눈과 모터 사이에 '법적 양심' 역할을 하는 디지털 계층을 만들어 이 아이디어를 일련의 컴퓨터 시뮬레이션으로 테스트했습니다.
마울트 알브라신(Mahault Albarracin)과 니콜라스 힌릭스(Nicolás Hinrichs)가 이끄는 연구팀은 이 시스템을 '법적 액추에이터 층(Legal Actuator Layer)'이라고 부릅니다. 그들은 이 층이 드론의 환경 인식과 물리적 움직임 사이에 위치하도록 설계했습니다. 표준적인 설정에서 드론은 군중 위를 날고 있는지 혹은 금지된 구역에 들어갔는지 무시한 채 단순히 목표를 따라갈 수 있습니다. 법적 액추에이터 층은 이러한 명령을 가로챕니다. 드론이 움직이기 전, 이 층은 보고 있는 것에 기반하여 일련의 질문을 던집니다. 응급 상황인가? 주변에 행인이 있는가? 공역이 제한되어 있는가? 그런 다음 답변의 무게를 법적 목표와 대조합니다. 이 목표들은 엄격한 명령이 아닌 선호도로 작성됩니다. 예를 들어, 드론은 낯선 사람의 얼굴을 포착하지 않는 것에 대한 강한 선호도를 갖지만, 충돌을 피하거나 도움이 필요한 사람에게 도달하는 것에 대해서는 훨씬 더 강한 선호도를 갖습니다.
이 시스템이 작동하는지 테스트하기 위해 연구진은 9가지의 서로 다른 시뮬레이션 실험을 수행했습니다. 한 시나리오에서 연구진은 드론에게 행인의 얼굴을 포착하지 않으면서 특정 인물을 추적하도록 요청했습니다. 표준적인 규칙 기반 시스템은 안전을 위해 항상 영상을 흐리게 처리하여 추적을 어렵게 만들거나, 혹은 프라이버시 침해 위험을 무릅쓰고 영상을 전혀 흐리게 처리하지 않을 것입니다. 그러나 새로운 시스템은 상황을 살폈습니다. 카메라가 목표물만을 보고 있다면 영상을 선명하게 유지했습니다. 만약 군중이 보인다면 얼굴을 흐리게 처리했습니다. 시스템이 무엇을 보고 있는지 불확ales한 경우에는 프라이버시 보호를 위해 더 안전한 옵션인 영상 흐리게 처리를 선택했습니다. 이러한 행동은 인간이 작성한 규칙의 성능과 일치하면서도, 불확실성에 적응할 수 있는 더 유연한 과정을 통해 달성되었습니다.
가장 결정적인 테스트는 규칙이 충돌할 때였습니다. 연구진은 드론이 의료 응급 상황에서 누군가를 돕기 위해 제한 구역에 진입해야 하는 시나리오를 만들었습니다. 제한 구역 진입을 엄격히 금지하는 경직된 규칙 기반 시스템은 도움을 주는 데 실패할 것입니다. 단순한 "응급 상황 예외"를 가진 시스템은 드론을 진입하게 하겠지만, 오보가 발생했을 때도 드론을 진입하게 하여 정상적인 상황에서 규칙을 56%의 확률로 위반하게 될 것입니다. 그러나 새로운 시스템은 다르게 행동했습니다. 응급 신호를 들었지만 즉시 진입하지 않았습니다. 대신, 센서를 통해 응급 상황이 실제인지 확인하며 더 많은 증거를 수집하기 위해 잠시 멈췄습니다. 일단 확신이 서자, 임무를 완수하기 위해 제한 구역으로 진입했습니다. 실제 응급 상황이 발생한 모든 시도에서 시스템은 성공했습니다. 응급 상황이 없는 모든 시도에서도 시스템은 구역 밖에 머물렀습니다. 이 시스템은 다른 시스템들이 하지 못한 방식으로 속도와 주의 사이의 균형을 맞추었습니다.
연구진은 또한 시스템이 학습하는 방식에서 놀라운 한계를 발견했습니다. 그들은 아이가 시행착오를 통해 배우는 것과 유사하게, 드론이 자신의 경험으로부터 규칙을 배우도록 시도했습니다. 이 접근 방식은 실패했습니다. 드론은 프라이버시와 제한 구역에 관한 규칙을 배울 수 없었는데, 규칙을 배우기 위해서는 먼저 규칙을 어겨봐야 하기 때문입니다. 법을 준수하는 드론은 법을 어겼을 때의 결과를 경험할 수 없으므로, 그 결과가 어떤 모습인지 결코 배울 수 없습니다. 연구진은 가장 중요한 센서들, 즉 드론의 위치를 알려주거나 응급 상황 여부를 알려주는 센서들이 인간에 의해 사전 보정되었을 때만 이 시스템이 작동한다는 것을 발견했습니다. 드론은 환경을 인식하는 법은 배울 수 있었지만, 법 자체를 처음부터 스스로 배울 수는 없었습니다.
이러한 한계에도 불구하고, 시스템은 실제 사용이 가능할 만큼 충분히 빠르다는 것을 입증했습니다. 연구진은 드론이 법적 결정을 내리는 데 걸리는 시간을 측정했습니다. 세상을 보고 움직임을 결정하기까지의 전체 과정은 단 0.31 밀리초(ms)가 걸렸습니다. 이는 실제 드론에 탑재된 소형 컴퓨터에서 실행하기에 충분한 속도로, 법적 양심이 비행을 방해하지 않고 실시간으로 작동할 수 있게 합니다. 또한 이 시스템은 자연스러운 안전 메커니즘을 보여주었습니다. 센서 노이즈가 심해 드론이 상황을 확신할 수 없을 때, 시스템은 단순히 동작을 멈췄습니다. 시스템은 추측함으로써 법을 어길 위험을 감수하기보다 제자리에서 호버링하는 쪽을 택했습니다.
연구는 법을 경직된 규칙이 아닌 유연한 선호도로 인코딩하는 것이 자율 기계가 복잡한 현실 세계의 상황을 다룰 수 있게 해준다고 결론짓습니다. 법적 의무를 맥락에 따라 변하는 일련의 경쟁하는 욕구로 취급함으로써, 드론은 효과적이면서도 규정을 준수하는 결정을 내릴 수 있습니다. 이 시스템은 완벽한 변호사가 될 필요는 없습니다. 단지 어떤 규칙이 더 중요한지, 그리고 때로는 옳은 행동이 현재 일어나고 있는 일에 달려 있다는 점을 이해하면 됩니다. 이 접근 방식은 인간이 모든 결정마다 버튼을 누를 필요 없이, 인간 사회의 복잡하고 상충하는 요구 사항들을 헤쳐 나갈 수 있는 기계들을 구축하는 길을 제시합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.