Ethics Shaped by Contestation: The Trolley Problem and the Formation of Ethical Problems in Autonomous Vehicle Ethics
이 논문은 트롤리 문제가 자율주행 자동차 윤리에서 갖는 진정한 의의가 결정적인 충돌 해결책을 제공하는 데 있는 것이 아니라, 극단적인 시나리오로부터 위험 거버넌스 및 제도적 책임이라는 더 넓은 문제로 윤리적 탐구를 지속적으로 형성하고 재구성하며 확장하는 역동적인 경합의 틀로서 기능하는 데 있다고 주장한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
자동차가 스스로 운전하며, 한때 인간 운전자의 몫이었던 찰나의 결정을 내리는 세상을 상상해 보십시오. 우리가 이러한 미래를 향해 나아감에 따라, 익숙한 도덕적 난제가 논쟁의 중심에 서게 되었습니다. 바로 '트롤리 문제(trolley problem)'입니다. 고전적인 형태에서, 이 사고 실험은 사람에게 두 가지 끔찍한 결과 중 하나를 선택하도록 요구합니다. 예를 들어, 폭주하는 기차를 다른 쪽 선로로 돌려 다섯 명 대신 한 명을 희생시킬 것인지 선택하는 것입니다. 수년 동안 이 시나리오는 자율주행 자동차가 보행자 집단을 구하기 위해 승객을 희생시키도록 프로그래밍되어야 하는지, 혹은 그 반대여야 하는지를 묻는 데 사용되어 왔습니다. 대중과 언론은 이 딜레마를 자율주행 자동차의 윤리를 가늠하는 궁극적인 시험대로 취급하며, 실제 과제가 단순히 충돌 시 누구를 치게 할 것인지를 결정하는 것이라고 가정해 왔습니다. 그러나 새로운 관점은, 오직 이러한 극단적인 충돌 순간에만 집중하는 것이 기계에 도덕적 규칙을 실제로 어떻게 주입할 것인가라는 더 큰 그림을 놓치게 만든다고 제안합니다.
후난 사범대학교의 링 펑(Ling Peng)과 단 완(Dan Wan) 연구원은 자율주행 시대에 트롤리 문제가 갖는 진정한 가치는, 그것이 재난 상황에서 자동차가 어떻게 행동해야 하는지에 대한 준비된 답을 제공하는 데 있는 것이 아니라고 주장합니다. 대신, 그들은 이 문제가 우리가 처음에 던져야 할 질문 자체를 형성하는 강력한 도구 역할을 한다고 제proposed 합니다. 이 유명한 도덕적 난제가 엔지니어와 윤리학자들에 의해 어떻게 사용되고, 비판받고, 적응되어 왔는지를 연구함으로써, 저자들은 이 논쟁이 실제로 연구 분야를 확장했음을 보여줍니다. 논의를 단지 충돌 시나리오로 좁히기보다는, 트롤리 문제를 둘러싼 논란이 전문가들로 하여금 자동차가 내리는 일상적이고 통상적인 결정, 시간이 흐름에 따라 위험이 어떻게 관리되는지, 그리고 상황이 잘못되었을 때 누가 책임을 지는지에 대해 살펴보게 만들었습니다. 이러한 관점에서 볼 때, 트롤리 문제는 막다른 길이 아니라 대화를 계속 진전시키는 출발점입니다.
이러한 변화를 이해하려면 먼저 철학에서 트롤리 문제가 어떻게 작동하는지 살펴봐야 합니다. 이것은 단순히 어려운 선택에 관한 이야기가 아닙니다. 매우 유사해 보이지만 사람들에게 옳고 그름에 대해 다르게 느끼게 만드는 두 상황을 비교하는 방법론입니다. 예를 들어, 어떤 버전의 이야기에서는 사람이 레버를 당겨 선로를 바꿈으로써 다섯 명을 구하는 대신 한 명을 죽게 할 수 있습니다. 대부분의 사람은 이것이 용납 가능하다고 느낍니다. 그러나 또 다른 버전에서는, 기차를 멈추기 위해 다리 위에서 덩치가 큰 사람을 밀어 떨어뜨려야만 다섯 명을 구할 수 있습니다. 여기서 대부분의 사람은 결과가 동일함에도 불구하고, 즉 한 명이 죽어 다섯 명을 구하게 됨에도 불구하고, 이것은 잘못되었다고 느낍니다. 철학자들은 이러한 감정의 차이를 이용하여 무엇이 도덕적으로 중요한 세부 사항인지를 파악합니다. 연구진은 이 방법론이 자율주행 자동차의 세계로 넘어올 때, 그것이 단순히 위기 순간에 관한 이야기에 그치지 않고 기술에 대해 생각하는 방식을 조직하는 프레임워크가 된다고 설명합니다.
자율주행 자동차가 설계될 때, 자동차는 충돌이 발생하기를 기다렸다가 결정을 내리지 않습니다. 그 규칙들은 도로에 나서기 훨씬 전부터 작성됩니다. 저자들은 이러한 맥락에서 트롤리 문제가 어떻게 변모하는지 설명합니다. 그것은 비상 상황에서 인간이 무엇을 해야 하는가라는 질문에서, 엔지니어가 소프트웨어에 어떤 규칙을 써넣어야 하는가라는 질문으로 바뀝니다. 이는 문제의 본질을 완전히 바꿉니다. "자동차는 누구를 쳐야 하는가?"라고 묻는 대신, "우리는 이러한 선택을 내리는 시스템을 어떻게 구축할 것인가?"라는 질문이 됩니다. 트롤리 문제는 연구자들이 자동차의 코드에 어떤 가치가 내재되어 있는지, 예를 들어 자동차가 승객의 안전을 우선시할 것인지 아니면 도로 위의 사람들을 우선시할 것인지 등을 식별하는 데 도움을 줍니다. 그것은 특정 윤리적 쟁점들, 구체적으로는 해악의 배분과 가치의 우선순위 설정을 선명하게 부각하는 렌즈 역할을 합니다.
하지만 저자들은 이 렌즈에 한계가 있다고 지적합니다. 만약 우리가 트로리 문제만을 바라본다면, 자율주행 자동차가 실제로 수행하는 방대한 작업의 대부분을 놓칠 수 있습니다. 비평가들은 고전적인 시나리오들이 너무 극단적이고 비현실적이라고 주장해 왔습니다. 실제 자동차는 한 명을 죽일 것인가 다섯 명을 죽일 것인가와 같은 완벽하고 명확한 선택에 직면하지 않습니다. 자동차는 매초마다 혼란스럽고 불확실한 상황에 직면합니다. 연구진은 사람들이 트롤리 문제가 자율주행 자동차에 적합한지에 대해 논쟁하면서, 그 논쟁이 실제로 이 분야를 충돌 너머를 바라보도록 밀어붙였다는 것을 발견했습니다. 트롤리 문제가 너무 좁다는 비판은 전문가들로 하여금 운전의 "일상적인 상황들"을 고려하게 만들었습니다. 이것들은 자동차가 횡단보도의 보행자에게 얼마나 가까이 접근할 것인지, 혹은 번잡한 교차로에서 얼마나 빠르게 주행할 것인지와 같이 매일 수백만 번씩 일어나는 평범한 결정들입니다. 이러한 일상적인 결정들은 단 하나의 충돌 시나리오로는 포착할 수 없는 방식으로 사회 전반에 걸쳐 위험을 분산시킵니다.
이 논문은 트로리 문제가 바로 논쟁의 대상이기 때문에 가치가 있다고 제안합니다. 그것이 너무 단순하거나, 너무 극적이거나, 혹은 너무 드문 사례라는 등의 반론들은 이 아이디어를 폐기해야 한다는 신호가 아닙니다. 대신, 이러한 비판들은 윤리적 담론을 확장하는 메커즘으로 작용합니다. 전문가들이 트롤리 문제가 운전의 일상적인 위험을 간과한다고 말할 때, 그들은 위험 관리와 책임에 대한 새로운 사고방식을 만들어내도록 강요받습니다. 논의는 "충돌 시 자동차가 무엇을 해야 하는가?"에서 "사고를 예방하기 위해 자동차가 어떻게 행동해야 하는가?" 그리고 "자동차가 정상적으로 주행하는 동안 발생하는 위험에 대해 누가 책임을 져야 하는가?"로 이동합니다. 트롤리 문제는 비판을 받는 와중에도 이러한 새로운 질문들을 구조화하는 데 도움을 주는 참조점 역할을 합니다. 그것은 이 분야가 자신의 경계를 정의하고, 무엇을 윤리적 문제로 간주할 것인지를 결정하도록 만듭니다.
궁극적으로 연구진은 트로리 문제가 자율주행 자동차의 윤리적 과제를 해결해주지는 않는다고 결론짓습니다. 그것은 차량을 어떻게 프로그래밍해야 하는지에 대한 정답을 알려주지 않습니다. 대신, 그것은 우리가 해결해야 할 문제들을 어떻게 공식화할 것인지를 형성합니다. 특정 쟁점들을 밝히고 다른 쟁점들을 숨김으로써, 그리고 바로 그 점에 대해 비판을 받음으로써, 트로리 문제는 윤리적 탐구를 살아있게 하고 진화하게 만듭니다. 그것은 기술 윤리에서 가장 중요한 부분이 단지 정답을 찾는 것이 아니라, 우리가 질문을 어떻게 결정할 것인지를 이해하는 것임을 상기시켜 줍니다. 모든 이견과 정교화 과정을 포함한 이 논쟁 자체가, 우리가 자율주행 자동차가 진입하고 있는 도덕적 풍경의 전체 복잡성을 볼 수 있게 해주는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.