Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

컴퓨터가 단순히 계산기나 게임 콘솔이 아니라, 의사결정자가 되는 세상을 상상해 보십시오. 이것이 바로 인공지능(AI)의 영역입니다. AI를 수백만 권의 책을 읽고 수많은 영상을 보며 배우는 아주 똑똑한 견습생이라고 생각해보세요. 하지만 여기에는 함정이 있습니다. 견습생이 빠르고 많은 것을 알고 있다고 해서, 그것이 항상 '옳은 것'을 아는 것은 아니라는 점입니다. 때때로 그들은 읽은 책으로부터 나쁜 습관을 배울 수도 있고, 한 사람을 구하지만 다른 한 사람에게는 해를 끼치는 선택을 할 수도 있습니다. 여기서 '윤리'라는 개념이 등장합니다. 윤리는란 단순히 옳은 일을 하기 위한 규칙 모음입니다. 우리가 이 초스마트 견습생들에게 환자를 치료하거나, 자동차를 운전하거나, 심지어 전쟁에서 싸우는 것과 같은 중대한 업무를 맡길 때, 우리는 단 하나의 일반적인 규칙만을 사용할 수 없습니다. 비디오 게임에 적합한 규칙이 병원에서는 재앙이 될 수도 있기 때문입니다. 그래서 과학자들과 사상가들은 질문을 던지고 있습니다. 어떻게 하면 우리의 AI 견습생들이 그들이 방문하는 각기 다른 특정 동네에서 올바르게 행동하도록 만들 수 있을까?

코너 니찰스(Connor Nitchals)가 작성한 이 논문은 AI가 이미 작동하고 있는 네 가지 매우 다른 동네, 즉 병원, 전장, 도로, 그리고 학교를 깊이 있게 다룹니다. 저자는 우리가 모든 AI를 동일하게 취급해서는 안 된다고 제안합니다. 대신, 각 직업에 맞춘 맞춤형 갑옷이 필요하다는 것입니다. 이 논문은 모든 문제를 해결했거나 모든 것을 고칠 마법의 버튼을 찾아냈다고 주장하지 않습니다. 대신, 각 분야의 독특한 함정과 위험을 지적하는 동시에, 모든 곳에 적용되는 몇 가지 공통된 안전 규칙을 강조하는 지도 역할을 합니다. 저자는 상황을 안전하고 공정하게 유지하기 위해, 우리가 이러한 시스템을 설계할 때 매우 신중해야 하며, 투명성(그들이 어떻게 생각하는지 아는 것), 안전성(고장 나거나 사람을 다치게 하지 않는 것), 그리고 오용으로부터의 보호(악용되지 않도록 하는 것)를 확보해야 한다고 제고합니다.

먼저, 병원, 즉 임상 AI부터 시작해 보겠습니다. 역사상의 모든 의학 저널을 읽은 의사의 조수를 상상해 보세요. 이 조수는 질병을 발견하거나 치료 계획을 세우는 일을 믿을 수 없을 만큼 빠르게 도울 수 있습니다. 하지만 논문은 만약 이 조수가 특정 집단에게 불공정했던 과거의 의료 기록으로부터 배웠다면, 계속해서 불공정한 태도를 보일 수 있다고 경고합니다. 이는 마치 1950년대에 쓰인 교과서로만 공부한 학생과 같습니다. 세상이 변했음에도 불구하고 그들은 세상이 변하지 않았다고 생각할 수 있습니다. 논문은 병원에서 AI가 제대로 작동하려면, 편향되지 않았는지 확인하기 위해 그들의 '숙제'를 끊임없이 검토해야 한다고 제안합니다. 또한, 우리는 AI가 결론에 어떻게 도달했는지 알아야 합니다. 만약 AI가 이유를 설명하지 않고 답만 내놓는 '블랙박스'라면, 의사들은 환자의 생명을 맡길 수 없습니다. 저자는 인간 의사가 AI의 작업을 재확인하고 환자의 개인정보가 절대 침해되지 않도록 하는 과정에 반드시 포함되어야 함을 강조합니다.

다음으로, 우리는 전장, 즉 군사 자동화의 영역으로 이동합니다. 이곳은 가장 엄중한 동네입니다. 여기서 AI는 탱크를 운전하거나, 적을 정찰하거나, 심지어 무기를 발사할 시점을 결정하는 데 사용될 수 있습니다. 논문은 거대한 윤리적 우려를 강조합니다: 기계가 생사와 직결된 최종 결정을 내리는 것이 허용되어야 하는가? 저자는 이러한 결정에 대해 '의미 있는 인간의 통제'를 유지해야 한다고 제안합니다. 이는 로봇이 탱크를 운전할 수는 있지만, 버튼을 누르는 것은 반드시 인간이어야 한다는 것과 같습니다. 논문은 만약 로봇이 실수를 하여 해를 끼친다면, 그 책임이 프로그래머에게 있는지, 군인에게 있는지, 아니면 기계 자체에 있는지 판단하기가 매우 어렵다고 주장합니다. 이 때문에, 논문은 이러한 시스템이 해킹당하거나 국제법을 위반하는 방식으로 사용되는 것을 방지하기 위한 엄격한 규칙이 필요하다고 제 kê합니다. 국가 안보를 위해 비밀 유지가 필요하지만, 저자는 과도한 비밀 주의가 대중의 신뢰를 잃게 만들 수 있으므로 균형이 필요하다고 언급합니다.

그다음, 우리는 운전석인 자율주행 자동차(AV)로 넘어갑/니다. 이들은 카메라와 센서를 사용하여 세상을 항해하는 스스로 운전하는 자동차입니다. 사고를 줄이고 여행을 더 편리하게 만들겠다는 약속이 담겨 있습니다. 그러나 논문은 이 자동차들이 피할 수 없는 충돌 상황에 직면했을 때, 예를 들어 보행자를 구하기 위해 방향을 틀어야 할지 아니면 승객을 보호해야 할지와 같은 까다로운 상황에 처해 있음을 지적합니다. 논문은 모든 '만약의 상황'을 완벽하게 해결할 수는 없더라도, 엔지니어들이 인간의 생명을 우선시하고 피해를 최소 최소화하도록 설계해야 한다고 제안합니다. 또한, 자율주행 자동차가 사고를 냈을 때 누가 책임을 질 것인지 결정하기 위한 새로운 법률이 필요하다고 언급합니다. 자동차 소유자인가요, 소프트웨어 제작자인가요, 아니면 자동차를 만든 회사인가요? 저자는 사람들이 이 자동차들을 신뢰하기 위해서는 기업들이 자동차가 어떻게 작동하는지, 그리고 그 한계가 무엇인지에 대해 공개적이어야 한다고 강조합니다.

마지막으로, 우리는 교실인 교육 기술의 현장으로 들어갑니다. 여기서 AI는 교사를 도와 과제를 채점하고, 맞춤형 수업을 제공하며, 학생들이 어떻게 학습하고 있는지를 추적합니다. 논문은 이것이 양날의 검이라고 경고합니다. 한편으로는 모든 학생이 자신의 속도에 맞춰 학습하도록 도울 수 있습니다. 다른 한편으로는 학생들의 습관과 두뇌에 관한 많은 개인 데이터를 수집합니다. 저자는 이 데이터를 아이들을 감시하거나 불공정하게 처벌하는 데 사용하지 않도록 매우 주의해야 한다고 제안합니다. 만약 AI가 부유한 학생들에게 유리한 데이터로 훈련되었다면, 가난한 학생들에게 잘못된 조언을 하여 그들 사이의 격차를 더 벌릴 수 있습니다. 논문은 학교가 이 데이터를 어떻게 사용하는지에 대해 투명해야 하며, AI가 단순히 학생들을 엄격한 감독관처럼 감시하는 것이 아니라 학습을 지원하도록 보장해야 한다고 주장합니다.

그렇다면, 이 모든 것의 핵심적인 결론은 무엇일까요? 논문은 병원, 전장, 도로, 학교가 매우 다르지만, 모두 몇 가지 공통된 안전 규칙을 공유한다고 결론짓습니다. 로봇 의사든 자율주행 버스든, 우리에게는 투명성(작동 방식을 아는 것), 안전성(고장 나지 않도록 하는 것), 오용 방지(나쁜 의도를 가진 자들이 해킹하는 것을 막는 것), 그리고 개인정보 보호(개인 데이터를 안전하게 지키는 것)가 필요합니다. 저자는 모든 AI에 적용되는 하나의 거대한 규칙 모음집을 가질 수는 없다고 제안합니다. 대신, 각 분야의 고유한 규칙을 존중하면서도 이러한 핵심 가치들을 고수할 수 있는 유연한 프레임워크가 필요합니다. 이 논문은 최종적인 정답을 제시한다고 주장하는 것이 아니라, 정부와 과학자들이 미래를 위해 더 낫고, 더 안전하며, 더 공정한 AI 시스템을 구축할 수 있도록 돕는 견고한 출발점을 제공합니다.