Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
이 논문은 영국에서 지역사회 대표, 경찰관, 학자들이 협력하여 AI 치안 도구를 평가한 혼합 이해관계자 워크숍의 연구 결과를 제시하며, 인종적 형평성을 전면에 내세우는 것이 무조건적인 거부보다는 효능과 보편적 이익에 대한 공유된 초점에 기반하여 대부분의 활용 사례에 대한 폭넓은 수용으로 이어졌음을 밝히고 있다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신이 "사회(Society)"라는 이름의 거대하고 약간은 덜컹거리는 배를 모는 선장이라고 상상해 보십시오. 이 배에는 새롭고 반짝이는 항법 시스템인 인공지능(AI)이 탑재되었습니다. 이것은 단순한 나침반이 아닙니다. 폭풍을 예측하고, 숨겨진 암초를 찾아내며, 심지어 목적지까지 가는 가장 빠른 경로를 제안할 수 있는 아주 똑똑한 로봇입니다. 치안 유지의 세계에서, 이 로봇은 범죄자를 잡고, 누가 법을 다시 어길지 결정하며, 경찰을 어디로 보낼지 판단하는 데 도움을 주도록 요청받고 있습니다. 하지만 여기에는 함정이 있습니다. 이 배는 과거에 특정 섬들에 너무 가깝게 항해하여 그곳에 사는 사람들에게 상처를 입혔던 역사가 있으며, 로봇 또한 오래된 지도로부터 그러한 나쁜 습관을 배웠을 수도 있다는 점입니다.
이 논문은 기술과 인간의 공정성이 만나는 매우 구ת적인 과학의 한 영역을 깊이 파고듭니다. 이는 우리가 어떻게 이러한 강력한 AI 도구들을 사용하면서도 의도치 않게 과거의 불의를 악화시키지 않을 것인가를 탐구합니다. 핵심 개념은 "편향(bias)"인데, 이는 세상을 왜곡된 방식으로 보게 만드는 안경과 같습니다. 만약 로봇의 안경이 과거의 실수로 인해 색이 변해 있다면, 로봇은 어떤 사람이 누구인지 혹은 어디에 사는지 때문에 그 사람이 무해함에도 불구하고 위험하다고 판단할 수 있습니다. 큰 질문은 단순히 "로봇이 일을 할 수 있는가?"가 아니라, "로봇이 모두에게 공정하게 일을 수행할 것인가?"입니다. 이것이 중요한 이유는, 만약 우리가 로봇의 시력을 점검하지 않은 채 배를 운전하게 내버려 둔다면, 우리가 보호하려는 바로 그 사람들과 충돌하게 될 수도 있기 때문입니다.
그렇다면 연구자들은 실제로 무엇을 했을까요? 그들은 단순히 실험실에 앉아 컴퓨터 시뮬레이션을 돌린 것이 아닙니다. 대신, 그들은 30명의 인원으로 구성된 대규모 "선상 회의"를 조직했습니다. 이 그룹은 경찰관, 지역 사회 리더(거리의 상황과 이웃들의 고충을 잘 아는 사람들), 그리고 과학자들로 섞여 있었습니다. 그들은 함께 앉아 경찰이 AI를 사용할 수 있는 13가지 서로 다른 방식들을 살펴보았습니다. 그들은 단지 "이 기술이 멋진가?"라고 묻지 않았습니다. 대신 "이것이 작동하는가? 도움이 되는가? 그리고 이것이 '모두'에게 도움이 되는가?"라고 물었습니다.
결과는 놀라울 정도로 미묘했습니다. 그룹은 AI라는 아이디어 자체를 통째로 버리지 않았습니다. 사실, 그들은 대체로 AI에 개방적이었습니다! 그들은 오직 세 가지 특정한 용도에 대해서만 "아니요, 절대 안 됩니다"라고 말했습니다. 가장 큰 "안 돼"는 누군가가 다시 범죄를 저지를지 예측하려는 도구(이를 "재범 위험성"이라 부름)에 향했습니다. 참가자들은 누군가의 미래 행동을 추측하려는 시도 자체가 코드의 문제를 넘어 근본적으로 결함이 있다고 느꼈습니다. 그들은 만약 시스템이 과거의 체포 기록을 바탕으로 구축된다면, 그것은 멈추지 않는 햄스터 쳇바퀴처럼 똑같은 사람들을 계속해서 반복적으로 처벌하게 될 뿐이라고 주장했습니다.
하지만 범죄 핫스팟을 포착하거나 경찰의 보고서 작성을 돕는 것과 같은 다른 도구들에 대해서는, 그룹은 시도해 볼 의사가 더 높았습니다. 하지만 그들은 엄격한 규칙을 두었습니다. 그들은 로봇이 선장이 되기를 원하지 않았고, 대신 유능한 부조종사가 되기를 원했습니다. 그들은 인간 경찰이 항상 최종 결정을 내려야 한다고 강조했습니다. 또한 그들은 AI가 투명해야 한다고 요구했습니다. 즉, "마법의 블랙박스"가 있어서는 안 된다는 것입니다. 만약 그 도구가 사용된다면, 그것은 단순히 효율성이라는 가짜 느낌을 만들어내는 것이 아니라 실제로 효과가 있다는 것을 증명해야 합니다.
연구자들이 발견한 가장 흥미로운 사실 중 하나는 그룹이 대화하는 방식이었습니다. 비록 이 회의가 인종적 편향에 중점을 두도록 계획되었음에도 불구하고, 대화는 자연스럽게 더 큰 주제로 확장되었습니다. 참가자들은 모든 도구에 대해 동일한 세 가지 질문을 던지기 시작했습니다: "이것이 실제로 작동하는가? 실질적인 이익을 가져오는가? 그리고 그 이익이 소수의 운 좋은 사람들뿐만 아니라 모두에게 도달하는가?"
이것은 도시 설계에서의 "커브 컷(curb-cut) 효과"와 같습니다. 휠체어 사용자를 위해 만든 경사로가 유모차를 밀고 있는 사람, 카트를 끄는 배달원, 또는 여행 가방을 든 여행자에게도 도움이 되는 것을 알고 계실 겁니다. 연구자들은 가장 소외된 공동체를 염두에 두고 AI를 설계함으로써, 도구를 더 안전하고 유용하게 만드는 더 나은 질문들을 던지게 된다는 것을 발견했습니다. 그들은 만약 그 도구로 인해 피해를 입을 가능성이 가장 높은 사람들을 위해 도구를 고친다면, 보통 다른 모든 사람들을 위해서도 도구를 고치는 셈이 된다는 것을 깨달았습니다.
결국, 이 논문은 공정한 AI를 구축하는 최선의 방법이 "하지 말아야 할 것"의 체크리스트를 만드는 것이나 기술 전문가들만이 결정하도록 내버려 두는 것이 아니라고 제안합니다. 그것은 초기 단계부터 공동체 전체를 테이블로 불러들이는 것입니다. 참가자들은 다양한 목소리(경찰, 지역 사회 구성원, 과학자)를 섞었을 때 더 명확한 위험의 그림을 얻을 수 있다는 것을 보여주었습니다. 그들은 발전을 거부한 것이 아닙니다. 단지 그 발전이 정직하고, 도움이 되며, 공정하기를 요구했을 뿐입니다. 그들은 만약 당신이 배를 안전하게 항해하도록 돕는 로봇을 원한다면, 그 바다를 가장 잘 아는 사람들의 목소리에 귀를 기울여야 한다는 것을 증명했습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.