Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

지능형 기계가 어떻게 행동해야 하는지를 안내하기 위해 단 하나의 규칙 세트가 작성되어, 유럽의 북적이는 도시에서 아프리카의 외딴 마을에 이르기까지 어디에서나 통용되기를 바라는 세상을 상상해 보십시오. 이것이 현재 인공지능 윤리의 야망입니다. 수년간 주요 조직과 기술 기업들은 이러한 시스템을 다스려야 한다고 믿는 핵심 가치들—공정성, 투명성, 개인정보 보호, 그리고 책임성—의 목록에 합의해 왔습니다. 그 아이디어는 우리가 이 개념들을 충분히 명확하게 정의한다면, 기술이 어디에서 사용되든 동일하게 작동할 것이라는 것입니다. 하지만 이 접근 방식은 한 문화권의 사람이 '공정성'이나 '개인정보 보호'를 다른 문화권의 사람과 정확히 같은 방식으로 이해할 것이라고 가정합니다. 이는 인간의 가치를 중력처럼 어디서나 변하지 않는 보편적인 상수가 아니라, 특정한 역사, 관계, 그리고 일상생활에서 자라나는 관념으로 취급하는 것입니다.

이 가정이 바로 한 연구팀이 테스트하고자 했던 핵심 질문이었습니다. 그들은 글로벌한 규칙이 지역적 현실과 만날 때 어떤 일이 벌어지는지 알고 싶었습니다. 이 기술을 실제로 구축하고, 사용하며, 함께 살아가는 사람들이 표준적인 정의에 동의할까요? 아니면 그들은 전혀 다른 렌즈를 통해 기술을 바라보고 있을까요? 연구진은 기술이 기술적으로 제대로 작동하는지를 묻는 것이 아니라, 이 기술을 안내하는 도덕적 나침반이 모두에게 같은 방향을 가리키고 있는지를 묻고 있었습니다. 그들은 글로벌한 규칙 책과 지역적 삶 사이의 간극이 예상보다 훨씬 넓을 수 있으며, 이로 인해 많은 공동체가 뒤처지거나 자신들의 필요에 부합하지 않는 가치를 받아들이도록 강요받을 수 있다고 의심했습니다.

답을 찾기 위해 연구진은 아프리카, 아시아, 라틴 아메리카, 유럽, 북미, 카리브해, 그리고 오세아니아에 걸친 10개국을 여행했습니다. 그들은 기계의 코드를 연구한 것이 아니라, 이 다양한 지역에서 살고 일하는 14명의 전문가와 함께 앉았습니다. 이들은 단순한 컴퓨터 과학자가 아니라, 기술과 더불어 자국 내의 깊은 문화적 흐름을 이해하는 지역 사회 지도자, 언론인, 정책 옹호가들이었습니다. 7개월에 걸쳐 연구팀은 심층적인 대화를 진행하며, 이 전문가들에게 자신의 이웃에서 인공지능을 어떻게 보고 있는지, 그리고 글로벌 정책 문서에서 사용되는 거창한 윤리적 단어들을 어떻게 해석하는지 설명해 달라고 요청했습니다.

이 대화에서 나타난 결과는 기술의 경험이 매우 불균등한 세상의 모습을 선명하게 보여주었습니다. 전문가들은 인공지능에 대한 접근이 단순한 물리적 현실, 즉 안정적인 전력의 부족, 불안정한 인터넷 연결, 또는 저렴한 기기의 부재에 의해 차단되는 경우가 많다고 설명했습니다. 많은 곳에서 기술은 중립적인 도구로서 도착하는 것이 아니라, 공동체와 함께 만들어지기보다는 공동체로부터 뽑아가는 것처럼 느껴졌습니다. 연구진은 이 지역의 사람들이 자신의 데이터가 온전한 이해나 동의 없이 추출되어, 정작 자신들의 언어나 억양, 문화적 뉘앙스를 인식하지 못하는 시스템을 훈련하는 데 사용된다고 느낀다는 것을 발견했습니다. 이는 지역 공동체가 기계의 연료를 제공하지만 그 혜택은 거의 보지 못하는 반면, 기계가 어떻게 작동하는지에 대한 결정은 그들의 일상적 고충을 공유하지 않는 먼 곳의 사람들에 의해 내려지는 '추출'의 감각을 만들어냅니다.

그러나 가장 놀라운 발견은 이 시스템들을 다스리는 단어들을 전문가들이 어떻게 재정의했는가 하는 점이었습니다. 연구진이 '개인정보 보호'에 대해 물었을 때, 표준적인 글로벌 정의는 자신의 데이터를 비밀로 유지할 개인의 권리에 초점을 맞춥니다. 하지만 이 연구에 참여한 많은 문화권에서 개인정보 보호는 개별적인 방패가 아니라 집단적인 관습입니다. 이 전문가들에게 개인정보 보호는 가족이나 공동체의 문제입니다. 어떤 정보를 공유할지 결정하는 것은 단 한 사람의 권리가 아니라, 전체 집단의 안녕과 평판을 고려한 집단적인 대화입니다. 데이터를 순수하게 개인의 자산으로 취급하는 시스템은 이 공동체들이 실제로 기능하는 방식을 놓치는 것입니다.

마찬가지로 '투명성'이라는 개념도 다른 의미를 갖게 되었습니다. 글로벌 기술 세계에서 투사성은 흔히 엔지니어들이 수학적 원리를 볼 수 있도록 코드를 공개하는 것을 의미합니다. 하지만 이 연구의 전문가들에게 투명성은 신뢰와 책임에 관한 것이었습니다. 그들은 코드를 볼 필요가 있는 것이 아니라, "왜 그런 결정을 내렸습니까?"라고 인간에게 묻고, 자신의 언어와 맥락에 맞는 답변을 들을 수 있어야 했습니다. 만약 농촌 지역의 농부가 왜 기계가 비나 가뭄을 예측했는지 이해할 수 없다면, 아무리 복잡한 기술 문서가 존재하더라도 그 시스템은 투명한 것이 아닙니다. 신뢰는 복잡한 알고리즘에 대한 접근이 아니라, 관계와 명확한 소통을 통해 구축됩니다.

'공정성'의 개념 또한 변화했습니다. 표준적인 관점은 모든 집단이 정확히 동일한 결과를 얻도록 보장하는 수학적 평등을 추구합니다. 그러나 전문가들은 진정한 공정성은 형평성과 접근성에 관한 것이라고 주장했습니다. 만약 시스템이 기술적으로는 공정하더라도 사용하기 위해 고속 인터넷 연결이나 스마트폰을 필요로 한다면, 그것은 그러한 자원이 없는 사람에게는 공정하지 않습니다. 그들의 관점에서 공정성이란 시스템이 모두에게 접근 가능하도록 보장하고, 설계자들이 영향을 받을 사람들의 목소리에 귀를 기울이는 것을 의미합니다. 이는 단순한 숫자의 계산이 아니라 구조적 정의의 문제입니다.

연구진은 이러한 차이점이 단순한 오해가 아니라, 그들이 '번역 격차(translation gaps)'라고 부르는 현상임을 발견했습니다. 이는 보편적인 규칙이 특정 장소에 제대로 착륙하지 못하는 공간입니다. 글로벌 프레임워크가 "공정하라"고 말할 때, 그것은 뉴욕의 회의실에서와 케냐의 마을에서 전혀 다른 의미를 가질 수 있습니다. 이러한 격차가 무시될 때, 그 결과는 종례히 자신들을 돕기로 되어 있는 사람들에게 이질적이고, 신뢰할 수 없으며, 심지어 해로운 것으로 느껴지는 시스템을 초래합니다. 전문가들은 먼 곳의 권위자들이 자신들의 지역적 가치를 이해하지 못한 채 자신들을 위해 결정을 내리는 것을 지켜보며, 마치 자신의 기술적 미래에서 이방인이 된 것 같다고 설명했습니다.

이러한 조사 결과에 대응하여, 전문가들은 새로운 길을 제시했습니다. 그들은 전 세계에 단 하나의 규칙 세트를 강요하는 대신, 다양한 목소리를 허용하는 거버넌스 체계가 필요하다고 제안했습니다. 그들은 지역 공동체가 자신들의 지역에서 기술이 어떻게 설계되고 사용될지를 결정할 권한을 가져야 한다고 제안했습니다. 이는 몇몇 강력한 기관이 규칙을 규정하는 모델에서 벗어나, 지식과 의사결정이 공유되는 모델로 나아가는 것을 의미합니다. 이는 지역 문화가 데이터를 어떻게 다루고, 어떻게 신뢰를 쌓으며, 어떻게 정의를 확보할지에 대한 깊은 지혜를 가지고 있음을 인정하는 것을 포함합니다.

연구는 윤리적인 인공지능으로 가는 길이 어디서나 통용되는 단 하나의 완벽한 가치 정의를 찾는 것이 아니라고 결론짓습니다. 대신, 가치가 하나의 맥락에서 다른 맥락으로 이동할 때 협상되고 적응될 수 있는 과정을 만드는 것이 중요합니다. 이는 기술과 함께 실제로 살아가는 사람들의 목소리에 귀를 기울이고, 그들이 자신의 삶 속에서 공정성, 개인정보 보호, 그리고 신뢰가 무엇을 의미하는지 정의할 수 있도록 허용하는 것을 요구합니다. 윤리적 가치를 부과되어야 할 고정된 표준이 아니라, 각 공동체에 맞춰 번역되고 재구상되어야 하는 것으로 취급함으로써, 우리는 더 똑똑할 뿐만 아니라 더 정의롭고 더 인간적인 시스템을 구축할 수 있습니다. 연구진은 인공지능이 단 몇몇만을 위한 것이 아니라 인류 전체를 위해 봉사하기를 원한다면 이러한 변화가 필수적이라고 제언합니다.