Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

단 한 그룹의 사람들이 자신들의 역사와 언어만을 사용하여 만든 규칙이 다른 모든 이들에게 적용되는 세상을 상상해 보십시오. 이것이 현재 학교 현장에서 인공지능이 처한 현실입니다. 컴퓨터가 점점 더 똑똑해짐에 따라, 시험 성적을 매기고, 학습 내용을 추천하며, 심지어 누가 대학에 입학할지를 결정하는 데에도 점점 더 많이 사용되고 있습니다. 하지만 이러한 시스템을 공정하게 유지하기 위해 만들어진 윤리적 가이드라인은 대부분 부유한 서구 국가들에서 만들어집니다. 이 가이드라인들은 모든 사람이 동일한 방식으로 생각하고, 말하고, 학습한다고 가정합니다. 이러한 규칙들이 아프리카, 아시아, 또는 라틴 아메리카의 학생들에게 적용될 때, 그것들은 종종 실패하곤 합니다. 그 규칙들은 학생의 억양을 오해하거나, 지역의 문화적 가치를 무시하거나, 혹은 단순히 인터넷 연결이 너무 느려 제대로 작동하지 않을 수도 있습니다. 그 결과, 공정함을 표방하지만 실제로는 특정 집단을 더 소외시키는 시스템이 만들어집니다.

이러한 불균형은 연구자들 사이에서 새로운 질문을 불러일으켰습니다. "누가 무엇이 옳은지를 결정하는가?" 인도네시아의 한 학자 팀은 전 세계 교실에서 AI 윤리가 실제로 어떻게 사용되는지 분석함으로써 이 질문에 답하고자 했습니다. 그들은 단순히 규칙을 읽는 데 그치지 않고, 가이드라인을 작성한 사람들과 그 영향을 받는 학생들, 그리고 그곳이 사용되는 장소들을 다룬 84개의 출판된 연구들을 조사했습니다. 그들의 목표는 AI 윤리가 소수의 권력을 가진 자들만이 아닌, 모두를 위해 작동하게 만드는 방법을 찾는 것이었습니다. 그들은 이 접근 방식을 '글로컬(glocal)'이라고 부르는데, 이는 글로벌(global)과 로컬(local)의 합성어로, 좋은 규칙이란 전 세계를 염두에 두되 각 공동체의 구체적인 필요에 맞게 구축되어야 함을 시사합니다.

연구진은 먼저 2015년부터 2025년 사이에 발표된 84개의 서로 다른 연구들을 수집했습니다. 그들은 AI가 교육에 어떻게 사용되는지, 그리고 그것이 공정한지에 대해 논의하는 모든 연구를 찾았습니다. 그들은 수천 개의 기사를 분류하여, 실제 현장에서 이러한 시스템이 어떻게 작동하는지에 대한 실질적인 증거를 제공하거나 깊이 있는 분석을 담고 있는 것들만을 남겼습니다. 그들은 특히 기술에 관한 주요 담론에서 자주 소외되어 온 지역인 '글로벌 사우스(Global South)'—아프리카, 라틴 아메리카, 그리고 아시아 일부 국가들을 포함하는 용어—의 목소리에 주목했습니다. 기존 문헌 속에서 이러한 목소리에 집중함으로써, 연구팀은 윤리적인 AI가 어떤 모습이어야 하는지에 대한 색다른 그림을 보고자 했습니다.

그들이 발견한 것은 명확한 격차였습니다. 규칙과 가이드라인의 대다수는 유럽과 북미의 기관들로부터 나옵니다. 이러한 규칙들은 흔-히 "공정하라"나 "투명하라"와 같은 가치의 단순한 체크리스트 형태로 작성됩니다. 그러나 연구는 이러한 체크리스트가 세계 다른 지역의 학교에서 실제로 작동 방식을 바꾸는 경우는 드물다는 것을 보여줍니다. 많은 경우, 글로벌 사우스의 학교들은 자신들의 의견을 묻지도 않은 채 이러한 서구식 규칙을 채택하도록 요구받습니다. 연구진은 AI 시스템이 영어 데이터와 서구적 아이디어만을 사용하여 구축될 때, 다른 언어를 사용하거나 다른 문화적 배경을 가진 학생들에게 더 자주 오류를 범한다는 것을 발견했습니다. 예를 들어, 자동 채점 도구들은 비원어민 영어 화자들을 이해하는 데 어려움을 겪으며, 그들의 작업물이 더 나빠서가 아니라 컴퓨터가 그들의 말하기 방식을 이해하지 못하기 때문에 낮은 점수를 주는 경우가 많습니다.

또한 이 연구는 이러한 규칙에 의해 보호받아야 할 사람들, 즉 교사, 학생, 그리고 지역 지도자들이 의사결정 과정에 참여하는 경우가 매우 드물다는 점을 드러냈습니다. 지역 사회가 참여한 몇 안 되는 사례에서도, 그 참여는 종종 실질적인 파트너십이라기보다는 단순히 체크해야 할 항목을 채우는 형식적인 절차에 불과했습니다. 연구진은 지역의 목소리가 무시될 때, 기술이 해결하고자 했던 문제를 오히려 해결하지 못하는 경우가 많다고 언급했습니다. 기술이 모두의 학습을 돕는 대신, 기존의 불평등을 심화시켜 이미 뒤처지고 있는 이들을 더욱 힘들게 만들 수 있다는 것입니다.

하지만 이야기는 실패로 끝나지 않습니다. 연구진은 훨씬 더 잘 작동하고 있는 지역적 솔루션들의 움직임을 발견했습니다. 예를 들어, 가나의 학교들은 "한 사람이 다른 사람을 통해 사람이 된다"는 개념인 '우분투(Ubuntu)'를 사용하고 있습니다. 이 아이디어는 개인의 점수보다는 공동체의 신뢰와 공유된 책임을 강조하는 AI 시스템을 설계하는 데 사용됩니다. 동남아시아에서는 '고통로잉(gotong royong)', 즉 공공의 이익을 위해 함께 협력한다는 개념이 기술이 어떻게 사용될지에 대해 모두가 목소리를 낼 수 있도록 하는 데 사용되고 있습니다. 이러한 지역적 방법들은 단순히 거대한 글로벌 규칙에 대한 작은 조정이 아닙니다. 그것들은 무엇이 옳고 그른지에 대한 완전히 다른 방식의 사고입니다. 이들은 지역적 지식을 서구 과학만큼이나 중요하게 취급합니다.

연구팀은 현재의 방식이 윤리를 '원사이즈 포 올(one-size-fits-all, 일률적인)' 제품으로 취급하기 때문에 고장 났다고 결론지었습니다. 그들은 하나의 규칙 세트를 전 세계에 강요하려는 노력을 멈춰야 한다고 주장합니다. 대신, 그들은 '교육 분야의 글로컬 AI 윤리 프레임워크(Framework for Glocalized AI Ethics in Education)'라는 새로운 체계를 제안합니다. 이 접근 방식은 윤리적 규칙이 밑바닥에서부터 구축되어야 한다고 제안합니다. 이는 다른 나라의 학교가 AI를 사용하고자 할 때, 자신의 문화와 언어, 필요에 맞게 규칙을 형성할 수 있어야 함을 의미합니다. 또한, 이러한 도구들을 판매하는 기업들은 제품을 판매하기 전에 자신들의 시스템이 현지 학생들에게 공정하게 작동한다는 것을 증명해야 한다는 것을 의미합니다.

연구진은 이를 실현하기 위한 세 가지 주요 단계를 제시합니다. 첫째, 이러한 시스템을 안내하는 지식은 단 한 곳이 아닌 다양한 곳에서 나와야 합니다. 둘째, 기술을 사용하는 사람들이 설계와 검증 과정에서 실질적인 목소리를 내야 합니다. 셋-째, 기술이 공정하게 작동하지 않을 경우, 모든 이에게 제대로 작동하지 않는 도구를 구매하지 않는 것과 같은 실질적인 결과가 뒤따라야 합니다. 이것은 단순히 친절을 베푸는 문제가 아니라, 기술이 실제로 작동하게 만드는 문제입니다. 연구는 지역 사회가 설계 과정에 참여할 때 시스템에 대한 신뢰도가 높아지고, 기술이 모두에게 더욱 유용해진다는 것을 보여줍니다.

이 새로운 사고방식은 모든 오래된 규칙을 버리자는 뜻이 아닙니다. 대신, 규칙을 만드는 방식을 바꾸자는 것입니다. 그것은 언어를 말하거나 수업을 가르치는 방식이 다양하듯, 윤리적인 방식 또한 다양하다는 것을 인정하는 것입니다. 연구진은 우리가 이러한 차이를 존중하는 시스템을 구축할 수 있다면, 진정으로 모든 학생의 학습을 돕는 AI를 만들 수 있다고 믿습니다. 그들은 이것이 쉽거나 하룻밤 사이에 일어날 일이라고 말하지 않습니다. 하지만 그들은 몇몇 강력한 집단이 모두를 위해 결정하는 현재의 경로가 작동하지 않는다는 점을 분명히 하고 있습니다. 교육 분야에서 AI의 미래는 실제로 기술을 사용하는 사람들의 목소리에 귀를 기울이고, 그들의 미래를 결정할 도구의 설계 과정에서 그들의 목소리가 반드시 전달되도록 보장하는 데 달려 있습니다.