Artificial Intelligence for Women's Empowerment in Saudi Higher Education: A Human-Centred and Ethical Framework

현대 세계에서 대학교는 더 이상 학생들이 강의실에 앉아 사실을 암기하기만 하는 곳이 아닙니다. 대학은 컴퓨터가 학습 경험 자체를 설계하도록 돕는 복잡한 생태계로 변모하고 있습니다. 이러한 변화는 데이터로부터 학습하고, 패턴을 인식하며, 보통 인간의 지능이 필요한 결정을 내릴 수 있는 컴퓨터 시스템인 인공지능에 의해 주도됩니다. 교육의 맥락에서 이러한 시스템은 개인 튜터 역할을 하거나, 과제를 채점하거나, 혹은 학생이 시험에서 낙제하기도 전에 어려움을 겪을 가능성이 있는 학생을 예측할 수 있습니다. 그러나 기술은 결코 중립적이지 않습니다. 이러한 도구들이 어떻게 구축되고 사용되는지는 그것을 만든 사람이 누구인지, 그리고 누구를 위해 만들어졌는지에 크게 좌ля됩니다. 만약 어떤 시스템이 세계의 한 지역에서 가져온 데이터로 학습되었다면, 그 시스템은 다른 지역 학생들의 삶, 언어, 또는 문화적 가치를 이해하지 못할 수도 있습니다. 이는 중요한 질문을 던집니다. 한 국가가 교육 시스템을 현대화하는 동시에 특정 집단을 격상시키려 할 때, 어떻게 하면 기술이 도움을 주기보다 방해가 되지 않도록 보장할 수 있을까요?

이것이 바로 오늘날 사우디아라비아가 직면한 정확한 도전 과제입니다. 사우디아라비아는 경제를 다각화하고 사회를 변화시키는 것을 목표로 하는 '비전 2030'이라는 야심 찬 국가 계획을 발표했습니다. 이 계획의 두 가지 핵심 축은 인공지능의 급격한 도입과 여성의 역량 강화입니다. 수십 년 동안 사우디아라비아의 여성들은 공적 생활의 많은 측면에서 배제되어 왔으나, 최근의 개혁은 고등 교육, 노동 시장, 그리고 리더십 역할로 향하는 문을 열어주었습니다. 이제 대학들이 스마트 기술을 통합하기 위해 달려가고 있는 상황에서, 이러한 도구들이 의도치 않게 과거의 불평등을 강화하거나 여성 학생들의 특정한 요구를 무시할 위험이 있습니다. 연구자 와파 무함마드 알라자지(Wala Muhammed Alajaji)와 오비 피리(Obby Phiri)의 새로운 연구는 이 교차점을 다룹니다. 그들은 단순히 최신 소프트웨어를 구매하는 것만으로는 충분하지 않다고 주장합니다. 대신, 그들은 이 기술들이 사우디 여성들을 진정으로 지원하기 위해 어떻게 설계되고 통제되어야 하는지에 대한 새로운 사고방식을 제안합니다.

연구자들은 먼저 현재의 지형을 살펴보았습니다. 그들은 인공지능이 교실에서 어떻게 작동하는지에 대한 연구와 여성을 어떻게 역량 강화할지에 대한 연구는 풍부하지만, 이 두 점을 연결한 사람은 매우 적다는 것을 발견했습니다. 기존의 인공지능 가이드라인 대부분은 광범위하고 글로벌한 규칙으로서 작성되었습니다. 그것들은 기관들에게 공정성, 투명성, 책임감을 갖추라고 말하지만, 학생들이 특정한 문화적, 종교적 환경을 탐색하는 사우디 여성들일 때 이를 어떻게 실천해야 하는지는 설명하지 않습니다. 예를 들어, 표준적인 개인정보 보호 규칙은 "학생 데이터를 보호하라"고 말할 수 있지만, 사우디 여성들이 가족에 대한 책임과 문화적 규범에 의해 형성되는 일상적인 일정이나 위치 데이터에 대해 느낄 수 있는 특정한 민감함에 대해서는 다루지 않습니다. 저자들은 이 독특한 맥락에 맞춘 프레임워크가 없다면, 대학들이 서류상으로는 훌륭해 보이지만 실제적인 역량 강화를 실현하지 못하는 도구들을 채택하게 될 수 있음을 깨달았습니다.

이를 해결하기 위해 저자들은 '인간 중심적 윤리적 AI 프레임워크(Human-Centred Ethical AI Framework)'라는 새로운 모델을 개발했습니다. 여섯 개의 뚜렷한 층으로 구성되어 각 층이 위의 층을 받쳐주는 건물을 상상해 보십시오. 맨 아래층은 비전 2030과 국가의 데이터 및 인공지능 전략을 포함한 국가 정책을 나타냅니다. 이것은 규칙을 설정하고 자금을 제공합니다. 두 번째 층은 대학교 자체로, 이 새로운 도구들을 다룰 수 있는 적절한 리더, 적절한 컴퓨터, 그리고 적절한 교사가 있는지 확인합니다. 세 번째 층은 가장 중요한 곳으로, 윤리적 원칙이 살아 숨 쉬는 곳입니다. 여기서 연구자들은 이 특정한 맥락에서 무엇이 '선(good)'인지를 정의합니다. 그들은 투명성(학생들이 왜 컴퓨터가 특정 제안을 했는지 알 수 있도록), 공정성(배경에 상관없이 모든 이에게 도구가 작동하도록), 그리고 개인정보 보호(학생들의 문화적 경계를 존중하도록)를 강조합니다.

네 번째 층은 실제 기술이 위치하는 곳입니다. 여기에는 학생의 학습 속도에 맞춰 조절되는 AI 튜터나, 학생들이 적절한 경력을 찾도록 돕는 시스템 등이 포함됩니다. 이 새로운 모델에서 기술이 우선순위가 아닙니다. 대신, 기술은 반드시 아래층의 윤리적 필터를 통과해야 합니다. 만약 어떤 도구가 개인정보 보호나 공정성의 기준을 충족할 수 없다면, 아무리 첨단 기술이라 할지라도 사용되어서는 안 됩니다. 다섯 번째 층은 학생들이 더 잘 배우고 있는지, 혹은 더 자신감을 느끼고 있는지와 같은 교실에서의 즉각적인 결과를 측정합니다. 마지막으로 꼭대기 층은 궁극적인 목표인 여성의 역량 강화를 나타냅니다. 이것은 단지 학위를 받는 것에 관한 것이 아닙니다. 교육이 실제 리더십 역할, 기업가 정신, 그리고 자신의 미래에 대해 독립적인 선택을 할 수 있는 능력으로 이어지는지에 관한 것입니다.

연구자들은 단순히 진공 상태에서 이 모델을 구축한 것이 아닙니다. 그들은 사우디아라비아의 12명의 여성 학교 지도자들의 삶을 연구함으로써 실질적인 증거에 기반하여 모델을 정립했습니다. 그들은 대부분의 여성들이 공식적인 단계별 훈련 프로그램을 통해 리더로 성장한 것이 아님을 발견했습니다. 대신, 그들은 비공식적인 네트워크, 개인적인 관계, 그리고 적절한 시기에 적절한 장소에 있었던 멘토에 의해 주목받음으로써 그 자리에 올랐습니다. 이것은 매우 중요한 발견입니다. 이는 만약 대학들이 주의 깊은 설계 없이 인공지능 시스템을 채용이나 승진 프로세스에 그대로 끼워 넣는다면, 컴퓨터가 단순히 과거로부터 학습할 수 있음을 시사합니다. 데이터가 과거의 비공식적인 패턴을 반영하고 있다면, 컴퓨터는 단순히 예전과 똑같은 사람들을 추천하게 될 수도 있습니다. 저자들은 인공지능이 진정으로 역량을 강화하기 위해서는, 여성들이 인맥이 아닌 자신의 기술을 바탕으로 인정받을 수 있도록 투명하고 공정한 방식을 제공하는 방향으로 설계되어야 한다고 주장합니다.

이 논문은 또한 대학들이 현재 위치에서 어디로 나아가야 하는지에 대한 실질적인 로드맵을 제시합니다. 먼저 현재의 역량을 정직하게 평가하는 것부터 시작할 것을 제안합니다. 인프라를 갖추고 있는가? 교사들은 준비되었는가? 그다음, 새로운 기술의 윤리를 감독할 위원회를 구성하여 여성과 학생들의 목소리가 의사 결정 과정에 반영되도록 해야 합니다. 이러한 토대가 마련된 후에야 대학은 특정 도구들을 시범적으로 도입하기 시작해야 하며, 기술이 실제로 도움이 되고 있는지 아니면 해를 끼치고 있는지를 면밀히 관찰하며 작게 시작해야 합니다. 마지막 단계는 지속적인 모니터링으로, 결과가 끊임없이 시스템에 피드백되어 개선을 이루어내는 과정입니다. 이것은 일회성 해결책이 아니라 학습과 조정을 거치는 지속적인 과정입니다.

이 연구의 함의는 사우디아라비아의 국경을 훨씬 넘어 확장됩니다. 연구자들은 그들의 접근 방식이 급격한 기술적 변화와 사회적 진보 사이의 균형을 맞추려는 모든 국가에 템플릿을 제공한다고 제안합니다. 걸프 지역, 중동, 또는 다른 신흥 경제국들이든 교훈은 동일합니다. 기술은 사후 고려 대상이 되어서는 안 됩니다. 기술은 처음부터 사회적 목표의 구조 안에 짜여 있어야 합니다. 한 국가가 여성을 역량 강화하고자 한다면, 단순히 그들에게 컴퓨터에 대한 접근권을 주는 것만으로는 부족합니다. 반드시 그 컴퓨터들이 여성의 존엄성, 문화, 그리고 특정한 필요를 염두에 두고 설계되도록 보장해야 합니다. 연구는 이러한 종류의 세심하고 인간 중심적인 계획 없이는 인공지능이 또 다른 장벽이 될 위험이 있다고 결론짓습니다. 하지만 올바른 프레임워크가 있다면, 인공지능은 변화를 위한 강력한 엔진이 되어 교육이 진정으로 모두를 위한 자유와 기회로 이어지는 미래를 건설하는 데 도움을 줄 수 있습니다.