생각해 보세요. 하와이의 학교에 새로운 요리사 (AI) 가 왔습니다. 이 요리사는 전 세계의 수많은 레시피 (데이터) 를 보고 배웠지만, 하와이 현지 식재料的이나 전통적인 맛을 제대로 모릅니다.
문제 상황: 요리사가 하와이 학생들을 위해 요리를 해달라고 하면, 그는 "파인애플을 따는 농장" 같은 하와이를 오해하는 편견 있는 요리를 내놓거나, 하와이 역사에서 중요한 아픔 (식민지화) 은 빼고 "쿡 선장의 모험"만 아름답게 포장한 요리를 줍니다.
선생님들의 고민: 선생님들은 "이 요리는 우리 아이들에게 맞지 않아. 오히려 잘못된 지식을 심어줄 수 있어"라고 걱정하지만, 요리사가 만들어낸 요리를 하나하나 다 맛보고 고칠 시간도, 전문적인 도구도 부족합니다.
이 연구는 바로 이 **"요리사의 요리를 선생님들이 함께 점검하고, 하와이만의 맛을 지키는 도구"**를 어떻게 만들지 함께 설계한 이야기입니다.
📝 연구가 발견한 3 가지 주요 문제 (요리사의 실수)
선생님들은 AI 가 만들어낸 내용에서 다음과 같은 문제들을 발견했습니다.
표면적인 하와이 (피상적인 맛): AI 는 하와이를 말할 때 항상 '할로와이 (꽃목걸이)'나 '할루 (춤)'만 떠올립니다. 마치 하와이를 80 년대 관광 광고처럼 보일 뿐, 현대의 살아있는 하와이 문화를 보여주지 못합니다.
서구 중심의 역사 (편향된 레시피): 하와이 역사를 설명할 때, 식민지 시대의 아픔이나 원주민의 관점은 빼고, 서구 중심의 시각만 강조합니다. 마치 "쿡 선장은 영웅이야"라고만 말하고, 그가 가져온 피해를 말하지 않는 것과 같습니다.
잘못된 정보 (할루시네이션): AI 는 하와이의 전설 (모올레로) 을 섞어서 엉뚱한 이야기를 만들어내거나, 하와이 언어의 특수한 표기법 (오키나) 을 무시합니다.
🛠️ 선생님들이 제안한 해결책: "함께 만드는 감시 도구"
선생님들은 AI 를 무조건 막는 것이 아니라, **AI 가 만들어낸 요리를 검증할 수 있는 '검열 도구'**를 만들고 싶어 했습니다. 하지만 이 도구는 미국이나 유럽에서 쓰는 일반적인 도구와는 달라야 했습니다.
1. "이 레시피의 조상님은 누구?" (지식의 계보 추적)
일반적인 도구: "이 정보가 어디에서 왔나요?"라고 출처만 묻습니다.
하와이식 도구: "이 정보를 만든 사람의 스승은 누구였나요? 그 스승의 스승은?"이라고 묻습니다.
이유: 하와이 문화에서는 지식의 '출처'보다 그 지식을 전수받은 **'계보 (선생님 - 제자 관계)'**가 더 중요합니다. 누가 가르쳤는지를 알면 그 정보의 신뢰도를 판단할 수 있기 때문입니다.
2. "누구의 목소리가 들리고, 누가 빠졌나?" (관점 시각화)
일반적인 도구: 정보의 정확성만 체크합니다.
하와이식 도구: "이 이야기에는 서구인의 목소리만 들리고, 하와이 원주민의 목소리는 빠져있지 않나요?"라고 보여줍니다.
이유: 하와이는 다양한 인종이 섞인 곳인데, AI 는 하와이를 오직 '폴리네시아인'만 사는 곳처럼 그리거나, 반대로 백인 학생이 없는 것처럼 그리는 등 다양성을 무시합니다.
3. "학생들을 위한 경고등" (문제 표시)
기능: AI 가 잘못된 내용을 내놓으면, 선생님뿐만 아니라 학생들도 바로 알 수 있도록 빨간색 경고등이 켜지게 합니다.
목적: 단순히 AI 를 막는 게 아니라, 학생들이 "아, 이 내용은 편향되었구나"라고 스스로 생각하며 비판적으로 사고하는 능력을 기르는 교육 도구가 됩니다.
💡 이 연구가 우리에게 주는 교훈
이 연구는 단순히 "하와이에서 AI 를 고쳐보자"는 것을 넘어, 전 세계 모든 소수민족과 지역 사회에게 중요한 메시지를 줍니다.
"하나의 정답은 없다": 전 세계 모든 곳에 똑같은 AI 감시 도구를 적용할 수 없습니다. 하와이에는 하와이의 가치 (계보, 공동체, 땅에 대한 존중) 가 반영된 도구가 필요합니다.
함께 만드는 것 (Co-design): 기술 전문가가 혼자서 도구를 만들어서 주는 게 아니라, 그 도구를 쓸 선생님들과 함께 설계해야 합니다.
지식의 주권: 하와이 같은 원주민 사회의 지식은 외부 회사가 마음대로 가져가 AI 를 훈련시키는 데 쓰이면 안 됩니다. 그 지식은 지역 사회가 직접 관리하고 통제해야 합니다.
🌟 결론
이 논문은 **"기술은 중립적이지 않다"**는 사실을 상기시킵니다. AI 가 하와이 학교에 들어오려면, 하와이 선생님들과 함께 그 도구를 다듬고, 하와이의 문화와 가치를 도구 안에 심어야만 비로소 아이들에게 도움이 되는 도구가 될 수 있다는 것입니다.
마치 **"하와이의 맛을 제대로 살린 요리를 위해, 현지인들이 직접 주방에 서서 요리사의 레시피를 함께 고쳐나가는 과정"**과 같습니다.
논문 개요: 하와이 교육자들과의 공동 설계를 통한 지역사회 중심 AI 감사 도구 개발
이 연구는 생성형 AI 가 교육 현장에 도입되면서 발생하는 문화적 왜곡과 편향 문제를 해결하기 위해, 하와이 공립학교 교육자들과 공동 설계 (Co-design) 워크숍을 진행한 사례 연구입니다. 연구팀은 하와이의 독특한 문화적, 교육적 맥락 (하와이어 및 문화 교육 의무화) 을 바탕으로, 기존 보편적인 AI 감사 도구의 한계를 지적하고 지역 사회의 가치와 지식 체계를 반영한 새로운 감사 프레임워크를 제안합니다.
1. 문제 제기 (Problem)
생성형 AI 의 문화적 편향: 대규모 언어 모델 (LLM) 은 서구 중심의 데이터를 기반으로 학습되어 비서구 문화, 특히 소수 언어 및 원주민 문화를 왜곡하거나 생략하는 경향이 있습니다.
교육적 위험: 하와이와 같은 지역에서는 AI 가 생성한 내용이 학생들의 역사 인식, 비판적 사고, 문화적 정체성 형성에 부정적인 영향을 미칠 수 있습니다. 예를 들어, AI 는 쿡 선장 (Captain Cook) 의 하와이 방문을 식민지화 과정이 아닌 순전한 항해로 미화하거나, 하와이 문화의 상징 (파인애플 등) 을 피상적이고 때로는 모욕적으로 표현합니다.
감사의 부재: 교사들은 AI 의 문화적 정확성을 검증할 시간, 도구, 전문성이 부족합니다. 또한, 기존 AI 감사 (Auditing) 는 주로 연구자나 기술 전문가가 수행하는 '하향식 (Top-down)' 접근이거나, 개별 사용자가 수행하는 '상향식 (Bottom-up)' 접근에 그쳐, 지역 사회의 고유한 지식 체계 (Epistemology) 를 반영하지 못합니다.
2. 연구 방법론 (Methodology)
연구 대상 및 장소: 하와이 오아후섬의 공립 초등학교 2 개교에서 22 명의 교육자 (교사 및 문화 전문가) 를 대상으로 진행되었습니다.
공동 설계 워크숍 (Co-design Workshops): 2025 년 3 월, 4 회에 걸쳐 1 시간씩 진행된 워크숍을 실시했습니다.
활동 내용:
AI 사용 현황 공유: 교실에서의 AI 활용 사례 및 경험 공유.
해로운 사례 논의: 문화적 왜곡, 편향, 사실 오류 등 AI 가 초래한 문제점 식별.
디자인 프로브 (Design Probes) 제시: 실제 ChatGPT 와 Gemini 가 생성한 하와이 관련 콘텐츠 (수학 문제, 역사 인물 대화, 이미지 생성 등) 를 보여주고 반응을 관찰.
디자인 실습: 빠른 프로토타이핑 (Rapid Prototyping) 과 스토리보딩 (Storyboarding) 을 통해 이상적인 AI 감사 도구를 구상.
분석 방법: 워크숍 녹취록과 디자인 산출물을 대상으로 반복적 귀납적 주제 분석 (Iterative Inductive Thematic Analysis) 을 수행했습니다.
위치성 (Positionality): 연구팀에는 하와이 원주민 (Kānaka Maoli) 및 현지 거주자 (Kama'āina) 가 포함되어 있으며, 지역 사회와의 신뢰 관계를 바탕으로 연구가 설계되었습니다.
3. 주요 결과 및 발견 (Key Results)
연구팀은 교육자들이 인지한 5 가지 주요 문화적 왜곡 유형과 이를 해결하기 위한 3 가지 감사 도구 기능을 도출했습니다.
A. 교육자가 우려하는 문화적 왜곡의 5 가지 차원:
잘못된 사실 및 환각 (Hallucinations): 하와이 전설 (Mo'olelo) 의 내용 혼동, 하와이어 (ʻŌlelo Hawaiʻi) 의 문법 및 특수 기호 (ʻokina) 누락 등 언어적 오류.
피상적인 문화 표현: 하와이를 파인애플 농장이나 훌라 춤 등으로만 단순화하여 표현하며, 식민지화 역사와 같은 민감한 맥락을 생략.
서구 서사의 지배: 식민지 역사를 미화하거나 원주민의 관점 (예: 리리우오칼라니 여왕) 을 배제하는 서구 중심의 역사 서술.
다양성 부재: 하와이의 다인종 구성 (백인, 아시아계 등) 을 무시하고 하와이 원주민으로만 대표되는 편향된 이미지 생성.
역사적 고착화: 하와이 문화를 과거의 유물처럼 묘사하고 현대적인 삶과 단절된 것으로 표현.
B. 교육자가 제안한 AI 감사 도구의 3 가지 핵심 기능:
지식의 계보 추적 (Tracing Genealogy of Knowledge):
단순한 출처 인용이 아니라, 정보의 출처가 누구이며 그 사람의 스승 (Kumu) 은 누구인지 등 지식의 계보 (Genealogy) 를 추적하는 기능.
하와이 문화에서는 '누가' 지식을 전수받았는지가 진위 여부를 판단하는 핵심 기준이므로, AI 가 생성한 내용의 신뢰성을 평가하기 위해 필수적입니다.
관점 시각화 (Visualizing Perspectives):
AI 응답에 포함된 다양한 관점의 분포를 시각화하고, 누구의 관점이 누락되었는지 (Omission) 를 명시하는 기능.
서구 중심의 서사가 어떻게 지배적인지, 원주민의 목소리가 어떻게 배제되었는지를 한눈에 볼 수 있어야 합니다.
유해 콘텐츠 플래깅 (Flagging Problematic Outputs):
문화적 편향이나 오류를 식별하여 경고하는 기능.
단순한 경고뿐만 아니라, 학생들이 스스로 편향을 발견하고 비판적으로 사고할 수 있도록 유도하는 교육적 도구로서의 역할 강조.
4. 주요 기여 (Key Contributions)
문화적 왜곡의 차원과 감사 도구 설계에 대한 실증적 통찰: 하와이 교육자들이 직면한 구체적인 AI 해악 유형과 이를 해결하기 위해 설계된 도구 아이디어를 제시했습니다.
지역사회 중심 감사 (Community-Centered Auditing) 프레임워크:
AI 감사를 고립된 개인의 작업이 아닌 지역사회 중심의 과정으로 재정의했습니다.
탈식민주의 (Decolonial) 관점을 적용하여, 보편적인 서구 기준이 아닌 지역 사회의 고유한 지식 체계와 가치를 감사 도구의 핵심으로 삼아야 함을 주장했습니다.
설계 권장 사항 (Design Recommendations):
감사 주체 결정: 지역 사회 내 지식의 권위 (Epistemic Authority) 를 가진 사람들이 감사의 중심이 되어야 하며, 다양한 경험 수준을 가진 참여자를 위한 계층적 구조가 필요합니다.
인프라 구축: 감사 도구가 지역 사회의 가치 (예: 데이터 주권, 지식의 계보) 를 내재화하도록 설계해야 합니다.
감사의 목적 재정의: 모델 성능 개선뿐만 아니라, 지역 사회의 교육적 성장과 비판적 사고 함양을 위한 도구로 활용되어야 합니다.
5. 의의 및 시사점 (Significance)
탈식민적 HCI 접근: 이 연구는 HCI(인간 - 컴퓨터 상호작용) 분야에서 탈식민주의 이론을 적용하여, 기술이 어떻게 지역 사회의 지식 체계를 존중하고 강화할 수 있는지 보여줍니다.
저자원 언어 및 원주민 교육에 대한 함의: AI 가 저자원 언어와 원주민 교육에 미치는 부정적 영향을 완화하고, 문화적 정확성을 확보하기 위한 구체적인 방법론을 제시합니다.
데이터 주권 (Data Sovereignty): AI 감사 과정에서 수집된 데이터와 문화적 자료가 지역 사회의 통제 하에 있어야 하며, 외부 기업에 의해 착취되지 않도록 하는 데이터 주권 원칙을 강조합니다.
교육적 도구로서의 AI 감사: AI 감사를 단순한 기술적 검증이 아닌, 학생들이 생성형 AI 의 편향을 비판적으로 분석하고 학습하는 교육적 기회로 전환할 수 있음을 시사합니다.
이 논문은 기술적 해결책만으로는 문화적 편향을 완전히 해결할 수 없으며, 해당 지역 사회의 가치와 참여를 중심으로 한 공동 설계와 지속 가능한 인프라가 필수적임을 강조합니다.