AI Literacy: An Exercise in Power-Knowledge

보이지 않는 도서관과 "왜?"라고 묻는 힘

당신이 거대하고 마법 같은 도서관으로 걸어 들어간다고 상상해 보세요. 과거에는 무언가를 배우고 싶다면 먼지 쌓인 선반을 뒤지고, 많은 책을 읽으며 스스로 이야기를 짜 맞춰야 했습니다. 오늘날 우리에게는 새로운 종류의 사서가 생겼습니다. 바로 인공지능(AI)입니다. 이 사서는 단순히 책을 찾아주는 데 그치지 않습니다. 지금까지 읽은 모든 것을 바탕으로 당신을 위해 완전히 새로운 이야기를 즉석에서 써 내려갈 수 있는 사서입니다. 하지만 여기 함정이 있습니다. 이 사서는 단순히 사실을 알려주는 것이 아니라, 어떤 사실을 말할지, 어떻게 말할지, 그리고 무엇을 제외할지를 스스로 결정한다는 점입니다.

이것이 왜 중요한지 이해하려면, 실제로 무슨 일이 일어나고 있는지 보여주는 두 가지 큰 아이디어를 살펴봐야 합니다. 첫째, "지식은 권력이다"라는 생각입니다. 이는 무엇이 진실이고 무엇이 중요한지를 결정하는 사람이 세상을 보는 방식에 대해 막대한 통제권을 갖게 된다는 것을 의미합니다. 둘-째, "비판적 의식"이라는 개념입니다. 이는 우리가 듣는 이야기들이 단순히 중립적인 사실이 아니라, 그것을 전달하는 사람과 시스템에 의해 만들어진 것임을 깨닫고 깨어나는 능력입니다. 만약 우리가 단지 숙제를 빨리 끝내기 위해 AI 사서를 사용하는 법만 배운다면, 사서가 조용히 우리의 생각을 형성하고 있다는 사실을 놓칠 수도 있습니다. 이 논문은 커다란 질문을 던집니다. 우리는 사람들을 AI가 파는 것을 사는 똑똑한 고객으로 훈련시키고 있습니까, 아니면 그 가게가 어떻게 지어졌는지 이해하는 주인으로 훈련시키고 있습니까?

고객인가, 설계자인가

이 논문은 현재 우리가 AI에 대해 가르치는 방식이 퍼즐의 결정적인 조각을 놓치고 있다고 주장합니다. 현재 대부분의 학교와 조직은 "AI 리터러시(AI 문해력)"를 마치 운전 교육 수업처럼 다룹니다. 자동차를 어떻게 조종하는지, 거울을 어떻게 확인하는지, 사고가 나지 않도록 도로 규칙을 어떻게 따르는지를 가르칩니다. 그들은 이것을 "역량(competency)"이라고 부릅니다. 이는 도구를 안전하고 효율적으로 사용하는 것에 관한 것입니다.

이 논문의 저자들은 이것만으로는 부족하다고 말합니다. 그들은 AI를 단순한 도구로 취급하는 것은, 도로가 누가 만들었는지, 왜 도로가 그곳에 있는지, 혹은 누가 다음 도로를 어디에 건설할지 결정하는지에 대해 설명하지 않은 채 누군가에게 운전법을 가르치는 것과 같다고 주장합니다. 만약 당신이 운전하는 법만 안다면, 당신은 그저 시스템의 소비자일 뿐입니다. 당신은 목적지에 도달할 수는 있지만, 그 목적지를 정하는 데는 아무런 목소리를 낼 수 없습니다.

논문은 우리가 "역량"을 가르치는 것을 넘어 **임파워먼트(empowerment, 권한 부여)**를 가르쳐야 한다고 제안합니다. 단순히 좋은 운전자가 되는 대신, 우리는 **인식론적 주체(epistemic agents)**가 되어야 합니다. 이는 "지식의 주체" 또는 "지식의 주인"이라는 뜻의 어려운 표현입니다. 주체는 단순히 AI를 사용하는 것이 아니라, AI가 특정한 편향, 우선순위, 그리고 사각지대를 가진 인간에 의해 만들어진 기계라는 점을 이해합니다. 그들은 AI가 절대적 진실을 보여주는 수정구슬이 아니라, 과거의 모든 오류와 불평등을 포함하여 과거에 기록된 세상을 반영하는 거울이라는 점을 알고 있습니다.

AI를 여는 세 가지 열쇠

사용자를 수동적인 소비자에서 능동적인 주체로 바꾸기 위해, 저자들은 새로운 세 부분의 프레임워크를 제안합니다. 이것을 AI 리터러시의 잠재력을 끌어올리는 세 가지 열쇠 시스템이라고 생각하십시오.

1. 맥락적 사용: 탐정의 수첩
첫 번째 열쇠는 도구를 어떻게 사용하는가에 관한 것입니다. 현재의 교육은 "AI를 사용하여 에세이를 쓰세요"라고 말합니다. 새로운 접근 방식은 "AI를 사용하되, 왜 그것을 사용하는지, 그리고 그것이 당신의 답변을 어떻게 형성하고 있는지 알라"고 말합니다.
당신이 탐정이라고 상상해 보세요. 만약 당신이 AI에게 "최고의 탐정은 누구인가?"라고 묻는다면, AI는 영어 소설 속 유명한 허구의 캐릭터 목록을 줄 수도 있습니다. "역량 있는" 사용자는 이 목록을 그대로 받아들입니다. 하지만 "권한을 가진" 사용자(맥락적 사용을 하는 사람)는 이렇게 묻습니다. "잠깐, 왜 영어권 캐릭터만 골랐지? 다른 문화권의 탐정이나 유명하지 않은 실제 조사관들은 왜 없지?" 그들은 AI의 답변이 무엇을 학습했느냐에 달려 있다는 것을 이해합니다. 그들은 AI를 단순히 답을 내뱉는 기계가 아니라, 자신의 질문을 탐구하기 위한 사고의 파트너로 활용합니다. 그들은 도구에 한계가 있으며, 그 "답변"은 단지 가능한 이야기 중 하나의 버전일 뿐이라는 것을 압니다.

2. 비판적 심문: X선 투시 능력
두 번째 열쇠는 기계 내부를 들여다보는 것입니다. 여기서 우리는 AI의 말을 그대로 믿는 것을 멈추고, "너는 어떻게 그런 결론에 도달했니?"라고 묻기 시작합니다.
저자들은 AI 내부에서 돌아가는 보이지 않는 톱니바퀴를 볼 수 있는 "X선 투시 능력"이 필요하다고 제안합니다. 여기에는 세 가지 주요 실천 사항이 포함됩니다.

• 계보학적 분석: 답변의 가계도를 추적하는 것입니다. 만약 AI가 어떤 것이 사실이라고 말한다면, 우리는 "그것을 배우기 위해 어떤 책이나 웹사이트를 읽었니? 누가 그것을 썼니?"라고 묻습니다.
• 편향 인식: 패턴을 포착하는 것입니다. 만약 AI가 항상 의사는 남성으로, 간호사는 여성으로 묘사하거나, 역사를 한 국가의 관점에서만 설명한다면, 우리는 그것을 세상의 사실이 아니라 AI 학습 과정의 결함으로 인식해야 합니다.
• 역질문(Counter-Prompting): 이것은 기계와 '악마의 변호인' 놀이를 하는 것과 같습니다. 당신은 AI에게 특정 관점을 설명해 달라고 요청한 다음, 그 반대되는 관점도 설명해 달라고 하고, 마지막으로 "네가 완전히 놓치고 있는 관점은 무엇이니?"라고 묻습니다. 이것은 사용자를 정보의 수신자에서 기계가 어떻게 생각하는지를 분석하는 분석가로 변화시킵니다.

3. 참여적 거버넌스: 타운 홀 미팅
세 번째이자 가장 야심 찬 열쇠는 규칙에 목소리를 내는 것입니다. 현재 대부분의 사람들은 그저 AI를 사용할 뿐, 그것이 어떻게 구축되는지에 대해 투표권을 갖지 못합니다.
저자들은 AI 리터러시에 "시민 리터리시(civic literacy)"가 포함되어야 한다고 주장합니다. 이는 AI가 공원이나 도로와 같은 공공 시스템임을 이해하고, 그것이 어떻게 관리되는지에 대해 목소리를 내야 함을 의미합니다. 이는 AI를 누가 소유하고 있는지(주로 대기업), 정부가 어떻게 규제하는지, 그리고 일반 시민들이 어떻게 의견을 낼 수 있는지에 관한 것입니다.
논문은 이것이 어렵지만, 사람들이 이미 시작하고 있다고 지적합니다. 예를 들어, 유럽 연합에서는 일반 시민과 단체들이 새로운 AI 법안에 대해 피드백을 줄 수 있었습니다. 저자들은 AI 리터러시가 사람들이 이러한 대화에 참여하는 법, AI 시스템이 자신들의 지역 문화와 언어를 존중하도록 요구하는 법, 그리고 부유하거나 고등 교육을 받은 사람들만이 아닌 모두를 위해 작동하는 시스템을 위해 싸우는 법을 가르쳐야 한다고 제안합니다.

가진 자와 못 가진 자 사이의 격차

이 논문은 또한 무서운 현실을 강조합니다. AI를 이해하는 사람과 그렇지 못한 사람 사이의 격차가 점점 더 벌어지고 있다는 점입니다.
현재 부유한 사람들과 교육 수준이 높은 사람들은 최고의 AI 도구에 접근할 수 있습니다. 그들은 더 똑똑하고 최신 정보를 담은 "프리미엄" 버전을 구매할 여력이 있습니다. 더 중요한 것은, 그들에게는 올바른 질문을 던지고 편향을 포착할 수 있는 교육 수준이 갖춰져 있다는 점입니다. 그들은 AI를 사용하여 더욱 똑똑해지고 강력해집니다.
반면, 경제적 여유가 없거나 교육을 덜 받은 사람들은 종-종 무료의 제한된 버전만을 사용하게 됩니다. 그들은 단순한 답을 얻기 위해 AI를 사용하지만, 그 답을 의심하거나 시스템을 바꿀 기술은 갖지 못합니다. 논문은 AI가 이 격차를 좁히기는커녕 오히려 더 키울 수도 있다고 시사합니다. 이것은 마치 자전거를 탈 줄 아는 사람에게는 초고속 자전거를 주고, 그렇지 못한 사람에게는 고장 난 세발자전거를 주는 것과 같습니다. 첫 번째 사람은 앞서 달려 나가지만, 두 번째 사람은 제자리에서 바퀴만 헛돌 뿐입니다.

결론

저자들은 우리가 단순히 사람들에게 "좋은 사용자"가 되는 법만을 가르쳐서는 안 된다고 결론짓습니다. 만약 그렇게 한다면, 우리는 그들을 자신들이 통제하지 못하는 시스템 속에서 더 나은 소비자가 되도록 훈련시키는 것에 불과합니다. 우리는 그들에게 주체가 되는 법을 가르쳐야 합니다. 즉, AI가 우리가 아는 것을 형성하는 강력한 힘이라는 점을 이해하고, 그것에 의문을 제기하고, 도전하며, 그것을 구축하는 데 참여할 수 있는 기술을 가진 사람이 되도록 가르쳐야 합니다.

이것은 단순히 새로운 컴퓨터 기술을 배우는 문제가 아닙니다. 이것은 정치적인 질문입니다. "우리 세상에서 무엇이 진실인지 결정하는 권한은 누구에게 있는가?" 논문은 만약 우리가 AI 리터러시를 가르치는 방식을 바로잡지 않는다면, 소수의 강력한 시스템이 모두를 대신해 모든 것을 결정하는 세상을 만들 위험이 있다고 경고합니다. 하지만 우리가 사람들에게 비판적이고, 호기심 많으며, 능동적인 참여자가 되는 법을 가르친다면, 우리는 AI를 우리를 통제하는 도구가 아니라 모두가 세상을 더 잘 이해하도록 돕는 도구로 바꿀 수 있습니다. 목표는 단순히 자동차를 운전하는 법을 배우는 것이 아니라, 도로를 설계하는 데 도움을 주는 것입니다.