AI Narrative Breakdown. A Critical Assessment of Power and Promise

다음은 라이너 레하크(Rainer Rehak)의 논문 "AI 내러티브의 해체(AI Narrative Breakdown)"를 일상적인 비유를 사용하여 쉬운 언어로 설명한 요약본입니다.

핵심 요약: "시대정신 AI(Zeitgeist AI)"라는 안개

모두가 모든 것을 향해 "마법!"이라고 외치는 방에 들어갔다고 상상해 보세요. 토스터기를 보면 누군가 "그건 마법이야!"라고 말합니다. 계산기를 보면 "그건 마법이야!"라고 합니다. 로봇 강아지를 보면 "그건 마법이야!"라고 소리칩니다.

저자는 이를 **"시대정신 AI(Zeitgeist AI)"**라고 부릅니다. 이는 우리가 현대적으로 보이기 위해 디지털 기술에 갖다 붙이는 유행하는 모호한 라벨입니다. 논문은 이러한 혼란이 위험하다고 주장합니다. 우리는 AI를 마치 자연의 마법적인 힘처럼 취급하는 것을 멈추고, 그것이 실제로 무엇인지, 즉 특정한 목적과 한계를 가진 인간이 만든 도구라는 점을 직시해야 합니다.

논문은 실제 AI를 두 가지 범주로 나눕니다:

1. 좁은 AI (전문가): 이것이 현재 우리가 가진 것입니다. 완벽한 수플레를 만들 줄은 알지만, 물 새는 수도꼭지를 고치거나 시를 쓸 줄은 모르는 마스터 셰프와 같습니다. 특정 작업(얼굴 인식이나 텍스트 번역 등)에는 뛰어나지만, 그 외의 일에는 무용지물입니다.
2. 범용 AI (공상과학의 꿈): 영화 속에서 인간처럼 생각하고 느끼고 무엇이든 배울 수 있는 초지능 로봇입니다. 논문은 이것은 아직 존재하지 않으며, 존재할 것이라는 증거도 없다는 점을 지적합니다. 하지만 우리가 계속해서 이 이야기를 함으로써, 현재 우리가 가진 도구가 실제로 무엇을 할 수 있는지에 대해 혼란을 겪게 됩니다.

신화의 해체 (내러티브들)

저자는 사람들이 AI에 대해 이야기하는 가장 흔한 이야기들을 살펴보고, 그것들을 풍선처럼 터뜨립니다. 그 내용은 다음과 같습니다.

1. 주체성의 신화 ( "그것이 결정했다"는 이야기)

• 이야기: 사람들은 "AI가 이것을 하기로 결정했다"라고 말합니다.
• 현실: AI는 뇌도, 욕구도, 의도도 없습니다. 그것은 확률적 앵무새(패턴에 따라 들은 말을 반복하는 새)와 같습니다. 앵무새가 "사랑해"라고 말한다고 해서 정말 사랑하는 것이 아닙니다. 단지 "사랑"이라는 단어가 "해" 다음에 자주 온다는 것을 알 뿐입니다.
• 교훈: AI는 "행동"하는 것이 아니라 "계산"하는 것입니다. 무언가 잘못된다면, 책임은 기계가 아니라 그 도구를 만들거나 구매한 인간에게 있습니다.

2. 자율성의 신화 ("자율적인" 이야기)

• 이야기: 우리는 스스로 선택을 내리는 "자율 주행" 자동차나 드론에 대해 듣습니다.
• 현실: 이 기계들은 매우 성능 좋은 오토파일럿이 달린 원격 조종 자동차에 가깝습니다. 이들은 인간이 설정한 규칙을 따릅니다. 자율 주행 자동차가 보행자를 쳤다면, 그것은 기계가 "선택"한 것이 아니라, 특정 상황에서 실패한 일련의 지침을 따랐을 뿐입니다. 목표는 인간이 설정했으며, 기계는 단지 그것을 실행했을 뿐입니다.

3. 진실성의 신화 ("거짓말쟁이" 이야기)

• 이야기: 사람들은 AI가 우리를 "속이거나" "사기 칠 것"을 걱정합니다.
• 현실: 진실이 무엇인지 모른다면 거짓말을 할 수 없습니다. AI는 무엇이 참이고 거짓인지 알지 못하며, 단지 이전에 읽었던 내용을 바탕으로 문장의 다음 단어를 예측할 뿐입니다. 만약 AI가 틀린 말을 한다면, 그것은 "거짓말"을 하는 것이 아니라 단지 패턴을 환각(hallucinating)하고 있는 것입니다. 소프트웨어가 아니라, 그 AI를 판매하는 회사가 의도를 가지고 있습니다.

4. 지식의 신화 ("똑똑한 학생" 이야기)

• 이야기: AI는 무언가를 "알고" 있으며 세상을 이해합니다.
• 현실: AI는 통계적 거울입니다. 수십억 개의 책과 기사를 보고 어떤 단어들이 보통 함께 쓰이는지 학습합니다. AI는 의미를 이해하지 못합니다. 그것은 음표를 완벽하게 암기해서 곡을 연주할 수는 있지만, 그 곡의 감정을 이해하지 못하는 음악가와 같습니다. AI는 시나 뉴스 리포트의 스타일을 흉내 낼 수는 있지만, 그 단어들이 실제로 무엇을 의미하는지는 전혀 모릅니다.

5. 예측의 신화 ("수정구슬" 이야기)

• 이야기: AI는 날씨나 범죄처럼 미래를 예측할 수 있습니다.
• 현실: AI는 날씨가 물리 법칙을 따르기 때문에 날씨를 맞히는 데 능숙합니다. 하지만 인간의 행동(범죄 등)을 예측하는 데는 형편없습니다. 왜냐하면 인간은 바위처럼 예측 가능하지 않기 때문입니다. 만약 당신이 AI에게 과거 데이터를 바탕으로 범죄를 예측하라고 한다면, AI는 단지 과거를 재생할 뿐입니다. 여기에는 과거의 인종차별과 편향이 포함됩니다. 그것은 미래를 보는 것이 아니라, 단지 역사를 재활용하는 것입니다.

6. 중립성의 신화 ("객관적인 로봇" 이야기)

• 이야기: 컴퓨터는 중립적이고 공정합니다.
• 현실: AI는 카메라 렌즈와 같습니다. 렌즈가 무엇이 "실제"인지 결정하지는 않지만, 카메라를 든 사람이 어디를 향할지, 무엇을 잘라낼지는 결정합니다. 모든 AI 시스템은 어떤 데이터를 포함하고 어떤 데이터를 제외할지 결정하는 인간에 의해 만들어집니다. 그러한 선택은 정치적이며 편향되어 있습니다. 인간의 손길이 닿지 않은 "가공되지 않은 데이터"란 존재하지 않습니다.

7. 비정치적 최적화의 신화 ("마법 같은 해결책" 이야기)

• 이야기: AI는 정치적 갈등 없이 굶주림이나 교통 문제 같은 큰 문제를 해결할 수 있습니다.
• 현실: 무언가를 "최적화"하려면, 먼저 무엇이 "좋은 것"인지 결정해야 합니다. 만약 당신이 교통 문제를 해결하라고 AI에게 요청한다면, 자동차 소유자를 도울 것입니까, 아니면 자전거 이용자를 도울 것입니까? 속도를 중시할 것입니까, 안전을 중시할 것입니까? AI는 이러한 질문에 답할 수 없습니다. 이것들은 정치적인 선택입니다. AI가 이러한 문제들을 정치적 논쟁 없이 해결할 수 있다고 믿는 것은, 계산기에게 피자를 어떻게 나눌지 결정하라고 요구하는 것과 같습니다.

8. 지속가능성의 신화 ("녹색 구원자" 이야기)

• 이야기: AI는 모든 것을 효율적으로 만들어 지구를 구할 것입니다.
• 현실: AI가 약간의 도움(데이터 센터의 냉각 효율 개선 등)을 줄 수는 있지만, 종종 **반동 효과(rebound effect)**를 초래합니다. 데이터 센터 운영 비용이 저렴해지면, 기업들은 전체적으로 더 많은 에너지를 사용하는 데이터 센터를 더 많이 건설할 것입니다. 또한, 기후 변화의 가장 큰 문제는 정보의 부족이 아닙니다. 우리는 이미 문제를 알고 있습니다. 문제는 권력과 정치입니다. AI는 권력 투쟁을 해결할 수 없습니다.

9. 민주화의 신화 ("모두를 위한 도구" 이야기)

• 이야기: 곧 AI가 무료가 되고 모두가 소유하게 될 것입니다.
• 현실: 거대 AI 시스템을 구축하는 것은 원자력 발전소를 짓는 것과 같습니다. 엄청난 양의 돈, 에너지, 그리고 오직 몇몇 거대 기업(Google이나 OpenAI 같은)만이 보유한 데이터가 필요합니다. 그들은 당신에게 도구를 "빌려줄" 수는 있겠지만, 결코 공장을 소유하게 하지는 않을 것입니다. 이것은 공동체 정원이 아니라 사적인 독점 체제입니다.

10. 대량 실업의 신화 ("일자리 킬러" 이야기)

• 이야기: AI가 우리의 일자리를 모두 뺏고 우리를 아무것도 할 수 없게 만들 것입니다.
• 현실: 일자리는 그냥 사라지는 것이 아니라 변합니다. 보통 좋은 일자리는 줄어들고, 나쁜 저임금 일자리가 더 많아지는 식입니다. 하지만 논문은 "AI"를 탓하는 것이 하나의 속임수라고 주장합니다. 실제로 사람을 해고하는 것은 비용을 아끼기 위해 결정을 내리는 기업의 경영진입니다. 기계를 탓하는 것은 진짜 의사결정권자들을 숨기는 행위입니다.

결론: 우리는 무엇을 해야 하는가?

저자는 우리가 현재 공상과학적 사고의 굴레에 갇혀 있다고 결론짓습니다. 우리는 AI가 우리를 파멸시킬 것이라는 공포(디스토피아)에 빠져 있거나, AI가 우리를 구원할 것이라는 기대(유토피아)에 빠져 있습니다. 둘 다 틀렸습니다.

AI는 그저 망치나 시멘트 믹서와 같은 도구일 뿐입니다. AI는 영혼도 없고, 운명도 없습니다.

• 진짜 위험: 진짜 위험은 로봇의 반란이 아닙니다. 진짜 위험은 강력한 기업들이 이 도구들을 사용하여 더 많은 돈을 벌고, 환경을 무시하며, 노동자를 부당하게 대우하는 동안, 이 기술이 "중립적"이거나 "마법적"이라고 위장하는 것입니다.
• 해결책: 우리는 AI를 신비로운 힘으로 취급하는 것을 멈추고, 이를 정치적 이슈로 다루어야 합니다. 우리는 누가 이 도구들을 통제하는지, 누가 이 도구들로부터 이득을 얻는지, 그리고 우리가 실제로 어떤 사회를 만들고 싶은지에 대해 정직한 대화를 시작해야 합니다.

요약하자면: AI는 신도 아니고 괴물도 아닙니다. 그것은 인간의 목적을 위해 인간이 만든 매우 복잡한 기계입니다. 우리가 더 나은 미래를 원한다면, "마법"이라는 서사로부터 통제권을 되찾아와야 하며, 그 기술을 사용하는 인간들에게 책임을 물어야 합니다.