Position: AI Must Become Planet-Centered, Not Just Human-Centered
본 포지션 페이퍼는 인공지능을 현재의 심층적 불확실성 조건 아래에서 체계적 위험을 악화시키는 방향이 아닌 지구적 사회-생태적 안정성을 향하도록 재정립하는 시스템 사고에 기반한 설계 철학인, 인간 중심에서 지구 중심 AI(PCAI)로의 패러다임 전환을 주장한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
핵심 아이디어: 우리는 GPS를 바꿔야 합니다
당신이 자동차를 운전하고 있다고 상상해 보세요. 지난 10년 동안 AI 커뮤니티는 매우 똑똑한 GPS를 만들어 왔습니다. 이 GPS는 자동차가 보행자를 치지 않도록, 길을 잃지 않도록, 그리고 운전자가 목적지에 최대한 빨리 도착할 수 있도록 설계되었습니다. 이것을 **인간 중심적 AI(Human-Centered AI)**라고 부릅니다. 이는 운전자에게는 훌륭하지만, 이 논문은 이것만으로는 우리가 사는 세상을 감당하기에 부족하다고 주장합니다.
저자인 마리아 페레스-오르티스(María Pérez-Ortiz)는 우리 지구를 모든 것이 연결된 거대하고 복잡한 생태계, 즉 거대하고 살아있는 그물망과 같다고 말합니다. 실 하나를 잡아당기면 그물 전체가 흔들리는 것과 같습니다. 현재 우리의 "인간 중심적 GPS"는 오직 운전자만을 바라봅니다. 이 차가 더 빨리 달리는 것이 결국 교통 체증을 유발해 소방차의 길을 막을 수도 있다는 점이나, 자동차 배기가스가 10년 후 운전자가 마실 공기를 서서히 오염시킬 수 있다는 점은 보지 못합니다.
이 논문은 **지구 중심적 AI(Planet-Centered AI, PCAI)**라는 새로운 철학을 제안합니다. 단순히 "이것이 인간 사용자에게 좋은가?"라고 묻는 대신, "이것이 지금과 미래의 생명의 그물 전체에 좋은가?"라고 물어야 한다는 것입니다.
기존 방식이 실패하는 이유: "난제(Wicked Problem)"의 덫
논문은 우리가 오늘 마주한 많은 큰 과제들(기후 변화나 생물 다양성 감소 등)이 **"난제(Wicked Problems)"**라고 설명합니다.
- 정형 문제 (기존의 방식): 퍼즐이나 수학 방정식 같은 것입니다. 규칙을 알고 목표를 알며, 문제를 풀면 끝납니다. 현재의 AI는 이런 문제에 매우 뛰어납니다.
- 난제 (새로운 현실): 누군가가 반대쪽 끝을 잡아당기고 있는데, 매듭이 계속 모양을 바꾸는 상황에서 매듭을 푸는 것을 상상해 보세요.
- 명확한 목표가 없음: 무엇이 "해결"된 상태인지에 대해 모두의 의견이 다릅니다.
- 안전한 연습이 불가능함: 실수로 인해 돌이킬 수 없는 결과(예: 빙하가 녹는 것)가 초래될 수 있기 때문에, 단순히 "시도하고 실패하기"를 할 수 없습니다.
- 모든 것이 연결되어 있음: 한 가지를 해결하면 종종 다른 곳에서 무언가가 망가집니다.
논문은 현재의 AI가 "정형 문제"를 위해 구축되었다고 주장합니다. 우리가 이 AI를 "난제"를 해결하는 데 강제로 밀어 넣을 때, AI는 우리가 너무 늦기 전까지는 인지하지 못하는 사이에 상황을 악화시키곤 합니다.
현재의 AI가 저지르는 세 가지 잘못
1. "효율성의 함정" (반등 효과)
당신이 전기를 절반만 사용하는 초효율 진공청소기를 샀다고 상상해 보세요. 당신은 "좋아, 에너지를 아끼고 있어!"라고 생각할 것입니다. 하지만 너무 싸고 사용하기 편해서, 집 전체를 하루에 세 번씩 청소하기 시작하고 차고용으로 두 번째 청소기를 또 삽니다. 결국, 당신은 이전보다 더 많은 에너지를 사용하게 됩니다.
논문은 이를 **반등 효과(Rebound Effect)**라고 부릅니다. AI는 종로(예: 자동차 주행이나 농업)를 더 효율적으로 만들지만, 그것이 더 저렴하고 쉬워지기 때문에 우리는 그것을 더 많이 하게 되고, 결과적으로 지구에 더 큰 해를 끼칩니다. 현재의 AI는 주행 거리당 절약된 에너지만 계산할 뿐, 늘어난 주행 거리까지는 계산하지 않기 때문에 이를 보지 못합니다.
2. "사각지대"
현재의 AI는 렌즈가 매우 좁은 카메라와 같습니다. 바로 눈앞에 있는 것만 봅니다.
- 예시: 밀렵꾼을 잡기 위해 설계된 AI는 동물을 포착하는 데 매우 뛰어날 수 있습니다. 하지만 논문은 이 AI가 현지 원주민들을 감시하는 데 사용되어, 그들이 보존 활동에 협조하는 것을 두려워하게 만들 수도 있다고 지적합니다. AI는 밀렵꾼을 잡는 데는 "성공"했지만, 공동체의 신뢰라는 더 큰 그림에서는 실패한 것입니다.
- 논문은 AI 윤리가 보통 인간 사용자에게만 관심을 가질 뿐, 식물, 동물, 토양은 무시한다고 말합니다. 하지만 토양이 죽으면 인간도 죽습니다.
3. "수정구슬" 문제
AI는 과거를 바탕으로 미래를 예측하는 데 탁월합니다(예: 어제 비가 왔으니 오늘도 올 것이라고 말하는 것). 하지만 변화하는 세상 속에서 과거는 미래와 닮지 않았습니다.
- 비유: 100년 전의 해양 지도를 가지고 항해하는 배를 상상해 보세요. 조류는 변했고, 새로운 섬이 나타났으며, 폭풍의 양상도 달라졌습니다.
- 논문은 AI가 종종 단 하나의 가능한 미래만을 보여주는 수정구슬처럼 행동한다고 말합니다. 하지만 복잡한 세상에는 수많은 가능한 미래가 존재합니다. 우리는 단순히 하나의 결과를 예측하는 것이 아니라, 더 나은 선택을 할 수 있도록 다양한 가능성을 탐색하도록 돕는 AI가 필요합니다.
해결책: 지구 중심적 AI (PCAI)
논문은 우리가 AI를 만드는 방식 자체를 밑바닥부터 다시 설계해야 한다고 제안합니다. 이를 쉬운 용어로 설명하면 다음과 같습니다.
- 전체 그물망 그리기: AI를 만들기 전에, 그것이 다른 모든 것(사람, 자연, 경제)과 어떻게 연결되는지 지도를 그려야 합니다. 우리는 이렇게 물어야 합니다: "우리가 이것을 하면 물고기에게는 어떤 일이 일어날까? 농부에게는 어떤 일이 일어날까? 50년 후에는 어떻게 될까?"
- 모든 것을 "최적화"하려 하지 않기: 단 하나의 "최선"의 답을 찾는 대신, AI는 우리에게 상충 관계(trade-offs)를 보여주어야 합니다. "X를 하면 돈은 아끼지만 강을 해칩니다. Y를 하면 강을 살릴 수 있지만 비용이 더 듭니다." AI는 결정을 대신 내리는 것이 아니라, 인간이 토론하고 결정할 수 있도록 도와야 합니다.
- 장기적으로 관찰하기: AI를 켠 후에도 계속 지켜봐야 합니다. 만약 AI가 문제(예: 사람들이 더 많이 운전하게 만드는 것)를 일으키기 시작한다면, 우리는 "되돌리기" 버튼을 누르거나 경로를 변경할 수 있는 방법이 있어야 합니다.
- 겸손하기: 논문은 우리가 모든 것을 예측할 수는 없다는 점을 인정합니다. 따라서 AI는 복잡한 시스템을 통제하기 위한 도구가 아니라, 시스템을 이해하기 위한 도구가 되어야 합니다.
큰 경고 (검증 가능한 주장)
논문은 대담하고 검증 가능한 주장으로 끝을 맺습니다.
"만약 우리가 시스템 전체를 어떻게 흔드는지 생각하지 않고, 오직 빠르고, 저렴하고, 효율적인 것에만 신경 쓰는 AI 시스템을 만든다면, 그 시스템은 세계의 가장 큰 문제들을 해결하기는커녕 오히려 더 악화시킬 가능성이 높다."
이는 브레이크와 핸들이 없는 자동차에 강력한 엔진을 달아주는 것과 같습니다. 속도는 빠르겠지만, 결국 충돌할 것입니다. 논문은 우리가 가속 페달을 밟기 전에 브레이크와 핸들(시스템 사고)을 먼저 설치해야 한다고 말합니다.
요약
이 논문은 AI가 나쁘다고 말하는 것이 아닙니다. 우리의 현재 AI를 바라보는 관점이 너무 작다는 것을 말하고 있습니다. 우리는 AI를 인간을 위한 도구로 취급하고 있지만, 우리는 인간 또한 거대하고 취약한 시스템의 일부일 뿐인 지구에서 살고 있습니다. 미래에서 살아남기 위해서, 우리는 사용자뿐만 아니라 전체 시스템을 존중하는 AI가 필요합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.