ProSocial AI as a Catalyst of Quality of Life: A Multilevel Framework for Pro-People, Pro-Planet, and Pro-Potential Futures

보이지 않는 정원사: 왜 AI에는 나침반이 필요한가

당신이 거대하고 북적이는 도시를 걷고 있다고 상상해 보십시오. 이 도시는 단순히 건물과 도로로만 이루어진 것이 아닙니다. 사람들이 어떻게 느끼고, 어떻게 연결되며, 함께 문제를 어떻게 해결하는지에 의해 구축됩니다. 과거에 우리는 기술을 단순한 도구, 즉 못을 박는 망치나 우리를 상점으로 데려다주는 자동차와 같은 것으로 생각했습니다. 하지만 인공지능(AI)은 다릅 정입니다. 그것은 이 도시의 기상 체계와 더 비슷합니다. AI는 단 한 가지 일만 하는 것이 아니라, 우리가 마시는 공기, 우리가 가는 길, 심지어 우리가 서로 대화하는 방식까지 변화시킵니다. AI는 정원에 햇빛이 더 밝게 비치도록 만들 수도 있고, 갑자기 토양을 씻어 내려가는 폭풍을 몰고 올 수도 있습니다.

이 "날씨"가 우리에게 유익한지 이해하기 위해, 과학자들은 **삶의 질(Quality of Life)**이라는 것을 살펴봅니다. 이것은 단순히 지갑이 두둑하거나 컴퓨터가 빠른 것만을 의미하지 않습니다. 이것은 전체적인 그림에 관한 것입니다. 당신은 안전하다고 느끼는가? 당신을 아끼는 친구들이 있는가? 새로운 것을 배울 수 있는가? 스스로 선택할 자유가 있는가? 또 다른 핵심 개념은 **사회적 자본(Social Capital)**으로, 이는 공동체를 하나로 묶어주는 신뢰와 우정이라는 보이지 않는 접착제와 같습니다. 사회적 자본이 높으면 사람들이 서로를 돕고 일이 원활하게 진행됩니다. 반대로 낮으면 모두가 외로움과 의심을 느낍니다. 마지막으로 **행성 건강(Planetary Health)**은 우리의 도시가 실제적인 한계가 존재하는 진짜 지구 위에 자리 잡고 있다는 점을 상기시켜 줍니다. 우리는 빙하를 녹이면서까지 마천루를 세울 수는 없습니다. 모두가 던지는 큰 질문은 이것입니다. AI가 우리 삶의 보이지 않는 층이 되어감에 따라, AI는 우리가 더 나은 도시를 건설하도록 돕고 있습니까, 아니면 의도치 않게 도시를 허물고 있습니까?

프로소셜(ProSocial) AI 지도: 미래를 항해하는 새로운 방법

코르넬리아 월터(Cornelia Walther)가 작성한 이 논문은 이 AI로 가득 찬 도시를 항해하기 위한 새로운 지도 역할을 합니다. 저자는 우리가 단순히 "이 AI가 얼마나 빠르게 작동하는가?" 또는 "얼마나 정확한가?"라고 물어서는 안 된다고 주장합니다. 우리는 "이 AI가 사람과 지구, 그리고 미래 세대를 위해 삶을 더 낫게 만드는가?"라고 물어야 합니다. 이에 답하기 위해, 이 논문은 **프로소셜 AI(ProSocial AI)**라는 새로운 개념을 도입합니다. 프로소셜 AI를 마음을 가진 로봇이 아니라, 그저 예뻐 보이기만 하면서 물을 모두 훔쳐가는 잡초를 키우는 것이 아니라 공동체에 먹이를 줄 꽃을 정성껏 키우도록 훈련받은 정원사라고 생각해 보십시오.

이 논문은 AI가 **촉매제(Catalyst)**라고 제안합니다. 촉매제를 캠프파이어의 불꽃이라고 상상해 보십시오. 불꽃 자체는 불이 아닙니다. 그것은 단지 나무가 더 빨리 타게 만들 뿐입니다. AI는 그 불꽃입니다. AI는 학습이 더 빠르게 일어나게 할 수도 있고, 오염이 더 빠르게 확산되게 할 수도 있습니다. AI는 사람들을 연결할 수도 있고, 사람들을 더 고립되게 만들 수도 있습니다. 논문은 그 결과가 우리가 불 속에 어떤 종류의 나무를 넣고 어떻게 돌보느냐에 전적으로 달려 있다고 말합니다.

3점 나침반

논문은 AI가 진정으로 "프로소셜"하기 위해서는 동시에 세 가지 특정 방향을 가리켜야 한다고 제안합니다.

1. 프로-피플(Pro-People, 인간 친화적): AI는 현재의 사람들을 도와야 합니다. 이는 사람들이 안전하고 존중받으며, 스스로 선택할 수 있다고 느끼게 만드는 것을 의미합니다. 특정 집단이 소외되거나 부당한 대우를 받는 상황에서 평균적인 사람이 행복하다고 느끼는 것만으로는 충분하지 않습니다.
2. 프로-플래닛(Pro-Planet, 지구 친화적): AI는 지구를 보호해야 합니다. AI는 많은 전기, 물, 광물을 사용합니다. "프로-플래닛" AI는 깨끗한 에너지로 달리는 자동차와 같습니다. 우리가 내일을 위해 필요한 자원을 태워버리지 않고 문제를 해결하도록 돕습니다.
3. 프로-포텐셜(Pro-Potential, 잠재력 친화적): AI는 우리가 성장하도록 도와야 하며, 위축되지 않게 해야 합니다. 이는 우리가 무기력해지거나 스스로 생각하는 법을 잊어버리지 않도록 보장하는 것에 관한 것입니다. 만약 AI가 우리의 모든 생각을 대신 해준다면, 우리는 나중에 문제를 해결하는 능력을 상실할 수도 있습니다. 프로-포텐셜 AI는 당신이 경기를 직접 뛰게 하는 로봇이 아니라, 당신이 연습할 수 있도록 돕는 코치와 같습니다.

더 나은 삶을 향한 네 가지 경로

논문은 AI가 실제로 우리의 삶의 질을 개선할 수 있는 네 가지 구체적인 "경로" 또는 방식을 설명합니다. 이것들은 마법이 아니라 인과관계입니다.

1. 에이전시의 경로 ("나는 할 수 있다" 경로): 이것은 사람들에게 힘을 부여하는 것에 관한 것입니다. 좋은 AI는 당신이 선택지를 이해하고, 새로운 기술을 배우며, 스스로 결정을 내릴 수 있도록 돕습니다. 그러나 나쁜 AI는 당신이 스스로 생각하는 법을 잊어버릴 정도로 당신의 사고를 대신 수행할 수 있습니다. 논문은 우리가 너무 많은 사고 과정을 AI에 넘겨버린다면, 비판적 사고를 위한 "근육 기억"을 잃을 수 있다고 경고합니다.
2. 관계의 경로 ("우리는 연결되어 있다" 경로): 인간은 서로를 필요로 합니다. 좋은 AI는 우리가 소속감을 찾도록 돕거나, 이웃과 대화할 수 있도록 언어를 번역해주거나, 의사가 환자에게 더 많은 시간을 할애할 수 있도록 도울 수 있습니다. 하지만 함정이 있습니다. 만약 AI 챗봇이 너무 친절하고 너무 쉽게 접근 가능하다면, 사람들은 실제 인간과 대화하는 것을 멈출 수도 있습니다. 논문은 AI가 실제 사람을 대체하는 것이 아니라, 실제 사람에게로 가는 다리가 되어야 한다고 제안합니다.
3. 제도의 경로 ("시스템을 신뢰하라" 경로): 이것은 정부, 학교, 병원이 AI를 어떻게 사용하는지에 관한 것입니다. 만약 학교가 시험 성적을 매기는 데 AI를 사용한다면, 그것은 공정하고 투명해야 합니다. 만약 병원이 환자를 분류하는 데 AI를 사용한다면, 누구에게 도움을 줄지 숨겨서는 안 됩니다. 논문은 AI가 제도를 더 신비롭게 만드는 것이 아니라 더 신뢰할 수 있게 만들어야 한다고 주장합니다. 만약 사람들이 결정을 이의 제기하거나 실수를 바로잡을 수 없다면, 그 시스템은 망가진 것입니다.
4. 재생의 경로 ("미래를 대비하라" 경로): 이 경로는 장기적인 관점을 가집니다. 오늘 이 AI를 사용하는 것이 우리 손주들을 위한 공기나 물을 망치는가? 논문은 AI의 "영수증"을 확인해야 한다고 제안합니다. 만약 기후 모델이 생명을 구하지만, 그 과정에서 너무 많은 물을 사용하여 지역의 강을 말려버린다면, 그것은 승리가 아닙니다. 우리는 그 혜택이 미래에도 지속될 수 있도록 해야 합니다.

도로 위의 네 가지 규칙

좋은 지도가 있더라도 규칙을 따르지 않으면 사고가 날 수 있습니다. 논문은 AI가 잘 작동하기 위해 네 가지 일이 일어나야 한다고 말합니다.

• 이중 리터러시(Double Literacy): 이것은 "두 가지를 아는 것"을 뜻하는 멋진 표현입니다. 사람들은 인간으로서의 방법(자신의 감정과 가치를 이해하는 것)과 기계를 이해하는 방법(AI가 무엇을 할 수 있고 무엇을 할 수 없는지 아는 것)을 모두 알아야 합니다. 만약 당신이 AI가 어떻게 작동하는지 모른다면, AI를 너무 과하게 신뢰할 수 있습니다. 만약 당신 자신을 모른다면, AI가 당신에게 중요한 것을 결정하도록 내버려 둘 수 있습니다.
• 의미 있는 참여(Meaningful Participation): AI가 만들어진 후에 사람들에게 그것이 마음에 드는지 물어보는 것만으로는 부족합니다. 사람들은 설계 단계부터 참여해야 합니다. 아이들이 무엇을 가지고 놀고 싶은지 묻지도 않고 놀이터를 짓는 것을 상상해 보십시오. 논문은 AI의 영향을 받을 사람들이 그것이 어떻게 만들어지는지에 대해 실질적인 목소리를 낼 수 있어야 한다고 말합니다.
• 항변 가능성(Contestability): 이것은 "잠깐, 그건 틀렸어요!"라고 말하고 인간이 이를 수정할 수 있는 방법을 갖는 것을 의미합니다. 만약 AI가 당신의 대출이나 직업을 거부한다면, 당신이 대화하여 그 결정을 바꿀 수 있는 실제 사람이 반드시 있어야 합니다. 만약 기계에 이의를 제기할 수 없다면, 당신은 권력이 없는 것입니다.
• 비례성(Proportionality): 이것은 균형에 관한 것입니다. 아주 작은 일을 하기 위해 거대하고 에너지를 많이 소비하는 AI를 사용할 수 있다고 해서 반드시 그래야 한다는 뜻은 아닙니다. 그것은 마치 견과류를 깨기 위해 대형 망치를 사용하는 것과 같습니다. 논문은 큰 혜가 비용을 정당화할 수 있는 큰 문제에만 대형 AI를 사용해야 한다고 말합니다.

4x4 렌즈: 사물을 바라보는 새로운 방식

우리가 무언가를 놓치지 않기 위해, 논문은 "4x4 렌즈"를 소개합니다. 4개의 행과 4개의 열이 있는 격자를 상상해 보십시오.

• 행은 우리 삶의 네 가지 수준입니다: 당신(개인), 당신의 공동체, 당신의 국가, 그리고 지구 전체/미래.
• 열은 우리가 삶을 경험하는 네 가지 방식입니다: 우리가 갈망하는 것(꿈), 느끼는 것(감정), 생각하는 것(아이디어), 그리고 감각하는 것(신체적 건강과 환경).

이 격자를 통해 AI를 바라봄으로써, 우리는 보통 놓치는 것들을 볼 수 있습니다. 예를 들어, AI 튜터는 학생의 성적을 높여줄 수 있지만(생각), 학생을 불안하고 외롭게 만들 수도 있습니다(감정). 또는, 기후 AI는 한 국가를 도울 수 있지만(국가), 지역 마을의 물을 말려버릴 정도로 많은 물을 사용할 수도 있습니다(지구). 이 렌즈는 우리가 화려한 부분뿐만 아니라 전체적인 그림을 보도록 강요합니다.

현실 점검: 무엇이 잘못될 수 있는가?

이 논문은 완벽한 그림을 그리려고 매우 주의를 기울입니다. 논문은 기업들이 실제로는 돈을 벌거나 사람들을 통제하려고 하면서도, 단지 보기 좋게 만들기 위해 자신들의 AI가 사회에 유익한 척하는 "프로소셜 워싱(ProSocial Washing)"을 경계합니다. 또한, AI가 당신에게 묻지도 않고 무엇이 "좋은지" 결정해 버리는, 마치 실수조차 허용하지 않는 엄격한 부모와 같은 "온정적 최적화(Paternalistic Optimization)"에 대해서도 경고합니다.

저자는 이러한 것들을 신중하게 측정해야 한다고 제안합니다. 우리는 단순히 AI가 얼마나 빠른지만을 봐서는 안 됩니다. 사람들이 더 유능하다고 느끼는지, 우정이 더 강해졌는지, 그리고 환경이 더 안전해졌는지를 측정해야 합니다. 논문은 "프로소셜 AI 지수"를 제 제안하는데, 이는 자동차의 대시보드와 같습니다. 속도만 보여주는 대신, 연료 효율성, 안전 등급, 그리고 운전자가 얼마나 즐겁게 운전하고 있는지를 보여주는 것입니다.

결론

이 논문은 AI가 이미 세상을 구하고 있다고 주장하지도, 그렇다고 세상을 파괴할 운명이라고 말하지도 않습니다. 대신, 이것을 생각하기 위한 규율 있는 방식을 제공합니다. 만약 우리가 명확한 목적—사람을 돕고, 지구를 보호하며, 우리의 잠재력을 유지하는 것—을 가지고 AI를 설계한다면, 우리는 이 강력한 기술을 더 나은 삶을 위한 진정한 촉매제로 바꿀 수 있습니다. 하지만 우리가 그저 속도와 이윤만을 쫓으며 AI를 방치한다면, 우리는 효율적이지만 공허하고 취약하게 느껴지는 도시를 마주하게 될 것입니다. 논문은 강조합니다. 선택은 우리에게 달려 있습니다. 우리는 정원사이며, 무엇을 키울지는 우리가 결정합니다.