How ProSocial AI Can Catalyze Quality of Life and Positive Social Change at Scale: Double Literacy and the ProSocial AI Index

인공지능은 더 이상 단순히 수학 문제를 풀거나 얼굴을 인식하는 도구에 머물지 않고, 일상생활의 보이지 않는 인프라가 되었습니다. 인공지능은 우리가 어떤 뉴스를 볼지, 우리의 업무가 어떻게 조직될지, 어떤 의료 조언을 받을지, 그리고 우리가 서로 어떻게 연결될지를 결정합니다. 이러한 시스템들이 사회의 구조 속에 엮여 있기 때문에, 그 성공은 단순히 얼마나 빠르게 실행되는지나 얼마나 정확하게 날씨를 예측하는지로 측정될 수 없습니다. 대신, 진정한 척도는 그것이 우리의 삶의 질에 어떤 영향을 미치느냐에 있습니다. '삶의 질'이라고 알려진 이 개념은 단순한 행복을 넘어, 우리의 선택 능력, 관계의 강도, 제도의 공정성, 그리고 우리가 공유하는 지구의 건강까지 포함합니다. 새로운 기술이 진정으로 선한 것인지 물을 때, 우리는 그 기술이 사람들이 존엄성을 가지고 살 수 있도록 돕는지, 공동체를 강화하는지, 그리고 다음 세대에게 더 나은 세상을 남겨주는지를 물어야 합니다.

선웨이 대학교(Sunway University)의 연구자 코넬리아 월터(Cornelia Walther)가 제안한 새로운 개념적 틀은 이러한 질문에 답할 수 있는 방법을 제시합니다. 이 논문은 '프로소셜 AI-삶의 질 촉매 모델(ProSocial AI-Quality of Life Catalyst Model)'이라는 모델을 소개합니다. 저자는 인공지능을 사회를 자동으로 개선하거나 해치는 힘으로 취급하기보다 하나의 '촉매제'로 볼 것을 제안합니다. 화학에서 촉매는 자신은 소비되지 않으면서 반응을 가속화하는 물질을 의미하며, 그 효과는 전적으로 주변의 재료와 환경에 달려 있습니다. 마찬가지로, 인공지능은 학습과 돌봄 같은 긍정적인 변화를 가속화할 수도 있고, 의존성이나 환경적 부담 같은 부정적인 추세를 가속화할 수도 있습니다. 이러한 가속의 방향은 기술이 어떻게 설계되는지, 누가 이를 통제하는지, 그리고 사용을 둘러싼 조건이 무엇인지에 따라 달라집니다.

논문의 핵심은 '프로소셜 AI(ProSocial AI)'라고 불리는 특정한 종류의 인공지능을 정의합니다. 이것은 단순히 윤리적 규칙을 따르거나 도움이 된다고 주장하는 시스템이 아닙니다. 이는 다양한 집단 사이에 공정하게 공유되는, 사람들의 삶에 대한 명확하고 측정 가능한 개선을 만들어내도록 의도적으로 설계된 시스템입니다. 또한 생명을 지탱하는 생태계를 보호하고 미래 세대가 스스로 문제를 해결할 수 있는 능력을 보존해야 합니다. 이를 달성하기 위해 저자는 우리가 '책임 있는' 기술이라는 모호한 약속을 넘어 세 가지 구체적인 약속에 집중해야 한다고 주장합니다. '프로-피플(pro-people)', '프로-플래닛(pro-planet)', 그리고 '프로-포텐셜(pro-potential)'이 되는 것입니다. '프로-피플'은 인간의 웰빙, 존엄성, 그리고 선택의 자유를 우선시하는 것을 의미합니다. '프로-플래닛'은 기술이 환경을 훼_손하거나 취약한 공동체에 환경적 부담을 전가하지 않도록 보장하는 것을 의미합니다. '프로-포텐셜'은 기술을 사용하는 것이 우리의 인간적 기술을 약화시키거나 미래에 독립적으로 생각하고 행동하는 능력을 감소시키지 않도록 하는 것을 의미합니다.

논문은 인공지능이 실제로 삶의 질을 향상시킬 수 있는 네 가지 구체적인 경로를 설명합니다. 첫 번째는 '주체성과 역량(agency and capability)' 경로입니다. 여기서 목표는 사람들이 기계에 의존하지 않으면서도 자신의 선택지를 이해하고 실행할 수 있도록 돕는 것입니다. 예를 들어, 학생이 개념을 배우도록 돕는 도구는 가치가 있지만, 그것이 학생 스스로 문제를 생각하여 풀어내는 능력을 대체한다면 가치가 없습니다. 두 번째 경로는 '관계와 사회적 자본(relational and social capital)'입니다. 이는 기술이 타인과의 연결에 어떤 영향을 미치는지에 초점을 맞춥니다. 외로운 사람이 공동체를 찾도록 돕는 시스템은 유익하지만, 인간의 대화를 시뮬레이션된 대화로 대체하는 시스템은 실제 사회적 유대를 약화시킬 위험이 있습니다. 세 번째 경로는 '제도적 및 공공 가치(institutional and public value)'를 포함합니다. 이는 AI가 병원, 학교, 정부와 같은 조직에 대한 신뢰에 어떤 영향을 미치는지 살펴봅니다. 시스템이 서비스를 빠르게 처리하는 것은 좋지만, 사람들이 내린 결정을 이해할 수 있고 그 결정이 틀렸을 경우 이의를 제기할 수 있는 방법이 있어야만 유효합니다. 마지막 경로는 '재생적 및 세대 간 영향(regenerative and intergenerational)'입니다. 이는 기술이 소비하는 자원과 생성하는 폐기물에 비해 그 혜택이 더 큰지를 물으며, 환경과 미래 세대에 미치는 장기적인 영향을 고려합니다.

이러한 긍정적인 결과가 나타나기 위해서는 네 가지 필수적인 조건이 갖춰져야 한다고 논문은 밝힙니다. 첫 번째는 저자가 '이중 리터러시(Double Literacy)'라고 부르는 것입니다. 이는 사람들이 자신의 인간적 욕구와 감정을 이해함과 동시에, 인공지능 시스템의 작동 방식과 그 한계 및 편향성을 이해해야 함을 의미합니다. 이러한 이중적 이해가 없다면 사람들은 기계를 맹목적으로 신뢰하거나 기술을 효과적으로 사용하지 못할 수 있습니다. 두 번째 조건은 '의미 있는 참여(meaningful participation)'입니다. 기술의 영향을 받는 사람들은 단순히 데이터 포인트로 취급받는 것이 아니라, 기술이 어떻게 설계되고 사용되는지에 대해 실질적인 목소리를 낼 수 있어야 합니다. 세 번째 조건은 '이의 제기 가능성(contestability)'으로, 시스템이 내린 결정이 잘못되었거나 불공정할 경우 개인이 이를 이의 제기하고 인간의 검토를 받을 수 있는 명확하고 접근 가능한 방법이 있어야 함을 뜻합니다. 마지막 조건은 '비례성(proportionality)'입니다. 이는 강력하고 자원을 많이 소모하는 인공지능의 사용이 당면한 문제를 해결하는 데 실제로 필요한지, 아니면 더 단순한 해결책이 환경적 비용 없이도 충분히 작동할 수 있는지를 묻는 것입니다.

이러한 복잡한 상호작용을 평가하기 위해, 논문은 '4x4 렌즈'로 설명되는 기술의 효과를 바라보는 새로운 방식을 제안합니다. 이 렌즈는 인간 경험의 네 가지 측면인 열망, 감정, 사고, 물리적 감각을 사회의 네 가지 수준인 개인, 공동체, 국가, 지구라는 차원에서 고려하도록 합니다. 예를 들어, 교육 도구를 살펴볼 때 단순히 시험 점수를 높이는지만 묻는 것이 아니라, 그것이 학생의 불안감에 어떤 영향을 미치는지, 학생이 더 깊게 생각하도록 돕는지, 교사와 학생 사이의 관계를 어떻게 변화시키는지, 그리고 시스템을 운영하는 데 드는 환경적 비용은 무엇인지도 함께 물어야 합니다. 이러한 접근 방식은 한 영역에서 개선이 나타나는 동안 다른 영역에서 발생할 수 있는 숨겨진 해악이나 의도하지 않은 결과를 놓치지 않도록 보장합니다.

저자는 또한 이러한 시스템이 실패할 수 있는 흔한 방식들에 대해 경고합니다. 한 가지 위험은 기업들이 실질적인 증거를 제시하지 않은 채 자신들의 기술이 사회에 유익하다고 주장하는 '프로소셜 워싱(prosocial washing)'입니다. 또 다른 위험은 시스템이 개인의 의견을 묻지 않고 무엇이 최선인지 결정해 버리는 '가부장적 최적화(paternalistic optimization)'로, 이는 개인의 선택의 자유를 박탈합니다. 인간 관계를 합성된 관계로 대체하거나, 기술의 숨겨진 비용을 노동자나 먼 곳의 공동체로 전가하는 위험도 존재합니다. 이러한 실패를 방지하기 위해, 논문은 기관들이 먼저 실제적인 인간의 필요를 식별한 다음, 인공지능이 그 문제를 해결하기 위한 적절한 도구인지 결정해야 한다고 제안합니다. 즉, 기술을 먼저 두고 그에 맞는 문제를 찾는 것이 아니라, 문제에서 시작하여 기술을 검토해야 한다는 것입니다.

궁극적으로, 이 프레임워크는 인공지능의 미래가 인간의 선택에 달려 있음을 시사합니다. 기술 자체에는 도덕적 방향성이 없으며, 기술은 그것을 만들고 사용하는 사람들의 의도와 구조를 증폭시킬 뿐입니다. 삶의 질에 대한 입증 가능한 개선에 집중하고, 인간의 주체성을 보호하며, 혜택이 공정하게 공유되도록 함으로써, 사회는 인공지능을 인간과 지구를 모두 지원하는 미래로 인도할 수 있습니다. 논문은 이 길이 매우 까다롭지만, 단순히 존재하는 기술과 진정으로 공공의 이익을 위해 봉사하는 기술을 구분할 수 있는 명확한 길을 제시한다고 결론짓습니다.