자신을 위한 미래를 꿈꾸는 내면의 고요한 작업을 상상해 보십시오. 그것은 단순한 백일몽이 아닙니다. 그것은 우리가 어떤 존재가 될 수 있을지를 그려내기 위해 필요한 도구, 이야기, 그리고 이미지를 모으는 정신적 과정입니다. 우리는 이러한 가능성을 진공 상태에서 발명해내는 것이 아닙니다. 대신, 우리는 우리가 읽는 책, 보는 영화, 접하는 광고, 그리고 나누는 대화로부터 그것들을 빌려옵니다. 이러한 공유된 문화적 재료들은 일종의 정신적 비계(scaffolding) 역할을 하며, 우리가 무엇이 가능한지, 무엇이 바람직한지, 그리고 무엇을 위해 노력할 가치가 있는지에 대한 아이디어를 구축하도록 돕습니다. 이러한 재료들이 풍부하고 다양할 때 우리의 상상력은 성장할 공간을 얻습니다. 반면, 재료가 협소하거나 왜곡되어 있다면 우리의 미래에 대한 비전은 위축됩니다. 이것이 바로 연구자들이 '열망적 어포던스(aspirational affordances)'라고 부르는 영역입니다. 이 용어는 우리가 새로운 목표를 향해 손을 뻗을 수 있는 능력을 우리에게 주어진 자원들이 어떻게 형성하는지를 설명하는 간단한 개념입니다.

이제 인공지능이 이러한 자원을 만들고 공유하는 방식을 어떻게 급격히 변화시키고 있는지 생각해 보십시오. AI 시스템은 더 이상 단순히 데이터를 분류하는 도구에 머물지 않습니다. 그들은 우리의 이야기를 쓰는 작가가 되고, 우리의 이미지를 큐레이팅하는 편집자가 되며, 개인적 성장을 돕는 가이드가 되고 있습니다. AI는 경력 조언을 작성하고, 미래의 이미지를 생성하며, 동반자 역할을 제공합니다. 이러한 시스템이 우리 삶에 스며듦에 따라 중대한 질문이 제기됩니다. 우리가 꿈을 꾸는 데 사용하는 도구 자체가 소수의 강력한 알고리즘에 의해 통제될 때, 다른 미래를 상상하는 우리의 능력에는 어떤 일이 벌어질 것인가 하는 점입니다. 이것이 노스이스턴 대학교의 시나 파젤푸르(Sina Fazelpour)와 메이카 마그나니(Meica Magnani)가 발표한 새 논문의 핵심적인 우려 사항입니다. 그들은 우리가 AI의 일반적인 우려 사항, 즉 AI가 사람을 공정하게 대하는지 또는 자원을 올바르게 분배하는지와 같은 문제를 넘어, AI가 어떻게 우리의 자신과 사회에 대해 무엇이 가능한지에 대한 믿음을 은밀하게 제한할 수 있는지 살펴봐야 한다고 주장합니다.

저자들은 이 현상을 설명하기 위해 특정한 개념을 도입합니다. 바로 '열망적 어포던스'입니다. 이것을 문화가 제공하는 정신적 '손잡이' 또는 '움켜쥘 지점'이라고 생각하십시오. 물리적인 계단이 오를 능력이 있는 사람에게 등반이라는 기능을 제공하듯, 하나의 문화적 이야기나 이미지는 그것을 이해할 수 있는 사람에게 특정한 종류의 열망을 제공합니다. 이러한 어포던스는 결정론적이지 않습니다. 즉, 우리에게 특정 방식으로 행동하도록 강요하지는 않습니다. 하지만 이러한 어포던스는 어떤 경로를 명확하고 달성 가능한 것처럼 느껴지게 만드는 동시에, 다른 경로들을 보이지 않거나 불가능한 것처럼 느끼게 만듭니다. 연구자들은 AI 시스템이 이러한 이야기와 이미지를 생성할 때, 단순히 콘텐츠를 더 많이 추가하는 것이 아니라 우리가 상상할 수 있는 풍경 자체를 근본적으로 바꾸고 있다고 제안합니다.

논문은 AI가 우리의 열망에 미치는 영향이 기존 미디어와 어떻게 다르고 더 위험한지에 대해 세 가지 뚜렷한 이유를 설명합니다. 첫째, AI 상호작용은 종종 사적이고, 개인화되어 있으며, 대화적입니다. 대중과 공유되는 영화나 책과 달리, AI 챗봇은 인생 코치나 상담가처럼 행동하며 일대일 설정에서 맞춤형 조언을 제공할 수 있습니다. 이러한 친밀함은 그 제안들을 더 객관적으로 느껴지게 하며 의문을 제기하기 어렵게 만듭니다. 둘째, 그 영향은 생태적입니다. 즉, 아이디어가 생성되는 환경 전체를 변화시킵니다. AI는 이제 대본을 쓰고, 광고를 디자인하며, 도시를 계획하는 데 사용됩니다. 이는 인간이 끌어다 쓰는 아이디어의 풀 자체가 우리에게 도달하기 전에 알고리즘에 의해 필터링되고 재형성되고 있음을 의미합니다. 셋째, 이 권력은 매우 집중되어 있습니다. 소수의 기업이 이러한 문화적 자원을 생성하는 주요 AI 시스템을 통제합니다. 오직 소수의 목소리만이 미래의 이야기를 규정할 때, 가능성의 범위는 좁아지고 대안적인 비전은 사라질 위험에 처합니다.

이러한 위험을 이해하기 위해 저자들은 '열망적 해악(aspirational harm)'이라는 새로운 범주를 제안합니다. 이는 표상적 해악(특정 집단이 스테레오타입적이거나 모욕적으로 묘사되는 것)이나 배분적 해악(자원이 불공정하게 분배되는 것)과 같은 익숙한 AI의 해악과는 구별됩니다. 열망적 해악은 AI 시스템이 해석적 자원을 왜곡하거나 축소하여, 개인이 자신의 삶에 대한 실질적인 가능성을 상상하는 능력을 저해할 때 발생합니다. 이는 반드시 모욕을 당하거나 직업을 거절당하는 문제에 관한 것이 아닙니다. 그것은 앞으로 나아갈 길을 보지 못하게 되는 것에 관한 것입니다. 설령 AI가 특정 집단을 존중하며 묘사하더라도, 그들을 좁은 역할 안에만 가두어 둔다면 열망적 해악을 초래할 수 있습니다. 이는 다른 방식으로 존재할 수 있는 길에 대한 문을 효과적으로 닫아버리는 것입니다.

연구자들은 세 가지 구체적인 사례를 통해 이를 설명합니다. 첫 번째로, 그들은 경력 지도(career guidance)를 살펴봅니다. AI 시스템은 여성들에게 성공한 여성 과학자들의 이미지를 보여줌으로써 여성들이 과학 기술 분야에 진출하도록 도우려 할 수 있습니다. 그러나 만약 시스템이 적대적인 환경에서의 극단적인 회복탄력성을 요구하는 것과 같이 단 하나의 경직된 성공 모델만을 제시한다면, 이는 다른 유효한 방식의 과학자가 되는 길을 의도치 않게 지워버릴 수 있습니다. 이는 다양한 가능성을 단 하나의 좁은 각본으로 대체함으로써, 다른 종류의 커리어 경로를 원했을 수도 있는 젊은 여성들의 상상력을 제한합니다.

두 번째 사례에서 저자들은 AI가 미래를 시각화하는 방식을 조사합니다. 그들은 이미지 생성 AI에게 2040년의 이란 여학생들의 모습을 만들어 달라고 요청하여 이를 테스트했습니다. 실제 현실의 맥락은 정치적 자유와 의무적 히잡 착용 폐지를 향한 움직임이 있었습니다. 그러나 AI는 홀로그램 태블릿이나 친환경 건축물과 같은 기술적 발전만을 전적으로 강조하며, 사회적·정치적 현상 유지를 그대로 둔 이미지를 생성했습니다. 소녀들은 여전히 히잡을 쓰고 있었고, 정치적 제약 또한 그대로 남아 있었습니다. AI는 미래를 상상할 힘이 있었지만, 기술은 변해도 인권은 변하지 않는 버전으로 기본 설정되었습니다. 이는 시위자들의 열망을 지워버렸으며, 그들의 자유로운 미래에 대한 비전을 보이지 않게 만들었고, 결과적으로 그 이미지를 보는 사람들에게 그 비전을 덜 타당한 것으로 만들었습니다.

세 번째 사례는 AI가 사회적으로 가능한 것에 대한 우리의 이해를 어떻게 형성하는지에 관한 것입니다. AI 시스템이 뉴스를 요약하거나 질문에 답할 때 사용되면, 사용자들을 지배적인 관점으로 미묘하게 유도하고 대안적인 서사를 억압할 수 있습니다. 만약 AI가 지속적으로 현재의 사회 질서를 유일하게 논리적이거나 필연적인 결과로 제시한다면, 사람들은 상황이 달라질 수 있다는 것을 상상하는 것을 낙담하게 만들 수 있습니다. 이것은 단순히 편향의 문제가 아니라, 사회적 변화를 위한 정신적 공간을 축소하는 문제입니다. 현 상태를 유일한 현실처럼 느끼게 함으로써, 이러한 시스템은 변혁에 필요한 희망을 침식할 수 있습니다.

논문은 이러한 해악이 실재하며 긴급한 주의가 필요하다고 결론짓습니다. 저자들은 AI가 우리의 꿈을 훔치는 괴물이라고 주장하거나 이 피해가 불가피하다고 주장하는 것이 아닙니다. 대신, 그들은 우리가 미래를 생각하는 데 사용하는 자원 자체를 형성하는 이러한 시스템의 독특한 힘을 인식해야 한다고 주장합니다. 위험은 수백만 번의 개인화된 상호작용과 알고리즘적 선택이 일으키는 조용하고 누적적인 효과가 우리가 믿을 수 있는 가능성의 지평을 천천히 좁혀가는 데 있습니다. '열망적 해악'을 별도의 범주로 식별함으로써, 연구자들은 AI 시스템이 우리의 상상력을 제한하는 것이 아니라 확장하도록 설계하는 방법에 대한 새로운 대화를 열고자 합니다. 목표는 이러한 기술이 우리 삶에 더욱 통합됨에 따라, 기술이 저항과 변혁을 위한 도구로서 계속 기능하며, 진정으로 모두에게 열린 미래를 구상하고 건설할 수 있도록 돕는 것입니다.