Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

당신이 학교 실습실에서 거대하고 마법 같은 로봇을 만드는 법을 배우고 있다고 상상해 보세요. 선생님들은 로봇을 똑똑하게 만들려면 먼저 '추상화(abstraction)'의 기술을 배워야 한다고 말합니다. 컴퓨터의 세계에서 추상화란, 지저로 뒤섞인 부품 더미 위에 상자를 씌우고 그저 '엔진'이라고 라벨을 붙이는 것과 같습니다. 로봇을 움직이게 하기 위해 모든 나사가 어떻게 작동하는지 알 필요는 없습니다. 그저 무엇이 들어가고 무엇이 나오는지만 알면 됩니다. 이것은 엔지니어들이 압도되지 않고 복잡한 것들을 만들어낼 수 있게 돕는 매우 유용한 기술입니다. 하지만 여기 함정이 있습니다. 때때로 우리가 물건을 상자에 담을 때, 실수로 가장 중요한 이야기의 조각들을 버리게 될 수도 있다는 점입니다. 우리는 '엔진'이 비가 올 때만 이상한 소리를 낸다거나, 특정 언어로 말을 걸면 화를 낸다는 사실을 간과할 수 있습니다. 우리가 상자 안만 들여다본다면, 그 내부에서 실제로 일어나고 있는 일들을 놓치게 됩니다.

이 논문은 인공지능(AI) 연구 분야에서 이러한 '상자에 담는' 기술이 너무 과해졌을 때 어떤 일이 발생하는지에 관한 것입니다. 저자들은 미국의 명문 대학에서 AI를 공부하고 있는 세 명의 젊은 과학자들로, 자신들이 학교에 속해 있지 않다고 느꼈던 사람들입니다. 그들은 AI 연구자들이 자신의 연구에 대해 이야기하는 방식이 실제 사람들의 감정, 역사, 그리고 고통을 무시하는 경향이 있다는 것을 발견했습니다. 그들은 이 느낌을 '소외감(alienation)'이라고 부르는데, 이는 마치 파티에서 모두가 대화를 나누고 있는데 나 혼자만 다른 언어를 쓰고 있어서 사람들이 내 말을 듣지 못하는 것과 같습니다. 이 논문은 왜 이런 일이 발생하는지 탐구하며, 연구자들이 데이터를 '정제'하고 자신의 감정을 무시하는 방식이 결국 그 로봇이 도와야 할 사람들에게 해를 끼치고 있다고 제안합니다.

외부인처럼 느꼈던 세 명의 연구자 이야기

이 논문은 미국 명문 대학에서 AI를 연구하고 있는 세 명의 초기 경력 연구자—비오마(Vyoma), 이사벨(Isabel), 네하(Neha)—에 의해 쓰였습니다. 그들은 자신의 이야기를 건조한 사실의 목록이 아니라, 세 개의 짧은 장면, 즉 '비넷(vignettes)'의 형태로 들려주기로 했습니다. 이를 통해 자신들이 어떻게 연구 공동체로부터 밀려났다고 느꼈는지 보여주고자 했습니다.

장면 1: '깨끗한' 데이터의 문제
첫 번째 이야기에서 저자들은 의료 기록을 이용해 보험 위험도를 예측하는 법을 배우던 수업을 설명합니다. 선생님은 그들에게 데이터를 '정제(clean)'하라고 말했습니다. 이는 의료 기록이 일반적인 패턴과 다르거나 특이해 보이는 사람을 찾아내어 삭제하는 것을 의미했습니다. 선생님은 이 사람들을 '노이즈(noise)'라고 불렀습니다. 하지만 저자들은 무서운 사실을 깨달았습니다. 삭제되는 사람들은 종로 종종 가장 힘든 처지에 놓인 사람들—희귀 질환, 장애, 또는 다른 배경을 가진 사람들—이라는 점이었습니다. 수학적으로 더 '깨끗하게' 보이기 위해 이들을 버림으로써, 수업은 그 도움이 가장 절실한 사람들을 무시하도록 그들을 가르치고 있었습니다. 저자들은 로봇이 더 잘 작동하게 만들기 위해 자신의 일부를 삭제하라는 요구를 받는 듯한 기분을 느꼈습니다.

장면 2: 양날의 검
두 번째 장면에서 저자들은 대학원에 진학하며 느꼈던 설렘에 대해 이야기합니다. 그들은 AI를 선한 일에 사용하고 싶었습니다. 하지만 그 후, 그들이 공부하던 바로 그 AI 도구들이 전쟁 지역에서 사람들을 해치는 데 사용되고 있다는 뉴스 보도를 보게 되었습니다. 그들은 교수와 동료들에게 "우리가 폭력을 위해 사용될 수 있는 도구를 만들어야 할까요?"라고 물으며 이 문제를 논의하려 했습니다. 하지만 깊은 대화 대신, 그들은 그저 기술을 더 '윤리적'이거나 '안전하게' 만드는 데 집중하라는 말을 들었습니다. 마치 문제가 그저 고쳐야 할 작은 버그인 것처럼 말이죠. 저자들은 침묵을 강요받는 기분이었습니다. 기술이 존재해야 하는가에 대한 근본적인 질문을 던지는 것이 '단순하다'는 취급을 받았습니다. 그들은 직업과 성적을 유지하기 위해 나쁜 일이 일어나고 있다는 사실을 모르는 척해야 한다는 압박을 느꼈습니다.

장면 3: 안전한 공간을 찾아서
세 번째 장면은 희망적인 부분입니다. 외롭고 혼란스러워하던 저자들은 컴퓨터 과학자, 교사, 사회학자들이 섞인 다른 그룹을 발견했습니다. 그곳은 서로의 이야기를 들어줄 준비가 된 사람들이 있는 곳이었습니다. 그 그룹에서는 아무도 서두르지 않았습니다. 그들은 시간을 들여 경청했습니다. 그들은 대화의 복잡한 부분들을 '정제'하려 하지 않았고, 오히려 그 복잡한 부분들을 통해 문제를 더 잘 이해하려고 노력했습니다. 처음으로 저자들은 안전하다고 느꼈습니다. 그들은 자신이 외부인처럼 느껴졌던 이유가 자신이 문제여서가 아니라, 기존의 AI 연구 방식이 잘못되었기 때문이라는 것을 깨달았습니다.

그들이 발견한 것: '근거 없는(Un-grounded)' 상자

저자들은 자신들이 소외감을 느낀 이유가 **'근거 없는 추상화(ungrounded abstraction)'**라고 부르는 현상 때문임을 깨달았습니다.

'근거가 있는(grounded)' 연구를 뿌리가 깊은 나무에 비유해 봅시다. 그 뿌리는 실제 세상, 즉 사람, 역사, 고통, 그리고 기쁨입니다. '근거 없는' 연구는 나무가 뿌리에서 잘려 나가 공중에 떠 있는 것과 같습니다. 나무의 모양을 하고 있지만, 물을 마실 수도 없고 바람을 느낄 수도 없습니다.

논문은 AI 연구가 다음 네 가지 방식으로 이러한 뿌리를 잘라내고 있다고 주장합니다.

1. 증언의 추상화(Testimony Abstraction): 연구자가 "이것이 사람들에게 상처를 주고 있습니다"라고 말할 때, 공동체가 "당신은 진짜 전문가가 아니며, 그저 감정적일 뿐이다"라고 말하며 무시하는 것입니다.
2. 목적의 추상화(Purpose Abstraction): 프로젝트의 목표가 변질되는 것입니다. "사람들을 돕자"로 시작했지만, 성공을 측정하는 기준이 "테스트에서 가장 높은 점수를 받자"로 바뀌면서 사람을 완전히 잊어버리는 것입니다.
3. 위치의 추상화(Position Abstraction): 데이터가 모든 사람을 동일하게 취급하여, 어떤 이들은 더 많은 권력을 가지고 어떤 이들은 권력이 적다는 사실을 무시하는 것입니다. 이는 마치 부자와 가난한 사람이 정확히 같은 문제를 겪고 있는 것처럼 가정하는 것과 같습니다.
4. 정동의 추상화(Affect Abstraction): 이것은 가장 개인적인 부분입니다. 연구자들이 자신의 감정을 무디게 하도록 교육받는 것을 말합니다. 나쁜 일이 일어나는 것을 보더라도, 일을 계속하기 위해 아무것도 느끼지 말아야 한다는 것입니다. 저자들은 이것이 위험하다고 말합니다. 왜냐하면 당신의 감정은 무언가 잘못되었다는 것을 알려주는 경고 시스템이기 때문입니다.

해결책: 자신의 직관을 믿고 함께 서기

이 논문은 단순히 불평만 하는 것이 아니라, 이를 해결할 방법을 제시합니다.

첫째, **집단적 행동(Collective Action)**입니다. 시스템과 홀로 싸울 필요는 없습니다. 만약 무언가 잘못되었다고 느낀다면, 똑같이 느끼는 다른 사람들을 찾으세요. 함께 설 때, 시스템이 당신을 무시하거나 당신을 미친 사람 취급하기는 더 어려워집니다. 저자들은 열린 마음으로 두려움을 이야기하는 친구들의 모임에서 힘을 얻었습니다.

둘째, **정동적 조율(Affective Attunement)**입니다. 이것은 "자신의 감정에 귀를 기울이라"는 뜻의 어려운 표현입니다. 만약 어떤 프로젝트에 대해 불편함, 분노, 혹은 슬픔을 느낀다면, 그 감정을 억누르지 마세요. 그 감정들을 '추상화'하여 없애버리지 마세요. 대신, 그 감정들을 중요한 데이터로 취급하세요. 당신의 직관은 연구가 누군가에게 해를 끼치고 있다는 첫 번째 신호일 수 있습니다. 감정에 주의를 기울임으로써, '근거 없는' 연구가 실제 해를 끼치기 전에 막을 수 있습니다.

이것이 왜 중요한가

저자들은 자신들이 "AI를 하지 말자"고 말하는 것이 아님을 분명히 합니다. 그들도 기술을 사랑합니다. 하지만 그들은 만약 우리가 실제 세상을 보지 않고, 상처받는 사람들의 목소리에 귀 기울이지 않으며, 우리 자신의 감정에 주의를 기울이지 않은 채 AI를 계속 만든다면, 우리는 고장 나고 위험한 것들을 만들게 될 것이라고 경고합니다.

그들은 AI를 가르치고 연구하는 방식이 변해야 한다고 제안합니다. 삶의 복잡한 부분들을 그냥 '상자에 담아' 처리할 수 있다고 믿는 것을 멈춰야 합니다. 우리는 우리의 뿌리를 실제 세상에 두어야 합니다. 그렇게 함으로써, 우리는 단순히 상자 안에 예쁘게 들어맞는 사람들만을 위한 것이 아니라, 실제로 모두에게 도움이 되는 AI를 만들 수 있습니다. 논문은 자신의 이야기를 공유함으로써 다른 이들도 자신만의 길을 찾고 변화를 만들어갈 수 있기를 바라며, 이 아이디어들을 기술계의 외부인들을 위한 도구로 제시하며 끝을 맺습니다.