Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research

컴퓨터가 인간처럼 자연스럽게 이야기를 쓰고, 이미지를 생성하며, 질문에 답할 수 있는 세상을 상상해 보십시오. 생성형 인공지능이라 불리는 이 기술은 공상 과학 영화에서 현실의 학교, 병원, 직장으로 빠르게 이동하고 있습니다. 하지만 이러한 도구들이 일상의 일부가 됨에 따라, 중요한 질문이 제기됩니다. 이 기술은 누구를 위해 존재하며, 누구를 소외시키고 있는가 하는 점입니다. 수십 년 동안 연구자들은 컴퓨터 시스템이 창조자의 편견을 학습하여 유색인종을 불공평하게 대우할 수 있다는 사실을 알고 있었습니다. 이 새로운 연구는 이러한 문제들을 어떻게 이야기하는가에 대해 더 깊은 질문을 던집니다. 이 연구는 문제를 해결하려는 두 집단, 즉 뉴스에서 글을 쓰는 저널리스트와 지역사회 지도자들, 그리고 학술지에 논문을 발표하는 과학자들을 비교합니다. 연구진은 이 두 집단이 동일한 문제를 동일한 방식으로 바라보고 있는지, 아니면 완전히 다른 언어를 사용하고 있는지를 확인하고자 했습니다.

학자와 산업계 연구진이 수행한 이 연구는 대중이 인공지능이 흑인 공동체에 미치는 위험을 이해하는 방식과 과학자들이 그 동일한 위험을 연구하는 방식을 비교하기 위해 설정되었습니다. 연구진은 분석을 위해 두 가지 커다란 텍스트 모음을 수집했습니다. 첫 번째 모음은 뉴스 기사, 의견서, 싱크탱크 보고서 등 대중과 언론이 이러한 문제를 논의하는 방식을 보여주는 28개의 공적 자원으로 구성되었습니다. 두 번째 모음은 2010년부터 2025년 사이에 주요 컴퓨터 과학 컨퍼런스에 발표된 91편의 과학 논문을 체계적으로 검토한 것입니다. 연구팀은 '프레임 분석(frame analysis)'이라는 방법론을 사용하여 이 텍스트들을 읽었습니다. 이 접근법은 단순히 단어의 수를 세는 것이 아니라, 이야기가 어떻게 구성되는지를 살핍니다. 이는 네 가지 구체적인 질문을 던집니다. 문제는 어떻게 정의되는가? 원인은 무엇으로 식별되는가? 상황에 대한 도덕적 판단은 무엇인가? 그리고 어떤 해결책이 제안되는가? 뉴스과 과학 양측에 이 렌즈를 적용함으로써, 연구진은 두 세계가 어디에서 일치하고 어디에서 갈라지는지를 정확히 지도화할 수 있었습니다.

연구 결과, 대중이 문제를 인식하는 방식과 연구자들이 문제를 해결하려는 방식 사이에는 상당한 괴리가 있음이 드러났습니다. 대중 담론에서 이야기는 명확하고 구조적입니다. 저널리스트와 지역사회 지도자들이 인공지능에 의한 해악을 논할 때, 그들은 거의 항상 깊은 역사적 뿌리를 지목합니다. 그들은 이 문제를 사회를 형성해 온 수 세기에 걸친 구조적 인종차зism과 불공정한 정책의 결과로 설명합니다. 그들이 제안하는 해결책 또한 광범 로이며, 정부 규제, 채용 관행의 변화, 공동체를 보호하기 위한 새로운 법률을 요구합니다. 그들은 기술을 깨진 사회를 비추는 거울로 보며, 거울을 고치기 위해서는 사회 자체를 고쳐야 한다고 주장합니다.

반면, 과학 문헌은 훨씬 더 좁고 다른 이야기를 들려줍니다. 연구진은 91편의 학술 논문 대다수가 거의 배타적으로 기술적 해결책에 집중했다는 것을 발견했습니다. 과학자들은 문제를 식별할 때 역사나 사회를 원인으로 보는 경우가 드물었습니다. 대신, 그들은 컴퓨터 모델을 학습시키는 데 사용된 데이터에 주목했습니다. 그들은 학습 데이터가 결함이 있기 때문에 편향이 존재한다고 주장했습니다. 결과적으로 그들의 해결책은 거의 전적으로 기술적이었습니다. 그들은 더 나은 데이터셋을 만들거나, 오류를 감지하는 새로운 코드를 작성하거나, 알고리즘을 조정하는 방식을 제안했습니다. 대중 담론이 법과 사회적 변화를 촉구할 때, 과학 논문은 더 나은 엔지니어링을 호출했습니다. 이 연구는 이것이 우연이나 단순한 의견 차이가 아님을 시사합니다. 오히려 과학계가 편향이 존재하게 만드는 근본적인 구조적 조건을 다루는 데 있어 크게 물러나 있음을 나타냅니다.

아마도 가장 놀라운 발견은 두 집단이 무엇에 동의했고, 무엇을 놓쳤는가 하는 점일 것입니다. 뉴스 기사와 과학 논문 모두 '재현적 해악(representational harm)'이 가장 눈에 띄는 피해라는 점에 동의했습니다. 이는 인공지능 시스템이 흑인의 정체성을 왜곡하거나 지우는 방식, 예를 들어 흑인의 피부색을 더 밝게 생성하거나 텍스트에서 스테레오타입을 사용하는 것을 의미합니다. 두 집단 모두 이러한 특정 유형의 해악에 과도하게 집중했기 때문에, 둘 다 이미지와 텍스트를 더 정확하게 만드는 방향의 해결책을 제안했습니다. 그러나 그렇게 함으로써, 두 집단 모두 결정적인 관점을 간과했습니다. 그것은 바로 흑인 공동체가 이러한 기술의 설계와 의사결정을 주도해야 한다는 생각입니다. 연구에 따르면, 뉴스에서는 흑인들이 보호받아야 할 피해자로 묘사되는 경우가 많았고, 과학 논문에서는 그들이 연구 대상이나 측정되어야 할 데이터 포인트로 취급되었습니다. 저널리스트도, 과학자도 흑인 공동체를 이러한 강력한 도구가 어떻게 구축되고 통치되어야 하는지를 결정하는 전문가나 설계자로 일관되게 프레임화하지 않았습니다.

연구진은 재현성에 대한 이러한 공통된 초점이 중요하기는 하지만, 하나의 '함정'이라고 주장합니다. 기술을 더 공정하거나 정확하게 만드는 데만 집중함으로써, 두 집단 모두 더 큰 그림을 놓치고 있다는 것입니다. 그들은 기계의 출력을 수정하려고 노력할 뿐, 기계의 생성을 규정하는 규칙에 대해서는 의문을 제기하지 않습니다. 이 연구는 진정한 진보를 위해서는 더 나은 데이터나 새로운 법률 이상의 것이 필요하며, 기술을 만드는 권력을 누가 가질 것인가에 대한 근본적인 변화가 필요하다고 제안합니다. 이는 흑인 공동체가 단순히 형식적인 자문을 받는 수준을 넘어, 이 기술이 무엇을 해야 하고 어떻게 사용되어야 하는지에 대한 일차적인 권위자로 인정받는 미래를 요구합니다. 과학계가 기술적 수정 작업을 넘어 사회의 구조적 현실과 마주하고, 대중 담론이 흑인을 기술의 수동적인 수혜자로 보는 것을 넘어설 때까지, 인공지능의 약속과 그 영향력의 현실 사이의 간극은 넓게 유지될 것입니다. 연구는 이 간극을 메우기 위해서는 흑인의 지식과 경험을 교정해야 할 변수가 아니라, 더 나은 미래를 건설하기 위한 토대로 취급하는 새로운 사고방식이 필요하다고 결론짓습니다.