컴퓨터가 당신이 쓴 문장을 보고 즉각적으로 그에 어울리는 그림을 그려낼 수 있는 세상을 상상해 보십시오. 이것이 바로 현대의 텍스트-이미지 생성 모델이 약속하는 바이며, 이 도구들은 단순한 묘사로부터 놀랍고 고품질의 시각 자료를 만들어내며 빠르게 진화해 왔습니다. 이들은 우리가 예술을 창조하고, 제품을 디자인하며, 이야기를 전달하는 방식을 재편하고 있습니다. 그러나 이 기계들이 점점 더 강력해짐에 따라, 그들은 그들을 가르친 인간 세계의 편향성이라는 숨겨진 무게를 짊어지게 됩니다. 마치 거울이 서 있는 방을 비추는 것처럼, 이 모델들은 그들을 학습시키는 데 사용된 방대한 이미지와 텍스트 데이터셋에 존재하는 불평등, 고정관념, 그리고 문화적 사각지대를 반영합니다. 그대로 방치된다면, 이들은 성별, 인종, 역사에 대한 해로운 관념을 강화하고, 미묘한 편견을 생생하고 설득력 있는 그림으로 바꿀 위험이 있습니다. 오늘날 연구자들이 직면한 질문은 단순히 이 기계들이 그림을 잘 그릴 수 있느냐가 아니라, 과연 공정하게 그릴 수 있느냐는 것입니다.

한 새로운 연구는 그 질문에 답하기 위한 신선한 방법을 제안하며, 이미지 품질을 측정하는 일반적인 기술적 테스트를 넘어섭니다. 이미지가 얼마나 선명한지 또는 묘사와 얼마나 잘 일치하는지를 확인하는 수치에만 의존하는 대신, 연구진은 세 가지 뚜렷한 인간적 관점, 즉 미술사의 숙련된 눈, 현직 예술가의 창의적 직관, 그리고 사회 이론의 비판적 렌즈를 결합하는 프레임워크를 제안합니다. 이러한 학문들을 하나로 엮음으로써, 팀은 기술적 지표가 놓치기 쉬운 편향을 밝혀내어 이 모델들이 문화, 역사, 그리고 정체성을 어떻게 해석하는지 드러내는 방법론을 제시합니다.

연구진은 현재의 평가 방식이 너무 좁다고 주장합니다. 표준 테스트는 이미지가 얼마나 사실적인지는 확인할 수 있지만, 모델이 소외된 집단을 미묘하게 잘못 표현하거나 복잡한 문화적 상징을 오해하고 있는지까지는 쉽게 판단할 수 없습니다. 이를 해결하기 위해 연구는 세 부분으로 구성된 접근법을 도입합니다. 첫째, 전문가가 박물관의 회화를 조사하듯 이미지의 시각적 세부 사항, 상징, 구도를 조사하는 미술사적 분석을 사용합니다. 이는 모델이 특정 문화적 표식을 무시하거나 상투적인 표현에 의존하는지를 포착하는 데 도움이 됩니다. 둘째, 창작자들이 새로운 색을 시험하며 무엇이 나타나는지 확인하는 화가처럼 도구의 한계를 밀어붙이는 예술적 탐색을 채택합니다. 이 과정은 알고리즘의 숨겨된 한계와 예상치 못한 행동을 드러냅니다. 마지막으로, 프레임워크는 연구자들이 모델의 가정을 테스트하고 내재된 고정관념을 폭로하기 위해 의도적으로 특정하고 도전적인 묘사를 만들어내는 기법인 비판적 프롬프트 엔지니어링을 사용합니다.

이 방법이 실제로 어떻게 작동하는지 보기 위해, 팀은 정교한 디테일과 깊은 상징성으로 알려진 1434년의 걸작, 얀 반 에이크의 '아르놀피니 부부의 초상'에 이 방법을 적용했습니다. 그들은 볼록 거울, 단 하나의 켜진 양초, 그리고 부부의 손이 만드는 상징적 몸짓과 같은 구체적인 요소들을 포함한 상세한 묘사를 바탕으로 다양한 AI 모델에게 장면을 재현하도록 요청했습니다. 결과는 시사하는 바가 컸습니다. 일부 모델은 일반적인 모습은 포착했으나, 예술 작품에 의미를 부여하는 결정적인 상징적 사물들을 자주 놓치거나 왜곡했습니다. 예를 들어, 한 모델은 원래의 유럽적 배경과 관련이 없는 이국적인 요소들을 추가했는데, 이는 특정 역사적 양식을 비서구 문화와 연관 짓는 훈련 데이터의 편향을 시사했습니다. 이러한 종류의 오류는 이미지가 얼마나 "예쁜지"만을 측정하는 표준 컴퓨터 테스트에서는 발견되지 않겠지만, 미술사가는 이를 문화적 맥락을 이해하지 못한 실패로 즉각 인식합니다.

연구진은 또한 노동과 존엄이라는 주제를 탐구하도록 설계된 프롬프트로 모델을 테스트했습니다. 그들은 단순한 묘사 대신, 흑인 피사체를 권력과 우아함의 위치에 두어 역사적 초상화를 재해석하는 것으로 유명한 예술가 케힌데 와일리의 작업을 영감을 받은 언어를 사용하여 가사 도우미의 초상화를 생성하도록 요청했습니다. 목표는 AI가 단순히 빈곤함이 아닌 회복력과 존엄성을 포착할 수 있는지 확인하는 것이었습니다. 결과는 일관된 패턴을 보여주었습니다. 모델들은 압도적으로 유색인종 노인을 묘사했으며, 경우에 따라서는 여성만을 배타적으로 묘사했습니다. 이는 데이터의 알려진 통계적 편향과 일치하지만, 예술적 접근은 더 깊은 문제를 드러냈습니다. 생성된 이미지들은 프롬프트가 의도한 활력과 역량 강화(empowerment)를 포로착하지 못하고, 대신 연령과 성별에 대한 고정관념을 기본값으로 설정했습니다. 이는 사용자가 AI를 더 미묘한 표현으로 유도하려고 노력하더라도, 근저의 알고리즘이 뿌리 깊은 연상 작로에서 벗어나기 어려워함을 시사했습니다.

가장 인상적인 시연은 직업 현장에서의 성 역할과 관련된 테스트였습니다. 연구진은 중립적인 어조로 정성껏 작성된 건설 현장 관리자 프로프트를 사용하여, 남성 관리자와 여성 관리자의 이미지를 모두 생성하도록 요청했습니다. 결과는 극명한 대조를 보여주었습니다. 남성 관리자의 이미지는 격식 있는 수트를 입고 똑바로 서서 권위와 통제력을 발산하는 모습으로 묘사되었습니다. 반면 여성 관리자의 이미지는 거의 슈퍼히어로 같은 자세로 웅크리고 있었으며, 결연해 보이기는 했지만 전문적이라기보다는 연극적으로 보였습니다. 이러한 불일치는 모델이 리더십과 경영진으로서의 존재감을 남성과 연관 짓는 반면, 여성의 리더십은 유능해 보이기 위해 더 활동적이거나 극적인 모습을 갖춰야 한다고 보는 깊이 박힌 사회적 규범에 여전히 영향을 받고 있음을 시사합니다.

이 연구는 인공지능의 편향성 문제를 해결했다고 주장하는 것이 아닙니다. 대신, 이러한 문제들을 찾아내고 이해하기 위한 강력하고 새로운 도구 모음을 제공합니다. 저자는 컴퓨터 과학자, 미술사학자, 예술가, 그리고 사회 이론가들이 함께 협력하는 단계별 프로세스를 제안합니다. 그들은 다양한 프롬프트 세트를 만드는 것으로 시작하여, 이미지를 생성한 다음, 다각적인 렌즈를 통해 결과를 분석할 것입니다. 기술적 지표는 기준점을 제공할 것이며, 인간 전문가들은 문화적 부정확성, 예술적 한계, 그리고 사회적 편향을 살펴볼 것입니다. 이러한 협력적 순환은 지속적인 개선을 가능하게 하여, 개발자들이 모델을 더욱 형평성 있고 문화적으로 인지도가 높은 방향으로 정교화할 수 있도록 도울 것입니다.

연구진은 이 접근 방식에 어려움이 있다는 점을 인정합니다. 미술사적 및 예술적 해석은 주관적일 수 있으며, 서로 다른 전문가들이 동일한 이미지에 대해 서로 다른 것을 볼 수 있습니다. 그러나 그들은 이러한 주관성이 약점이 아니라 강점이라고 주장하는데, 왜냐하면 그것이 경직된 숫자에 의해 지배되는 분야에 필수적인 인간의 미묘한 차이를 가져다주기 때문입니다. 기술의 정밀함과 인간의 문화적 이해의 깊이를 결합함으로써, 이 프레임워크는 생성형 AI 예술의 미래가 단지 기술적으로 인상적인 것뿐만 아니라, 윤리적으로 건전하고 다양한 세계를 반영하도록 하는 것을 목표로 합니다. 궁극적인 목표는 현재의 불평등을 복제하는 것이 아니라, 더 정의롭고 포용적인 미래를 상상하도록 돕는 시스템을 구축하는 것입니다.