💻 computer science

RA-ClipScore: Making Generative Model Evaluation More Interpretable

이 논문은 상충하는 속성들을 분리하고 로컬 패치 토큰을 통해 공간적 분포 정렬을 분석함으로써, 기존 방식보다 더 견고하고 인간의 판단과 일치하는 통찰력을 제공하여 생성 모델 평가의 해석력을 향상시키는 새로운 지표인 RA-CLIPScore를 소개한다.

원저자: Yifan Lu, Taras Kucherenko, Hedvig Kjellström, Judith Bütepage

게시일 2026-08-13

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Yifan Lu, Taras Kucherenko, Hedvig Kjellström, Judith Bütepage

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

컴퓨터가 눈을 속일 수 있을 정도로 실제와 똑같은 그림을 꿈꿀 수 있는 세상을 상상해 보십시오. 이것이 바로 생성형 AI의 영역입니다. 이는 기계가 무에서 유를 창조하여 예술, 얼굴, 풍경을 만드는 법을 배우는 과학의 한 분야입니다. 오랫동안 이러한 디지털 꿈이 정말 좋은지 판단하는 유일한 방법은 "이것들이 진짜처럼 보이는가?"라는 단순한 질문을 던지는 것이었습니다. 하지만 그것은 마치 흐릿한 프레임 하나만 보고 영화 전체를 판단하는 것과 같습니다. 우리는 왜 사진이 좋거나 나쁘게 보이는지에 대한 '이유'를 이해할 수 있는 더 나은 방법이 필요했습니다. 여기에 "평가 지표(evaluation metrics)"라는 개념이 등장합니다. 이는 AI 예술을 위한 점수판 역할을 하는 도구입니다. CLIP이라고 불리는 유명한 도구는 수백만 권의 책을 읽고 수백만 장의 사진을 본 매우 똑똑한 사서와 같습니다. 이 사서는 사진이 설명과 일치하는지 말해줄 수 있습니다. 하지만 이 사서에게도 사각지대는 있습니다. "저것은 개다"라고 말하는 데는 뛰어나지만, 개가 어디에 서 있는지 또는 개에게 이상한 여분의 다리가 달려 있는지 설명하는 데는 어려움을 겪습니다. 우리가 이러한 작은 실수들을 포착하지 못한다면, 의료 진단이나 자율 주행 자동차와 같은 중요한 작업에 AI를 사용할 때 의도치 않게 편향되거나 결함이 있는 이미지를 만들게 될 수 있으며, 이는 큰 문제가 됩니다.

이 논문은 AI 예술을 점검하기 위한 더 날카로운 안경인 RA-CLIPScore를 소개합니다. 저자인 스웨덴 연구진은 기존의 도구들이 너무 뭉툭하다는 것을 깨달았습니다. 그것들은 방의 중앙만을 비추고 구석은 어둡게 남겨두는 손전등과 같았습니다. 새로운 방법인 RA-CLIPScore는 이미지의 모든 구석에 빛을 비추어, 무엇이 들어있는지뿐만 아니라 그것이 어디에 있고 어떻게 조화를 이루는지까지 확인하도록 설계되었습니다.

문제점: "일률적인" 점수판

당신이 학생의 에세이를 채점하고 있다고 상상해 보십시오. 기존 방식(FID나 표준 CLIPScore와 같은 도구 사용)은 에세이에 "85/100"과 같은 단일 숫자를 부여하는 것이었습니다. 그 숫자는 에세이가 "괜찮다"는 것을 알려주지만, 학생이 "cat"을 "bat"으로 철자를 틀렸는지, 혹은 결론을 맨 앞에 배치했는지는 알려주지 않습니다. AI 이미지의 세계에서 이는 모델이 지속적으로 사람의 머리를 사진의 하단 구석에 배치하거나, "아기(babies)"와 "수염(beards)"을 불가능한 방식으로 실수로 혼동하고 있다는 사실을 우리가 놓칠 수 있음을 의미합니다.

연구진은 이 점수판의 두뇌 역할을 하는 인기 있는 CLIP 도구가 특정 특성을 가지고 있다는 것을 발견했습니다. 그것은 하나의 최선의 답을 선택하도록 훈련되었습니다. 만약 당신이 "이것은 흰 올빼미 사진인가?"라고 묻는다면, 그것은 "예"와 "아니오" 사이에서 하나를 골라야 하며, 그 과정에서 미묘한 세부 사항을 잊어버립니다. 이는 마치 결과에만 신경 쓰고 증거는 무시하는 판사와 같습니다. 이 때문에 AI가 구체적이고 이상한 방식으로 실패하고 있을 때 이를 포착하기 어렵습니다.

해결책: 돋보기를 든 탐정

저자들은 RA-CLIPScore(Region-and-Attribute-Aware CLIPScore)라는 새로운 방법을 제안했습니다. 이것을 AI 평가자를 돋보기를 든 탐정으로 바꾸는 것이라고 생각하십시오. 전체 이미지를 한꺼번에 보고 단일 등급을 주는 대신, RA-CLIPScore는 이미지를 작은 퍼즐 조각("패치")으로 나누고 각 조각에 대해 매우 구체적인 질문을 던집니다.

작동 방식은 다음과 같습니다:

"예와 아니오" 기법 (이중 프롬프트): 기존 도구들은 "흰 올빼미가 있는가?"라고 물었고 이미지가 지저분하면 혼란스러운 답을 얻었습니다. 새로운 방법은 두 가지 질문을 동시에 던집�니다: "이것은 흰 올빼미 사진인가?" 그리고 "이것은 흰 올빼미가 없는 사진인가?" 두 질문에 대한 답변을 비교함으로써, 시스템은 이미지의 다른 요소들에 의해 혼동되지 않고 올빼미가 정확히 얼마나 있는지 알 수 있습니다. 이는 친구에게 "이것은 피자인가?"와 "이것은 피자가 아닌가?"를 동시에 물어 더 명확한 답을 얻는 것과 같습니다.
확대하기 (로컬 패치 토큰): 전체 이미지를 찡그려 보는 대신, RA-CLIPScore는 사진의 아주 작은 정사각형들을 개별적으로 살펴봅니다. 그것은 "흰 올빼미"가 실제로 올빼미 위에 있는지, 아니면 실수로 하늘에 떠 있는지 확인합니다. 이를 통해 실제 기타가 중앙에 들려 있어야 함에도 불구하고 모델이 항상 기타를 왼쪽 상단 구석에 배치하는 것과 같은 공간적 오류를 잡아낼 수 있습니다.
점수판 (발산): 시스템이 모든 조각을 확인하면, AI의 사진을 실제 인간의 사진과 비교합니다. 시스템은 "발산(divergence)" 점수를 계산하는데, 이는 두 집단이 얼마나 다른지를 나타내는 세련된 표현입니다. 만약 AI가 올빼미를 100%의 확률로 하늘에 배치한다면, 실제 올빼미는 보통 나무 위에 있으므로 점수가 올라가며, 이는 무언가 잘못되었다는 경고를 보냅니다.

발견한 사실: AI는 "편향"을 가지고 있다

연구진은 이 새로운 도구를 얼굴 및 기타 물체를 생성하는 몇몇 유명한 AI 모델들에 테스트했습니다. 그들은 기존 도구들이 완전히 놓쳤던 놀라운 사실들을 발견했습니다:

"중앙 집중" 편향: 그들은 일부 AI 모델이 물체를 이미지의 정중앙에 배치하는 습관이 있는 반면, 실제 사진은 더 무작위적이라는 것을 발견했습니다. 예를 들어, "다이얼 전화기" 이미지를 생성할 때, AI는 전화기를 계속 중앙에 두었지만 실제 사진에서는 다양한 위치에서 나타났습니다.
"대각선" 기타: BigGAN이라는 모델은 전기 기타를 거의 항상 45도 각도로 그린다는 것이 밝혀졌습니다. 실제 기타는 온갖 다양한 자세로 들리지만, AI는 경직된 습관을 가지고 있었습니다.
"브리또" 이동: 또 다른 모델인 LDM은 브리또를 이미지의 윗부분에 배치하여, 실제 생활에서 나타나는 위치로부터 벗어나게 만드는 경향이 있었습니다.

이것들은 단순한 작은 결함이 아닙니다. 이것들은 체계적인 편향입니다. 만약 당신이 이러한 AI 이미지를 자율 주행 자동차나 의료 스캐너를 훈련시키는 데 사용한다면, 기계는 "자동차는 항상 중앙에 있다"거나 "암 세포는 항상 중간에 있다"라고 학습하게 되어 현실 세계에서 위험할 수 있습니다.

인간 테스트: 우리의 눈과 일치하는가?

새로운 도구가 단순히 수학적인 계산에 불과하지 않음을 증명하기 위해, 저자들은 실제 사람들에게 게임을 요청했습니다. 그들은 사람들에게 AI가 생성한 이미지 쌍을 보여주고, "어느 세트가 더 다양하고 자연스러워 보이는가?"라고 물었습니다.

결과는 놀라웠습니다. RA-CLIPScore의 일부인 새로운 Regional Single-Attribute Divergence (R-SaD) 지표는 인간의 의견과 완벽하게 일치했습니다. 상관관계는 1.0이었는데, 이는 사람들이 "이것이 더 다양해 보인다"라고 말할 때 지표도 "그렇다"라고 하고, 사람들이 "이것은 이상하다"라고 할 때 지표도 동의했다는 것을 의미합니다. 반면, FID나 "Coverage"와 같은 기존의 인기 있는 지표들은 인간의 의견과 약 30%에서 70% 정도만 일치했습니다. 결국 기존의 도구들은 인간의 눈에 "이상하다"고 느껴지는 바로 그 요소들을 인지하지 못하는 경우가 많았습니다.

이것이 왜 중요한가

이 논문은 우리가 AI 예술에 대해 단일 숫자를 최종 성적으로 받아들이는 것을 멈춰야 한다고 결론짓습니다. 멀리서 보기에 이미지가 "좋아" 보인다고 해서 그것이 반드시 공정하거나, 정확하거나, 안전하다는 뜻은 아닙니다. RA-CLIPScore는 우리가 내부를 들여다보고 AI가 정확히 어디에서 어려움을 겪고 있는지 볼 수 있는 방법을 제공합니다. 이는 AI 모델이 물체를 항상 같은 위치에 두는 것과 같은 이상한 습관을 가질 수 있음을 보여주며, 이를 수정할 수 있는 도구를 제공합니다.

요약하자면, 저자들은 디지털 세계를 위한 더 나은 현미경을 만든 것입니다. 그들은 작은 세부 사항과 사물의 구체적인 위치를 살핌으로써, 이전보다 훨씬 더 잘 AI를 이해할 수 있다는 것을 증명했습니다. 이는 단순히 더 예쁜 그림을 만드는 데 도움이 될 뿐만 아니라, 더 신뢰할 수 있고 어리석고 편향된 실수를 저지를 가능성이 낮은 AI를 구축하는 데 도움을 줍니다.

기술 요약: RA-CLIPScore

문제 정의
생성 모델(예: GAN, 확산 모델)은 실제 데이터와 구별할 수 없는 이미지를 생성할 수 있지만, 엄격하고 해석 가능한 평가를 수행하는 것은 여전히 큰 과제로 남아 있다. FID(Fréchet Inception Distance)나 KID(Kernel Inception Distance)와 같은 기존 지표들은 스칼라 점수만을 제공하므로, 모델이 왜 또는 어디에서 실패하는지에 대한 진단적 통찰을 제공하는 데 한계가 있다. 이들은 특정 속성의 실패(예: "수염 난 아기"와 같은 부적절한 조합)나 공간적 편향(예: 고정된 포즈나 제한된 영역 내의 객체 생성)을 식출해낼 수 없다.

HCS(Heterogeneous CLIPScore)와 같은 기존 CLIP 기반 지표들은 의미론적 평가를 개선했지만, CLIP의 원래 학습 패러다임에서 기인한 다음과 같은 한계를 그대로 물려받았다:

속성 경쟁(Attribute Competition): CLIP의 소프트맥스 기반 대조 학습은 텍스트 카테고리 간의 상호 배타성을 강제하여, 중첩되는 속성들의 표현을 저해한다.
공간적 해상도 부족(Lack of Spatial Granularity): CLIP은 이미지를 하나의 전역 토큰(global token)으로 인코딩하여, 로컬 패치 토큰을 폐기하고 미세한 영역적 세부 사항 및 공간적 분포에 대한 민감도를 낮춘다.

방법론
저자들은 추가적인 학습이나 계산 비용 없이 속성 간의 경쟁을 분리하고 공간 분포 정렬로 평가를 확장하도록 설계된 지표인 RA-CLIPScore(Region-and-Attribute-Aware CLIPScore)를 제안한다. 이 방법론은 세 가지 핵심 구성 요소로 이루어져 있다:

이중 프롬프트(Dual Prompts): CLIP의 소프트맥스 학습으로 인한 경쟁을 완화하기 위해, 저자들은 속성 평가를 독립적인 이진 인식 작업으로 재구성한다. 각 속성 $t_i$ 에 대해, 그들은 "이것은 $t_i$ 의 사진이다"와 "이것은 $t_i$ 가 없는 사진이다"라는 한 쌍의 고정된 프롬프트를 구성한다. 이를 통해 속성들을 상호 배타적인 분류가 아닌 독립적인 다중 레이블 작업으로 취급하여 각각의 속성을 독립적으로 평가할 수 있다.
지역적 특징 추출(Regional Feature Extraction): 저자들은 로컬 공간 정보를 유지하도록 CLIP의 비전 인코더를 조정한다. 최종 어텐션 레이어 이후 로컬 패치 토큰을 버리는 대신, 마지막 레이어 $L-1$ 의 로컬 패치 토큰을 비전-언어 임베딩 공간으로 직접 투영한다. 이는 로컬 패치에 대해 어텐션 연산을 우회하는 방식(사실상 이들을 위한 항등 행렬 적용)으로 어텐션 마스크를 수정하면서도 [CLS] 토큰은 유지함으로써 달성된다. 이를 통해 단 한 번의 순전파(forward pass)만으로 미세하고 공간적으로 인지된 표현을 생성한다.
어텐션 정교화 및 집계(Attention Refinement and Aggregation): 초기 패치 수준의 점수는 로컬 패치 간의 쌍별 의존성을 포착하기 위해 중간 레이어의 셀프 어텐션 가중치를 사용하여 정교화된다. 이렇게 정교화된 지역적 점수들은 로컬 패치와 양의 프롬프트(positive prompt) 사이의 유사도에 비례하는 가중치를 사용하여 가중 합산 방식으로 집계된다.

RA-CLIPScore를 기반으로, 저자들은 훈련 데이터셋과 생성 데이터셋 간의 차이를 정량화하기 위해 세 가지 발산(divergence) 지표를 정의한다:

단일 속성 발산(Single-Attribute Divergence, SaD): 점수 분포에 대한 쿨백-라이블러(KL) 발산을 사용하여 개별 의미 차원에 따른 분포 변화를 측정한다.
쌍 속성 발산(Pair-Attribute Divergence, PaD): 속성 쌍의 결합 분포에 대한 발산을 측정함으로써 부적절한 속성 조합을 탐지한다.
지역 단일 속성 발산(Regional Single-Attribute Divergence, R-SaD): 정교화된 지역 점수의 공간 패치 간 평균 차이를 계산함으로써 평가를 공간 도메인으로 확장한다. 이는 생성된 이미지가 실제 데이터와 비교하여 특정 영역에서 어떤 편향을 보이는지 식별한다.

주요 기여

새로운 지표: 이중 프롬프트와 지역 패치 추출을 통해 CLIP의 대조 사전 학습 한계를 극복하는 RA-CLIPScore를 도입하였다.
공간적 평가: 추가 학습 없이도 체계적인 공간적 편향(예: 고정된 객체 배치)을 탐지할 수 있도록 CLIP 기반 평가를 공간 분포 정렬로 처음 확장하였다.
효율적인 프레임워크: 별도의 패스나 추가 학습이 필요한 이전 연구들과 달리, 단 한 번의 순전파에서 로컬 및 글로벌 토큰을 결합하여 활용하는 집계 방식을 갖추었다.
체계적 연구: 생성 모델의 공간적 편향에 대한 첫 번째 체계적 분석을 수행하여, 표준 벤치마크에서는 간과되었던 뚜렷한 지역적 생성 경향을 밝혀냈다.

결과
CelebA, FFHQ, ImageNet과 같은 데이터셋을 이용한 광범한 실험을 통해 다음을 입증하였다:

강건성(Robustness): RA-CLIPScore는 무관한 속성이 도입되거나 속성 집합이 변형될 때, 특히 HCS보다 더 안정적인 속성별 평가를 제공한다. HCS는 이러한 조건에서 성능이 저하되는 반면, RA-CLIPScore는 일관성을 유지한다.
어블레이션(Ablation): 전체 방법(이중 프롬프트, 로컬 토큰, 글로벌 토큰의 결합)은 이러한 구성 요소가 결여된 변형 모델들보다 일관되게 우수한 성능을 보인다. 이중 프롬프트는 모든 속성에 대해 판별력을 향상시키며, 로컬 토큰은 미세한 속성(예: 안경)에, 글로벌 토큰은 지배적인 속성(예: 성별)에 필수적이다.
공간적 편향 탐지: R-SaD는 BigGAN(예: 전기 기타가 고정된 45도 대각선 방향으로 생성됨) 및 LDM(예: 부리토가 이미지 상단 영역으로 치우침)과 같은 모델의 공간적 편향을 성공적으로 식별하였으며, 이는 FID와 같은 전통적인 지표로는 보이지 않는 부분이다.
인간과의 정렬(Human Alignment): 시각적 다양성을 평가하는 사용자 연구에서, R-SaD는 인간의 판단과 완벽한 상관관계( $r=1.0$ )를 달성하였으며, 이는 FID( $r=0.50$ ), LPIPS( $r=0.53$ ), 심지어 RA-CLIPScore 자체( $r=0.60$ )보다도 현저히 높은 수치이다. 저자들은 RA-CLIPScore의 글로벌 특징이 때때로 공간적 다양성 신호를 압도할 수 있으며, 이로 인해 R-SaD가 인간이 인지하는 공간적 다양성에 더 민감하게 반응한다고 가설을 세웠다.

의의 및 주장
본 논문은 RA-CLIPScore가 블랙박스 형태의 스칼라 점수에 대한 더 강력하고 해석 가능한 대안을 제공한다고 주장한다. 모델이 의미론적 및 공간적으로 어디서 그리고 어떻게 실패하는지를 밝힘으로써, 훈련 전략(예: 표적 데이터 리샘플링) 개선 및 다운스트림 애플리케이션을 위한 모델 선택에 실행 가능한 통찰력을 제공한다. 저자들은 공간적 편향을 탐지하는 것이 합성 데이터로 훈련된 시스템(예: 병리 현상을 이미지 중앙에서만 감지하도록 학습하는 의료 분류기)에서 나타날 수 있는 허위 상관관계를 방지하는 데 매우 중요하다고 강조한다. 본 연구는 공간적 다양성을 현재의 평가 프레임워크에서 누락된 차원으로 설정하고, R-SaD가 인간의 시각적 다양성 인지와 완벽하게 일치함을 입증하였다.

문제점: "일률적인" 점수판

해결책: 돋보기를 든 탐정

발견한 사실: AI는 "편향"을 가지고 있다

인간 테스트: 우리의 눈과 일치하는가?

이것이 왜 중요한가

유사한 논문