🤖 AI

A Comprehensive Dataset for Human vs. AI Generated Image Detection

본 논문은 AI 생성 미디어의 탐지 및 출처 식별 연구를 진전시키기 위해 설계된 5 개의 주요 AI 모델이 생성한 96,000 개의 실사 및 합성 이미지를 포함한 포괄적인 데이터셋인 MS COCOAI 를 소개합니다.

원저자: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Ga

게시일 2026-05-26

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Garimella, Amitava Das, Amit Sheth, Gaytri Jena, Vasu Sharma, Aishwarya Naresh Reganti, Vinija Jain, Aman Chadha

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 미술관에 들어섰다고 상상해 보세요. 그림의 절반은 인간이 찍은 실제 사진이고, 나머지 절반은 매우 재능 있지만 보이지 않는 로봇 팀이 만든 걸작입니다. 문제는 로봇이 너무 잘 만들어서 단순히 눈으로 봐서는 구별할 수 없다는 점입니다.

이 논문은 로봇이 만든 예술을 식별하는 데 도움이 되는 훈련 캠프와 테스트를 구축하는 것에 관한 것입니다. 간단한 용어로 정리하면 다음과 같습니다:

1. 문제: 사진의 "불쾌한 골짜기"

우리는 Stable Diffusion, DALL-E 3, MidJourney와 같이 처음부터 이미지를 생성할 수 있는 강력한 AI 도구를 가지고 있습니다. 이들은 놀랍지만, 거짓말이나 가짜 뉴스를 퍼뜨리는 데에도 사용되고 있습니다. 이러한 이미지들이 너무 사실적이기 때문에 우리의 눈 (심지어 오래된 컴퓨터 프로그램조차) 속아 넘어가고 있습니다. 이를 잡을 더 나은 방법이 필요합니다.

2. 해결책: "MS COCOAI" 데이터셋

저자들은 컴퓨터를 더 나은 탐정으로 훈련시키기 위해 96,000 장의 그림으로 구성된 거대한 도서관을 만들었습니다. 이 도서관을 통제된 과학 실험으로 생각하세요.

"실제" 그룹: 유명한 MS COCO 데이터베이스에서 16,000 장의 실제 사진을 가져왔습니다. 이들은 인간이 작성한 설명 (캡션) 이 있는 진짜 사진들입니다.
"가짜" 그룹: 그들은 정확히 같은 인간이 작성한 설명을 가져와 다섯 가지 다른 AI 로봇(Stable Diffusion 2.1, SDXL, SD 3, DALL-E 3, MidJourney v6) 에 입력했습니다.
마법 같은 트릭: AI 와 인간 사진가가 같은 설명을 사용했기 때문에, 결과적으로 생성된 그림들은 내용 면에서 "쌍둥이"입니다.
- 비유: 인간 요리사와 로봇 요리사에게 "딸기가 올라간 초콜릿 케이크"를 만들라고 요청한다고 상상해 보세요. 로봇이 만든 케이크가 약간 다르게 보인다면, 그것은 로봇이 "매운 피자"를 만들라고 요청받았기 때문이 아니라 로봇의 잘못임을 알 수 있습니다. 이는 연구자들이 "내용 편향"과 "AI 인공물"을 분리하는 데 도움이 됩니다.

3. 스트레스 테스트: "체조 루틴"

탐지기들이 튼튼한지 확인하기 위해 저자들은 깨끗한 이미지만 제공하지 않았습니다. 대신 체조 선수가 루틴에 난이도를 추가하듯이 AI 이미지에 네 가지 "기교"를 적용했습니다:

반전: 이미지를 수평으로 뒤집기.
어둡게 하기: 이미지를 더 어둡게 만들기.
정적: TV 의 "눈" (노이즈) 처럼 이미지에 노이즈 추가하기.
압축: 파일을 압축하여 (휴대전화에 사진을 저장할 때처럼) 약간 흐리게 만들기.

이것은 탐지기가 작동한다면 이미지가 손상되었을 때도 작동함을 보장합니다.

4. 두 가지 도전 (테스트)

이 논문은 이 데이터셋을 사용하여 컴퓨터가 플레이할 두 가지 특정 게임을 설정했습니다:

게임 A ("실제인가 로봇인가?" 테스트): 사진을 보고 "이것은 인간이 만들었나요, AI 가 만들었나요?"라고 말하세요.
- 결과: 기본적인 컴퓨터 모델이 약 **80%**정도를 맞혔습니다. 이는 인간이 5 번 중 4 번을 올바르게 추측하는 것과 같습니다. 가능하지만 완벽하지는 않습니다.
게임 B ("누가 만들었나?" 테스트): AI 이미지를 보고 어떤 다섯 가지 로봇 중 하나가 만들었는지 추측하세요.
- 결과: 컴퓨터는 약 **45%**만 맞혔습니다. 이는 주사위를 던지는 것보다 barely 더 나은 수준입니다.
- 왜 이것이 어려운가요? 같은 스타일을 복사하려는 다섯 명의 전문 위조범 사이의 차이를 구분하려는 것과 같습니다. 예술이 가짜임을 알아차리는 것보다 특정 예술가를 식별하는 것이 훨씬 어렵습니다.

5. 해결 시도 방법 (기준선)

시작점을 얻기 위해 저자들은 새로운 AI 를 사용하지 않았습니다. 대신 표준 카메라 렌즈 (ResNet-50 모델) 를 사용했지만, 이미지를 주파수 영역에서 다른 방식으로 보았습니다:

비유: 그림을 색상으로 보는 것이 아니라, 악기라면 내는 "진동"이나 소리로 보는 것과 같습니다. AI 이미지는 인간이 찍은 사진에는 없는 특이한 "허밍"이나 진동 패턴을 갖는 경우가 많습니다. 그들은 컴퓨터에게 그 허밍을 듣도록 가르쳤습니다.

6. 결론

이 논문은 우리가 이미지가 가짜임을 알아차리는 데는 점점 더 나아지고 있지만 (게임 A), 어떤 특정 AI 도구가 만들었는지 파악하는 데는 여전히 매우 서툴다는 결론을 내립니다.

저자들은 이 96,000 장의 짝지어진 이미지 (실제 대 AI) 도서관을 공개하여 다른 연구자들이 더 나은 탐지기를 구축할 수 있도록 했습니다. 그들의 목표는 사회가 온라인에서 보는 것을 다시 신뢰할 수 있도록 돕는 것입니다.

기술 요약: AI 생성 이미지 감지를 위한 MS COCOAI 데이터셋

문제 제기
멀티모달 생성형 AI 시스템 (예: Stable Diffusion, DALL-E, MidJourney) 의 급속한 발전은 합성 시각 콘텐츠의 생성 방식을 근본적으로 변화시켰습니다. 이러한 도구들이 혁신을 주도하는 동시에 오해의 소지가 있는 콘텐츠와 조작된 미디어의 확산을 용이하게 합니다. 생성된 이미지의 시각적 충실도가 실제 사진에 근접함에 따라, 실제 콘텐츠와 합성 콘텐츠를 구분하는 것이 시급한 과제가 되었습니다. 기존 감지 방법들은 의미론적 정렬 (실제 이미지와 합성 이미지가 동일한 텍스트 설명을 공유함) 을 제공하는 견고하고 대규모의 데이터셋 부족과 현대의 오픈소스 및 폐쇄소스 모델을 포함한 다양한 생성기를 포괄하지 못한다는 한계로 인해 상당한 도전에 직면해 있습니다.

방법론 및 데이터셋 구축
저자들은 이전 벤치마크의 한계를 해결하기 위해 96,000 개의 이미지 - 캡션 쌍으로 구성된 새로운 데이터셋 MS COCOAI를 소개합니다. 구축 과정은 다음과 같은 단계를 포함합니다:

소스 자료: 데이터셋은 MS COCO 데이터셋을 기반으로 구축되었으며, 16,000 개의 고품질 인간 주석 이미지 - 캡션 쌍을 '실제' 이미지의 기준 (ground truth) 으로 활용합니다.
합성 생성: 16,000 개의 캡션 각각은 5 가지 서로 다른 최첨단 모델 (Stable Diffusion 3 (SD3), Stable Diffusion 2.1 (SD2.1), SDXL, DALL-E 3, MidJourney v6) 을 사용하여 합성 이미지를 생성하는 텍스트 시드 역할을 합니다. 이는 모든 실제 이미지가 동일한 프롬프트에서 생성된 5 개의 대응 합성 이미지를 갖는 1:1 정렬을 결과로 낳습니다.
변형 (Perturbations): 견고성과 불변성 연구를 촉진하기 위해 데이터셋은 각 생성된 이미지에 적용된 4 가지 독립적 변형을 포함합니다: 수평 반전, 밝기 감소 (0.5 배), 가산 가우스 잡음 ( $\sigma=0.05$ ), 그리고 JPEG 압축 (품질 인자 50).
데이터 구조: 데이터셋은 이미지, 원본 캡션, 실제 대 AI 생성 분류를 위한 이진 레이블 (label_A), 그리고 특정 모델 귀속을 위한 범주형 레이블 (실제: 0, 특정 생성기: 1–5) 필드로 구성됩니다.
분할: 데이터는 학습 (42,000), 검증 (9,000), 테스트 (45,000) 하위 집합으로 분할됩니다.

주요 기여

의미론적 정렬: 실제와 합성 콘텐츠 간의 불일치로 종종 고통받는 이전 데이터셋 (예: WildFake, GenImage) 과 달리, MS COCOAI 는 실제 이미지와 합성 이미지가 동일한 캡션을 공유하도록 보장합니다. 이를 통해 연구자들은 생성 아티팩트를 콘텐츠 편향으로부터 분리할 수 있습니다.
다양한 생성기 포괄: 데이터셋은 오픈소스 (Stable Diffusion 변형) 와 폐쇄소스 (DALL-E 3, MidJourney v6) 시스템을 모두 아우르는 5 가지 현대적 생성기에서 온 이미지의 균형 잡힌 혼합을 포함합니다.
이중 작업 벤치마크: 데이터셋은 두 가지 고유한 평가 작업을 지원합니다:
- 작업 A (이진 분류): 실제 이미지와 AI 생성 이미지를 구분합니다.
- 작업 B (모델 귀속): 합성 이미지를 생성한 특정 생성 모델을 식별합니다.
견고성 평가: 체계적인 변형의 포함은 일반적인 이미지 변환에 대한 감지 모델의 테스트를 가능하게 합니다.

베이스라인 결과
저자들은 이전 주파수 분석 작업에서 영감을 받은 전략인 2 차원 푸리에 변환을 통해 유도된 주파수 영역 표현을 기반으로 작동하는 ResNet-50 분류기를 사용하여 베이스라인을 설정했습니다. 결과는 두 작업 간의 상당한 성능 격차를 강조합니다:

작업 A (실제 대 AI): 베이스라인은 0.80144 점수를 달성하여, 비교적 단순한 주파수 기반 특징으로 이진 진위 감지가 가능함을 나타냅니다.
작업 B (모델 귀속): 베이스라인은 0.44913 점수를 달성하여, 특정 생성기를 식별하는 것이 다중 클래스 분류의 복잡성과 현대 확산 모델 간의 미묘한 차이로 인해 훨씬 더 어렵다는 것을 보여줍니다.

의의 및 주장
이 논문은 MS COCOAI 를 합성 미디어 감지에서 학술적 탐구와 실제 구현 간의 격차를 메우기 위한 엄격한 벤치마크로 위치시킵니다. 대규모 의미론적 정렬 자원을 제공함으로써, 저자들은 AI 기반 허위 정보에 대한 확장 가능한 대응책 개발을 촉진하고자 합니다. 이 작업은 AI 생성 텍스트 감지에 대한 기존 노력들을 보완하며 Defactify 워크숍 시리즈의 기반 위에 구축됩니다. 저자들은 이진 감지는 달성 가능하지만 데이터셋이 모델 귀속의 상당한 어려움을 드러내므로, 더 정교한 지문 기법 및 교차 모달 학습 접근법에 대한 미래 연구의 명확한 방향을 설정한다고 겸손하게 주장합니다.