How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images

인공지능이 생성한 비동의 성적 이미지 (AIG-NCII) 문제를 '모기 두드리기' 게임으로 상상해 보세요.

이 게임에서 당신은 두더지가 튀어오르면 망치로 두드려 가라앉힙니다. 하지만 곧 다른 곳에서 또 다른 두더지가 튀어오르고, 당신은 그것도 쳐야 합니다. 현재 이러한 유해한 이미지들과의 싸움은 정확히 이와 같습니다: 우리는 하나의 앱을 금지하지만 새로운 앱이 나타납니다. 하나의 웹사이트를 폐쇄하지만 이미지는 다른 곳으로 이동합니다. 한 기업을 소송하지만 문제는 시스템의 다른 부분으로 옮겨갑니다.

이 논문의 저자들은 우리가 이 게임에서 패배하고 있는 이유는 특정 앱이나 이미지인 '두더지'만 보고, 그들이 살아가는 전체 놀이터를 보지 않기 때문이라고 주장합니다. 그들은 이 문제를 바라보는 새로운 방식을 제안합니다: 즉, 이러한 학대를 가능하게 하는 기술의 전체 생태계를 매핑하는 것입니다.

다음은 그들의 발견에 대한 간단한 요약입니다:

1. 문제: 분열된 싸움

현재 다양한 집단들이 고립적으로 문제를 해결하려 노력하고 있습니다.

• 입법자들은 특정 앱을 금지하는 법안을 작성하고 있습니다.
• 기술 기업들은 나쁜 이미지를 필터링하려 시도하고 있습니다.
• 활동가들은 결제 처리업체들이 이러한 사이트를 자금 지원하지 않도록 요구합니다.

문제는 이러한 노력들이 서로 소통하지 못한다는 점입니다. 그들은 같은 것을 설명하기 위해 다른 용어를 사용하며, 종종 더 큰 그림을 놓칩니다. 그들이 '실리 (separate rooms)'에서 일하기 때문에, 한 부분을 고치는 것이 실수로 다른 부분을 망가뜨릴 수 있는지, 혹은 새로운 구멍이 다른 곳에서 열릴 수 있는지 파악하지 못합니다.

2. 해결책: '생태계 지도'

저자들은 이러한 유해한 이미지를 생성, 확산, 그리고 수익화하는 데 협력하는 11 가지 유형의 기술에 대한 포괄적인 지도를 작성했습니다. 그들은 이러한 기술을 도시가 서로 다른 지구 (districts) 를 갖는 것과 유사하게 다섯 가지 주요 '구역'으로 나누었습니다:

• 구역 A: 공장 (생성)

  • 이미지가 만들어지는 곳입니다. 여기에는 AI 가 학습하는 데이터셋(이미지 더미), 생성을 수행하는 AI 모델(엔진), 그리고 일반 사용자가 명령어를 입력하여 이미지를 생성하는 인터페이스(앱 또는 웹사이트) 가 포함됩니다.
  • 비유: 나쁜 음식이 조리되는 주방입니다.

• 구역 B: 배송 트럭 (배포)

  • 이미지가 만들어지면 사람들에게 전달되어야 합니다. 이 구역에는 이러한 이미지가 게시되는 소셜 미디어 플랫폼, 개인 메시지, 전용 웹사이트가 포함됩니다.
  • 비유: 나쁜 음식을 고객에게 배달하는 배송 서비스입니다.

• 구역 C: 표지판과 잡지 (확산 및 발견)

  • 사람들은 어떻게 이러한 도구를 찾을까요? 이 구역에는 검색 엔진(구글 등), 광고 플랫폼(나체화 앱 광고가 나타나는 곳), 앱 스토어(앱을 다운로드하는 곳), 그리고 AI 탈옥 방법에 대한 팁을 공유하는 온라인 커뮤니티(텔레그램 그룹이나 포럼 등) 가 포함됩니다.
  • 비유: 사람들이 나쁜 음식을 어디에서 찾을 수 있는지 알려주는 간판, 잡지, 그리고 입소문입니다.

• 구역 D: 전력망 (인프라 지원)

  • 위의 것들은 기본 인프라 없이는 작동할 수 없습니다. 이 구역에는 코드가 저장되는 개발자 플랫폼(깃허브 등) 과 클라우드 서버, 도메인 이름, 로그인 서비스와 같은 핵심 서비스 제공업체가 포함됩니다. 만약 이러한 기업들이 전원을 끄면 전체 시스템이 멈춥니다.
  • 비유: 공장 및 배송 트럭이 작동하도록 유지하는 전기 및 수도 공급입니다.

• 구역 E: 계산대 (수익화)

  • 누군가는 이에 대해 비용을 지불해야 합니다. 이 구역에는 이러한 이미지나 이를 만드는 도구를 판매하여 수익을 창출할 수 있게 해주는 결제 처리업체(비자, 페이팔, 암호화폐 등) 가 포함됩니다.
  • 비유: 수익이 입금되는 은행입니다.

3. 지도가 도움이 되는 방법: 두 가지 실제 사례 테스트

저자들은 지도가 작동함을 보여주기 위해 이를 테스트했습니다.

테스트 1: 새로운 위기 이해하기 ('그록' 사례)
'그록 (Grok)'이라는 새로운 AI 챗봇이 수천 개의 성적인 이미지를 생성하기 시작했을 때, 뉴스는 혼란스러웠습니다. 헤드라인은 혼란스러웠습니다.

• 지도 없이: 사람들은 단순히 "그록은 나쁘다"고 보았습니다.
• 지도와 함께: 저자들은 이를 분해할 수 있었습니다. 그들은 '그록'이 단순히 하나의 것이 아니라, 생성형 AI 모델에서 실행되는 생성형 AI 인터페이스(챗봇) 이며, 배포 채널(X/트위터) 에 호스팅되고, 앱 스토어에 의해 홍보되며, 텔레그램의 딥페이크 생성 커뮤니티에 의해 '탈옥'되고 있음을 보았습니다.
• 결과: 단순히 "그록을 금지하라"고 말하는 대신, 이해관계자들은 시스템의 어떤 부분이 해결되어야 하는지 정확히 파악할 수 있었습니다 (예: 앱 스토어, 결제 처리업체, 또는 커뮤니티 채팅).

테스트 2: 법 개정
저자들은 미국의 63 개 법률을 살펴보았습니다.

• 지도 없이: 그것은 명확한 패턴이 없는 규칙의 더미처럼 보였습니다. 일부 법률은 이미지 '생성'을 금지했고, 다른 법률은 '공유'를 금지했으며, 정의는 제각각이었습니다.
• 지도와 함께: 그들은 법률에 색상을 칠할 수 있었습니다. 그들은 대부분의 법률이 배송 트럭(배포) 이나 계산대(수익화) 만을 대상으로 한다는 것을 깨달았습니다. 매우 적은 수의 법률만이 실제로 공장(생성) 이나 전력망(인프라) 을 대상으로 했습니다.
• 결과: 이는 정책 입안자들에게 격차가 어디에 있는지 정확히 보여주었습니다. 그들은 문제를 멈추기 위해 배송 트럭뿐만 아니라 '공장'과 '전력망'을 규제해야 함을 알 수 있었습니다.

4. 목표: 모기 두드리기 게임 중단

이 논문은 한 번에 하나의 두더지만 두드리는 것으로는 이길 수 없다고 결론지었습니다. 우리는 전체 생태계를 이해해야 합니다.

이 지도를 사용하면 연구자, 변호사, 기술 기업들이 다음을 할 수 있습니다:

1. 동일한 언어로 소통하기(시스템의 다양한 부분에 대한 일관된 용어 사용).
2. 연결성을 파악하기('전력망'의 변화가 '공장'에 어떻게 영향을 미치는지 이해).
3. 미래를 예측하기(새로운 법률이 문제가 지도의 다른 부분으로 이동하게 할 수 있음을 파악).

궁극적인 목표는 반응적인 '모기 두드리기' 게임에서 전체 놀이터를 고치는 예방 전략으로 전환하여, 이러한 유형의 학대가 처음에 발생하는 것을 훨씬 더 어렵게 만드는 것입니다.