Open-Set Visual Text Forensics via Sparse-Constraint Rectified Flow

탐정의 새로운 초능력: 참조 시트 없이 가짜 텍스트를 찾아내기

당신이 은행 수표에서 가짜 서명을 찾으려는 탐정이라고 상상해 보세요. 과거에는 모든 알려진 위조 스타일, 즉 모든 흔들리는 손놀림, 모든 번진 잉크 패턴, 범죄자가 사용한 모든 구체적인 속임수를 암기했을지도 모릅니다. 하지만 범죄자들이 당신이 한 번도 본 적 없는 완벽하고 완전히 새로운 위조 스타일을 만들어내는 마법 같은 기계를 사용하기 시작한다면 어떻게 될까요? 당신의 오래된 "알려진 가짜" 참조 시트는 쓸모없게 됩니다. 이것이 바로 오늘날 컴퓨터 비전 세계가 직면한 정확한 문제입니다. 인공지능(AI)이 이미지 내부의 텍스트를 쓰고 편집하는 능력이 좋아짐에 따라, AI는 인간과 기존 방식의 컴퓨터 프로그램 모두에게 실제처럼 보일 정도로 매끄러운 가짜를 만들어낼 수 있습니다.

이를 해결하기 위해 과학자들은 전략을 바꾸고 있습니다. 가짜가 어떻게 보이는지를 암기하는 대신, 진짜가 어떻게 느껴지는지를 이해하려고 노력하는 것입니다. 이것은 마치 음악 교사와 같습니다. 학생이 틀린 음을 연주할 때마다 그것을 암기하는 대신, 교사는 완벽한 스케일이 어떻게 들려야 하는지를 정확히 알고 있습니다. 만약 학생이 음을 약간 틀리게 연주한다면, 교사는 학생이 어떤 노래를 연주하려 했는지 알 필요 없이 즉시 그 "틀림"을 알아차립니다. 이 논문은 컴퓨터가 그 음악 교사처럼 행동하게 만드는 새로운 방법을 탐구합니다. 이 논문은 다음과 같이 질문합니다: "우리는 '실제' 텍스트 통계가 어떤 모습인지 알고, 설령 컴퓨터가 이전에 본 적 없는 종류의 편집이라 할지라도, AI가 무언가를 편집하면서 남긴 미세하고 보이지 않는 균열을 찾아낼 수 있는 시스템을 구축할 수 있을까?"

논문의 핵심 아이디어: "복원 비용" 탐정

난카이 대학교와 무한 공과대학교의 연구진은 **Sparse-Constraint Rectified Flow (SC-RF)**라고 불리는 영리하고 새로운 방법을 제안합니다. 이들은 컴퓨터에게 알려진 속임수 목록을 바탕으로 "예, 이것은 가짜입니다" 또는 "아니요, 이것은 진짜입니다"라고 말하도록 훈련시키는 대신, 복원가처럼 행동하도록 훈련시켰습니다. 그들은 컴퓨터에게 이렇게 물었습니다: "만약 당신이 이 이미지를 완벽하게 정품으로 만들기 위해 수정해야 한다면, 얼마나 많은 노력이 들겠습니까?"

그들이 이 작업을 수행한 방법은 다음과 같은 몇 가지 재미있는 비유를 사용합니다:

1. "단순한" 문제와 "희소성(Sparsity)" 해결책
거대한 파란색 모래 더미 속에 숨겨진 단 하나의 빨간색 구슬을 찾는다고 상상해 보세요. 만약 당신이 로봇에게 단순히 "빨간 구슬을 찾아라"라고 요청한다면, 로봇은 단순하게 생각할 수 있습니다. 더미의 99%가 파란색이기 때문에, 로봇은 "주변에 파란색이 가득하니 모든 것이 파란색이라고 추측하겠다"라고 답할 수도 있습니다. 이것이 가장 쉬운 답이기 때문입니다. 이미지 편집의 세계에서 "가짜" 부분(조작된 텍스트)은 보통 매우 작으며, 종종 이미지의 5% 미만을 차지합니다. 반면 나머지는 실제 배경입니다. 표준 AI 모델은 "단순해져서" 이 작은 가짜 부분을 무시해 버립니다.

저자들은 이를 **Sparse-Constraint(희소 제약)**로 해결했습니다. 그들은 컴퓨터에게 이렇게 명령했습니다: "만약 네가 빨간 구슬을 무시한다면, 엄청난 벌칙을 받을 것이다!" 그들은 수학적으로 아주 작은 가짜 부분에 엄청난 가중치를 부여하여 컴퓨터가 반드시 주의를 기울이도록 만들었습니다. 이는 모델이 지루하고 안전한 배경 대신 의심스러운 작은 영역에 집중하도록 보장합니다.

2. "마법 붓" vs "포렌식 스캐너"
이미지를 복구하려고 시도하는 대부분의 AI 모델은 마법 붓과 같습니다. 그들은 누락된 텍스트가 무엇처럼 보여야 하는지 추측하고 그것을 그려 넣으려 합니다. 하지만 저자들은 이것이 위험하다는 것을 깨달았습니다. 만약 AI가 단어를 잘못 추측하면, 실수로 새로운 가짜를 만들어낼 수도 있기 때문입니다!

대신, 그들은 Forensic-DiT(특수한 유형의 AI 스캐너)를 구축했습니다. 이 스캐너는 내용을 추측하려 하지 않습니다. 대신, 종이의 미세한 결이나 빛이 잉크에 닿는 특정한 방식과 같이 인간이 볼 수 없는 "미세한 디테일"을 살펴봅니다. 그들은 스캐너에 세 가지 유형의 정보를 동시에 입력했습니다: 일반 사진(RGB), 노이즈 패턴(SRM), 그리고 주파수 패턴(DCT). 이것은 마치 탐정에게 돋보기, UV 라이트, 진동 센서를 한꺼번에 주는 것과 같습니다. 이는 스캐너가 AI가 실제 사진에 가짜 텍스트를 합성할 때 발생하는 "통계적 불일치"—즉, 미세한 글리치(glitch)를 포착하는 데 도움을 줍니다.

3. 참조 시트 없는 학습 (자기 지도 학습)
보통 컴퓨터에게 가짜를 식별하도록 가르치려면 수천 개의 "가짜" 및 "진짜" 이미지 예시가 필요합니다. 하지만 가짜가 새롭고 아직 데이터가 없다면 어떻게 될까요? 저자들은 **Artifact Injection(아티팩트 주입)**이라는 기술을 사용했습니다. 그들은 실제의 완벽한 이미지를 가져와서 아주 작고 무작위적인 방식으로(예: 작은 부분을 흐리게 하거나 노이즈를 추가하는 방식) 의도적으로 망가뜨렸습니다. 그런 다음 컴퓨터에게 이러한 스스로 만든 실수를 "수정"하도록 가르쳤습니다.

이러한 작고 통제된 오류들을 수정하는 법을 배움으로써, 컴퓨터는 "현실의 규칙"을 배웠습니다. 이제 실제 이미지에 숨겨진 AI 생성 가짜가 나타나면, 컴퓨터는 자신이 배운 규칙에 맞지 않기 때문에 그 "틀림"을 인식합니다. 이는 마치 개에게 무작위로 간식을 숨겨두어 특정 냄새를 찾도록 훈련시킴으로써, 이전에 보여준 특정 간식뿐만 아니라 어떤 숨겨진 간식이라도 냄새로 찾아낼 수 있게 만드는 것과 같습니다.

연구 결과: 최고를 넘어서다

연구팀은 매우 까다로운 이미지 세트를 포함한 세 가지 서로 다른 이미지 세트에 대해 이 새로운 탐정을 테스트했습니다. 여기에는 컴퓨터가 본 적 없는 고급 AI 도구에 의해 편집된 이미지들도 포함되었습니다.

• 결과: 그들의 방법은 이 게임에서 최고였습니다. 평균적으로, 한 점수(F1)에서는 두 번째로 우수한 방법보다 3.2 퍼센트 포인트 앞섰고, 다른 점수(IoU)에서는 4.8 퍼센트 포인트 앞섰습니다.
• 제로샷(Zero-Shot) 초능력: 가장 흥激한 부분은, 컴퓨터가 해당 유형의 가짜를 이전에 전혀 본 적이 없는 경우에도(제로샷 시나리오) 이 방식이 작동했다는 점입니다. 새로운 가짜에 맞춰 재학습할 필요 없이, "실제성"에 대한 이해를 바탕으로 가짜를 찾아냈습니다.
• 스트레스 테스트: 저자들은 또한 멋진 사이드 실험을 진행했습니다. 그들은 이미 가짜인 이미지를 가져와서 자신들의 "복원" 모델에 통과시켰습니다. 그 결과, 모델이 이미지를 "조화(harmonize)"시키려는 시도가 오히려 기존의 다른 탐지기들이 가짜를 찾는 것을 더 어렵게 만든다는 것을 발견했습니다. 이는 그들의 모델이 다른 탐지기들이 의존하는 통계적 단서들을 매끄럽게 만들어 없애버린다는 것을 시사하며, 그들의 접근 방식이 위조의 근본 원인을 타격하고 있음을 증명합니다.

결론

이 논문은 AI 가짜를 잡아내는 미래가 AI가 발명하는 모든 새로운 속임수를 암기하는 것에 있지 않음을 시사합니다. 대신, 미시적인 수준까지 "실제"가 무엇인지 깊이 이해하는 시스템을 구축하는 것에 달려 있습니다. 위조 탐지를 "복원 비용" 문제, 즉 "이것을 진짜처럼 보이게 만드는 데 얼마나 많은 작업이 필요한가?"라고 묻는 문제로 다룸으로써, 저자들은 알려지지 않은 것을 찾아내는 데 놀라운 성능을 보이는 도구를 만들어냈습니다. 그들이 이 문제를 영원히 해결했다고 주장하지는 않았지만, 그들의 결과는 이러한 "생성적(generative)" 접근 방식이 진화하는 AI 가짜보다 한 발 앞서 나갈 수 있는 강력한 새로운 방법임을 강력하게 시사합니다.