컴퓨터가 이전에 존재하지 않았던 새로운 것들—예를 들어, 한 번도 본 적 없는 고양이 그림을 그리거나, 인간이 들어본 적 없는 스타일의 곡을 작곡하는 것—을 꿈꿀 수 있는 세상을 상상해 보세요. 이것이 바로 생성형 AI(generative AI)의 마법입니다. 이는 기계가 현실 세계 데이터의 패턴을 모방하도록 학습하는 과학의 한 분야입니다. 이를 위해 많은 모델은 '확산 모델(diffusion model)'이라는 영리한 기술을 사용합니다. 이것은 마치 '전화기 게임(telephone game)'을 거꾸로 하는 것과 같습니다. 먼저, 컴퓨터는 실제 이미지(예: 고양이 사진)에 단계적으로 노이즈(static noise)를 추가하여, 결국 회색 픽셀이 뒤섞인 흐릿한 덩어리로 만듭니다. 그런 다음, 모델은 이 과정을 역순으로 수행하는 법을 배웁니다. 즉, 노이즈에서 시작하여 노이즈를 단계적으로 제거(denoise)하며, 정지된 상태에서 선명한 이미지가 나타날 때까지 노이즈 층을 하나씩 벗겨내는 법을 배우는 것입니다.

이 과정이 작동하게 만드는 핵심 비결은 '스코어 함수(score function)'라고 불리는 것입니다. 스코어 함수는 노이즈가 섞인 이미지의 모든 지점에 살고 있는 아주 작고 보이지 않는 나침반 바늘이라고 생각하면 됩니다. 이 바늘은 무작정 방향을 가리키는 것이 아니라, 실제 데이터가 존재할 가능성이 가장 높은 곳을 향해 '언덕 위쪽'을 가리킵니다. 컴퓨터가 노이즈의 바다 속에서 길을 잃었을 때, 스코어 함수는 "이봐, 진짜 고양이들은 저쪽이야!"라고 알려줍니다. 이 바늘들을 따라감으로써 컴퓨터는 혼돈으로부터 질서로 나아갈 수 있습니다. 하지만 까다로운 점이 있습니다. 만약 컴퓨터가 고양이와 개가 섞인 것처럼 두 가지 서로 다른 것이 포함된 이미지를 배워야 한다면 어떻게 될까요? 때때로 '고양이'와 '개'를 향한 나침반 바늘이 너무 비슷해 보여서, 컴퓨터는 각각을 얼마나 그려야 할지 헷록할 수 있습니다. 예를 들어, 완벽한 고양이와 완벽한 개를 그릴 수는 있지만, 실제 세상의 비율이 동일하더라도 고양이는 90마리, 개는 10마리만 그릴 수도 있습니다. 이 논문은 왜 이런 일이 발생하는지, 그리고 이를 어떻게 해결할 수 있는지에 대해 다룹니다.

거대한 혼합의 미스터리: 왜 AI는 개수를 틀리는가

당신이 두 가지가 섞인 세상의 이미지를 생성하도록 AI를 훈련시켰다고 가정해 봅시다. 예를 들어, "모드 A"(고양이)와 "모드 B"(개)가 있다고 합시다. 당신은 AI에게 "고양이 50%, 개 50%를 원해"라고 말합니다. 하지만 AI가 그림을 그리기 시작할 때, 실수로 고양이 80%, 개 20%를 줄 수도 있습니다. AI는 고양이와 개의 형태는 완벽하게 배웠지만, '레시피'를 틀린 것입니다.

오랫동안 과학자들은 의아해했습니다. 그들은 "만약 AI가 스코어 함수(나침반 바늘)를 완적으로 배웠다면, 레시피도 제대로 맞출 수 있어야 한다"라고 생각했습니다. 하지만 데네히(Dennehy)와 그의 팀이 발표한 이 논문은 그것이 항상 사실은 아니라는 것을 보여줍니다. 그들은 하나의 역설을 발견했습니다. AI가 데이터의 '형태'를 너무 잘 배워서, 혼합 비율이 50/50이든 90/10이든 나침반 바늘이 거의 동일하게 보이게 만든다는 것입니다. 만약 당신이 최종적인 선명한 이미지만 본다면(혹은 노이즈 과정의 아주 초기 단계만 본다면), 50/50 혼합과 90/10 혼합의 차이는 너무 미미해서 AI의 나침반이 이를 구별해낼 수 없습니다. 이는 마치 1갤런의 물을 섞어 희석한 커피를 맛보며 설탕이 얼마나 들어있는지 맞히려는 것과 같습니다. 달콤함은 느껴지지만, 측정하기에는 너무 희미합니다.

"중간" 순간의 마법

여기 이 논문의 결정적인 '아하!' 순간이 있습니다. 저자들은 노이즈가 섞인 상태가 아주 시작될 때(선명한 이미지)나 아주 끝날 때(전체 노이즈)는 나침반 바늘이 동일해 보일지라도, 과정의 '중간'에서는 매우 민감해진다는 사실을 깨달았습니다.

안개가 자욱한 들판에서 숨겨진 보물을 찾으려 한다고 상상해 보세요. 처음에는 안개가 너무 짙어서 아무것도 볼 수 없습니다. 마지막에는 안개가 걷혀서 보물이 명확히 보이지만, 이미 지나쳐 버린 상태입니다. 하지만 '중간' 단계, 즉 안개가 걷히기 시작하는 시점에는 당신이 어디로 가야 할지 정확히 알려주는 희미한 빛을 볼 수 있을지도 모릅니다.

논문은 '디노이징' 과정(AI가 노이즈를 벗겨내는 과정) 동안, 50/50 혼합과 90/10 혼합의 '나침반 바늘'이 매우 다른 방향을 가리키는 특정 시간대가 존재함을 보여줍니다. 처음부터 끝까지 모든 단계를 살펴보며 학습하는 AI는 이 중간 순간으로부터 거대한 단서를 얻습니다. 이는 마치 AI가 "이봐, 비율이 90/10이 아니라 사실 50/50이야!"라는 비밀스러운 속삭임을 듣는 것과 같습니다. AI는 학습 중에 이 민감한 단서를 포착함으로써, 최종 이미지가 어떤 방식이든 상관없이 올바른 혼합 가중치를 학습할 수 있습니다.

"감도 지수": AI를 위한 새로운 자

이를 증명하기 위해 저자들은 **확산 스코어 감도 지수(Diffusion Score Sensitivity Index, DSSI)**라는 새로운 도구를 발명했습니다. 이것을 AI 나침반의 '민감도 측정기'라고 생각하십시오.

• 낮은 DSSI: 혼합 비율을 변경해도 나침반 바늘이 거의 움직이지 않습니다. AI는 차이를 인지하지 못하는 '맹목적인' 상태입니다.
• 높은 DSSI: 혼합 비율을 변경할 때 나침바 바늘이 격렬하게 움직입니다. AI는 차이를 쉽게 구별할 수 있습니다.

논문은 수학적으로 만약 DSSI가 높으면 AI가 혼합 가중치를 제대로 맞출 것이라고 증명합니다. 반대로 DSSI가 낮으면, AI가 스스로 잘하고 있다고 생각하더라도 실패할 수 있습니다. 저자들은 이를 단순한 수학 문제(가우시안 혼합)로 테스트했으며, AI의 예측 오차가 이 감도 측정기가 얼마나 낮은지와 직접적으로 연결되어 있음을 발견했습니다.

"빠른" 샘플링의 함정

여기 이 논문이 경고하는 반전이 있습니다. 현실 세계에서 사람들은 AI가 이미지를 '빨리' 생성하기를 원합니다. 이를 위해 그들은 단계를 건너뛰어 더 빠르게 답에 도정하는 '가속된' 샘플링 스케줄을 사용합니다. 저자들은 이러한 빠른 스케줄이 실수로 '감도 측정기'를 낮출 수 있다는 것을 발견했습니다.

안개가 자욱한 들판을 걷고 있는데, 안개가 걷히는 것을 천천히 지켜보는 대신 전력 질주를 한다고 상상해 보세요. 당신은 나침반 바늘이 격렬하게 움직이는 그 '중간의 순간'을 놓칠 수도 있습니다. 목적지(최종 이미지)에는 빠르게 도착하고 결과물도 훌륭해 보이겠지만, 민감한 중간 단계들을 건너뛰었기 때문에 잘못된 레시피(예: 50/50 대신 80/20)를 갖게 될 수 있습니다.

논문은 유명한 MNIST 데이터셋의 숫자 "1"과 "8" 이미지를 사용하여 이를 실증적으로 보여줍니다. 표준적이고 느린 노이즈 스케줄을 사용했을 때, AI는 혼합 비율이 1이 40%, 8이 60%임을 정확히 맞혔습니다. 하지만 스케줄을 조정하여 더 "빠르게(fast)" 만들었을 때(즉, 감도 지수를 낮췄을 때), 생성된 이미지는 여전히 완벽한 1과 8의 모습이었음에도 불구하고 AI의 예측은 1이 28%라는 결과로 치우쳤습니다! 이미지는 좋아 보였지만, 근저의 수학적 구조는 깨져 있었던 것입니다.

이것이 미래에 의미하는 바

이 연구는 단순히 수학 문제를 푸는 것에 그치지 않습니다. 우리가 가진 AI가 데이터를 진정으로 이해하고 있는지, 아니면 그저 흉내만 내고 있는지를 확인할 수 있는 새로운 방법을 제시합니다. 저자들은 이 '감도 지수'를 측정함으로써 AI가 혼합 가중치를 제대로 맞출 수 있을지 예측할 수 있음을 보여줍니다.

또한, 단순한 혼합(예: 두 개의 데이터 클라우드)의 경우, AI가 잘 훈련되었다면 감도가 항상 충분히 높다는 것을 증명했습니다. 하지만 더 복적으로 된 현실 세계의 데이터의 경우, 우리는 주의해야 합니다. 데이터를 어떻게 '노이즈화'하고 '디노이즈'할지의 선택은 AI 아키텍처 자체만큼이나 중요합니다.

요약하자면, 이 논문은 올바른 레시피를 얻기 위해서는 최종 요리만을 봐서는 안 된다는 교훈을 줍니다. 우리는 요리 과정, 특히 맛이 가장 뚜렷하게 구분되는 그 '중간의 순간들'에 주목해야 합니다. 만약 우리가 요리 과정을 서두른다면(빠른 샘플링을 사용한다면), 겉보기에는 맛있어 보이지만 맛은 완전히 틀린 음식을 얻게 될 수도 있습니다. 저자들은 이러한 위험을 측정할 수 있는 도구를 제공함으로써, 차세대 AI가 단순히 보기 좋은 것을 넘어 디테일까지 정확하게 구현할 수 있도록 돕습니다.