Geometric and Information Compression of Representations in Deep Learning

당신이 로봇에게 다양한 종류의 과일을 인식하는 법을 가르치고 있다고 상상해 보세요. 당신은 로봇에게 사과, 바나나, 오렌지의 사진 수천 장을 보여줍니다. 로봇의 임무는 사진(입력)을 보고, 그것이 어떤 과일인지 결정하는 데 도움이 되는 비밀스럽고 내부적인 요약본(잠재 표현)을 만드는 것입니다.

이 논문은 그 로봇이 어떻게 "생각"하는지에 대해 매우 구-체적인 질문을 던집니다: 로봇의 내부 요약본을 더 "작게" 만들거나 "단순하게" 만드는 것이 항상 유사한 과일들을 더 단단하게 그룹화한다는 것을 의미할까요?

오랫동안 연구자들은 그 답이 "예"라고 믿어왔습니다. 그들은 만약 로봇이 사진의 불필요한 세부 사항들을 많이 버린다면(낮은 정보량), 그것은 로봇이 모든 사과를 하나의 단단한 더미로, 모든 바나나를 또 다른 더미로 깔끔하게 모아두었기 때문(높은 기하학적 압축)이라고 생각했습니다.

이 논문의 저자들은 이렇게 말합니다: "잠깐만요, 꼭 그렇지는 않습니다."

다음은 쉬운 비유를 사용한 이들의 연구 결과 요약입니다:

1. "단순함"을 측정하는 두 가지 방법

연구자들은 로봇의 사고가 얼마나 "압축"되었는지 측정하는 두 가지 서로 다른 방법을 살펴보았습니다:

• 정보 압축 (노이즈 테스트): 이것은 로봇이 원래 사진의 정보를 얼마나 기억하는지를 측정합니다. 만약 로봇이 특정 사진의 세부 사항(조명이나 배경 등)은 거의 잊어버리고 오직 과일의 종류만 기억한다면, 정보량이 낮은 것입니다.
  • 비유: 당신이 경찰 몽타주 화가에게 친구를 설명한다고 상상해 보세요. 만약 당신이 "사람입니다"라고만 말한다면, 당신은 정보를 매우 많이 압축한 것입니다. 머리카락 색, 키, 옷차림 등을 잊어버린 것이죠.
• 기하학적 압축 (패킹 테스트): 이것은 로봇이 유사한 항목들을 얼마나 단단하게 그룹화하는지를 측정합니다. 만약 모든 "사과" 사진들이 로봇의 마음속에서 하나의 작고 단단한 원 안에 모여 있고, 모든 "바나나" 사진들이 또 다른 단단한 원 안에 멀리 떨어져 있다면, 이는 높은 기하학적 압축입니다.
  • 비유: 옷장을 상상해 보세요. 만약 당신이 모든 셔츠를 하나의 크고 지저난 더미로 던져 놓는다면, 이는 기하학적 압축이 낮은 것입니다. 만약 당신이 옷을 완벽하게 접어서 깔끔하고 단단한 탑처럼 쌓아 올린다면, 이는 높은 기하학적 압축입니다.

2. 큰 놀라움: 이 둘은 항상 일치하지 않는다

이 논문의 주요 발견은 낮은 정보량이 자동으로 단단한 패킹(모으기)을 의미하지는 않는다는 것입니다.

저자들은 "토이 모델"(단순한 시뮬레이션)을 사용하여 그 이유를 설명했습니다. 그들은 "낮은 정보량"(세부 사항을 잊어버리는 것)을 얻는 두 가지 방법을 찾아냈습니다:

1. "단단한 더미" 방식: 로봇이 완벽하게 학습합니다. 모든 사과를 작고 깔끔한 더미로 모읍니다. 배경 노이즈는 잊어버립니다.
   • 결과: 낮은 정보량 + 높은 기하학적 압축. (사람들이 예상했던 방식입니다.)
2. "정적(Static)" 방식: 로봇이 너무 혼란스럽거나 노이즈가 심해서 사과와 바나나를 구분할 수 없습니다. 로봇은 그저 무작위적인 노이즈(static)만을 출력합니다. 왜냐하면 무작위 노이즈를 출력하고 있기 때문에, 입력에 대한 어떤 세부 사항도 기억하지 못하기 때문입니다.
   • 결과: 낮은 정보량 + 제로(0) 기하학적 압축 (모든 것이 엉망진창인 흐릿한 상태입니다).

비유:
당신이 카드 한 덱을 분류하려고 노력한다고 상상해 보세요.

• 시나리오 A: 당신은 무늬와 숫자에 따라 카드를 완벽하게 분류합니다. 당신은 모든 "지저분한 것들"을 제거했고(낮은 정보량), 카드들은 각각의 단단하고 깔끔한 더미로 모여 있습니다(높한 기하학적 압축).
• 시나리오 B: 당신이 카드를 믹서기에 넣고 돌려버립니다. 믹서기가 카드를 파괴합니다. 이제, 당신에게는 카드에 대한 정보가 전혀 남아있지 않지만(낮은 정보량), 무늬별로 깔끔한 더미도 존재하지 않습니다(기하학적 압축 없음).

이 논문은 딥러닝에서 로봇이 시나리오 B(그저 노이즈 상태가 되는 것)에 빠질 수 있으며, 그럼에도 불구하고 마치 정보를 압축한 것처럼 보일 수 있다는 점을 보여줍니다. 즉, 정보를 제대로 정리하지도 않았는데 압축된 것처럼 보일 수 있다는 것입니다.

3. "혼란스러운" 요소: 일반화(Generalization)

연구자들은 "세부 사항을 잊어버리는 것"과 "물건을 단단하게 모으는 것" 사이의 관계가 실제로는 음(-)의 관계이며 비선형적이라는 것을 발견했습니다.

• 때때로 로봇이 더 잘 일반화할 때(보지 못한 새로운 과일을 예측할 때), 이 두 측정값은 서로 반대 방향으로 움직입니다.
• 그들은 일반화(새로운 데이터에 대해 똑똑하게 대처하는 능력)가 "교란 요인(confounder)" 역할을 하여, 정보량과 패킹 사이의 단순한 연결 고리를 방해한다고 의심합니다.

학생이 시험을 치는 상황을 생각해 보세요:

• 학생이 정답을 완벽하게 암기한다면, 높은 점수를 받을 수는 있지만, 개념을 정말로 "학습"한 것은 아닙니다 (나쁜 일반화).
• 학생이 개념을 이해한다면, 구체적인 숫자는 잊어버릴 수 있지만 논리는 맞게 됩니다 (좋은 일반화).
• 이 논문은 "얼마나 많은 데이터를 잊어버리는가"만 보고 "학습"을 측정하려고 하는 것이 오해의 소지가 있다고 제안합니다. 왜냐하면 학생의 실제 이해도(일반화)가 전체 그림을 바꾸기 때문입니다.

4. 이를 증명하기 위해 그들이 한 일

이를 증명하기 위해 그들은 단순히 추측만 하지 않았습니다. 그들은 여러 개의 서로 다른 로봇 뇌(신경망)를 구축하고 다양한 방식으로 학습하도록 강제했습니다:

• 어떤 로봇들은 매우 노이즈가 많도록(생각에 무작위 정적을 추가하도록) 강제되었습니다.
• 어떤 로봇들은 물건들을 단단하게 모으도록(클러스터링을 만드는 특수 규칙 사용) 강제되었습니다.
• 그들은 이미지(예: 고양이와 개)와 텍스트(예: 뉴스 기사)를 사용하여 이 로봇들을 테스트했습니다.

결과: 거의 모든 실험에 걸쳐, 그들은 낮은 정보량이 반드시 단단한 패킹을 의미하지는 않는다는 것을 발견했습니다. 사실, 패킹이 더 단단해질수록 로봇이 더 많은 정보를 보유하는 것처럼 보이기도 하고, 그 반대의 경우도 있었습니다.

핵심 요약

오랫동안 과학자들은 이렇게 생각했습니다: "로봇이 세부 사항을 잊어버린다면, 그것은 데이터를 완벽하게 정리하고 있다는 뜻이다."

이 논문은 이렇게 말합니다: "꼭 그렇지는 않습니다."

로봇이 세부 사항을 잊어버리는 이유는 정보를 완벽하게 정리하고 있기 때문일 수도 있지만, 단지 혼란스럽고 노이즈가 심하기 때문일 수도 있습니다. 따라서 "얼마나 많은 것을 잊어버리는가"를 단순한 지름길로 삼아 "얼마나 잘 정리하는가"를 측정해서는 안 됩니다.

논문은 결론적으로, 우리가 딥러닝이 왜 작동하는지 설명하려고 할 때 훨씬 더 주의를 기울여야 한다고 말합니다. 우리는 단순히 "데이터를 압축했다"라고 말할 수 없습니다. 왜냐하면 압축은 두 가지 매우 다른 방식으로 일어날 수 있기 때문입니다. 하나는 스마트한 방식(좋은 클러스터링)이고, 다른 하나는 그저 엉망인 방식(노이즈)입니다.