🤖 machine learning

Compositionality Emerges in a Narrow Depth-Connectivity Regime: Architecture Constraints and Solution Manifolds

이 논문은 신경망의 구성적 내부 구조가 특정 연결 패턴과 네트워크 깊이의 좁고 목표 의존적인 영역 내에서만 출현함을 입증하며, 이러한 조건을 식별하고 활용하기 위한 유사성 기반 프루닝과 깊이 예측기를 제안하는 동시에 경사 하강법이 왜 그 외의 경우에는 파편화된 솔루션으로 수렴하는지를 설명하는 이론적 프레임워크를 제공한다.

원저자: Dat H. Do, Rushi Shah, Duc V. Le, Dianbo Liu

게시일 2026-06-19

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Dat H. Do, Rushi Shah, Duc V. Le, Dianbo Liu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

핵심 아이디어: AI 두뇌를 위한 "골디락스(Goldilocks)" 존 찾기

당신이 로봇에게 해골 그림을 그리는 법을 가르치고 있다고 상상해 보세요. 당신은 로봇이 눈 구멍, 턱, 코와 같은 단순하고 재사용 가능한 부품들을 조합하여 '해골'이라는 개념을 배우기를 원합니다. 이것을 **구성성(compositionality)**이라고 합니다. 이는 마치 레고 브릭 세트를 가지고 있는 것과 같아서, 동일한 '눈' 조각을 사용하여 자동차, 집, 또는 로봇 등 다양한 모델을 만들 수 있는 것과 같습니다.

하지만 대부분의 현대적 AI 모델(표준적인 방식으로 학습된 모델)은 이런 방식으로 학습하지 않습니다. 대신, 깔끔한 레고 브릭으로 만드는 대신 거대하고 엉클어진 실타래를 만듭니다. 이미지의 모든 부분이 서로 뒤섞여 버립니다. 만약 이 실타래의 아주 작은 실 하나만 건드려도 전체 그림이 엉망이 될 수 있습니다. 이를 **파편화된 얽힘(fractured entanglement)**이라고 부릅니다.

이 논문의 저자들은 다음과 같은 간단한 질문을 던졌습니다: AI가 엉클어진 실타래 대신 깔끔하고 재사용 가능한 레고 브릭을 자연스럽게 사용하도록 만드는, 로봇의 두뇌를 구축하는 특정한 방법이 있을까?

그들의 대답은 놀랍게도 "그렇다"였지만, 매우 엄격한 조건이 붙었습니다: 두뇌는 반드시 크기와 깊도에 있어 매우 특정한 "골디락스(Goldilocks)" 존 안에 구축되어야 한다는 것입니다.

성공을 위한 두 가지 규칙

이 논문은 AI가 이러한 깔끔하고 재사용 가능한 부품을 학습하기 위해서는 두 가지 일이 동시에 일어나야 한다는 것을 발견했습니다. 둘 중 하나라도 틀리면 AI는 실패합니다.

1. 연결성 규칙: "적을수록 좋다, 하지만 '올바른 적음'일 때만 그렇다"

당신이 퍼즐을 풀려고 노력하는 사람들(뉴런)로 가득 찬 방에 있다고 상상해 보세요.

실수: 만약 모든 사람이 서로 대화하게 내버려 둔다면(완전 연결된 밀집 네트워크), 사람들은 서로 소리를 지르며 혼란스러워할 것입니다. 결국 아무도 퍼즐의 특정 조각에 대해 책임을 지지 않게 됩니다.
해결책: 연결을 끊어야 합니다. 하지만 무작정 끊어서는 안 됩니다. 정확히 올바른 연결을 끊어야 합니다.
비유: 번잡한 고속도로를 생각해 보세요. 만약 차선을 무작위로 폐쇄하면 교통 체증은 더 심해집니다. 하지만 교통 흐름을 방해하는 특정 차선을 폐쇄하고 차량이 원활하게 흐를 수 있는 차선을 유지한다면, 교통은 오히려 풀립니다.
논문의 발견: 저자들은 **유사성 기반 프루닝(Similarity-based Pruning, SP)**이라는 특별한 프루닝 방식(연결을 끊는 방법)을 찾아냈습니다. 이 방법은 어떤 뉴런들이 정확히 같은 일을 하고 있는지 살펴보고 중복된 것들을 제거합니다. 이는 남은 뉴런들이 전문화되도록 강제합니다. 한 뉴런은 '눈' 전문가가 되고, 다른 뉴런은 '턱' 전문가가 되는 식입니다.

2. 깊이 규칙: "너무 얕지도, 너무 깊지도 않게"

이제 뇌의 층(layer)을 건물의 층이라고 상상해 보세요.

너무 얕을 때 (1~2층): 건물은 너무 낮습니다. '눈' 전문가와 '턱' 전문가가 같은 층에 있어서 업무를 제대로 조직할 수 없습니다. 그들은 복잡한 구조물을 만들 수 없습니다.
너무 깊을 때 (100층): 건물은 너무 높습니다. 지시 사항이 엘리베이터 통로에서 길을 잃습니다. 신호가 꼭대기에 도달할 때쯤이면, '눈' 전문가와 '턱' 전문가는 자신들이 무엇을 해야 하는지 잊어버리고 다시 업무를 뒤섞기 시작합니다.
최적의 지점: 특정 그림을 그리기 위해 완벽한 층수(깊이)가 존재합니다.
- 단순한 사과를 위해서는 아마 12층이 완벽할 것입니다.
- 복잡한 나비의 경우에는 아마 14층이 완벽할 것입니다.
- 단 한 층만 추가하거나 빼더라도 마법은 사라지고, AI는 다시 엉클어진 실타래로 만드는 상태로 돌아갑니다.

"스윗 스팟(Sweet Spot)" 영역

논문에서는 이를 **좁은 깊이-연결성 영역(Narrow Depth–Connectivity Regime)**이라고 부릅니다.

이는 라디오 주파수를 맞추는 것과 비슷합니다.

**연결성(Connectivity)**은 안테나입니다. 신호를 잡기 위해 올바른 모양이어야 합니다.
**깊이(Depth)**는 주파수 다이얼입니다. 정확한 숫자로 맞춰져야 합니다.
올바른 안테나가 있지만 주파수가 틀리면 잡음이 들립니다.
올바른 주파수가 있지만 안테나가 틀리면 아무것도 들리지 않습니다.
오직 둘 다 완벽할 때만 음악(구성성)이 선명하게 흘러나옵니다.

어떻게 증명했는가

연구진은 단순히 추측한 것이 아니라, EMC2-Bench라는 테스트 환경을 구축했습니다.

테스트: 그들은 AI 모델이 그림(해골, 나비, 사과 등)을 그리도록 학습시켰습니다.
"흔들기(Wiggle)" 테스트: 학습 후, 그들은 AI의 뇌 내부에 있는 단 하나의 숫자(값)에 아주 작은 "흔들림"(작은 무작위 변화)을 주었습니다.
- 만약 AI가 엉클어진 실타래를 사용하고 있다면, 이 작은 흔들림이 전체 그림을 망가뜨릴 것입니다 (예: 해골이 덩어리로 변함).
- 만약 AI가 레고 브릭을 사용하고 있다면, 이 작은 흔들림은 특정 부분에만 영향을 줄 것입니다 (예: 눈이 약간 커지지만 턱은 완벽하게 유지됨).
결과: 그들은 표준적인 학습 방식은 거의 항상 엉클어진 실타래를 만들어낸다는 것을 발견했습니다. 하지만 그들의 특별한 프루닝 방식(SP)을 사용하고 깊이를 정확한 "스윗 스팟"에 맞추었을 때, AI는 갑자기 깔끔한 레고 브릭으로 만들기 시작했습니다.

왜 이런 현상이 발생하는가? (이론)

논문은 **부피 비율(Volume Ratio)**이라는 개념을 사용하여 수학적 설명을 제공합니다.

뇌를 구축하는 모든 가능한 방법들의 거대한 바다를 상상해 보세요.

엉클어진 바다: 대부분의 바다는 "엉클어진" 해결책들로 채워져 있습니다. 이들은 매우 크고, 찾기 쉬우며, 빠지기 쉽습니다.
구성적 섬: "깔끔한 레고" 해결책들은 그 바다 한가운데에 있는 작고 숨겨진 섬과 같습니다. 이 섬은 매우 작고 찾기 어렵습니다.

논문은 다음과 같이 주장합니다:

만약 뇌가 너무 넓다면(뉴런이 너무 많다면), "엉클어진" 바다가 더 커지고 "깔끔한" 섬은 상대적으로 더 작아집니다. 통계적으로 당신은 엉클어진 혼돈 속에서 길을 잃을 가능성이 높습니다.
만약 뇌가 너무 깊거나 너무 얕다면, 섬 자체가 사라집니다.
마법: 만약 당신이 정확한 너비와 깊이를 맞춘다면, "엉클어진" 바다는 줄어들고, "깔끔한" 섬은 유일하게 남은 장소가 됩니다. AI는 갈 곳이 없기 때문에 반드시 깔끔한 해결책을 찾아내야만 합니다.

요약

이 논문은 AI 모델이 자연스럽게 재사용 가능한 모듈형 부품으로 생각하도록 학습되지 않는다는 것을 보여줍니다. AI는 자연스럽게 지저질하고 엉클어진 상태가 되도록 학습됩니다.

하지만, 만약 당신이 AI를 매우 특정한 건축적 틀 안에 강제로 밀어 넣는다면—즉, 올바른 연결을 끊고 정확한 층수를 쌓는다면—AI는 스스로를 조직하도록 강요받습니다. AI는 엉클어진 실타래를 멈추고 깔끔하고 재사용 가능한 레고 브릭으로 만들기 시작합니다. 이것이 인간처럼 일반화하고 세상을 이해하는 AI를 만드는 비밀입니다.

기술 요약: 좁은 깊이-연결성 영역에서의 구성성(Compositionality) 출현

문제 정의

현대적인 파운데이션 모델(LLM, VLM, 확산 모델 등)은 강력한 능력을 보여주지만, 특히 구성적 이해(compositional understanding) 측면에서 취약한 일반화 성능을 보입니다. 작고 작업과 무관한 섭동(perturbation)이 급격한 행동 변화를 유발한다는 점은, 견고한 내부 구성적 구조가 결여되어 있음을 시사합니다. 진화 알고리즘(예: Picbreeder의 NEAT)은 "통합된 팩터링 표현(Unified Factored Representations, UFR)"—즉, 통합되고 재사용 가능하며 의미론적으로 안정적인 프리미티브(primitive)—를 발견할 수 있는 반면, 표준 경사 하강법 기반 최적화(SGD)는 일반적으로 "파편화된 얽힘 표현(Fractured Entangled Representations, FER)"으로 수렴합니다. FER에서 개념들은 중첩되는 뉴런들에 분산되어 있으며, 특징(feature)들은 다의적(polysemantic)이어서 안정적이고 해석 가능한 의미와 정렬되지 못합니다.

본 논문이 다루는 핵심 질문은 다음과 같습니다: 단일 의미성(monosemanticity)과 구성성이 표준 경사 기반 역전파 과정 중에 출현할 수 있는가? 만약 그렇다면, 어떠한 구체적인 구조적 조건 하에서 그러한가? 저자들은 이러한 출현이 규모(scale)나 낮은 손실(low loss)에 의해 기본적으로 결정되는 것이 아니라, 네트워크의 **깊이(depth)**와 연결성(connectivity) 사이의 상호작용에 의해 정의되는 구조적 도달 가능성(structural reachability) 문제에 의해 지배된다고 가설을 세웁니다.

방법론

1. 평가 스위트: EMC2-Bench

구성성을 정량화하기 위해 저자들은 섭동 기반 평가 스위트인 EMC2-Bench를 도입했습니다.

지표: "구성 점수(Compositional Score)"는 노이즈( $\delta$ )에 의해 섭동을 가했을 때, 생성된 이미지의 전역적 의미 정체성을 유지하는 비제로(non-zero) 파라미터의 비율로 정의됩니다.
절차: 각 비제로 가중치 $w$ 에 대해, 섭동된 복사본 $w' = w + \delta$ 를 생성합니다. 네트워크는 이미지를 생성하고, 이 이미지는 시각-언어 모델(VLM) 판독기(Qwen3-VL-4B-Thinking)에 의해 의미적 내용(예: "해골")이 온전히 유지되는지 판단됩니다.
베이스라인: 이 벤치마크는 SGD로 학습된 밀집 MLP를 진화적 솔루션(Picbreeder CPPN) 및 다양한 프루닝(pruning) 전략과 비교합니다.

2. 구조적 개입

유사도 기반 프루닝 (Similarity-based Pruning, SP): 구성적 연결성을 회복하기 위해 저자들은 반복적인 프루닝-재학습 알고리즘을 제안합니다.
- 메커니즘: 각 레이어 내에서 뉴런별 특징 맵(feature map)을 추출합니다. 코사인 유사도가 높은 뉴런들을 중복된 것으로 식별합니다. 중복된 쌍 중 하나를 무작위로 선택하여 제거하고, 해당 뉴런의 입출력 가중치를 제로(0)로 만듭니다.
- 목표: 이는 네트워크가 서로 다른 의미적 요인에 서로 다른 뉴런을 할당하도록 강제하여, 얽힌 솔루션을 희소하고 재사용 가능한 회로로 붕괴시킵니다.
휴리스틱 깊이 예측기: 최적의 깊이는 대상(target)에 따라 달라진다는 점을 인식하여, 저자들은 타겟 이미지의 PNG 압축률을 이미지 복잡도의 대리 지표(proxy)로 사용하는 것을 제안합니다. 이미지 복잡도와 경험적으로 최적의 깊이 사이에는 선형 관계가 관la 관찰되며, 이를 통해 전수 조사 없이도 가벼운 방식으로 "스윗 스팟(sweet spot)" 깊이를 예측할 수 있습니다.

3. 이론적 프레임워크

본 논문은 다음을 바탕으로 이론적 근거를 제공합니다:

구성적 희소성(Compositional Sparsity): 매니폴드 가설(manifold hypothesis)을 인용하여, 저자들은 구성적 솔루션이 제한된 국소 차수(local arity)를 가진 유향 비순환 그래프(DAG)를 통해 팩터화된다고 주장합니다.
부피 비율 논증(Volume-Ratio Argument): 저자들은 "구성적 부피 비율" $\rho(W, L)$ 을 무작위 파라미터 구성이 구성적 분지(compositional basin)에 착륙할 확률로 정의합니다. 그들은 $\rho$ 가 특정 $(W_{min}, L^*)$ 에서 급격히 집중되며, 너비( $W$ ) 또는 깊이( $L$ )가 이 지점에서 벗어남에 따라 지수적으로 감소함을 증명합니다.
특징 간섭 경계(Feature Interference Bounds): 웰치 경계(Welch bound)를 사용하여, 구성적 희소성이 특징 간 간섭의 기하학적 하한을 줄여주며, 프리미티브의 수 $r$ 이 차원 $d$ 보다 작거나 같을 때만 단일 의미적(monosemantic, 직교하는) 특징이 기하학적으로 가능해짐을 입증합니다.

주요 결과

1. 좁은 깊이-연결성 영역

구성성은 보편적으로 나타나지 않으며, 특정 영역에서만 나타납니다:

연결성: 구성성은 단순히 희소성 수준뿐만 아니라 어떤 연결이 남느냐에 크게 의존합니다. 표준 프루닝 방법들(Lottery Ticket Hypothesis, Wanda, LLM-Pruner)은 구성적 구조를 회복하는 데 실패합니다(EMC2-Bench에서 0점 기록). 오직 **유사도 기반 프루닝(SP)**만이 비제로 점수를 기록하며, 이는 연결의 *조직화(organization)*가 결정적임을 나타냅니다.
깊이: 구성성은 깊이에 대해 비단조적(non-monotonic) 관계를 보입니다. 특정 타겟(예: 해골, 나비, 사과)에 대해, 구성 점수는 특정 깊이에서 정점을 찍고, 네트워크가 더 얕아지거나 깊어지면 급격히 떨어집니다. 이 최적의 깊이는 타겟에 따라 다릅니다.

2. 최적화와 출현

옵티마이저 민감도: 올바른 아키텍처를 갖추더라도 옵티마이저가 중요합니다. Newton-Schulz 반복을 사용하는 Muon은 Adam보다 더 낮은 학습 손실과 더 높은 구성 점수를 달성합니다. 이는 구성적 분지에 도달하기 위해서는 더 나은 최솟값(더 평탄하고 안정적인 곳)이 필요함을 시사합니다.
FER의 취약성: 깊이나 연결성 조건이 위반될 때, 경사 하강법은 조용히 파편화된 솔루션으로 수렴합니다. 이러한 솔루션에서는 가중치에 대한 작은 섭동이 의미론적 표류(semantic drift)를 일으키는 반면, 구성적 솔루션은 견고함을 유지합니다.

3. 미지의 타겟에 대한 일반화

이 방법은 기저의 구성적 솔루션이 알려지지 않은 이미지(예: 자연 경관, 다중 객체 이미지)로 전이됩니다. SP와 휴리스틱 깊이 예측기를 결합하면 가중치 스위핑(weight sweeping) 하에서 단일 의미적인 중간 특징과 유의미한 출력 변화를 성공적으로 회복하지만, 복잡한 다중 객체 장면에서는 그 효과가 약해집니다.

의의 및 주장

본 논문은 일반화에는 경사 기반 학습을 가능하게 하는 아키텍처적 제약이 필요하다고 주장합니다.

규모 중심 솔루션에 대한 반박: 저자들은 규모를 키우는 것(너비나 깊이를 늘리는 것)이 오히려 파편화된 솔루션을 초래하는 경향이 있다고 주장합니다. 이는 파라미터 공간이 커짐에 따라 구성적 매니폴드의 상대적 측도가 줄어들기 때문입니다(부피 비율 논증).
메커니즘적 통찰: 이 연구는 컴팩트하고 모듈화된 구현(진화 알고리즘에 의해 증명됨)의 존재와 바닐라 역전파(vanilla backpropagation)가 이를 찾아내는 데 실패하는 것 사이의 간극을 메웁니다. 저자들은 SGD가 "딱 적절한(just right)" 아키텍처(좁은 깊이-연결성 스윗 스팟)와 평탄한 최솟값을 찾을 수 있는 옵티마이저를 가졌을 때만 구성적 분지로 편향된다고 상정합니다.
실질적 시사점: SP와 깊이 예측기의 도입은 훈련 목적 함수를 변경하지 않고도, 아키텍처와 프루닝 전략을 제약함으로써 표준 MLP에 구성적 구조를 유도할 수 있는 경로를 제시합니다.

저자들은 본 프레임워크가 단일 객체 구성성을 잘 설명하지만, 다중 객체 장면에서의 공간적 구성성은 필요한 프리미티브( $P$ )의 지수적 증가로 인해 부피 비율 $\rho$ 가 붕괴되므로 여전히 열린 영역으로 남아있음을 언급하며 겸허한 태도를 유지합니다. 그들은 모든 시각-언어 과업에 대한 일반적인 구성적 추론을 해결했다고 주장하는 것이 아니라, 그것이 경험적으로 도달 가능한 특정 구조적 영역을 식별했음을 밝히고 있습니다.