💻 computer science

On the Decompositionality of Neural Networks

이 논문은 신경망의 의미론적 행위를 보존하는 '분해성'이라는 개념을 정의하고, 이를 기반으로 SAVED 프레임워크를 통해 CNN 및 트랜스포머 모델들의 분해 가능성을 검증하여 언어 모델은 분해가 가능하지만 비전 모델은 본질적인 한계가 있음을 규명했습니다.

원저자: Junyong Lee, Baek-Ryun Seong, Sang-Ki Ko, Andrew Ferraiuolo, Minwoo Kang, Hyuntae Jeon, Seungmin Lim, Jieung Kim

게시일 2026-04-10

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Junyong Lee, Baek-Ryun Seong, Sang-Ki Ko, Andrew Ferraiuolo, Minwoo Kang, Hyuntae Jeon, Seungmin Lim, Jieung Kim

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"인공지능 (AI) 모델을 잘게 쪼갤 수 있을까?"**라는 근본적인 질문에 답하고 있습니다.

기존의 AI 모델은 거대한 '블랙박스'처럼 작동합니다. 입력을 넣으면 답이 나오지만, 그 내부가 어떻게 작동하는지 알기 어렵고, 고치거나 검증하기도 매우 어렵죠. 연구자들은 이 거대한 모델을 작은 부품들로 나누어 (분해하여) 관리하고 싶지만, **"언제까지나 나누어도 원래 모델과 똑같은 일을 할 수 있을까?"**에 대한 명확한 기준이 없었습니다.

이 논문은 그 답을 찾기 위해 SAVED라는 새로운 방법론과 **'분해 가능성 (Decompositionality)'**이라는 개념을 제안합니다.

🍕 핵심 비유: 거대한 피자 vs. 잘게 썰린 피자 조각

이 논문의 내용을 쉽게 이해하기 위해 거대한 피자를 상상해 보세요.

기존의 방식 (단순한 잘라내기):
보통 피자를 자를 때는 단순히 칼로 썰기만 합니다. 하지만 이렇게 자르면, 한 조각에는 페퍼로니가 너무 많고 다른 조각에는 치즈만 있을 수 있습니다. 즉, 맛 (성능) 은 비슷해 보이지만, 실제로는 원래의 맛을 온전히 보존하지 못합니다. 특히 피자의 가장자리 (가장 민감한 부분) 에 있는 재료가 섞여 있으면, 자르는 순간 맛이 망가질 수 있죠.
이 논문의 제안 (의미 있는 분해):
이 논문은 "단순히 물리적으로 잘라내는 게 아니라, 각 조각이 원래 피자의 맛을 완벽하게 유지하면서도, 서로 다른 재료를 담당하도록 잘라낼 수 있는가?"를 따져봅니다.
- 맛 유지 (의미 보존): 피자를 자르고 나더라도, 원래 피자가 어떤 재료를 좋아하는지 (예: 페퍼로니를 좋아하는 사람) 를 기억하고 있어야 합니다.
- 서로 다른 역할 (구조적 분리): 한 조각이 페퍼로니만 담당하고, 다른 조각은 치즈만 담당해야 합니다. 모든 조각이 똑같은 재료를 다 포함하고 있다면, 그건 분해가 아니라 그냥 피자를 여러 번 복사한 것과 같습니다.

🔍 이 논문이 발견한 놀라운 사실

연구팀은 이 '맛을 유지하면서 잘게 썰 수 있는지'를 테스트하기 위해 SAVED라는 도구를 만들었습니다. 그리고 다양한 AI 모델 (텍스트를 다루는 BERT, 이미지를 다루는 CNN, ViT 등) 에 적용해 보았습니다.

그 결과는 매우 흥미로웠습니다.

📝 언어 모델 (BERT): "성공!"
텍스트를 다루는 AI 모델은 마치 레시피가 명확하게 정리된 요리처럼 작동했습니다. "고기 요리 담당", "채소 요리 담당"처럼 역할이 명확하게 나뉘어 있어서, 잘게 썰어도 각 조각이 원래의 맛을 완벽하게 유지했습니다. 즉, 분해가 가능했습니다.
🖼️ 이미지 모델 (CNN, ViT): "실패..."
반면, 이미지를 다루는 AI 모델은 모든 재료가 뒤섞인 스튜와 같았습니다. '고양이'를 인식할 때도, '개'를 인식할 때도 같은 뇌세포 (뉴런) 들이 복잡하게 얽혀서 작동했습니다. 따라서 무리하게 잘라내면, 원래의 맛 (정확도) 이 망가졌습니다. 즉, 분해가 매우 어렵거나 불가능했습니다.

💡 왜 중요한가요?

이 연구는 단순히 모델을 작게 만드는 것을 넘어, AI 를 더 안전하고 관리하기 쉽게 만드는 길을 제시합니다.

검증의 용이성: 거대한 AI 전체를 검증하는 것은 마치 거대한 성을 한 번에 검사하는 것과 같습니다. 하지만 이 논문처럼 작고 명확한 부품으로 나눌 수 있다면, 각 부품 하나하나를 꼼꼼히 검사할 수 있어 안전성이 높아집니다.
유지보수: 만약 AI 가 실수를 했다면, 전체를 다시 훈련시킬 필요 없이, 문제가 된 '부품'만 고치면 됩니다.
진실된 분해: 단순히 크기를 줄이는 것 (압축) 과, 의미를 잃지 않고 구조를 바꾸는 것 (분해) 은 다릅니다. 이 논문은 **"언제까지나 분해해도 괜찮은지"**를 판단하는 과학적인 기준을 세웠습니다.

🚀 결론

이 논문은 **"AI 모델을 잘게 쪼개는 것은 가능하지만, 모든 모델이 그런 능력을 가진 것은 아니다"**라고 말합니다.

텍스트 AI는 이미 분해가 가능한 구조로 되어 있습니다.
이미지 AI는 아직 서로 너무 밀접하게 얽혀 있어 분해가 어렵습니다.

이 발견은 앞으로 더 안전하고, 투명하며, 관리하기 쉬운 AI 를 만들기 위해, 어떤 모델을 어떻게 설계해야 하는지에 대한 중요한 지도를 제공해 줍니다. 마치 "이 피자는 잘게 썰어도 되지만, 그 스튜는 그냥 통째로 먹어야 한다"는 것을 알려주는 것과 같습니다.

논문 요약: 신경망의 분해 가능성 (Decompositionality of Neural Networks)

이 논문은 딥러닝 모델의 구조적 분할 (Pruning, Decomposition) 이 단순히 성능을 유지하는 것을 넘어, 의미론적 (Semantic) 관점에서 유효한지를 판단할 수 있는 형식적인 이론과 평가 프레임워크를 제안합니다. 저자들은 기존 연구들이 주로 전체 정확도 (Aggregate Accuracy) 에 의존하여 분해의 유효성을 판단하는 한계를 지적하고, **결정 경계 (Decision Boundary)**에서의 의미 보존을 핵심으로 하는 '분해 가능성 (Decompositionality)'이라는 새로운 개념을 정립했습니다.

1. 문제 제기 (Problem)

블랙박스 모델의 한계: 현대의 딥러닝 모델은 유지보수, 구성 요소별 최적화, 체계적인 검증이 어려운 단일 블록 (Monolithic) 으로 취급됩니다.
기존 분해 기법의 부재: 가지치기 (Pruning) 나 모듈화 연구가 존재하지만, 이러한 분해가 **의미론적으로 유효한지 (Semantically Valid)**를 판단할 수 있는 형식적인 정의가 부족합니다.
정확도의 함정: 기존 연구는 분해된 모델이 테스트 정확도를 유지하는지 여부로 분해의 성공을 판단합니다. 그러나 정확도는 입력 공간의 희소 근사일 뿐이며, 결정 경계 근처에서의 행동 변화를 포착하지 못해 분해된 모델이 원래 모델과 다른 분류 행동을 보일 수 있습니다.
핵심 질문: "언제 신경망이 의미 있는 의미론적 분해 (Semantically Meaningful Decomposition) 를 허용하는가?"

2. 방법론 (Methodology)

2.1 분해 가능성 (Decompositionality) 의 형식적 정의

저자들은 분해 가능성을 단순한 절차가 아닌, 훈련된 모델의 **고유한 속성 (Property)**으로 정의하며, 다음 두 가지 조건을 동시에 만족해야 한다고 주장합니다.

결정 경계 인식 의미 충실도 (Boundary-Aware Semantic Fidelity):
- 분해된 모델이 원래 모델의 결정 경계 (Decision Boundary) 근처 ( $\tau$ -neighborhood) 에서 분류 행동을 보존해야 합니다.
- 결정 경계는 클래스 간 전이가 일어나는 영역으로, 여기서의 오분류는 의미론적 손실로 간주됩니다.
- 전체 입력 공간의 정확도보다 경계 근처에서의 불일치 확률 ( $Dis_\tau$ ) 을 최소화하는 것을 목표로 합니다.
구조적 발산 (Structural Divergence):
- 분해된 구성 요소들 (Components) 이 서로 다른 파라미터 또는 뉴런 집합을 사용해야 합니다.
- 단순히 같은 서브네트워크를 여러 번 복사하는 것과 같은 퇴화 (Degenerate) 된 분해를 방지하기 위해, 구성 요소 간의 **중첩 (Overlap)**을 제한하고, 각 구성 요소가 원래 모델보다 유의미하게 작아야 합니다.

2.2 SAVED 프레임워크 (Semantic-Aware Verification-Driven Decomposition)

이론적 정의를 실용적으로 구현하기 위해 SAVED라는 4 단계 프레임워크를 개발했습니다.

구조적 분해 (Structural Decomposition): 원본 모델을 클래스별 이진 분류기 (Binary Components) 로 초기 분할합니다.
경계 인식 입력 생성 (Boundary-Aware Input Generation):
- 결정 경계 근처의 입력을 찾기 위해 PGD(Adversarial Perturbation) 와 이진 탐색 (Binary Search) 을 결합하여 Low Logit-Margin 샘플을 생성합니다.
- 이는 의미론적 위반이 가장 많이 발생하는 영역을 타겟팅합니다.
의미 - 구조적 정제 (Semantic-Structural Refinement, LBMask):
- LBMask (Learnable Binary Mask): 각 구성 요소에 대해 학습 가능한 이진 마스크를 도입하여, 경계 근처 입력에 대한 정확도를 유지하면서 구성 요소 간 구조적 분리 (Disjointness) 를 강제합니다.
- 구조적 마스크 (Structured Masking) 를 사용하여 뉴런/채널 단위의 분리를 보장합니다.
계약 평가 (Contract Evaluation): 생성된 분해 모델이 정의된 계약 (의미 충실도, 구조적 분리, 비자명한 축소) 을 만족하는지 통계적 검증 (Hoeffding bound 등) 을 통해 평가합니다.

3. 주요 기여 (Key Contributions)

신경망 분해 가능성의 형식적 정의: 결정 경계를 중심으로 한 의미론적 보존과 구조적 분리를 결합한 최초의 형식적 정의를 제시했습니다.
SAVED 프레임워크: 이론적 정의를 실증적으로 검증할 수 있는 엔드 - 투 - 엔드 프레임워크를 구현했습니다.
아키텍처별 분해 가능성의 실증적 발견: 다양한 모델 (CNN, Transformer, ViT) 과 태스크 (NLP, Vision) 에 대한 실험을 통해 분해 가능성이 모델 아키텍처와 표현 방식에 따라 결정됨을 밝혔습니다.

4. 실험 결과 (Results)

저자들은 BERT(NLP), ResNet(CNN), DeiT(ViT) 모델을 대상으로 실험을 수행했습니다.

NLP (BERT):
- 성공: BERT 는 의미 충실도와 구조적 분리 조건을 모두 만족했습니다.
- 이유: NLP 모델은 클래스별 정보가 희소하고 독립적인 서브구조에 인코딩되는 경향이 있어 분해가 용이합니다.
비전 (CNN 및 ViT):
- 실패: ResNet 과 ViT 는 구조적 분리는 가능했으나, 의미 충실도 (Semantic Fidelity) 조건을 만족하지 못했습니다.
- 이유: 비전 모델은 클래스 구별 정보가 분산된 표현 (Distributed Representation) 을 사용하므로, 구조를 분리하면 결정 경계의 의미론적 행동이 파괴됩니다.
기타 발견:
- 두 축의 필요성: 의미 충실도만 유지하면 구조가 붕괴되고 (모든 구성 요소가 동일), 구조적 분리만 유지하면 의미가 파괴됨을 확인했습니다. 두 조건은 상호 배타적이지 않고 동시에 충족되어야 합니다.
- DBPedia vs AG News: 같은 BERT 모델이라도 DBPedia(다중 클래스) 에서는 분해가 성공했으나, AG News(소수 클래스) 에서는 실패했습니다. 이는 태스크의 복잡도와 표현의 밀도가 분해 가능성에 영향을 줌을 시사합니다.

5. 의의 및 결론 (Significance & Conclusion)

분해 가능성은 '절차'가 아닌 '속성': 분해가 항상 가능한 것이 아니라, 특정 모델과 태스크가 분해 가능성을 내재하고 있을 때만 성립하는 조건부 속성임을 증명했습니다.
소프트웨어 공학적 접근: 신경망을 전통적인 소프트웨어 모듈처럼 "검증 가능하고, 재사용 가능하며, 국소적으로 분석 가능한" 단위로 취급할 수 있는 이론적 기반을 마련했습니다.
검증 (Verification) 의 확장: 분해가 성공적인 경우, 작은 구성 요소별로 독립적으로 검증을 수행함으로써 전체 모델의 검증 비용을 크게 줄일 수 있는 가능성을 제시했습니다.
미래 방향: 현재 비전 모델에서 분해가 어려운 이유를 해결하기 위해, 분해 가능성을 고려한 훈련 (Decomposition-aware Training) 이나 아키텍처 설계의 필요성을 강조합니다.

요약하자면, 이 논문은 신경망 분해가 단순히 모델을 작게 만드는 기술이 아니라, 모델의 결정 경계 행동을 보존하면서 구조적으로 분리될 수 있는지에 대한 엄격한 형식적 기준을 제시하고, 이를 통해 NLP 와 비전 모델 간의 근본적인 구조적 차이를 규명한 획기적인 연구입니다.