💬 NLP

Model Collapse as Cultural Evolution

본 논문은 반복 학습 이론을 적용하여 필터링되지 않은 자기 학습이 언어적 구성성의 비단조적 저하를 초래한다는 것을 입증함으로써 모델 붕괴를 문화 전파 현상으로 재정의하며, 이는 여러 모델과 언어에서 검증된 결과로 견고한 자기 학습 파이프라인 설계에 대한 구체적인 원칙을 제시합니다.

원저자: Dongxin Guo, Jikun Wu, Siu Ming Yiu

게시일 2026-05-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Dongxin Guo, Jikun Wu, Siu Ming Yiu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

상상해 보십시오. 책을 읽으며 배우는 매우 재능 있는 학생이 있다고 가정해 봅시다. 이제 이상한 규칙을 상상해 보세요: 매년 이 학생은 이전 해에 쓴 책들 만을 바탕으로 새로운 책을 써야 합니다. 그들은 원래 인간이 쓴 책을 다시는 보지 않습니다.

이 논문은 대규모 언어 모델 (LLM) 을 정확히 그렇게 하도록 강제했을 때 어떤 일이 발생하는지 조사합니다. 이 과정은'모델 붕괴 (model collapse)'라고 불립니다. 저자들은 모델이 스스로를 계속 복사하기만 하면 언어가 결국 지루해지고, 반복적이 되며, 망가진다는 사실을 발견했습니다.

하지만 여기에는 반전이 있습니다: 저자들은 단순히 수학만 살펴본 것이 아닙니다. 그들은 인간 언어가 세대를 거쳐 어떻게 변하는지 연구하는문화 진화이론을 사용하여 이것이 왜 발생하는지, 그리고 어떻게 해결할 수 있는지 설명했습니다.

다음은 그들의 발견을 간단한 개념으로 분해한 이야기입니다:

1. 잘못된"전화 게임"

모델 학습을"전화 게임"과 같은 놀이로 생각하되, 문장을 속삭이는 대신 모델이 책 한 권을 통째로 쓰는 것이라고 상상해 보세요.

문제: 일반적인 전화 게임에서는 메시지가 왜곡됩니다. 이 AI 버전에서는 모델이 먼저 언어의'화려한'부분들을 잃어갑니다. 복잡한 농담, 수사학적 질문, 미묘한 스토리텔링 기법을 잊어버립니다. 오직 가장 단순하고 반복적인 문장들만 남깁니다.
비유: 이전 학생이 쓴 책만을 읽은 학생이 새로운 책을 쓰는 도서관을 상상해 보세요. 시간이 지남에 따라 도서관은 모든 독특한 이야기를 잃고 결국 같은 단순한 문장의 복사본 수천 권으로 끝납니다."고양이가 매트 위에 앉았다."

2. 다섯 가지 예측 (수정구)

저자들은 문화 진화의 규칙을 사용하여 어떤 일이 발생할지에 대한 다섯 가지 구체적인 예측을 했습니다. 그들은 모델을 10 세대 동안 자기 학습 (self-training) 시켜 이들을 테스트했습니다.

예측 1: 희귀한 것들이 먼저 사라진다.
인간 역사에서와 마찬가지로, 희귀한 단어와 복잡한 문장 구조가 먼저 사라집니다. 모델은 가장 흔한 단어 (예:"the"또는"is") 는 유지하지만 희귀한 단어는 잊어버립니다. 저자들은 이것이 인간의 뇌가 언어를 학습하는 방식과 일치하는 매우 구체적이고 예측 가능한 패턴으로 발생한다는 사실을 발견했습니다.
예측 2: 모든 것이'규칙적'이 된다.
모델은 불규칙성을 싫어합니다. 만약"go"가"went"처럼 이상하게 변하는 동사가 있다면, 모델은"go"를"goed"처럼 규칙적으로 바꾸려 시도합니다. 시간이 지남에 따라 언어는 완벽하고, 지루할 정도로 규칙적이 됩니다.
예측 3:'유용한'것이'어려운'것보다 먼저 사라진다.
이것이 핵심 발견입니다. 모델은 실용적인 언어 (비꼬기나 수사학적 질문처럼 맥락에 의존하는 언어) 를 구조적인 언어 (문법 규칙) 보다 먼저 잃습니다. 마치 모델이 문장을 만드는 방법을 잊기 훨씬 전에 좋은 대화 상대가 되는 방법을 잊는 것과 같습니다.
예측 4:'언덕'효과 (가장 중요한 발견).
이것이 이 논문의 가장 큰 발견입니다. 모델이 스스로를 복사하기 시작하면, 단어를 결합하여 새로운 의미를 창출하는'구성적'능력이 실제로 몇 세대 동안 상승했다가 급락합니다.
- 비유: 새로운 언어를 발명하려는 사람들의 무리를 상상해 보세요. 처음에는 단어들을 조직하는 데 매우 능숙해집니다. 하지만 그들은 서로만 듣고 실제 인간과는 대화하지 않기 때문에 결국 언어를 지나치게 단순화하여 붕괴시킵니다. 모델은 잠시 스스로를 조직하는 데 더 능숙해지다가 붕괴합니다.
예측 5: 어휘가 축소된다.
단어의 다양성이 극적으로 감소합니다. 희귀한 단어들의'긴 꼬리'가 사라지고 가장 흔한 단어들만 남습니다.

3. 해결책: '엄격한 편집자'

저자들은 질문했습니다."이 붕괴를 막을 수 있을까?"그들은 모델이 다시 학습하기 전에 출력을 필터링하는 세 가지 방법을 테스트했습니다:

필터 없음: 모델이 모든 것을 복사합니다. (결과: 완전한 붕괴).
무작위 필터: 모델이 출력을 무작위로 선택하여 70% 만 유지합니다. (결과: 여전히 붕괴하지만 조금 더 느리게).
품질 필터: 모델이'테스트'(예: 질문에 올바르게 답하거나 의미를 갖는 것) 를 통과한 출력의 70% 만 유지합니다.
- 비유: 숙제가 실제로 질문을 올바르게 답한 경우에만 학생들이 숙제를 유지하도록 허용하는 교사를 상상해 보세요.
- 결과: 이품질 필터가 위기를 구했습니다. 언어를 복잡하고 구성적으로 유지했습니다. 모델이 붕괴하지 않은 이유는'편집자'가 단순히 반복적이게 만드는 것이 아니라 명확하게 소통하도록 강제했기 때문입니다.

4. 이것이 중요한 이유

이 논문은 AI 모델이 붕괴하는 이유가 단순히 코드 내의 결함이 아니라, 정보가 전달되는 방식에 대한 근본적인 법칙이라고 주장합니다.

'의사소통 목표'없이(실제 사람과 대화하거나 실제 질문에 답하는 것 없이) 언어는 자연스럽게 단순하고 반복적인 루프로 퇴화합니다.
'의사소통 목표'가 있을 때(출력이 실제로 의미를 갖는지 확인하는 것) 언어는 풍부하고 구조적으로 유지됩니다.

결론

AI 가 자신의 글만을 읽으며 스스로를 가르치도록 내버려 두면, 결국 인간처럼 말하는 법을 잊게 됩니다. 그것은 망가진 반복적인 메아리가 될 것입니다. 그러나 실제로 유용하고 명확한 작업만 받아들이는 엄격한 편집자 역할을 한다면, AI 는 언어 능력을 살아있게 유지할 수 있습니다.

저자들은 AI 의'학습 곡선'이 문화 진화 실험에서의 인간 어린이와 성인의 학습 곡선과 정확히 일치함을 보여줌으로써 이를 증명했습니다. AI 는 단순히 계산기가 아닙니다. 그것은 시간이 지남에 따라 진화 (또는 퇴화) 하는 문화처럼 행동합니다.

기술적 요약: 문화적 진화로서의 모델 붕괴

문제 제기

"모델 붕괴"(자신의 출력으로 훈련된 대규모 언어 모델 (LLM) 의 점진적 열화) 가 통계적 추정 이론 (예: 분포적 꼬리 손실, 다양성 감소) 을 통해 특징지어져 왔음에도 불구하고, 기존 문헌은 어떤 구조가, 어떤 순서로, 그리고 왜 열화되는지에 대한 언어학적 설명이 부족합니다. 현재의 설명들은 붕괴의 통계적 역학을 기술하지만, 문화적 전파의 역학에 의해 주도되는 특정 언어 현상과 일반적인 열화 사이를 구분하지 못합니다. 또한, 인간 언어 진화의 핵심 개념인 압축 - 표현성 트레이드오프가 LLM 자기 훈련을 지배하는지 이해할 필요가 있습니다.

방법론

저자들은 LLM 자기 훈련을 문화적 진화 이론의 프레임워크인 언어가 학습자들의 사슬에 의해 형성되는 **반복 학습 (iterated learning)**의 사례로 규정합니다. 그들은 이 이론으로부터 5 가지 반증 가능한 예측을 도출하여, 일반적인 붕괴에서 기대되는 확인적 테스트와 반복 학습 역학에 고유한 구별적 테스트를 구분합니다.

실험 설정

모델: LLaMA-2-7B 및 Mistral-7B.
세대: 자기 훈련 10 세대.
언어: 영어, 독일어, 터키어.
파이프라인:
- 시드 데이터: 두 가지 조건이 사용되었습니다: (1) 자연 시드 (Natural seed)(The Pile 의 5 만 개 구절) 와 (2) 규칙화 시드 (Regularized seed)(일관된 논항 구조와 규칙적인 형태소를 가진 PCFG 로 생성된 5 만 개 구절) 로서, 관찰된 패턴에 대한 대안적 설명인 노이즈 제거를 배제했습니다.
- 훈련: 각 세대마다 베이스 모델 ( $M_0$ ) 이 생성된 5 만 개의 구절로 파인튜닝됩니다. 중요한 점은, 데이터 유도 열화와 매개변수 드리프트를 분리하기 위해 파인튜닝이 항상 이전 세대의 가중치가 아닌 동결된 베이스 모델 $M_0$ 에서 시작한다는 것입니다.
- 필터링 조건: "압축 - 의사소통 트레이드오프"를 분리하기 위해 세 가지 조건이 테스트되었습니다:
  1. 필터 없음: 순수 전파.
  2. 무작위 필터: 데이터의 70% 를 균일하게 유지 (일반적인 병목 현상).
  3. 품질 필터: 독립적인 작업 평가 (QA, NLI, 요약) 를 기반으로 상위 70% 를 유지하여 의사소통 압력을 시뮬레이션.
지표: 네 가지 언어학적 기반의 붕괴에 강건한 지표가 추적되었습니다:
1. Zipf 지수 ( $\alpha$ ): 분포적 축소.
2. 형태소 규칙성 ( $\rho_M$ ): 규칙적 형태의 비율.
3. 구문 다양성 ( $D$ ): 빈도에 따라 계층화된 구문 구성의 섀넌 엔트로피.
4. 구성적 체계성 ( $\sigma$ ): 의미와 형태 공간 간의 지형적 유사성. 공간 붕괴의 인공물이 아닌지 확인하기 위해 유효 순위 (eRank) 와 위치적 분리 (posdis) 로 검증되었습니다.

주요 기여

이론적 확장: 자연어로 반복 학습 프레임워크 (Ren et al., 2024) 를 명시적으로 확장하여, 범주화된 구별적 지위를 가진 5 가지 반증 가능한 예측을 제공합니다.
구별적 테스트: 단순한 통계적 열화와 반복 학습 역학을 구분하는 특정 예측을 테스트하여, 일반적인 "모델 붕괴" 설명을 넘어섭니다.
실증적 검증: 10 세대, 두 가지 아키텍처, 그리고 세 가지 유형학적으로 다른 언어에 걸쳐 체계적인 테스트를 수행하며, 중요한 통제 (규칙화 시드, 다조건 필터링) 를 포함했습니다.
파이프라인 원칙: 압축 - 의사소통 트레이드오프에 기반하여 자기 훈련 파이프라인을 위한 구체적인 설계 원칙을 도출합니다.

주요 결과

문화적 진화 이론에서 도출된 5 가지 예측 모두 큰 효과 크기 (Hedges' $g > 1.6$ ; Bayes Factors $BF_{10} > 100$ ) 로 확인되었습니다.

P1 (빈도 의존적 손실): 저빈도 변이가 고빈도 변이보다 먼저 소실됩니다. LLM 기울기는 인간 규칙화의 로그 - 선형 곡선 (Morgan and Levy, 2016) 과 $R^2 = 0.94$ 로 일치합니다.
P2 (단조적 규칙성): 모든 언어에서 형태소 패턴이 규칙화됩니다 (예: 불규칙 동사가 규칙 동사가 됨). 이는 단순성 편향 증폭을 확인합니다.
P3 (차원별 열화): 구성 요소는 특정 순서로 열화됩니다: 화용론적 (예: 절단구, 수사적 질문) $\to$ 형태소적 $\to$ 구문적 (예: 단순 전이구). 이는 LLM 의 형식 - 기능 분리 및 구성 문법 (Construction Grammar) 의 고착 ( $r=0.73$ ) 과 일치합니다.
P4 (비단조적 구성성 - 결정적 테스트):
- 궤적: 필터링되지 않은 자기 훈련 하에서 구성적 체계성 ( $\sigma$ ) 은 초기에 상승하여 (약 3 세대에서 정점) 그 후 하락합니다. 이 비단조적 궤적은 최대한 규칙적인 시드 데이터에서도 지속되어 노이즈 제거를 배제합니다.
- 필터링 효과: 무작위 필터링은 구성성을 유지하지 못합니다 (궤적이 필터링되지 않은 경우와 일치). 오직 품질 기반 필터링 (의사소통 압력 시뮬레이션) 만 높은 구성성을 유지합니다 (10 세대에서 $\sigma \approx 0.48$ 대 필터링되지 않은 경우 $0.31$).
- 의의: 이는 압축 - 의사소통 트레이드오프가 언어 구조를 지배한다는 최초의 LLM 규모 증거를 제공합니다. 압축만으로는 퇴화된 언어로 이어지지만, 의사소통 압력은 구성성을 유지합니다.
P5 (분포적 축소): Zipf 지수가 단조적으로 감소하여 꼬리 손실을 확인합니다.

중요성과 주장

이 논문은 모델 붕괴를 단순한 통계적 실패가 아닌 문화적 전파 현상으로 재정의합니다.

설명력: 반복 학습 이론은 통계적 설명이 남긴 공백을 메워 언어적 열화의 순서와 성격 (예: 왜 구문적 구성보다 화용론적 구성이 먼저 사라지는지) 을 설명합니다.
인간 - LLM 유사성: LLM 규칙화 기울기와 인간 행동 데이터 간의 밀접한 일치는, 빈도 의존적 규칙화가 인간 특유의 인지 구조가 아니라 빈도 무관한 단순성 편향과 전파 병목 현상의 상호작용에서 비롯됨을 시사합니다.
설계 함의: 결과는 자기 훈련 파이프라인을 위한 구체적인 원칙을 제시합니다:
1. 구조화된 출력을 유지하기 위해 무작위 필터링 대신 작업 기반 (품질) 필터링을 사용하십시오.
2. 분포 모방을 피하기 위해 서로 다른 모델 계열의 평가자를 사용하십시오.
3. 모델의 사전 분포로의 수렴 속도를 지배하는 조정 가능한 매개변수로 병목 너비 (예: 온도, 데이터 양) 를 간주하십시오.

저자들은 의사소통 압력 없이는 자기 훈련이 필연적으로 퇴화된 언어로 이어지지만, 품질 기반 필터링은 견고한 구성성에 필요한 학습 가능성과 표현성 사이의 균형을 유지할 수 있다고 결론지었습니다.