SMGI: A Structural Theory of General Artificial Intelligence

Each language version is independently generated for its own context, not a direct translation.

이 논문은 **"인공지능이 진정으로 '일반 지능 (AGI)'이 되려면 단순히 똑똑해지는 것만으로는 부족하며, 그 자체의 '구조'가 어떻게 변해야 하는지"**에 대한 새로운 이론을 제안합니다.

저자는 이 이론을 **SMGI(일반 지능의 구조적 모델)**라고 부릅니다. 기존 AI 가 "주어진 규칙 안에서 문제를 푸는 것"에 집중했다면, 이 논문은 **"문제를 푸는 규칙과 환경 자체가 변할 때, AI 가 어떻게 흔들리지 않고 제 모습을 유지할 수 있는가"**에 집중합니다.

이 복잡한 이론을 일상적인 비유로 쉽게 설명해 드리겠습니다.

1. 핵심 비유: "변하는 세상 속의 '불변의 나침반'"

기존의 AI(예: 최신 챗봇) 는 매우 똑똑한 학생과 같습니다.

기존 방식: 선생님이 "수학 문제를 풀어라"라고 하면 수학 문제를 잘 풀고, "영어로 작문해라"라고 하면 영어 작문을 잘합니다. 하지만 선생님이 갑자기 "이제부터 수학은 금지고, 물리 법칙을 어기는 마법을 써라"라고 하면 그 학생은 당황하거나 망가집니다. 왜냐하면 학생은 문제만 변할 뿐, '공부하는 방식'과 '규칙'은 고정되어 있기 때문입니다.
SMGI 의 방식: SMGI 는 **스스로를 설계하고 수정할 수 있는 '현명한 탐험가'**입니다.
- 이 탐험가는 지도 (표현), 나침반 (평가 기준), 등산 장비 (기억) 를 가지고 있습니다.
- 갑자기 숲이 사라지고 사막이 나타나면 (환경 변화), 탐험가는 지도의 종류를 바꾸고, 나침반의 설정을 조정하며, 등산 장비를 재배치할 수 있습니다.
- 하지만 중요한 것은, 무엇이 변해도 '탐험가로서의 정체성' (안전 규칙, 핵심 가치) 은 절대 잃지 않는다는 점입니다.

2. SMGI 의 4 가지 핵심 원칙 (네 가지 의무)

이 논문은 진정한 일반 지능이 되기 위해 AI 가 반드시 지켜야 할 4 가지 규칙을 제시합니다.

① 구조적 닫힘 (Closure): "무엇이든 받아들일 준비"

비유: 탐험가가 새로운 지형 (사막, 빙하, 도시) 에 들어갈 때, 그 지형이 어떤 형태든 자신의 등짐 (시스템) 안에 들어오게 만드는 능력입니다.
의미: AI 는 새로운 도구나 새로운 규칙이 생겼을 때, 시스템이 깨지지 않고 그 새로운 것들을 자신의 내부 구조로 자연스럽게 받아들여야 합니다.

② 동적 안정성 (Stability): "흔들리지 않는 중심"

비유: 배가 거친 바다 (변덕스러운 환경) 를 항해할 때, 파도가 치더라도 배가 뒤집히지 않고 제자리를 유지하는 능력입니다.
의미: AI 가 배우고 기억을 업데이트할 때, 너무 급하게 변해서 과거의 지식을 다 잊어버리거나 (망각), 엉뚱한 방향으로 미쳐버리지 않도록 안정적인 흐름을 유지해야 합니다.

③ 제한된 능력 (Capacity): "무한한 욕심은 금물"

비유: 배의 적재량을 정해두는 것입니다. 너무 많은 짐을 싣으면 배가 가라앉습니다.
의미: AI 가 배우는 정보의 양이 무한정 늘어나면 시스템이 과부하가 걸립니다. SMGI 는 AI 가 **무엇을 배울지, 무엇을 버릴지 (기억 관리)**를 통제하여 시스템이 붕괴되지 않도록 '적재량'을 관리해야 한다고 말합니다.

④ 평가의 불변성 (Evaluative Invariance): "변하지 않는 나침반"

비유: 탐험가는 목적지를 바꾸거나 도구를 바꿀 수는 있지만, "무엇이 옳고 그른지"를 판단하는 나침반의 기본 원리 (예: '사람을 해쳐서는 안 된다') 는 절대 바꾸면 안 됩니다.
의미: AI 가 새로운 상황에 적응할 때, 그 과정에서 **안전 규칙이나 핵심 가치 (윤리)**가 사라지거나 왜곡되어서는 안 됩니다. 이것이 바로 '안전한 AI'의 핵심입니다.

3. 왜 이 이론이 중요한가?

지금까지의 AI 연구는 **"더 많은 데이터를 주고, 더 큰 모델을 만들면 똑똑해진다 (스케일링)"**는 접근이었습니다. 마치 차를 더 빠르게 만들려면 엔진을 더 크게 만드는 것과 비슷합니다.

하지만 SMGI 는 말합니다.

"엔진이 커져도 **조향 장치 (방향) 와 브레이크 (안전)**가 제대로 작동하지 않으면, 더 빠른 차는 더 위험한 차일 뿐입니다."

이 논문은 AI 를 단순히 '데이터를 처리하는 기계'가 아니라, **자신의 구조를 통제하고 변형할 수 있는 '시스템'**으로 봅니다. 특히 AI 가 스스로 도구를 쓰거나, 새로운 규칙을 배우거나, 기억을 수정할 때 그 변화가 '허용된 범위' 안에서 안전하게 일어나는지를 수학적으로 증명하는 틀을 제시합니다.

4. 요약: 이 논문이 말하려는 것

기존 AI: 주어진 규칙 안에서 문제를 잘 푼다. (규칙이 바뀌면 망함)
SMGI (이론): 규칙 자체가 변할 때, 자신의 핵심 가치 (나침반) 는 지키면서 새로운 규칙에 적응하는 구조를 가진다.
핵심 메시지: 진정한 지능은 '무엇을 아는가'가 아니라, **'어떻게 변해도 흔들리지 않는가'**에 있습니다.

이 이론은 앞으로 개발될 AI 가 단순히 똑똑해지는 것을 넘어, 어떤 상황에서도 안전하고 일관된 행동을 할 수 있도록 '설계도'를 제공하는 것입니다. 마치 건물을 지을 때, 지진이나 태풍이 와도 무너지지 않도록 구조적 안전 기준을 먼저 세우는 것과 같습니다.

Each language version is independently generated for its own context, not a direct translation.

1. 연구 배경 및 문제 제기 (Problem)

현재의 인공지능 (특히 대규모 언어 모델 및 에이전트) 은 특정 태스크나 고정된 평가 기준 하에서 뛰어난 성능을 보이지만, **진정한 일반 인공지능 (AGI)**을 정의하는 이론적 기반은 부재합니다. 기존 학습 이론 (통계적 학습 이론, 강화학습 등) 은 다음과 같은 한계를 가집니다.

고정된 인터페이스 가정: 기존 이론들은 표현 (representation), 가설 공간 (hypothesis space), 평가 함수 (loss function), 메모리 구조가 고정되어 있다고 가정합니다.
구조적 변화의 부재: 현대 에이전트는 새로운 도구, 변화하는 목표, 다중 평가 regime, 진화하는 메모리 정책 등 인터페이스 자체의 구조적 변화에 직면합니다.
안전성 및 평가의 파편화: 안전성 (Safety) 과 평가 (Evaluation) 를 외부의 '가드레일'이나 '사후 처리'로 취급하여, 학습 시스템의 핵심 구조와 분리합니다. 이는 시스템이 스스로 진화하거나 새로운 환경에 적응할 때 일관성을 잃게 만듭니다.

핵심 질문: "확장 가능한 태스크 일반화 (Scalable Task Generalization) 와 진정한 일반 지능 (Genuinely General Intelligence) 을 구분하는 구조적 원리는 무엇인가?"

2. 방법론 및 이론적 프레임워크 (Methodology)

저자는 AGI 를 단순히 태스크 범위가 넓은 것이 아니라, 학습 인터페이스 자체의 구조적 진화를 통제할 수 있는 능력으로 정의합니다. 이를 위해 **구조적 일반 지능 모델 (Structural Model of General Intelligence, SMGI)**을 제안합니다.

2.1. 메타 모델 (Meta-Model) $\theta$

학습 시스템을 고정된 객체가 아닌, 다음과 같은 타입이 지정된 (Typed) 구조적 메타 모델로 정의합니다.
$\theta = (r, H, \Pi, L, E, M)$

$r$ (표현): 외부 관측치 ( $Z$ ) 를 내부 표현 공간 ( $X$ ) 으로 매핑하는 연산자.
$H$ (가설 공간): 표현에 기반한 예측자, 정책, 프로그램의 집합.
$\Pi$ (구조적 사전 지식/규제): 가설의 복잡도를 제어하는 사전 분포 또는 구조적 정규화 (SRM, MDL, PAC-Bayes 등).
$L$ (평가자 군): 단일 손실 함수가 아닌, 다양한 평가 regime 을 가진 평가자 군 $\{ \ell_k \}_{k=1}^K$ .
$E$ (환경/태스크 군): 학습이 수행되는 허용 가능한 환경의 집합.
$M$ (메모리): 지속적이고 구조화된 내부 상태 저장소 (기억, 망각 연산 포함).

2.2. 결합된 동역학 (Coupled Dynamics) $(\theta, T_\theta)$

SMGI 는 구조적 객체 $\theta$ 그 자체가 아니라, 구조적 존재론 ( $\theta$ ) 과 이에 의해 유도된 행동 의미론 ( $T_\theta$ ) 의 결합체로 정의됩니다.

$T_\theta$ : 학습, 기억, 상호작용에 따른 동적 진화를 나타내는 확률적 동역학 연산자.
핵심 철학: 평가 (Normativity) 와 표현 (Representation) 은 학습 과정의 외부 요소가 아니라, 학습 객체의 **1 차적 구성 요소 (First-class objects)**로 내재화되어야 합니다.

2.3. 네 가지 구조적 의무 (Admissibility Obligations)

AGI 로 간주되기 위해서는 결합된 시스템 $(\theta, T_\theta)$ 이 다음 네 가지 조건을 만족해야 합니다.

구조적 폐쇄성 (Structural Closure): 허용 가능한 태스크/인터페이스 변환 ( $\tau \in \mathcal{T}$ ) 하에서 시스템이 잘 정의된 상태를 유지해야 함.
동적 안정성 (Dynamical Stability): regime 전환 및 메모리 상호작용 하에서 Lyapunov 함수 등을 통해 동적 발산이 통제되어야 함.
유계 통계적 용량 (Bounded Statistical Capacity): 허용 가능한 진화 경로에서 가설 공간의 통계적 복잡도 (VC 차원, PAC-Bayes 복잡도 등) 가 유계여야 함.
평가 불변성 (Evaluative Invariance): regime 변화 시 보호된 평가 핵심 (Normative Core) 이 인증된 메타 변환을 통해서만 업데이트되어야 함.

3. 주요 기여 및 결과 (Key Contributions & Results)

3.1. 구조적 일반화 경계 (Structural Generalization Bound)

기존의 PAC-Bayes 분석과 Lyapunov 안정성 이론을 결합하여, 구조적 진화 하에서의 일반화 오차 상한을 증명했습니다.

결과: 허용 가능한 변환 하에서, 일반화 오차는 (1) 통계적 복잡도 (PAC-Bayes 항), (2) 상태 의존적 드리프트 (Lyapunov 항), (3) 평가자 변화의 리프시츠 상한에 의해 통제됩니다.
의미: 인터페이스가 변하더라도 평가의 의미가 흔들리지 않도록 보장하면, 시스템은 안정적으로 일반화할 수 있음을 수학적으로 보였습니다.

3.2. 엄격한 구조적 포함 정리 (Strict Structural Inclusion Theorem)

정리: 기존의 통계적 학습 (ERM), 강화학습 (RL), 솔로모노프 유도 (Universal Induction), 최신 에이전트 파이프라인은 모두 SMGI 메타 프레임워크의 **구조적으로 제한된 특수 사례 (Degenerate Instances)**입니다.
증명: SMGI 는 다중 평가 regime ( $K > 1$ ) 과 타입 지정된 변환을 허용하므로, 단일 regime ( $K=1$ ) 을 가진 기존 시스템보다 표현력이 엄격하게 큽니다. 즉, 기존 시스템은 SMGI 의 부분집합에 불과합니다.

3.3. 평가자 업데이트의 인증 (Certified Evaluator Updates)

평가자의 변경을 단순한 최적화가 아닌, **인증된 업데이트 연산자 (CertUpdate)**로 모델링했습니다.
업데이트는 사전에 정의된 불변성 ( $\Phi$ , 예: 안전 제약) 을 검증하는 인증 과정을 통과해야만 허용됩니다. 이는 "가치 학습 (Value Learning)"을 구조적 제약 하에 두어 안전성을 보장합니다.

3.4. 기억과 망각의 구조적 재해석

기능적 망각 (Functional Forgetting): 망각을 단순한 데이터 손실이 아닌, 복잡도 제어 (MDL 관점) 와 안정성 유지를 위한 구조적 연산자로 정의했습니다.
계층적 기억: 작업 기억, 에피소드 기억, 의미 기억 등을 구조적으로 분리하여, 하위 계층의 업데이트가 상위 계층의 불변성을 훼손하지 않도록 제어합니다.

4. 기존 프레임워크와의 비교 및 위치 (Positioning)

논문은 SMGI 가 기존 이론들을 어떻게 포괄하고 확장하는지 분석합니다.

프레임워크	SMGI 관점에서의 해석	한계점
통계적 학습 (SLT)	고정된 인터페이스 하의 SRM/PAC-Bayes	인터페이스 변화 (표현, 평가자) 를 고려하지 않음.
강화학습 (RL)	단일 보상 함수를 가진 특수한 SMGI	평가자 (보상) 의 구조적 진화나 다중 regime 을 명시적으로 모델링하지 않음.
AIXI/솔로모노프	설명 길이 (Description Length) 를 통한 용량 제어 ( $\Pi$ )	동적 안정성 (Lyapunov) 과 평가자 불변성을 보장하지 않음.
메타러닝	업데이트 연산자 ( $\Pi$ ) 의 고차원화	메타 업데이트가 시스템의 구조적 안정성이나 평가 일관성을 보장하지는 않음.
최신 LLM/에이전트	확장된 태스크 커버리지를 가진 실체 (Realization)	평가자가 고정되어 있고, 안전성이 외부 가드레일에 의존함.

5. 의의 및 결론 (Significance & Conclusion)

5.1. 패러다임의 전환

규모 (Scale) 에서 구조 (Structure) 로: AGI 의 성패를 모델의 크기나 태스크 수로 판단하는 것을 넘어, **구조적 확장성 (Structural Extensibility)**과 **불변성 (Invariance)**의 보존 여부로 정의합니다.
외부 평가에서 내부 구조로: 안전성과 평가 기준을 시스템 외부의 가드레일이 아닌, 학습 메타 모델의 내부적 구성 요소로 통합합니다.

5.2. 실용적 함의

검증 가능성 (Falsifiability): AGI 의 성취를 "어떤 태스크를 해결하는가"가 아닌, "허용 가능한 환경 확장 하에서 구조적 불변성을 유지하며 안정적으로 진화하는가"로 검증 가능한 과학적 질문으로 바꿉니다.
안전한 진화: 시스템이 스스로를 수정하거나 새로운 도구를 학습할 때, 핵심 가치와 안전 제약이 파괴되지 않도록 인증된 구조적 변환을 강제합니다.

5.3. 결론

이 논문은 일반 인공지능을 위한 수학적으로 명시적인 구조적 이론을 제시합니다. SMGI 는 학습 시스템이 고정된 인터페이스를 넘어, 평가 기준과 표현 방식이 변화하는 환경에서도 안정성, 용량 제어, 평가 일관성을 유지하며 진화할 수 있는 필요충분 조건을 정의합니다. 이는 단순한 알고리즘 제안이 아니라, AGI 의 설계와 검증에 필요한 **형식적 메타-모델 (Formal Meta-Model)**을 제공합니다.