Foundational Requirements for Artificial General Intelligence: A Falsifiable Framework Based on Signal Prediction

기술 요약: 인공 일반 지능(AGI)을 위한 기초적 요구사항

문제 정의
본 논문은 지능에 대한 정밀한 정의의 부재와 생물학적 뇌의 작동 방식에 대한 제한적인 이해가 인공 일반 지능(AGI) 개발을 저해하고 있다는 점을 다룹니다. 현재의 AI 시스템은 특정 벤치마크를 최적화함으로써 좁은 범위의 과업에서 높은 성능을 달구곤 하지만, 이는 특화된 유능함과 일반 지능을 혼동하는 것입니다. 이러한 시스템은 종종 기존의 의미론적 구조나 고수준의 상징적 표현에 의존하며, 이는 기호가 감각적 상호작용 없이는 내재적 의미를 갖지 못하는 "기호 접지 문제(symbol grounding problem)"를 해결하지 못합니다. 저자들은 사전에 정의된 과업에 대한 고수준 행동을 목표로 삼는 것은 불충분하며, 대신 일반 지능의 발현에 필요한 저수준의, 아키텍처 독립적인 행동 요구사항으로 초점을 전환해야 한다고 주장합니다.

방법론
저자들은 고수준의 지능이 저수준의 신호 처리로부터 발현된다는 가설에 근거하여, 검증 가능한(falsifiable) 프레임워크를 제안합니다. 지능을 정의하기보다는, AGI 후보로 간주되기 위해 필요한 조건들을 일련의 필수 조건(충분조건은 아님)으로 정의합니다.

1. 가설: 인간 수준의 일반 지능을 가진 시스템은 12가지 특정 요구사항을 충족해야 합니다. 이 요구사항들은 외부의 의미론적 지식 없이 공간적 및 시간적으로 구조화된 이진 신호에 대한 예측을 통해 학습하는 적응형 시스템의 특성을 규정합니다.
2. 테스트베드 (AGITB): 이 요구사항들을 실행하기 위해, 저자들은 인공 일반 지능 테스트베드(AGITB)를 도입합니다. 이는 각 요구사항에 대해 하나씩 구성된 투명하고 재사용 가능한 경험적 테스트 세트입니다.
   • 입력 공간: 시스템은 10비트 이진 벡터($L=10$)의 시퀀스를 처리합니다. 입력 공간은 "절대 불응기(absolute refractory period)"(연속된 타임스텝에서 비트가 '1'일 수 없음)에 의해 제한되어, 허용 가능한 시퀀스의 특정 부분 집합을 생성합니다.
   • 과업: 시스템은 과거 이력을 바탕으로 시퀀스의 다음 입력을 예측해야 합니다.
   • 평가 기준: 테스트베드는 "전부 아니면 전무(all-or-nothing)" 기준을 채택합니다. 시스템이 AGI 후보로 간주되려면 12가지 요구사항별 테스트를 모두 통과해야 합니다. 각 테스트는 통계적 유의성보다는 견고함을 보장하기 위해 스트레스 테스트(예: 5,000회의 반복 시행)로 설계되었습니다.
   • 반증 가능성: 프레임워크는 반증 가능하도록 설계되었습니다. 만약 명백히 지능이 없는 시스템(예: 협소한 알고리즘)이 12가지 테스트를 모두 통과한다면, 이 요구사항들이 AGI를 위한 필수 조건이라는 가설은 기각됩니다.

12가지 요구사항
프레임워크는 12가지의 최소적이고 상호작용하는 요구사항을 식별합니다:

1. 무정보 상태의 시작 (Uninformed Start): 모델은 환경 특유의 지식이 없는 동일한 빈 초기 설정 상태에서 시작해야 합니다.
2. 결정론 (Determinism): 모델의 진화는 입력 이력에 대해 결정론적이어야 합니다.
3. 흔적 (Trace): 모든 입력은 영구적인 내부 흔적을 남겨야 하며, 구성이 반복되어서는 안 됩니다(순환 불가).
4. 시간 (Time): 모델의 진화는 엄격하게 입력의 순서에 의존해야 합니다(비가환성).
5. 절대 불응기 (Absolute Refractory Period): 학습은 연속적인 입력이 서로 겹치지 않는 시퀀스로 제한됩니다(생물학적으로 타당한 스파이크 제약).
6. 필연적 포화 (Inevitable Saturation): 시스템은 유한한 용량을 가집니다. 모든 가능한 시퀀스를 학습할 수는 없지만, 허용 가능한 길이-2 시퀀스는 모두 학습 가능해야 합니다.
7. 시간적 적응성 (Temporal Adaptability): 시스템은 다양한 사이클 길이를 가진 시퀀스를 학습해야 하며, 시간 척도의 변화에 적응해야 합니다.
8. 내용 민감도 (Content Sensitivity): 적응 시간은 입력 시퀀스의 복잡성에 따라 달라져야 합니다.
9. 맥락 민감도 (Context Sensitivity): 적응 시간은 모델의 내부 구성(이력)에 따라 달라져야 합니다.
10. 노이즈 제거 (Denoising): 정보가 있는 모델은 알려진 시퀀스 내에서 오염된 입력을 예측할 때 상수 베이스라인보다 우수한 성능을 보여야 합니다.
11. 일반화 (Generalisation): 모델은 접두사를 관찰한 후, 시퀀스의 보이지 않는 연속을 확률보다 더 잘 예측해야 합니다.
12. 실시간 활성 (Real-time Liveness): 각 모델 업데이트는 입력 이력과 무관하게 고정된 벽시계 시간(wall-clock time) 범위 내에 완료되어야 합니다.

주요 기여

• 운영 프레임워크: 본 논문은 예측 처리, 지속적 학습, 그리고 생물학적 근거를 단일한 아키텍처 불가지론적 기준으로 결합한 최초의 운영 가능한 반증 가능 프레임워크를 제공합니다.
• AGITB 테스트베드: 시스템을 12가지 요구사항에 따라 평가하는 공개적인 참조 구현체(C++)를 제공합니다.
• 저수준 신호로의 전환: 본 연구는 상징적 평가(기호 접지 문제를 겪는)에서 벗어나, 대뇌 피질의 신경 계산 원리와 일치하는 가공되지 않은 이진 신호 예측으로 이동합니다.
• 요구사항의 합성: 참신함은 개별 구성 요소가 아니라, 이 특정하고 저수준인 제약 조건들의 합성에 있습니다. 각 조건은 특화된 시스템에 의해 개별적으로 해결될 수 있지만, 결합되었을 때 후보 아키텍처에 훨씬 강력한 제약을 가합니다.

결과

• 경험적 상태: 현재까지 AGITB 테스트베드를 성공적으로 통과한 비지능적 시스템은 보고된 바 없습니다.
• 반례 시도: 저자들은 ChatGPT, Claude, Gemini와 같은 현대적 대규모 언어 모델(LLM)을 사용하여 테스트를 통과할 수 있는 코드를 합성하려는 시도를 했습니다. 이러한 모델들은 기준을 만족한다고 주장하는 코드를 생성했으나, AGITB 평가 절차 하에서 실행했을 때 생성된 솔루션 중 성공한 것은 없었습니다.
• 시스템 한계: 본 논문은 기존 시스템(상징적 프로그램, 표준 ANN, LLM)이 특정 요구사항, 특히 "무정보 상태의 시작"(사전 학습으로 인한 문제)이나 "실시간 활성" 또는 "흔적" 요구사항(고정된 컨텍스트 창과 같은 아키텍처 제약으로 인한 문제)에서 일반적으로 실패한다고 언급합니다.

의의 및 주장
본 논문은 AGITB를 통과하는 것이 일반 지능의 존재를 증명하는 것은 아니라고 겸허히 주장합니다. 대신, 이 테스트베드는 후보 경험적 이정표(candidate empirical milestone) 역할을 합니다.

• 필요조건이지 충분조건은 아님: 12가지 요구사항을 충족하는 것은 AGI를 위한 필요조건이라고 가설을 세웠으나, 고차원적인 추론이나 언어와 같은 능력을 보장하는 충분조건은 아닙니다.
• 반증 가능성: 주요 의의는 반증 능력에 있습니다. 만약 협소한 시스템이 이를 통과한다면, 해당 가설은 기각됩니다. 이러한 반례가 발견되지 않는 한, 테스트베드는 현대 시스템이 넘지 못하는 경계를 획정합니다.
• 방법론적 격차: 본 연구는 모호한 정의나 과업별 벤치마크를 넘어, 일반 지능의 전제 조건으로 가설화된 저수준 행동 제약들을 평가하기 위한 투명하고 재사용 가능한 방법을 제공함으로써 AGI 연구의 오랜 공백을 메웁니다.