[기술 요약] 능동적 추론(Active Inference)을 이용한 AI 에이전시 표현형 분석 방법론

1. 문제 제기 (Problem Statement)

현재 AI 분야에서 '에이전시(Agency, 주체성)'에 대한 논의가 급증하고 있으나, 이를 정의하고 측정할 수 있는 개념적·계산적 도구는 부족한 실정입니다. 기존의 정의는 주로 **자율성(Autonomy)**과 **목표 지향성(Goal-directedness)**에 치중되어 있으나, 이는 시스템의 다차원적인 특성을 설명하기에 너무 단순합니다. 저자들은 AI 에이전시를 단순히 '독립적인 실행 능력'으로 보는 것을 넘어, 인간의 행위 이론과 유사한 정교한 기준(의도성, 합리성, 설명 가능성)으로 정의하고 이를 정량화할 수 있는 방법론이 필요하다고 주장합니다.

2. 방법론 (Methodology)

2.1 에이전시의 새로운 정의

논문은 철학적 근거를 바탕으로 에이전시를 다음 세 가지 차원으로 재구성합니다:

1. 의도성 (Intentionality): 행동이 에이전트의 내부 상태(믿음과 욕구)에 근거함.
2. 합리성 (Rationality): 행동이 세계 모델(World Model)을 통해 도출된 규범적으로 일관된 결과임.
3. 설명 가능성 (Explainability): 행동이 내부 상태와 인과적으로 연결되어 관찰자가 그 이유를 추적할 수 있음.

2.2 능동적 추론 (Active Inference) 프레임워크

저자들은 위 세 가지 기준을 구현할 최적의 계산 모델로 **능동적 추론(Active Inference)**을 제안합니다. 능동적 추론은 부분 관측 마르코프 결정 과정(POMDP)을 기반으로 하며, 다음과 같은 메커니즘을 통해 에이전시를 실현합니다:

• 믿음(Beliefs): 은닉 상태(Hidden states)에 대한 사후 확률.
• 욕구(Desires/Preferences): 관찰될 결과에 대한 사전 선호도(Prior preferences).
• 행동 선택: 기대 자유 에너지(Expected Free Energy, EFE) 최소화를 통해 믿음과 선호 사이의 불일치를 줄이는 방향으로 정책(Policy)을 결정.

2.3 정량적 지표: 임파워먼트 (Empowerment)

에이전시의 정도를 측정하기 위해 **임파워먼트(Empowerment)**를 사용합니다. 이는 행동과 예상되는 관찰 사이의 채널 용량(Channel Capacity), 즉 상호 정보량(Mutual Information)으로 정의됩니다. 에이전트가 환경을 더 잘 이해할수록(정보 획득), 환경에 미칠 수 있는 통제력(임파워먼트)이 높아진다는 원리를 이용합니다.

3. 주요 기여 및 실험 결과 (Key Contributions & Results)

3.1 T-Maze 실험을 통한 표현형(Phenotyping) 분류

단순화된 T-Maze 환경(정보를 얻기 위해 'Cue'를 먼저 확인해야 하는 과제)을 통해 에이전시의 수준을 세 가지 **표현형(Phenotypes)**으로 구분했습니다:

1. 저에이전시 (Low-agency / Zero-agency): 환경의 불확실성을 해소하지 못하고 함정(Trap)에 빠지는 상태. 임파워먼트가 0에 수렴하며, 행동이 환경의 변화를 이끌어내지 못함.
2. 중간 에이전시 (Intermediate-agency): 환경에 대한 불완전한 모델을 가진 상태. 행동의 선택지가 제한적이며 임파워먼트가 중간 수준임.
3. 고에이전시 (High-agency): 탐색적 행동(Epistemic foraging)을 통해 불확실성을 해소하고 임파워먼트를 극대화하는 상태. 'Cue'를 통해 정보를 얻음으로써 환경에 대한 통제력을 최대화함.

3.2 핵심 발견

• 지식과 권능의 연결: 에이전트가 기대 자유 에너지를 최소화하기 위해 탐색적 행동을 수행하면, 이는 곧 환경에 대한 정보 획득으로 이어지고, 결과적으로 임파워먼트(통제력)를 증가시킴을 증명했습니다.
• 계산적 표현형 분석: 에이전트의 생성 모델(Generative model) 파라미터를 조절함으로써 에이전시의 특성을 체계적으로 변화시키고 측정할 수 있음을 보여주었습니다.

4. 의의 및 시사점 (Significance)

4.1 AI 거버넌스(Governance)로의 확장

본 논문의 가장 중요한 사회적 시사점은 에이전시 수준에 따른 거버넌스 전략의 변화를 제안한 것입니다:

• 저에이전시 시스템: 물리적 제약이나 외부 구조적 통제(External constraints)가 효과적임.
• 고에이전시 시스템: 외부적 통제만으로는 한계가 있으며, 에이전트의 내부 선호도(Prior preferences)를 조절하거나 사회적/규범적 가치를 모델 내부에 통합하는 내부적 조절(Internal modulation) 방식의 거버넌스가 필요함.

4.2 결론

이 논문은 AI 에이전시를 단순한 기술적 속성이 아닌, 측정 가능한 계산적 표현형으로 전환했습니다. 이는 향후 AGI(인공 일반 지능)의 발전 단계에 따라 AI를 어떻게 정의하고, 평가하며, 안전하게 통제할 것인지에 대한 이론적 가교를 제공합니다.