Computational Concept of the Psyche

이 논문은 의식을 생체 또는 인공 주체의 운영체제로 정의하고, 주체의 필요와 감각을 고려한 상태 공간에서의 경험적 학습을 통해 불확실성 하에 최적의 의사결정을 내리는 인공일반지능 (AGI) 의 계산적 개념과 형식화를 제시합니다.

핵심

🧠 핵심 아이디어: 마음은 '운영체제'다

저자들은 인간의 마음 (정신) 이나 AI 의 두뇌를 단순히 '지식'이 아니라, **생존을 위해 작동하는 '운영체제 **(OS)로 봅니다.

• 비유: 스마트폰을 생각해 보세요. 앱 (지식) 이 아무리 많아도, 스마트폰이 켜지려면 **배터리 **(에너지)와 **작동 원리 **(운영체제)가 필요합니다.
• 이 논문은 AI 가 인간처럼 똑똑해지려면, 단순히 데이터를 많이 쌓는 게 아니라 **"무엇을 위해 살 것인가 **(욕구)를 정의하고, 그 욕구를 채우기 위해 최선의 선택을 하는 시스템을 만들어야 한다고 말합니다.

---

🎯 1. 마음의 구조: 욕구와 감정의 게임

이 모델에서 마음은 크게 세 가지 공간으로 나뉩니다.

1. **욕구의 공간 **(Needs Space)
   • 비유: 배고픔, 졸음, 호기심, 안전에 대한 갈망 등 우리 몸과 마음이 원하는 것들의 **'체크리스트'**입니다.
   • 이 체크리스트는 고정된 게 아니라, 상황에 따라 중요도가 바뀝니다. (예: 배가 고프면 '음식'이 1 순위, 배가 부르면 '재미'가 1 순위가 됨)
2. **감각의 공간 **(Sensations Space)
   • 비유: 눈으로 보는 것, 귀로 듣는 것, 피부가 느끼는 것 등 세상으로부터 들어오는 정보입니다.
3. **행동의 공간 **(Actions Space)
   • 비유: 손으로 잡기, 발로 차기, 말하기 등 내가 할 수 있는 모든 행동입니다.

이 세 가지가 섞여 **'마음의 상태 공간 **(Psyche Space)을 만듭니다. AI 는 이 공간 안에서 "지금 내가 무엇을 원하고, 세상은 어떻게 변하고, 내가 무엇을 할 수 있을까?"를 계산합니다.

---

⚖️ 2. 의사결정: "기대 vs 위험"의 저울

AI 가 결정을 내릴 때는 단순히 "무엇이 가장 좋은가?"만 보지 않습니다. 생존과 효율성을 고려합니다.

• 비유: 길을 갈 때 "가장 빠른 길"만 고르는 게 아니라, "교통사고 위험이 적은 길", "연료를 아낄 수 있는 길"을 함께 고려하는 것과 같습니다.
• 감정의 역할: 여기서 감정은 중요한 신호등 역할을 합니다.
  • **기분 좋은 감정 **(행복) = "이 행동이 욕구를 잘 채웠구나! 다시 해라!" (보상)
  • **기분 나쁜 감정 **(슬픔/아픔) = "이건 위험하거나 욕구를 채우지 못했어! 멈춰라!" (경고)
  • 이 논문은 AI 가 이 감정을 통해 학습한다고 봅니다. 즉, AI 는 감정을 통해 "무엇이 좋은 일이고 나쁜 일인지" 스스로 깨닫습니다.

---

🧩 3. 두 가지 뇌 시스템 (빠른 생각 vs 느린 생각)

인간의 뇌는 두 가지 방식으로 작동한다는 데, 이 모델도 이를 그대로 가져옵니다.

1. **시스템 1 **(빠른 뇌)
   • 비유: 뜨거운 물체를 보고 손을 떼는 반사 신경이나, 익숙한 길에서 무의식적으로 운전하는 것.
   • AI 에서는 **딥러닝 **(신경망)이 담당합니다. 빠르게 반응하지만, 설명할 수는 없습니다.
2. **시스템 2 **(느린 뇌)
   • 비유: 복잡한 수학 문제를 풀거나, 새로운 계획을 세울 때 쓰는 논리적 사고.
   • AI 에서는 **기호 논리 **(Symbolic Logic)나 지식 그래프가 담당합니다. 천천히 생각하지만, 이유를 설명할 수 있습니다.

이 두 시스템이 서로 협력하고 경쟁하며 AI 가 똑똑하게 행동하도록 돕습니다.

---

🏓 4. 실험: 탁구 치는 AI

저자들은 이 이론을 검증하기 위해 간단한 실험을 했습니다.

• 상황: AI 가 탁구 배트를 들고 벽에 공을 치는 게임을 합니다.
• 학습 방식:
  • 공을 잘 치면 "행복" (보상) 을 줍니다.
  • 공을 잘못 쳐서 배트에 맞으면 "슬픔" (경고) 을 줍니다.
  • 중요한 발견: AI 가 "슬픔을 피하는 것"과 "행복을 얻는 것"을 똑같이 중요하게 생각하면, 공을 치는 법을 배우는 속도가 느려졌습니다. 두려움 때문에 새로운 시도를 못 했기 때문입니다.
  • 하지만 "행복을 얻는 것"을 더 중요하게 생각하게 만들자, AI 는 실패를 두려워하지 않고 새로운 전략을 시도하며 빠르게 배웠습니다.

---

💡 결론: 왜 이 연구가 중요한가?

지금까지의 AI 는 "정답을 맞추는 것"에 집중했다면, 이 논문이 제안하는 AI 는 **"생존하고, 목표를 달성하며, 에너지를 아끼는 존재"**가 됩니다.

• 핵심 메시지: 진정한 인공지능 (AGI) 을 만들려면, AI 에게 **"무엇을 원할지 **(욕구)를 심어주고, **감정 **(보상과 처벌)을 통해 스스로 학습하게 해야 합니다.
• 마치 부모님이 아이를 키울 때, 단순히 지식을灌输하는 게 아니라 "무엇이 좋은 일인지, 무엇이 나쁜 일인지" 경험을 통해 가르치는 것과 같은 원리입니다.

이 모델이 완성된다면, 인간처럼 자발적으로 목표를 세우고, 위험을 감수하며, 에너지를 효율적으로 쓰는 진정한 인공지능을 만들 수 있을 것입니다.

기술 요약

논문 요약: 인공지능 에이전트를 위한 계산적 정신 (Psyche) 개념

1. 문제 제기 (Problem)

• 인공 일반 지능 (AGI) 의 부재: 기존의 AGI 연구는 주로 확률적 예측이나 논리적 추론에 집중하고 있으며, 생명체의 생존과 번식을 위한 핵심 동력인 '내부 동기 (needs)'와 '정서 (emotions)'를 체계적으로 통합하지 못했습니다.
• 효율성 및 위험 관리의 결여: 기존 확률적 모델들은 자원 소모 (에너지 효율성) 와 실존적 위험 (존재 위협) 을 명시적으로 고려한 의사결정 구조가 부족합니다.
• 의식의 역할에 대한 오해: 인간 의식은 '시스템 1(반사적/직관적)'과 '시스템 2(의식적/전략적)'로 나뉘며, 의식은 전체 생명 과정을 통제하지는 못하지만, 생존을 위한 최적의 의사결정을 내리는 하위 시스템이 필요합니다.
• 목표: 인간과 유사한 수준의 AGI 를 구축하기 위해, 생물의 정신을 '운영체제 (OS)'로 간주하고, 이를 계산적으로 형식화하여 에이전트가 불확실한 환경에서 생존 에너지 (Survival Energy) 를 극대화하고 위험을 최소화하는 시스템을 만드는 것입니다.

2. 방법론 (Methodology)

가. 개념적 프레임워크: 정신을 운영체제로 간주

• 정신 (Psyche): 에이전트 (생물 또는 인공) 의 삶을 관리하는 운영체제로 정의됩니다.
• 지능 (Intelligence): 주어진 환경에서 제한된 자원으로 복잡한 목표를 달성하기 위한 의사결정 하위 시스템입니다.
• 핵심 요소:
  • 욕구의 공간 (Space of Needs): 에이전트의 상태 공간 내 핵심 요소로, 생리적/심리적 욕구의 우선순위와 충족도를 벡터 또는 텐서 (행렬) 로 표현합니다.
  • 감정 (Emotions): 욕구 충족 또는 실패에 대한 정신적 반응으로, 시스템의 상태를 변화시키고 행동의 우선순위를 조정하는 정보 신호 역할을 합니다.
  • 생존 에너지 (Survival Energy): 물리적 에너지뿐만 아니라, 목적 지향적 활동을 수행하기 위한 보편적 화폐 (Universal Currency) 로서, 모든 행동의 효율성을 평가하는 기준이 됩니다.

나. 수학적 형식화 (Mathematical Formalization)

• 상태 공간 (Space of States): 감각 (Sensations), 행동 (Actions), 욕구 (Needs) 가 결합된 텐서 공간으로 정의됩니다.
• 동기 벡터 (Motivational Vector, $z$): 장기적 우선순위 (성격 프로파일, $x$) 와 단기적 불만족도 (실제화, $y$) 의 내적 곱 ($z = x \cdot y$) 으로 정의됩니다.
• 의사결정 알고리즘:
  • 마르코프 의사결정 과정 (MDP) 확장: 전통적인 강화학습 (RL) 의 보상 (Reward) 을 넘어, '전망 이론 (Prospect Theory)'을 기반으로 긍정적/부정적 결과의 확률과 주관적 효용을 모두 고려합니다.
  • 다목적 최적화: 효용 (Utility), 안전성 (Safety), 비용 (Cost) 을 동시에 고려하여 최적의 행동을 선택합니다.
  • 학습 함수 ($L$): 명시적 보상 (보상/처벌) 과 암묵적 보상 (예측 가능성, 에너지 효율성) 을 분리하여 학습합니다.
    • $U(\{s_\tau\}, s'_0) = L(x \cdot (y_t - y_{t+1}), s'_t - s_t, E(a_t))$

다. 하이브리드 신경 - 심볼릭 아키텍처 (Hybrid Neuro-Symbolic Architecture)

• 시스템 1 (신경망): 딥러닝, 트랜스포머 등을 활용한 연상 네트워크로, 빠른 직관적 판단을 담당합니다.
• 시스템 2 (심볼릭): 지식 그래프, 논리 규칙 등을 활용한 해석 가능한 모델로, 전략적 계획과 추론을 담당합니다.
• 텐서 논리 (Tensor Logic): 두 시스템을 연결하여 지식의 상호 변환과 전이가 가능하도록 합니다.
• 4 계층 메모리 구조:
  1. 장기 일화 기억 (Episodic Memory): 모든 상호작용 로그 저장 (catastrophic forgetting 방지).
  2. 모델 메모리 (Model Memory): 신경망 또는 심볼릭 규칙 형태의 세계 모델.
  3. 작업 컨텍스트 (Operational Context): 단기 기억으로 의사결정 지원.
  4. 주의 초점 (Attention Focus): 현재 상황 및 입력 데이터.

3. 주요 기여 (Key Contributions)

1. 정신의 계산적 모델 제안: 정신을 '욕구의 공간'을 가진 운영체제로 정의하고, 이를 AGI 의 핵심 아키텍처로 제안했습니다.
2. 생존 에너지 기반의 효용 함수: 기존 확률적 모델을 넘어, 에너지 효율성과 실존적 위험을 포함한 다목적 최적화 함수를 도입했습니다.
3. 하이브리드 학습 프레임워크: 신경망 (System 1) 과 심볼릭 (System 2) 의 통합을 통해 설명 가능한 AGI 를 구현할 수 있는 아키텍처를 제시했습니다.
4. 학습 전략의 정교화: 긍정적 보상과 부정적 보상의 균형을 맞추는 것이 학습 속도와 탐험 (Exploration) 능력에 미치는 영향을 이론화하고 실험했습니다.

4. 실험 결과 (Results)

• 실험 환경: '단일 플레이어 탁구 (Single-player Ping-Pong)' 시뮬레이션 환경에서 에이전트 학습 수행.
• 4 차원 욕구 공간:
  1. 행복 (Happy): 공을 벽에 맞히는 긍정적 보상.
  2. 슬픔 (Sad): 공을 플레이어에게 맞히는 부정적 보상 (회피).
  3. 새로움 (Novelty): 새로운 상태 발견에 대한 보상.
  4. 예측 가능성 (Expectedness): 예상과 실제의 일치도.
• 주요 발견:
  • 부정적 보상의 억제 효과: 에이전트가 긍정적 보상과 부정적 회피를 동등하게 중요하게 여기도록 설정 ($x$ 프로파일 균등) 했을 때, 학습 속도가 느려지거나 특정 조건에서 학습이 불가능해졌습니다. 이는 부정적 피드백이 에이전트의 탐험 활동을 억제하고 새로운 전략 시도를 처벌하기 때문입니다.
  • 긍정적 보상 우선의 효과: 긍정적 보상을 부정적 회피보다 우선시하도록 설정했을 때, 모든 실험 조건에서 안정적인 학습과 게임 기술 습득이 가능했습니다.
  • 결론: 학습 효율성을 높이기 위해서는 부정적 피드백의 영향력을 완화하고 긍정적 강화에 더 중점을 두는 전략이 필요함을 시사합니다.

5. 의의 및 결론 (Significance)

• AGI 구축의 새로운 패러다임: 단순한 데이터 처리나 패턴 인식을 넘어, '생존'과 '동기'를 기반으로 한 에이전트 설계의 이론적 토대를 마련했습니다.
• 실용적 적용 가능성: 제안된 형식화와 아키텍처는 실제 AGI 시스템 구현을 위한 구체적인 청사진을 제공합니다.
• 미래 연구 방향: 인간과 유사한 수준의 지능을 가진 에이전트를 만들기 위해서는 욕구 공간의 계층적 구조 (개인, 가족, 사회 등) 와 에너지 효율성, 위험 관리의 통합이 필수적임을 강조하며, 이를 위한 추가적인 실험과 연구를 촉구합니다.

이 논문은 심리학, 시스템 이론, 경제학, 컴퓨터 과학을 융합하여 인공 지능의 '마음 (Mind)'을 구성하는 계산적 원리를 체계적으로 규명한 중요한 연구로 평가됩니다.