A Theory of Appropriateness That Accounts for Norms of Rationality

1. 연구 배경 및 문제 제기 (Problem)

• 기존 패러다임의 한계: 사회과학과 인지과학의 기존 이론들은 주로 '개인 중심 (Individual-first)' 접근법을 취합니다. 이는 개인을 Tabula Rasa(백지 상태) 나 고정된 효용 함수를 가진 합리적 행위자 (Rational Agent) 로 가정하고, 사회 현상을 개인의 행동 집합으로 설명하려 합니다. 특히 합리적 선택 이론 (Rational Choice Theory) 은 행동을 외부에서 주어진 (Exogenous) 효용 또는 보상 신호를 극대화하는 과정으로 설명합니다.
• 설명력의 부족: 이러한 접근법은 인간의 규범적 행동이 가진 다음과 같은 5 가지 핵심 특징 (Stylized Facts) 을 설명하는 데 한계가 있습니다.
  1. 맥락 의존성 (Context-dependence): 상황, 역할, 문화에 따라 적절성이 달라짐.
  2. 임의성 (Arbitrariness): 규범의 내용이 역사적 우연에 의해 결정되며, 논리적 필연성이 없음.
  3. 자동성 (Automaticity): 의식적 고찰 없이 직관적이고 습관적으로 수행됨.
  4. 역동성 (Dynamism): 사회적 상호작용을 통해 빠르게 변화할 수 있음.
  5. 제재 (Sanctioning): 사회적 승인이나 불승인 (소문, 처벌 등) 을 통해 유지됨.
• 핵심 질문: 외부에서 주어진 효용 함수 없이, 어떻게 개인이 사회 구조와 문화를 내면화하여 위와 같은 복잡한 규범적 행동을 생성하고 유지할 수 있는가?

2. 방법론 및 이론적 프레임워크 (Methodology)

저자들은 '사회 중심 (Society-first)' 이론을 제안하며, 개인을 대규모 언어 모델 (LLM) 과 유사한 인지 아키텍처를 가진 사전 훈련된 행위자로 모델링합니다.

• 핵심 메커니즘: 예측적 패턴 완성 (Predictive Pattern Completion)

  • 개인의 의사결정은 "이런 상황의 나 같은 사람은 무엇을 할까?"라는 질문에 대한 답변을 생성하는 과정으로 정의됩니다.
  • 이는 LLM 이 문맥 (Context) 을 기반으로 다음 토큰을 예측하는 방식과 유사하게, 뇌의 글로벌 워크스페이스 (Global Workspace) 에서 분산된 상징적 패턴을 완성하는 과정입니다.
  • 수식적 표현: 행위자 $i$는 관찰 $o_t$와 기억 $M_t$를 바탕으로 글로벌 워크스페이스 $z_t$를 구성하고, 이를 통해 행동 $a_t$를 생성합니다.
    $$a_t \sim p(\cdot | \phi_\pi(z_t))$$
    여기서 $p$는 패턴 완성 네트워크 (LLM), $\phi$는 프레이밍 함수입니다.

• 인지 아키텍처의 이중성 (Explicit vs. Implicit Norms)

  • 명시적 규범 (Explicit Norms): 언어로 표현 가능한 규칙 (법, 규정). 해마 (Hippocampus) 기반의 장기 기억에 저장되며, 컨텍스트 내 학습 (In-context learning) 을 통해 의식적으로 접근됩니다.
  • 암묵적 규범 (Implicit Norms): 언어로 명확히 표현하기 어려운 습관적 행동. 대뇌 피질 (Neocortex) 의 가중치 (Weights) 에 통합되어 자동화됩니다. 이는 장기 기억의 고착화 (Consolidation) 과정을 통해 형성됩니다.

• 의사결정 논리 (Decision Logics)

  • 논리 A (합리성): 옵션 식별 $\rightarrow$ 결과 평가 $\rightarrow$ 기대값 최대화. (이는 문화적으로 학습된 하나의 규범적 스크립트로 간주됨)
  • 논리 B (적절성): "이 상황은 어떤 상황인가?" $\rightarrow$ "나는 어떤 사람인가?" $\rightarrow$ "나 같은 사람이 이 상황에서 무엇을 하는가?" (이론의 핵심 메커니즘)

• 사회적 상호작용 모델링:

  • 관습 (Conventions): 선행 사례의 무게 (Weight of Precedent) 에 의해 재생산되는 행동 패턴.
  • 제재 (Sanctions): 사회적 승인/불승인 신호. 이는 RL 의 보상 신호가 아닌, 맥락 정보를 변경하여 패턴 완성 확률 $p(a)$를 변화시키는 상징적 정보로 작용합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

이론은 5 가지 규범적 행동의 특징을 다음과 같이 통합적으로 설명합니다.

1. 맥락 의존성 설명: 글로벌 워크스페이스에 포함된 관찰, 정체성, 문화적 맥락이 패턴 완성 네트워크의 입력을 결정하므로, 상황에 따라 적절성이 자연스럽게 변합니다.
2. 임의성 설명: 관습은 초기에 임의적일 수 있으나, 일단 확립되면 선행 사례의 무게와 제재를 통해 자기 강화됩니다. LLM 의 가중치가 특정 문화적 데이터로 훈련된 결과이므로, 규범의 내용이 반드시 논리적이어야 할 필요가 없습니다.
3. 자동성 설명: 암묵적 규범은 신경망 가중치에 고착화되어 짧은 체인 오브 씽킹 (Short Chain of Thought) 으로 즉시 반응합니다. 반면, 명시적 규범은 긴 추론 체인이 필요하므로 인지 부하 (Cognitive Load) 하에서는 약화됩니다. 이는 '이중 처리 이론 (Dual-process theory)'을 단일 신경망의 가중치와 추론 길이 차이로 재해석합니다.
4. 역동성 설명: 제재 (Sanctioning) 는 3 자에게도 신호를 보내며, 집단적 행동의 변화가 임계점 (Tipping Point) 을 넘으면 새로운 관습이 급격히 확산됩니다.
5. 합리성의 재정의 (Rationality as a Norm):
   • 가장 중요한 기여: 합리성 (Utility Maximization) 은 보편적인 진리가 아니라, 특정 문화적 맥락에서 학습된 **규범적 실천 (Normative Practice)**입니다.
   • "합리적인 선택"은 효용 함수를 극대화하는 것이 아니라, 해당 공동체의 인식적 규범 (Epistemic Norms) 에 부합하는 패턴을 완성하는 것입니다.
   • 예: 경제학자가 비용 - 편익 분석을 수행하는 것은 외부의 효용 신호 때문이 아니라, "경제학자로서 해야 할 일"이라는 암묵적/명시적 규범을 따르기 때문입니다.

• 편향된 추론 (Motivated Reasoning) 설명:
  • 정체성 보호를 위한 암묵적 규범이 명시적 추론 논리를 장악하여, 논리적 오류를 합리화하는 과정을 설명합니다. 이는 '시스템 2'가 항상 진리를 찾는다는 낙관적 이중 처리 이론을 반박합니다.

4. 의의 및 시사점 (Significance)

• 오컴의 면도날 (Parsimony): 합리적 선택 이론이 필요로 하는 외부의 효용 함수 (Exogenous Utility) 와 선호도 설정을 제거하고, **단 하나의 메커니즘 (예측적 패턴 완성)**으로 사회적 질서, 규범, 그리고 합리성까지 설명합니다. 이는 더 간결하고 강력한 설명력을 가집니다.
• 내생적 선호 형성 (Endogenous Preference Formation): 개인의 선호는 고정된 것이 아니라, 사회적 상호작용과 경험을 통해 패턴 완성 네트워크가 학습하는 과정에서 동적으로 형성됩니다. 이는 기존 이론이 설명하기 어려웠던 선호의 변화와 문화적 차이를 자연스럽게 설명합니다.
• 사회학 및 인지과학의 통합: 거시적 사회 구조 (문화, 제도) 와 미시적 인지 과정 (신경망, 기억) 을 연결하는 메커니즘을 제공합니다. 개인은 사회에 의해 구성되고 (Constituted), 다시 사회를 구성하는 (Co-constituted) 관계임을 computationally 증명합니다.
• AI 및 시뮬레이션에의 적용: Concordia 나 Generative Agents 와 같은 LLM 기반 에이전트 모델링을 통해, 문화적 능력을 갖춘 성인의 복잡한 사회적 역학을 시뮬레이션할 수 있는 새로운 이론적 기반을 마련했습니다.

결론

이 논문은 인간 행동을 '효용 극대화'가 아닌 **'맥락 기반의 패턴 완성'**으로 재해석함으로써, 합리성 자체가 문화적으로 구성된 규범임을 주장합니다. 이는 사회 질서의 기원을 개인이 아닌 사회 구조와 문화적 학습에서 찾으며, 인공지능과 사회과학의 교차점에서 인간 행동을 이해하는 새로운 패러다임을 제시합니다.