Quantum formalism for cognitive psychology

이 논문은 양자 역학의 힐베르트 공간과 폰 노이만 - 뤼더스 투사 공리를 사용하여 정보 획득에 따른 인지 상태의 동역학을 모델링하고, 이를 베이지안 업데이트 및 자유 에너지 원리와 연결하면서도 고전적 추론을 넘어선 새로운 인지 행동 설명 가능성을 제시합니다.

핵심

1. 마음은 '동시에 여러 상태'일 수 있다 (중첩의 원리)

기존의 생각:
우리는 보통 "내 마음은 이미 정해져 있다"고 생각합니다. 동전을 던지기 전에도 내 마음속에는 '앞면'이 될지 '뒷면'이 될지 이미 결정되어 있고, 내가 모르고 있을 뿐이라고 생각하죠.

이 논문의 생각:
하지만 저자는 "아니다, 결정이 내려지기 전까지 내 마음은 '앞면'과 '뒷면'이 동시에 섞여 있는 상태"라고 말합니다.

• 비유: 동전 던지기를 기다리는 당신의 마음은, 동전 자체가 앞면인지 뒷면인지가 아니라, **"앞면일 수도 있고 뒷면일 수도 있는 '모호한 상태'"**입니다.
• 양자역학에서는 이를 **중첩 (Superposition)**이라고 부릅니다. 당신의 마음은 '앞면'과 '뒷면'이라는 두 가지 가능성이 공존하는 상태에 있는 것입니다.

2. 정보를 얻으면 마음이 '확정'된다 (측정과 붕괴)

상황:
동전 던지기 결과를 알려주거나, 친구가 "내일 비가 올 것 같아"라고 말해줄 때, 당신의 마음은 어떻게 변할까요?

이 논문의 설명:
정보를 얻는 순간, 당신의 마음속의 '모호한 상태'는 한 가지 확실한 상태로 **확정 (붕괴)**됩니다.

• 비유: 안개 낀 산 정상에 서 있다고 상상해 보세요. 안개 (정보 부족) 가 끼어 있어 앞이 보이지 않습니다. 당신은 "아마도 왼쪽에 길이 있겠지, 아니면 오른쪽?"이라고 생각하며 두 가지 가능성을 동시에 품고 있습니다.
• 그런데 갑자기 안개가 걷히고 길이 보입니다. 그 순간 당신의 마음속의 두 가지 가능성은 '왼쪽'이라는 하나의 확실한 길로 확정됩니다.
• 이 과정을 양자역학에서는 **투사 (Projection)**라고 부르며, 이 논문에 따르면 인간의 마음이 정보를 받아들이고 업데이트되는 과정이 바로 이 원리와 똑같다고 합니다.

3. 놀라움을 최소화하는 본능 (자유 에너지 원리)

인간은 왜 정보를 받아들이고 마음을 바꾸는 걸까요?

• 핵심 아이디어: 우리 뇌는 불확실성 (놀라움) 을 최소화하려는 본능이 있습니다.
• 비유: 당신이 길을 잃었을 때, 지도를 보지 않으면 "어디로 가야 할지 모르겠다"는 불안감 (높은 엔트로피/불확실성) 이 생깁니다. 지도 (정보) 를 얻으면 "아, 저쪽으로 가구나!"라고 확신이 생기고 불안감은 사라집니다.
• 이 논문은 양자역학의 수학적 공식을 통해, 인간이 정보를 받아들이는 과정이 수학적으로 '불확실성을 가장 빠르게 줄이는 경로'를 따른다는 것을 증명했습니다. 즉, 우리는 무의식적으로 '가장 놀라운 일이 일어나지 않는 상태'를 향해 마음을 움직인다는 뜻입니다.

4. 왜 우리는 잘못된 믿음에 집착할까? (고집 세운 베이지안)

이론의 가장 흥미로운 부분은 왜 사람들이 잘못된 정보나 편견을 쉽게 버리지 못하는지를 설명하는 부분입니다.

• 현상: 어떤 사람이 "A 가 정답이다"라고 굳게 믿고 있는데, 사실은 "B 가 정답"이라고 해도, 약간의 정보만 들어오면 그 사람은 "아, 틀렸구나"라고 바로 인정하지 않습니다.
• 이론의 설명:
  • 비유: 당신의 마음이 'A'라는 산꼭대기에 아주 가깝게 위치해 있다고 상상해 보세요. 'B'라는 산은 아주 멀리 있습니다.
  • 정보가 조금 들어와도, 당신의 마음은 'A'라는 산꼭대기에서 떨어지지 않으려 합니다. 왜냐하면 'A'에서 'B'로 가려면 일단 불확실성 (안개) 이 더 짙어지는 구간을 지나야 하기 때문입니다.
  • 우리 뇌는 불확실성을 싫어하므로, 불확실성이 잠시 증가하는 길 (A 에서 B 로 가는 길) 을 거부하고, 이미 익숙한 'A'라는 산꼭대기에 머무르려 합니다.
  • 이를 저자는 '고집 세운 베이지안 (Tenacious Bayesian)' 행동이라고 부릅니다. 이는 비합리적인 행동이 아니라, 뇌가 불확실성을 피하려는 합리적인 본능의 결과일 수 있습니다.

5. 질문 순서가 답을 바꾼다 (호환되지 않는 질문)

마지막으로, 이 논문은 양자역학만이 설명할 수 있는 현상을 소개합니다. 바로 질문 순서에 따라 답이 달라지는 경우입니다.

• 상황:
  • 질문 A: "클린턴은 정직한가?" -> "네" (50%)
  • 질문 B: "고어는 정직한가?" -> "네" (60%)
  • 하지만 질문 순서를 바꾸면 결과가 달라집니다. (고어 먼저 -> 클린턴 순서로 바꾸면 percentages 가 변함)
• 기존의 고전적 사고: 질문 A 와 B 는 서로 독립적이므로 순서가 바뀌어도 답은 같아야 합니다.
• 이 논문의 설명: 인간의 마음속에서 질문 A 와 B 는 **서로 충돌 (비호환)**할 수 있습니다.
  • 비유: 당신이 "오늘 점심에 피자 먹을래?"라고 물었을 때, 당신의 마음은 '피자'와 '국수' 사이에서 흔들립니다. 그런데 바로 옆에서 "오늘 날씨 어때?"라고 물어보면, 당신의 마음은 '피자/국수' 상태가 아니라 '날씨' 상태로 바뀝니다.
  • 이 두 질문 (피자 vs 날씨) 은 서로 다른 차원의 문제라 동시에 정답을 낼 수 없습니다.
  • 핵심: 질문 순서가 바뀌면, 마음의 상태가 먼저 '피자'로 고정된 후 '날씨'를 보는 것인지, 아니면 '날씨'로 고정된 후 '피자'를 보는 것인지가 달라지기 때문에 결과가 달라지는 것입니다.
  • 고전적인 수학으로는 이 현상을 설명할 수 없지만, 양자역학의 수학적 도구를 쓰면 자연스럽게 설명됩니다.

---

요약: 이 논문이 우리에게 주는 메시지

1. 마음은 확률의 구름이다: 결정하기 전까지 우리의 마음은 여러 가능성이 섞인 '구름' 같은 상태입니다.
2. 정보는 구름을 걷어낸다: 정보를 얻으면 그 구름이 걷히며 하나의 확실한 길이 나타납니다. 이 과정은 우리 뇌가 '놀라움'을 피하려는 본능에 의해 작동합니다.
3. 고집은 합리적일 수 있다: 우리가 잘못된 믿음에 집착하는 것은 단순히 바보가 아니라, 뇌가 '불확실성'이라는 위험을 피하려 하기 때문일 수 있습니다.
4. 새로운 가능성: 때로는 우리가 잘못된 길에 갇혔을 때, 질문하는 방식이나 관점 (비호환적인 질문) 을 바꾸는 것이 그 잘못된 길에서 빠져나가는 유일한 열쇠가 될 수 있습니다.

결론적으로, 이 논문은 인간의 복잡한 심리를 이해하기 위해 양자역학의 '수학적 렌즈'를 써야 할 때가 왔다고 말합니다. 이는 뇌가 양자 물리 법칙을 따른다는 뜻이 아니라, 인간의 불확실한 마음을 수학적으로 가장 잘 묘사하는 도구가 양자역학의 언어라는 것을 의미합니다.

기술 요약

논문 요약: 양자 형식주의를 통한 인지 심리학 모델링

저자: Dorje C. Brody (서리 대학교)
핵심 주제: 고차원 힐베르트 공간 (Hilbert space) 과 양자 역학의 수학적 형식주의를 적용하여 인간의 인지 상태 (마음의 상태) 와 의사결정 과정을 모델링하는 새로운 접근법 제시.

1. 연구 배경 및 문제 제기 (Problem)

• 기존 접근법의 한계: 전통적인 인지 심리학은 베이지안 업데이트 (Bayesian updating) 와 같은 고전적 확률론을 기반으로 합니다. 그러나 인간의 의사결정 과정에서 관찰되는 '질문 순서 의존성 (order dependence)', '맥락 변화에 따른 확률의 비연속성', 그리고 '잘못된 신념에 대한 집착 (confirmation bias)'과 같은 현상들은 고전적 확률론으로 설명하기 어렵거나 불가능한 경우가 많습니다.
• 연구의 목적: 뇌의 신경 생리학적 과정이 양자역학적인지 여부와는 무관하게, 수학적 도구로서의 힐베르트 공간 기법이 인간의 인지 행동을 모델링하는 데 얼마나 효과적이고 자연스러운지 증명하는 것입니다. 특히, 정보 획득에 따른 마음의 상태 변화를 동역학적으로 설명하고, 고전적 모델이 포착하지 못하는 새로운 통찰을 얻는 것을 목표로 합니다.

2. 방법론 (Methodology)

저자는 다음과 같은 양자 형식주의의 핵심 개념들을 인지 모델에 적용합니다.

• 마음의 상태 (State of Mind) 정의:

  • 개인의 선택에 대한 확률 분포를 고차원 힐베르트 공간의 벡터 $|\psi\rangle$로 표현합니다.
  • $N$개의 선택지가 있는 경우, 확률 $p_k$를 $\psi_k = \sqrt{p_k}$로 변환하여 $|\psi\rangle = \sum \sqrt{p_k}|e_k\rangle$ 형태의 중첩 상태 (superposition) 로 기술합니다.
  • 여러 의사결정이 얽혀 있는 경우 (예: 음식과 와인의 선택), 텐서 곱 (tensor product) 구조를 사용하여 얽힘 (entanglement) 상태를 모델링합니다.

• 동역학 및 정보 획득 (Dynamics & Information Acquisition):

  • 관측자 (Observable): 선택지는 에르미트 연산자 (실수 대칭 행렬) 로 모델링됩니다.
  • 노이즈와 신호: 정보 획득은 '신호 + 노이즈' ($\hat{\xi} = \hat{X} + \hat{\epsilon}$) 형태로 모델링됩니다. 여기서 $\hat{X}$는 선택 연산자, $\hat{\epsilon}$은 외부 환경의 노이즈입니다.
  • 상태 변화 (Projection Postulate): 정보 획득 후 마음의 상태 변화는 양자 역학의 **폰 노이만 - 뤼더스 투영 공리 (von Neumann-Lüders projection postulate)**에 따라 설명됩니다. 이는 측정 후 상태가 해당 측정값에 해당하는 부분 공간으로 투영되는 과정을 의미합니다.

• 수학적 도출:

  • 투영 공리를 적용하면, 조건부 확률이 베이지안 업데이트 공식과 일치함을 유도할 수 있습니다.
  • 연속 시간에서의 정보 흐름 (예: 브라운 운동으로 모델링된 노이즈) 을 가정하고, 이토 미적분 (Itô calculus) 을 사용하여 상태 벡터의 확률 미분 방정식을 유도합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

가. 베이지안 업데이트의 기하학적 해석 및 자유 에너지 원리와의 일치

• 폰 노이만 - 뤼더스 투영 공리는 고전적인 베이지안 업데이트와 수학적으로 동등함을 보였습니다.
• 더 나아가, 이 투영 과정은 미래의 '놀라움 (surprise)'을 최소화하는 경로임을 증명했습니다. 이는 뇌 과학의 **자유 에너지 원리 (Free Energy Principle)**와 직접적으로 연결됩니다. 즉, 마음의 상태는 정보 획득 시 불확실성 (엔트로피) 을 최소화하는 방향으로 진화하며, 이는 생물학적 시스템의 기본 원리와 일치합니다.

나. 불확실성 최소화 동역학과 '고집스러운 베이지안' (Tenacious Bayesian)

• 상태 공간을 투영 힐베르트 공간 (projective Hilbert space) 으로 축소하여 분석한 결과, **불확실성 (분산) 의 음의 기울기 흐름 (negative gradient flow)**이 상태 공간의 동역학을 주도함을 발견했습니다.
• 결과: 마음의 상태는 불확실성이 0 인 상태 (확실한 상태) 로 끌려가는 '끌개 (attractor)' 역할을 합니다.
• 의미: 만약 사람의 신념이 잘못된 선택지 (false alternative) 쪽으로 강하게 치우쳐 있다면, 합리적인 베이지안 업데이트를 하더라도 그 상태는 매우 견고하게 유지됩니다. 이는 **확증 편향 (confirmation bias)**의 기하학적 설명을 제공하며, 이를 탈출하려면 엔트로피가 일시적으로 증가해야 하므로 생물학적으로 불리하여 매우 어렵다는 것을 의미합니다.

다. 비가환성 (Non-commutativity) 과 고전적 모델의 한계 극복

• 고전적 한계: 모든 선택이 호환 가능 (commutative) 한 경우, 고전적 확률론으로 환원되지만, 질문 순서에 따른 효과나 새로운 대안의 출현 (prior probability가 0 인 경우) 을 설명할 수 없습니다.
• 양자적 해결: 선택 연산자가 **비가환 (non-commutative)**인 경우를 도입합니다.
  • 질문 순서 의존성: 질문 A 와 B 의 순서가 바뀌면 확률 결과가 달라지는 현상 (예: 클린턴과 고어의 정직성 질문 순서 효과) 을 비가환 연산자를 사용하여 정량적으로 설명할 수 있습니다.
  • 잘못된 신념 탈출: 만약 사람이 잘못된 신념 (예: $\hat{Y}$의 고유상태) 에 갇혀 있다면, 직접적인 정보 ($\hat{Y}$ 관련) 는 신념을 바꾸지 못합니다. 하지만 **비호환적인 정보 ($\hat{X}$ 관련)**를 먼저 제공하면, 상태가 $\hat{X}$의 고유상태로 투영된 후 다시 $\hat{Y}$에 대한 정보를 받으면 진실을 향해 상태가 변할 수 있습니다. 이는 고전적 논리에서는 불가능한, 양자 형식주의만의 새로운 해결책을 제시합니다.

4. 의의 및 결론 (Significance)

1. 인지 모델링의 패러다임 전환: 양자 역학의 수학적 구조 (중첩, 투영, 비가환성) 가 뇌의 물리적 양자 효과와 무관하게, 확률적 시스템으로서의 인간 인지를 모델링하는 데 매우 효과적이고 자연스러운 도구임을 입증했습니다.
2. 자유 에너지 원리의 정보 이론적 기반: 마음의 상태 변화가 불확실성 최소화를 통해 이루어진다는 점을 양자 투영 공리를 통해 명확히 보여주었으며, 이는 뇌의 작동 원리를 설명하는 자유 에너지 원리에 대한 강력한 지지 근거가 됩니다.
3. 비합리성 재해석: 사람들이 잘못된 정보나 신념에 집착하는 현상 (확증 편향) 이 비합리적이기 때문이 아니라, 불확실성 최소화를 추구하는 합리적인 동역학의 결과임을 수학적으로 설명했습니다.
4. 새로운 가능성 제시: 비가환 관측자의 도입은 고전적 확률론으로 설명 불가능한 인간의 인지 편향 (질문 순서 효과, 맥락 의존성) 을 설명할 뿐만 아니라, 잘못된 신념에 갇힌 개인을 구제할 수 있는 새로운 전략 (비호환 정보의 활용) 을 제시합니다.

결론적으로, 이 논문은 힐베르트 공간 형식주의가 인간의 인지 동역학을 기술하는 강력한 프레임워크임을 보여주며, 특히 불확실성 최소화 원리와 비가환성을 통해 기존 심리학 이론이 설명하지 못했던 현상들을 체계적으로 설명하고 새로운 통찰을 제공합니다.