The adaptive nature of confirmation bias

핵심 아이디어: "확증 편향"은 사실 똑똑한 것일까?

우리는 보통 **확증 편향(confirmation bias)**을 인간 사고의 결함이라고 생각합니다. 이는 우리가 이미 믿고 있는 것과 일치하는 정보만 찾고, 그와 모순되는 것은 무시하는 현상을 말합니다. 우리는 이 때문에 우리가 마치 닫힌 문에만 집착하느라 열린 문을 보지 못하는 고집 센 당나귀처럼 비합리적이라고 생각합니다.

하지만 이 논문은 그 반대를 주장합니다: 확증 편향은 사실 합리적 사고의 '슈퍼파워'일 수 있습니다.

저자들은 만약 당신이 최소한의 정신적 에너지와 기억력을 사용하면서 가능한 최선의 결정을 내리려 한다면, 당신의 뇌는 자연스럽게 현재의 짐작을 확인해 주는 정보 쪽으로 기울게 될 것이라고 제안합니다. 실제로 그렇게 하는 것이 더 빠르게 학습하고 더 적게 기억할 수 있게 해줍니다.

도구 상자: 양자 컴퓨터처럼 생각하기 (하드웨어 없이)

이를 증명하기 위해 저자들은 보통 양자 물리학에서 사용하는 수학적 프레임워크를 사용합니다. 저자들이 인간의 뇌가 양자 컴퓨터*라고 말하는 것이 아닙니다. 대신, 우리가 복잡한 선택에 직면했을 때 우리의 마음이 마치 "양자적" 공간을 탐색하는 것처럼 행동한다고 말하는 것입니다.

• 비유: 당신이 거대한 냉동고에서 특정 맛의 아이스크림을 찾으려고 한다고 상상해 보세요.
  • 고전적 사고: 당신은 모든 통을 하나씩 일일이 확인합니다. 중복을 피하기 위해 이미 맛본 모든 맛을 기억해야 합니다. 이는 많은 기억력과 시간을 소要합니다.
  • 논문의 "양자적" 사고: 당신이 한 번에 여러 가지 맛을 동시에 확인할 수 있거나, 하나의 맛을 보는 행위가 다른 맛들의 상태를 변화시키는 방식으로 냉동고를 바라볼 수 있다고 상상해 보세요. 그들이 사용하는 수학(힐베르트 공간과 행렬)은 서로 다른 정보들이 단순히 나란히 놓여 있는 것이 아니라 복잡한 방식으로 상호작용하는 이러한 "중첩" 상태를 모델링합니다.

두 가지 큰 놀라운 사실

저자들이 "합리적인" 대리인(agent)이 어떻게 증거를 수집해야 하는지에 대해 수학적 계산을 수행했을 때, 확증 편향을 갖는 것이 두 가지 놀라운 진화적 이점이 있다는 것을 발견했습니다.

1. "건망증 있는 천재" (최소 기억)

보통 우리는 좋은 결정을 내리기 위해 우리가 본 모든 증거를 기억해야 한다고 생각합니다. 만약 비가 올지 결정하려 한다면, 오늘 아침에 본 모든 구름을 기억해야 한다고 생각할 수도 있습니다.

이 논문은 만약 당신이 최적의 "확증 편향" 전략을 사용한다면, 과거를 전혀 기억할 필요가 없다고 주장합니다.

• 비유: 당신이 비밀 숫자를 맞히는 게임을 하고 있다고 상상해 보세요. 만약 "고전적"으로 플레이한다면, 다음 단계를 파악하기 위해 당신이 했던 모든 숫자와 그 결과들을 모두 적어두어야 합니다.
• 논문의 발견: 만 만약 당신이 "최적으로"(현재 자신이 옳다고 생각하는 쪽으로 편향되어) 플레이한다면, 당신은 오직 마지막 추측만을 기억하면 됩니다. 그 외의 모든 것은 잊어도 됩니다. 당신의 뇌는 과거의 이력을 효과적으로 "망각"하는데, 이는 현재의 믿음이 과거의 필요한 정보를 이미 포함하고 있기 때문입니다. 이는 엄청난 양의 "정신적 RAM"을 절약해 줍니다.

2. "지수적 속도 향상" (더 빠른 학습)

두 번째 이점은 실수를 얼마나 빨리 줄이느냐에 관한 것입니다.

• 비유: 당신이 건초더미에서 바늘을 찾으려고 한다고 상상해 보세요.
  • 편향이 없을 때 (고전적): 당신은 무작위로 검색합니다. 바늘을 찾을 확률을 두 배로 높이려면, 검색하는 건초더미의 크기도 두 배로 키워야 합니다. 99% 확신을 얻으려면 매우 넓은 영역을 뒤져야 할 수도 있습니다.
  • 최적의 편향이 있을 때 (양자 스타일): 저자들은 만약 당신이 현재의 믿음에 근거하여 증거를 선택한다면, 당신이 틀릴 확률이 지수적으로 감소한다는 것을 보여줍니다.
• 결과: 이것은 마치 마법의 나침반을 가진 것과 같습니다. 당신의 "편향된" 나침반을 바탕으로 발걸음을 내디딜 때마다, 단순히 무작위로 헤맬 때보다 훨씬 더 빠르게 진실에 도달하게 됩니다. 당신은 결정을 확신하는 데 훨씬 더 적은 샘플(적은 시간, 적은 데이터)만 있으면 됩니다.

작동 원리: "신문" 예시

저자들은 이를 설명하기 위해 간단한 예를 사용합니다. 당신이 에너지 가격이 오를지 내릴지를 예측하려고 한다고 가정해 봅시다. 당신에게는 두 종류의 신문이 있습니다.

1. 신문 A: 항상 가격이 오를 것이라고 말합니다.
2. 신보 B: 항상 가격이 내릴 것이라고 말합니다.

당신은 가격이 오를 것이라는 "사전 믿음(gut feeling)"을 가지고 있습니다.

• 비합리적인 관점: 합리적인 사람이라면 중립적인 신문을 읽거나, 균형을 맞추기 위해 두 신문을 똑같이 읽어야 합니다.
• 논문의 관점: 합리적인 사람은 신문 A(자신의 믿음과 일치하는 것)를 읽어야 합니다.
  • 왜일까요? 신문 A를 읽는 것이 현재의 믿음과 관련하여 가장 높은 "정보 이득(information gain)"을 주기 때문입니다. 그것은 가장 효율적으로 당신의 견해를 확인해 줍니다.
  • 만약 당신이 자신과 의견이 다른 신문을 읽는다면, 그것은 "노이즈"와 혼란(엔트로피)을 만들어내어 정신적 에너지를 낭비하게 합니다.
  • 자신의 믿음과 일치하는 신문을 고수함으로써, 당신은 의사결정 과정을 날카롭게 다듬고, 오류율을 줄이며, 지금까지 읽은 모든 기사를 기억할 필요 없이 오직 마지막 기사만을 기억하면 됩니다.

"능동적 추론(Active Inference)"과의 연결

이 논문은 또한 이 개념을 **능동적 추론(Active Inference)**과 연결합니다. 이는 뇌가 세상이 무엇을 말해줄 때까지 수동적으로 기다리는 것이 아니라, 자신의 예측을 확인하기 위해 능동적으로 세상을 찾아 나선다는 개념입니다.

저자들은 당신이 다음 중 어느 것을 목표로 하든 결과적으로 동일한 전략에 도달함을 보여줍니다:

1. 틀릴 확률을 최소화하거나,
2. 새로운 정보의 양을 최대화하거나,

...당신은 자연스럽게 현재의 믿음을 확인해 주는 증거를 찾게 됩니다.

주의 사항 (논문이 말하지 않는 것)

이 논문이 주장하지 않는 바를 명시하는 것이 중요합니다:

• 이 논문은 가짜 뉴스를 믿는 것이 좋다고 말하는 것이 아닙니다. 저자들은 이 모델이 정보원이 "진실한(genuine)" 것(노이즈는 있지만 정직한 신호)임을 전제로 한다고 명시적으로 밝힙니다. 만약 정보원이 속이거나 기만하기 위해 설계되었다면(예: 트롤 팜), 이 "합리적 편향"은 당신을 잘못된 길로 유도하는 데 악용될 수 있습니다.
• 이 논문은 모든 인간의 편향이 합리적이라고 말하는 것도 아닙니다. 단지 이진 선택(예/아니오, 상승/하락)의 맥락에서 뇌가 효율성을 추구할 때 나타나는 특정한 유형의 능동적 확증 편향을 설명할 뿐입니다.

요약

단순하게 말해서, 이 논문은 우리가 우리와 일치하는 정보를 찾는 것이 우리의 뇌가 고장 났기 때문이 아니라고 제안합니다. 대신, 우리는 매우 효율적인 엔지니어일 수 있습니다. 이미 믿고 있는 것에 집중함으로써 우리는 다음을 달성할 수 있습니다:

1. 과거를 잊음 (기억 절약).
2. 더 빠르게 학습함 (오류의 지수적 감소).

우리의 마음을 바꾸기를 거부하는 고집스러운 모습처럼 보이는 것이, 실제로는 에너지를 아끼고 가능한 한 빨리 최선의 결정을 내리기 위해 복잡한 수학 문제를 풀고 있는 우리 뇌의 방식일 수 있습니다.