Effort without Evidence

기술 요약: 증거 없는 노력

문제 제기 및 동기
본 논문은 일련의 단기 의사결정자들 사이에서 전략적 의사소통과 증거 생산 간의 피드백 루프를 조사한다. 의사소통과 학습에 관한 표준 모델들은 대개 정보 전달과 정보 생산을 분리한다. 즉, 행위자는 신호를 받은 후 무엇을 공개할지 결정한다. 그러나 많은 맥락(예: 연구, 생산, 조직적 관행)에서 증거는 특정 행동이 취해졌기 때문에 존재하게 된다. 숨겨진 노력이 공적 결과를 지배하며, 전임자의 메시지는 후임자의 행동에 영향을 미치고, 결과적으로 미래에 어떤 증거가 생성될지를 결정한다.

핵심적인 갈등은 "동기적 편향(motivational bias)"에서 발생한다. 송신자는 후임자의 성공을 가치 있게 여기지만, 후임자의 노력 비용(파라미터 $\lambda \in (0, 1]$로 매개됨)을 과소평가한다. 결과적으로 송신자는 비록 그 행동들이 가장 정보적이지 않더라도, 물리적으로 비용이 발생하는 행동을 유도할 유인을 갖는다. 본 논문은 이 편향이 인과적 서사의 신뢰성, 증거 생산, 그리고 장기적 학습에 어떠한 영향을 미치는지 질문한다.

방법론 및 프레임워크
모델은 지속적인 이진 상태 $\theta \in \{0, 1\}$에 직면한 이산 시간 시퀀스의 행위자들($t=0, 1, \dots$)을 특징으로 한다.

• 타이밍: 각 행위자는 공적 결과 기록과 전임자의 메시지를 관찰하고, 사후 확률을 형성하며, 개인적인 노력 비용 $k$를 관찰하고, 숨겨진 행동 $a$를 선택한 뒤, 공적 결과 $y$를 관찰한다. 그 후 다음 세대에게 비용이 들지 않는 메시지 $m$(인과적 평가)을 보낸다.
• 선호도: 행위자의 효용은 현재의 물질적 보상과 후임자의 효용에 대한 가중치 성분을 포함한다: $u(y, a, k) + \alpha [y' - \lambda c(a', k')]$. 파라미터 $\lambda$는 동기적 편향(노력 비용의 과소평가)의 정도를 포착한다.
• 균형 개념: 분석은 완전 베이지안 균형(PBE)에 초점을 맞춘다. 균형 집합을 정교화하고 다수의 인과적 서사 문제를 해결하기 위해, 본 논문은 "신뢰할 수 있는 행동 변화 신조어(credible action-changing neologism)" 기준(Farrell, 1993에 기초함)을 채택한다. 하나의 균형은 배제된 유형들에 의해 모방되지 않으면서, 자신들에게 엄격하게 선호되는 새로운 행동 프로파일을 신뢰할 수 있게 제안할 수 있는 송신자 유형 그룹이 없다면 면역력을 갖는다.
• 주요 정의:
  • 식별 행동 ($a_I$): 상태 의존적 결과(정보적)를 생성하는 행동 프로파일.
  • 비식별 행동 ($a_N$): 상태 독립적 결과(비정보적)를 생성하는 행동 프로파일.
  • 동기적 붕괴 (Motivational Collapse): 공통된 송신자 순위가 모든 메시지를 비식별 행동 영역으로 강제하여, 식별을 불가능하게 만드는 상황.

주요 결과

1. 비용-편향 항등식과 동기적 붕마
본 논문은 송신자의 유인과 수신자의 유인을 연결하는 근본적인 항등식(Lemma 2)을 확립한다. $C$를 식별 행동과 비식별 행동 사이의 물리적 비용 차이라고 하자. 송신자의 차별적 효용은 $G_\lambda(s) = D(s) + (1-\lambda)C$이다. 여기서 $D(s)$는 수신자의 물질적 차이이다.

• 결과: 더 강한 동기(더 낮은 $\lambda$)는 송신자의 선호를 물리적으로 더 비용이 많이 드는 행동 쪽으로 이동시킨다.
• 붕괴: 만약 식별 행동이 더 비용이 많이 든다면($C > 0$), 강한 동기는 모든 송신자가 이를 장려하게 만든다. 만약 비식별 행동이 더 비용이 많이 든다면($C < 0$), 강한 동기는 모든 송신자가 식별 행동을 억제하게 만든다.
• 베이즈 불가피성 (Bayes-Unavoidability): 평균 사후 확률이 비식별 행동이 견고하게 최적인 영역에 있고, 모든 송신자가 행동에 대한 엄격한 순위를 공유한다면, 베이즈 개연성은 모든 메시지가 비식별 행동을 유도하도록 강제한다. 일단 이러한 "붕괴"가 발생하면, 동기를 강화하더라도 식별 행동을 복구할 수 없다.

2. 동적 증거 함정과 흡수
정적 신뢰성 실패는 동적 함정으로 이어진다.

• 흡수 (Absorption): 통신이 비식별 행동 프로파일을 유도하면, 공적 결과는 상태 독립적이 된다. 새로운 상태 정보가 생산되지 않는다. 사후 확률의 지지 집합은 유계된 집합 내에 머물며, 공통 순위 논증이 무한히 반복된다.
• 결과: 모든 PBE에서 시스템은 학습이 실패하는 흡수 상태로 진입한다. 초기 정보가 상태를 구별하기에 불충분하다면, 완전한 학습은 양의 확률로 불가능해진다.
• 근접 함정 (Near-Traps): 비식별 영역이 완전히 상태 독립적인 것이 아니라 약하게만 정보적이라 하더라도, 비식별 단계의 지속 시간은 신호의 질이 0에 접근함에 따라 임의로 길어질 수 있다.

3. 적용 I: 부작위 (The "Do Too Little" Trap)
이 적용 사례에서 노력은 이진적이다(실험 수행 vs 실험 미수행).

• 메커니즘: 저비용 행위자는 실험을 수행하고, 고비용 행위자는 수행하지 않는다. 공적 실패는 "혼동"된다: 이는 실패한 실험(낮은 수익)일 수도 있고, 실험 자체의 결여(실험 미수행)일 수도 있다.
• 중등도 동기: 서로 다른 사후 확률을 가진 송신자들은 서로 다른 행동을 원한다(비관론자는 부작위를 원하고, 낙관론자는 실험을 원한다). 이러한 불일치는 인과적 분리를 보존한다. 비관론자들은 기술이 나쁘다고 신뢰할 수 있게 신호하며, 낙관론자들은 기술이 좋다고 신호한다. 학습은 거의 확실하게 일어난다.
• 강한 동기: 비관적인 송신자들조차 후임자를 돕기 위해 실험을 장려하고 싶어 한다. 모든 송진자가 "장려하는" 서사를 모방한다. 합리적 회의론은 그러한 모든 서사를 신뢰할 수 없는 것으로 만든다.
• 결과: 혼동된 실패 이후, 시스템은 영구적으로 셧다운된다. 새로운 증거가 생성되지 않으며, true state(그것이 생산적인 상태인 경우에도)는 결코 학습되지 않는다.

4. 적용 II: 과도한 노력 (The "Do Too Much" Trap)
이 적용 사례에서 성공은 미지의 노력 임계치를 넘어야 한다. 두 번째, 더 높은 임계치 이상의 노력은 수익 체감이 발생하지만 기술적으로 포화 상태에 이른다.

• 메커드: "절제가 발견이다." 낮은 노력으로 성공하는 고비용 행위자가 정보적 선구자이다(그녀의 성공은 임계치가 낮음을 드러내기 때문이다). 최대 노력을 기울이는 저비용 행위자는 상태 독립적인 결과를 생산한다.
• 중등도 동기: 송신자들은 결과를 올바르게 귀속시킨다. 낮은 노력으로 성공한 고비용 행위자는 수신자가 낮은 노력을 선택하도록 유도한다(식별 행동).
• 강한 동기: 모든 송신자는 인과적 유형에 관계없이 최대 노력(물리적으로 더 비용이 많이 드는 행동)을 옹호한다.
• 결과: 나쁜 풀링된 역사(bad pooled history) 이후, 모두가 최대 노력을 기울인다. 결과는 상태 독립적이 된다. 정보적인 "절제" 실험이 사라진다. 사회는 더 근면하고 성공적인 것처럼 보이지만(현직자당 성공률이 높아짐), 적은 노력으로도 충분하다는 것을 배우지 못해 장기적 후생은 낮아진다.

5. 인증 및 정책 개입
본 논문은 행동을 검증(인증)하는 것이 이러한 실패를 복구할 수 있는지 분석한다.

• 분해: 쿨백-라이블러(Kullback–Leibler) 분해는 인증이 숨겨진 인과적 변이를 드러낼 때만 정보를 추가함을 보여준다. 만약 시스템이 이미 재귀적으로 비식별 행동 영역(행동이 상태 독립적인 영역)에 있다면, 인증은 아무런 정보도 추가하지 못한다.
• 부작위 모델: 실패를 인증하는 것(실패한 실험과 실험 미수행을 구분하는 것)은 실험이 최적인 믿음 수준을 복구한다. 실패에 대한 인증만이 학습을 보장하는 유일하고 최소 비용의 정책이다.
• 임계치 모델: 중간 노력의 실패를 인증하는 것은 진정한 나쁜 소식이다. 이는 믿음을 최대 노력이 선택되는 지점으로 올바르게 업데이트한다. 따라서 완벽한 귀속조차도 무의미한 지속을 선택할 수 있다. 또한, 예상된 성공 인증은 식별 행동 자체를 몰아낼 수 있다.
• 가격 책정 메커니즘:
  • 부작위: 행위자가 식별 경계를 넘도록 노력을 보조한다.
  • 임계치: 식별 마진을 보존하기 위해 절제를 보조하거나 최대 노력에 세금을 부과한다.
  • 강제적 변이: 통신이 실패할 때 직접 정보를 생성할 수 있도록 식별 행동을 일정 확률로 취하도록 하는 공적 명령을 내린다.

의의 및 주장
본 논문은 사회적 학습의 두 가지 상반된 실패를 통합한다고 주장한다:

1. 셧다운 (Shutdown): 실험을 장려할 수 있는 능력이 없기 때문에 아무도 일하지 않음으로써 사회가 학습을 멈춤.
2. 과잉 노력 (Overexertion): 절제를 장려할 수 있는 능력이 없기 때문에 모두가 너무 열심히 일함으로써 사회가 학습을 멈춤.

핵적인 핵심 메시지는 동기가 정보적인 행동이 아니라, 비용이 드는 행동을 선택한다는 것이다. 본 논문은 "비용이 드는" 행동이 본질적으로 정보적인 것은 아니며, 그 정보성은 기술에 달려 있음을 입증한다. 동기적 편향이 모든 송신자를 단일한 행동(노력이든 절제든) 뒤로 정렬시킬 때, 이는 의사소통의 정보적 내용을 붕괴시켜, 새로운 증거가 생산되지 않는 흡수 상태로 이어진다.

본 논문은 검증(인증)이 만병통치약이 아님을 강조한다. 그 가치는 전적으로 비식별 영역으로의 진입을 막느냐, 혹은 식별적 증거를 생산할 유인을 복구하느냐에 달려 있다. 교정 정책은 편향의 방향에 따라 달라진다: 행위자가 너무 적게 할 때는 노력을 보조하고, 너무 많이 할 때는 절제를 보조하는 것이다.