Persuasion under the Threat of Verification

당신이 어떤 사람들에게 무언가를 하도록 설득하려고 한다고 상상해 보십시오. 예를 들어 새로운 기기를 사게 하거나 후보자에게 투표하게 하는 것 말입니다. 경제학의 세계에서 이것은 **설득(persuasion)**이라고 불립니다. 보통 우리는 설득을 하는 사람(이하 "송신자")이 모든 권력을 가지고 있다고 가정합니다. 그들은 사진을 보여주거나, 이야기를 들려주거나, 광고를 집행할 수 있고, 당신은 그저 그들을 믿는다는 것이죠. 하지만 현실 세계에서 우리는 그렇게 순진하지 않습니다. 우리에게는 **팩트 체크(fact-checkers)**가 있습니다. 우리는 결정을 내리기 전에 리뷰를 읽거나, 전문가를 고용하거나, 스스로 조사를 수행할 수도 있습니다. 이 논문은 정보 설계(사실을 가장 잘 제시하는 방법)와 비용이 드는 검증(그 사실이 진실인지 확인하기 위해 지불하는 대가)의 교차점에 위치하고 있습니다.

이 논문이 던지는 핵심 질문은 다음과 같습니다. 팩트 체크가 더 저렴해지면 어떤 일이 벌어질까? 만약 사람들이 진실을 검증하는 것이 더 쉽고 저렴해진다면, 설득하려는 사람은 겁을 먹고 진실을 말하기 시작할까요? 아니면 그들이 게을러져서, 송신자는 그저 모호하고 도움이 되지 않는 힌트만 던지고 청중이 진실을 찾는 힘든 일을 다 하게 만들까요? 결론부터 말하자면, 답은 단순한 "예"나 "아니오"가 아닙니다. 그것은 전적으로 송신자가 처음에 자신의 정보를 생산하는 데 드는 비용이 얼마인지에 달려 있습니다.

수상한 판매원과 바쁜 군중의 이야기

우리 캐릭터들을 만나봅시다. 여기 송신자(판매원이나 정치인이라고 생각하십시오)가 있습니다. 그는 실제 상황이 어떠하든 상관없이 모두가 "행동 A"(제품 구매 또는 후보자 투표)를 선택하기를 원합니다. 그리고 여기 청중(수신자들)이 있습니다. 청중 중에는 설득하기 쉬운 사람도 있고, 비용이 많이 드는 사람도 있습니다. 청중의 모든 구성원은 자신만의 비밀스러운 "검증 비용", 즉 진실을 찾아내는 데 드는 노력이나 돈의 가격표를 가지고 있습니다.

청중이 결정을 내리기 전, 송신자는 **공적 실험(Public Experiment)**을 약속합니다. 이것은 미리 공지된 테스트나 등급 시스템과 같습니다. 송신자는 이 테스트를 실행하기 위해 비용을 지불합니다. 이 테스트는 모두의 믿음을 업데이트하는 공적인 신호(점수나 등급)를 제공합니다. 공적 신호를 본 후, 청중은 결정합니다. "이 신호가 충분히 신뢰할 만한가, 아니면 내가 직접 비용을 들여 진실을 확인할 것인가?"

만약 공적 신호가 약하다면, 청중은 직접 확인합니다. 만약 신호가 매우 명확하다면, 청중은 그것을 믿고 돈을 아낍니다. 송신자는 테스트 자체에 드는 비용을 최소화하면서 청중이 "행동 A"를 선택하도록 하는 최적의 테스트를 설계하고자 합니다.

거대한 위상 역전: 두 가지 다른 세상

이 논문은 송신자가 자신의 테스트를 실행하는 데 드는 비용이 얼마냐에 따라 게임의 규칙이 바뀌는, 마치 스위치가 켜지는 것과 같은 흥미로운 "위상 역전(phase reversal)" 현상을 발견했습니다.

시나리오 1: 송신자의 테스트 비용이 저렴한 경우 ( "훈육" 구역)
송진자가 적은 돈으로 고품질의 초정밀 테스트를 실행할 수 있다고 가정해 봅시다. 이 세상에서는 청중의 팩트 체크 비용이 낮아지면, 송신자는 **훈육(disciplined)**됩니다.

• 무슨 일이 일어나는가: 송신자는 생각합니다. "안 돼, 내가 모호한 신호를 주면 청중이 쉽게 나를 확인하고 잡아낼 거야!" 그래서 걸리는 것을 피하기 위해, 송신자는 더 날카롭고 정보가 풍부한 테스트를 구매하기로 결정합니다. 그들은 공적 신호를 매우 명확하고 결정적으로 만들어 청중이 더 이상 확인할 필요가 없게 만듭니다.
• 결과: 역설적이게도, 팩트 체크가 저렴해짐에 따라 청중의 실제 체크 횟수는 줄어듭니다. 송신자의 두려움이 그들을 너무나 정직하고 명확하게 만들어, 청중이 추가적인 노력을 들이지 않고도 안심하고 신뢰할 수 있게 만드는 것입니다. 공적 정보는 더 유익해지고, 청중은 돈을 아낍니다.

시나리오 2: 송신자의 테스트 비용이 비싼 경우 ( "대체" 구역)
이제 송신자의 테스트 비용이 믿기 힘들 정도로 비싸다고 가정해 봅시다. 아마도 값비싼 실험 장비나 분석 팀이 필요할 수도 있습니다.

• 무슨 일이 일어나는가: 만약 청중의 팩트 체크 비용이 저렴해지면, 송신자는 생각합니다. "휴, 완벽한 신호를 만드는 건 나에게 너무 비싸. 하지만 청중이 이제 저렴하게 진실을 확인할 수 있다면, 내가 굳이 열심히 노력할 필요가 없겠지!"
• 결과: 송신자는 명확해지려는 노력을 멈춥니다. 심지어 포기하고 모두에게 똑같은 지루한 메시지를 주는 모호하고 정보가 없는 신호(풀링, pool)를 줄 수도 있습니다. 그들은 청중이 팩트 체크를 하도록 내버려 둡니다. 팩트 체크가 저렴해짐에 따라 공적 신호는 실제로 덜 유익해지거나(또는 그대로 유지되거나), 결국 청중은 송신자의 신호가 너무 약하기 때문에 더 많이 확인하게 됩니다. 송신자는 진실을 찾는 부담을 청중에게 떠넘기는 셈입니다.

"역 U자형"의 놀라움

"저렴한 송신자" 세상에서 실제로 팩트를 확인하는 사람의 수에 대해 발견한 가장 멋진 점 중 하나는 다음과 같습니다.

• 처음에는 팩트 체크가 저렴해짐에 따라, 그것이 감당 가능해졌기 때문에 더 많은 사람이 확인을 시작합니다.
• 하지만 송신자가 신호를 매우 명확하게 업그레이드할 만큼 충분히 겁을 먹게 되면, 청중은 확인을 멈춥니다!
• 따라서 확인하는 사람의 수는 올라갔다가, 정점을 찍고 다시 내려갑니다. 이는 "역 U자형" 모양입니다. 검증의 위협이 송신자를 효과적으로 훈육하여, 실제 검증 행위 자체가 불필요하게 만드는 것입니다.

이 논문이 배제하는 것들

저자들은 자신들이 무엇이 일어나지 않는지에 대해서도 매우 주의 깊게 설명합니다. 여러분은 팩트 체크가 저렴해지면(즉, 비용 분포가 아래로 이동하면) 송신자가 항상 더 정직해질 것이라고 생각할 수도 있습니다. 이 논문은 이것이 틀렸음을 증명합니다.

• 팩트 체크가 저렴해진다고 해서 항상 더 나은 공적 정보가 제공되는 것은 아닙니다.
• 공적 정보의 양과 사적 확인의 양이 항상 같은 방향으로 움직이는 것도 아닙니다. 때로는 서로 반대 방향으로 움직이기도 합니다!
• 또한 이 논문은 단순히 확인 비용의 "평균"치만 보고 결과를 예측할 수 없음을 보여줍니다. 우리는 확인 비용의 구체적인 형태를 알아야 합니다. 송신자의 비용과 어떻게 상호작용하는지가 중요합니다. 단순한 "1차적" 검증 비용 개선만으로는 특정 결과를 보장할 수 없습니다. 수학적 구조는 훨씬 복잡하며 비용의 곡률에 따라 달라집니다.

핵심 요약

이 논문은 엄격한 수학(특히 "콘카비피케이션(concavification)"과 "블랙웰 순서(Blackwell order)" 비교법)을 사용하여 공적 정보와 사적 확인 사이의 관계가 동전의 양면과 같다는 것을 증명합니다.

• 만약 송신자가 명확해질 여력이 있다면, 저렴해진 팩트 체크는 그들을 더 명확하게 만들고 (그 결과) 체크는 줄어듭니다.
• 만약 송신자가 명확해질 여력이 없다면, 저렴해진 팩트 체크는 그들을 모호하게 만들고 (그 결과) 체크는 늘어납니다.

저자들은 비용이 이차 함수 형태(quadratic)인 특정 벤치마크 모델을 통해 이를 보여준 뒤, 이 논리가 더 일반적이고 복잡한 비용 구조에서도 유효함을 증명합니다. 그들은 단순히 추측하는 것이 아니라, 이 "위상 역전"이 청중이 직접 확인하는 힘을 가졌을 때 정보가 작동하는 방식의 근본적인 특징임을 정확한 공식을 통해 도출해 냅니다.

그러므로 다음에 정치인이나 기업이 보고서를 발표할 때 스스로에게 물어보십시오. "그들의 신호가 나의 팩트 체크에 겁을 먹어서 좋아진 것인가, 아니면 내가 대신 일해줄 것을 알고 있어서 나빠진 것인가?" 그 답은 전적으로 진실을 말하는 데 드는 비용이 그들에게 얼마인지에 달려 있습니다.