Divide and Confer: Aggregating Information without Verification

속삭이는 군중의 미스터리

당신이 거대한 퍼즐을 풀려고 노력 중이라고 상상해 보세요. 하지만 퍼즐 조각들은 수천 명의 사람들 사이에 흩어져 있고, 당신은 그들에게 직접 말을 걸 수도 없습니다. 당신은 오직 그들이 당신에게 말하는 것에만 의존해야 합니다. 이것이 바로 경제학의 한 분야인 **메커니즘 디자인(mechanism design)**의 세계입니다. 이 분야는 사람들이 당신을 속이려 할 때조차도, 결과적으로 당신이 진실을 찾도록 돕게끔 규칙을 설정하는 방법을 연구합니다. 보통 여러 사람이 서로 다른 비밀을 가지고 있다면, 그들의 이야기를 비교함으로써 거짓말쟁이를 잡아낼 수 있습니다. 만약 A라는 사람이 하늘이 초록색이라고 말하고 B라는 사람이 파란색이라고 말한다면, 당신은 둘 중 한 명이 거짓말을 하고 있다는 것을 알 수 있습니다. 이를 **교차 검증(cross-verification)**이라고 합니다.

하지만 모든 사람이 누구도 가지고 있지 않은 고유한 퍼즐 조각 하나씩을 들고 있다면 어떻게 될까요? 모든 사람이 단 하나의, 대체 불가능한 직소 퍼즐 조각을 들고 있는 방을 상상해 보세요. 만약 A가 자신의 조각에 대해 거짓말을 한다면, 당신은 B의 조각과 대조하여 확인할 방법이 없습니다. 왜냐하면 두 조각은 완전히 다르기 때문입니다. 당신은 진실을 검증할 수 없습니다. 이것이 바로 정보의 분할(informational division) 문제입니다. 즉, 방 안의 전체 지식량은 정해져 있지만, 그것이 너무 많은 사람에게 너무 얇게 쪼개져 있어서 그 누구도 다른 사람에 의해 거짓말이 들통날 만큼 충분한 정보를 알지 못하는 상태를 말합니다. 큰 질문은 이것입니다. 서로의 숙제를 대조해 볼 수 없을 때, 어떻게 군중으로부터 진실을 끌어낼 것인가?

논문의 핵심 아이디어: "너무 확신하는" 군중을 처벌하기

제임스 베스트(James Best), 다니엘 쿼글리(Daniel Quigley), 메리엄 사이디(Maryam Saeedi), 그리고 알리 슈라이데(Ali Shourideh)는 이 논문 "Divide and Confer: Aggregating Information without Verification"에서 바로 이 골칫거리를 다룹니다. 저자들은 의사 결정자(CEO나 정부와 같은)가 편향된 메시지 전달자들로 이루어진 거대한 군중이 보유한 정보를 바탕으로 "예" 또는 "아니오"라는 결정을 내려야 하는 시나리오를 연구합니다. 이 메시지 전달자들은 상황이 그렇지 않더라도 답이 "예"가 되기를 원합니다. 메시지 전달자들의 정보는 분산되어 있고 서로 연결되어 있지 않기 때문에, 의사 결정자는 단순히 "그의 이야기가 당신의 이야기와 일치합니까?"라고 물을 수 없습니다.

저자들은 기발하고도 직관에 반하는 해결책을 발견했습니다. 그들은 사실 관계를 교차 확인할 수 없는 상황에서도, 극단적인 합의를 처벌하는 메커니즘을 사용함으로써 유용한 정보를 얻을 수 있음을 보여줍니다.

이것이 어떻게 작동하는지 재미있는 비유를 들어 설명해 보겠습니다. 백만 명의 참가자가 온도를 맞히는 게임 쇼를 상상해 보세요. 그들은 모두 "덥다"라고 답해야 상을 받을 수 있기 때문에, 속으로는 답이 "덥다"이기를 바랍니다. 사회자는 그들이 편향되어 있다는 것을 알고 있습니다. 만약 사회자가 단순히 "덥습니까?"라고 묻는다면, 모두가 "네!"라고 외칠 것이고 사회자는 아무것도 배울 수 없습니다.

저자들은 새로운 규칙을 제안합니다. "우리는 평균 추측치가 적절한 중간 범위 안에 있을 때만 '예'라고 답할 것입니다. 하지만 만약 모두가 숨이 막힐 정도로 덥다고 동의한다면, 우리는 어쨌든 '아니오'라고 할 것입니다."

이것은 이상하게 들립니다, 그렇죠? 왜 모두가 확신할 때 그 답을 거부하는 걸까요? 이 "잉여 소멸(surplus-burning)" 처벌은 일종의 위협 역할을 한다는 점이 핵심입니다. 만약 참가자가 거짓말을 하여 실제보다 더 덥다고 말한다면, 그들은 집단의 평균을 사회자가 답변을 거부할 "숨 막히는" 구역으로 밀어 넣을 위험을 감수해야 합니다. 이러한 집단적 거부에 대한 공포가 거짓말쟁이들이 과장하는 것을 막습니다. 의사 결정자는 본질적으로 이렇게 말하는 것입니다. "당신들이 모두 동의하든 상관없습니다. 만약 너무 많이 동의한다면, 나는 상금을 태워버리고 '아니오'라고 할 것입니다." 이 위협은 군중이 중간 범위 내에서 정직하게 진실을 드러내도록 유지합니다.

그들이 발견한 것 (그리고 발견하지 못한 것)

이 논문은 군중이 무한히 커질수록 최선의 전략이 이 단순한 "구간 메커니즘(interval mechanism)"임을 수학적으로 증명합니다. 이 방식은 보고된 상태가 특정 창(window) 안에 있으면 수용하고, 보고가 너무 낮거나, 놀랍게도 너무 높으면 거부합니다.

하지만 저자들은 이것이 모든 것을 해결하는 마법 지팡이가 아님을 주의 깊게 언급합니다. 그들은 이 방법이 "퍼스트 베스트(first best)" 결과(의사 결정자가 정확한 진실을 알게 되는 완벽한 결과)를 달end할 수 없음을 명시적으로 보여줍니다. 정보가 분산되어 있고 확인이 불가능하기 때문에, 항상 비용이 발생합니다. 의사 결정자는 (거짓말쟁이들을 통제하기 위해) 일부 "잉여"를 태워버려야(거절해야) 합니다. 논문은 이 방법이 아무것도 하지 않는 것보다 더 나은 결과를 낼 수는 있지만, 이 특정 설정에서는 결코 완벽한 결과를 낼 수는 없음을 입증합니다.

또한 저자들은 복잡하고 화려한 규칙이 필요하다는 생각도 일축합니다. 소규모 집단에서는 가장 좋은 규칙이 복잡하고 누가 무엇을 말했는지에 따라 달라집니다. 하지만 거대한 군중 속에서는, 수학적으로 단순한 "구간" 규칙이 실제로 가장 좋다는 것을 보여줍니다. 군중의 복잡성은 사라지고, 단순하고 우아한 해결책만이 남습니다.

시사점

그렇다면 이것이 현실 세계에서 무엇을 의미할까요? 이 논문은 소셜 미디어 투표나 대규모 위원회처럼 서로의 사실 여부를 확인할 수 없는, 편향된 거대 군중을 상대할 때 단순히 다수의 의견을 신뢰해서는 안 된다는 점을 시사합니다. 대신, 지나친 합의를 의심해야 합니다. 군중이 자신들이 선호하는 방향으로 너무 강하게 동의할 때 처벌하는 시스템을 설계함으로써, 당신은 단순히 그들의 말을 듣는 것보다 더 정직한 정보를 추출할 수 있습니다. 이는 마치 부모가 방 안의 아이들에게 "너희가 모두 사탕 먹을 시간이라고 동의하면, 모두의 디저트를 취소하겠다"라고 말하는 것과 같습니다. 그러면 아이들은 갑자기 배가 고프다고 거짓말하기 전에 다시 한번 생각하게 됩니다.

이 논문은 이것이 거짓말이나 가짜 뉴스의 모든 문제를 해결한다고 주장하는 것이 아니라, 사실을 검증할 수 없는 세상에서도 거짓말을 하는 것이 너무 위험하게 만드는 규칙을 설계할 수 있다는 엄밀한 수학적 증명을 제공한다는 점을 밝히고 있습니다. 이는 정보의 "분할"을 약점이 아닌, 규율을 위한 도구로 바꿉니다.