Scarcity and Predictive Uncertainty: Implications for Societal Resource Allocation

당신이 폭풍우 치는 대양 한가운데에 있는 구조선의 선장이라고 상상해 보십시오. 당신에게는 제한된 수의 구명조끼가 있지만, 물속에는 수백 명의 사람들이 있습니다. 목표는 단순히 사람을 구하는 것이 아니라, 가능한 한 많은 사람을 구하는 것입니다. 이것이 바로 과학자와 정책 입안자들이 병상, 튜터링 시간, 또는 주거 바우처처럼 충분하지 않은 것들을 어떻게 나누어 줄지 고민하는 분야인 '희소 자원 배분(scarce resource allocation)'의 세계입니다. 보통 그들은 컴퓨터를 사용하여 예측을 수행합니다: "만약 이 학생에게 추가적인 도움을 준다면, 시험에 합격할 것인가?" 또는 "만약 이 환자에게 인공호흡기를 제공한다면, 생존할 것인가?"와 같은 질문들 말입니다.

하지만 여기 반전이 있습니다: 모든 예측이 다 똑같은 것은 아닙니다. 어떤 예측은 깨끗한 창문을 통해 보는 것과 같아서, 무엇이 오고 있는지 정확히 볼 수 있습니다. 다른 예측은 안개가 끼고 긁힌 유리창을 통해 보는 것과 같습니다. 올바른 방향을 짐작할 수는 있겠지만, 확신할 수는 없는 상태죠. 이 논문은 '예측 불확실성(predictive uncertainty)'이 사람마다 다를 때 어떤 일이 벌어지는지를 탐구합니다. 이 논문은 까다로운 질문을 던집니다: 만약 당신에게 한정된 수량의 구명조끼가 있다면, 도움을 주었을 때 생존할 것이라고 '확신'하는 사람에게 주어야 할까요, 아니면 도움이 더 절실할 수도 있지만 당신이 '불확실'하게 느끼는 사람에게 주어야 할까요? 그 답은 놀랍게도 직관에 어긋나며, 구명조끼의 수량에 따라 동전 던지기처럼 뒤집힙니다.

안개 낀 예보와 구명조끼의 딜레마

"Scarcity and Predictive Uncertainty(희소성과 예측 불확실성)"라는 제목의 이 논문은 우리가 AI와 데이터를 사용하여 어려운 결정을 내릴 때 발생하는 특정한 문제를 깊이 있게 다룹니다. 저자인 샤프카트 파라비(Shafkat Farabi), 패트릭 J. 파울러(Patrick J. Fowler), 산메이 다스(Sanmay Das)는 우리가 '공정함'과 '효율성'을 동시에 추구하려 할 때, 우리의 수정구슬이 사람마다 서로 다른 양의 안개로 흐려져 있다면 어떤 일이 일어나는지 보기 위해 수학적 모델을 구축했습니다.

현실 세계에서 우리는 종종 누구에게 도움을 줄지 결정하기 위해 두 가지 주요 전략을 사용합니다. 첫 번째는 **취약성 우선(Vulnerability First)**입니다: "지금 당장 가장 힘든 처지에 놓인 사람들에게 도움을 주라." 두 번째는 **최대 한계 이익(Maximum Marginal Benefit, MMB)**입니다: "도움을 받았을 때 가장 많이 개선될 사람들에게 도움을 주라." MMB를 시들어가는 식물에 물을 주기로 결정하는 정원사라고 생각해 보십시오. 당신은 이미 죽어버린 식물(너무 늦은 경우)이나 이미 건강한 식물(도움이 필요 없는 경우)은 건너뛸 것입니다. 대신, 당신은 죽기 직전의 경계에 있는 식물들에게 물을 줄 것입니다. 왜냐하면 약간의 물이 그들을 다시 꽃피우게 할 것이기 때문입니다.

문제는 정원사가 식물들이 실제로 얼마나 목이 마른지 확신하지 못할 때 발생합니다. 어떤 식물들에게는 토양이 건조하고 예측 가능할 수 있습니다(낮은 불확실성). 하지만 다른 식물들에게는 토양이 미스터리일 수 있습니다. 토양이 젖어 있을 수도 있고, 사막일 수도 있습니다(높은 불확실성). 논문은 다음과 같이 묻습니다: 만약 당신이 최대한 많은 식물을 살리고 싶다면, 이 "미스터리한 토양"이 당신이 물을 주는 대상을 바꾸게 만들까요?

거대한 뒤집힘 (The Great Flip-Flop)

저자들은 이 현상이 어떻게 전개되는지 보기 위해 시뮬레이션(수학적 실험)을 실행했습니다. 그들은 자원의 희소성에 따라 자원 배분 방식이 어떻게 완전히 달라지는지에 대한 매혹적인 "뒤집힘(flip-flop)" 현상을 발견했습니다.

자원이 매우 희소할 때 ("트리아지/선별" 단계):
수영하는 사람들 전체를 위해 단 하나의 구명조끼만 있다고 상상해 보십시오. 논문에 따르면, 가장 현명한 움직임은 설령 두 사람이 똑같이 위험한 상황에 처해 있더라도, 더 명확한 예보(낮은 불확씨성)를 가진 사람에게 구명조끼를 주는 것입니다. 왜일까요? 자원이 희소할 때는 당신의 도움이 효과가 있을 것이라는 확신이 필요하기 때문입니다. 만약 "안개 낀" 미래를 가진 사람에게 구명조끼를 준다면, 그들이 결국 익사하거나 구명조끼가 결정적인 요인이 되지 못할 실질적인 위험이 있습니다. 하지만 "명확한" 미래를 가진 사람에게 준다면, 당신의 도움이 그들을 안전한 쪽으로 밀어 올렸다는 사실을 확실히 알 수 있습니다. 이 시나리오에서 "안개 낀" 사람들은 그들이 덜 중요해서가 아니라, 수학적으로 그들의 결과가 너무 예측 불가능하여 승리를 보장할 수 없기 때문에 뒤처지게 됩니다.

자원이 풍족할 때 ("축제" 단계):
이제 구명조끼가 아주 많다고 상상해 보십시오. 갑자기 전략이 뒤집힙니다! 논문은 자원이 충분할 때는 안개 낀 예보(높은 불확실성)를 가진 사람들을 공략해야 한다고 보여줍니다. 왜일까요? 자원이 많을 때는 위험을 감수할 여유가 있기 때문입니다. 명확한 예보를 가진 사람들은 어차피 살아남거나, 결승선을 통과하는 데 큰 도움이 필요하지 않을 가능성이 높습니다. 하지만 안개 낀 예보를 가진 사람들은 어떨까요? 그들은 바로 수면 아래에서 밀어주는 힘을 기다리고 있는 사람들일 수 있습니다. 그들에게 자원을 제공하면 안개가 걷히고, 그들은 갑자기 안전한 곳으로 솟아오를 수 있습니다. 자원이 풍족한 세상에서 "미스터리한" 사람들은 도움을 받을 여지가 가장 많기 때문에 최고의 타겟이 됩니다.

안개를 무시했을 때의 대가

논문은 결정권자가 서로 다른 수준의 안개를 인지하지 못할 때 어떤 일이 벌어지는지도 살펴보았습니다. 저자들은 이를 "불확실성을 인지하지 못하는(Uncertainty Unaware)" 접근 방식이라고 부릅니다. 이는 마치 어떤 곳은 깊고 탁하며 어떤 곳은 얕고 투명한데도, 모든 곳의 수심이 같다고 가정하는 구조요원과 같습니다.

결과는 불확실성을 무시하는 것이 효율성에 상당한 손실을 초래한다는 것을 보여주었습니다. 특히 자원이 적을 때 더욱 그렇습니다. 만약 모든 사람을 똑같이 대한다면, 당신은 도움이 필요하지 않은 사람들에게 자원을 낭비하거나, 정작 필요한 사람들을 놓치게 될 것입니다. 저자들은 이러한 실수가 저자원 환경에서 성공적으로 구조된 사람의 수를 기존 전략에 비해 약 20% 감소시킬 수 있다는 것을 발견했습니다.

실제 테스트: 학생 시험

이 수학적 이론이 현실 세계에서도 통하는지 확인하기 위해, 저자들은 PISA(국제 학생 평가 프로그램) 데이터를 사용하여 아이디어를 테스트했습니다. 그들은 수학 점수를 분석하고, 추가 튜터링을 받는다면 어떤 학생들이 특정 숙달 수준을 통과할지 예측하려고 노력했습니다.

그들은 예측 모델이 고소득층 학생들("명확한" 그룹)에 비해 저소득층 학생들("안개 낀" 그룹)에 대해 더 불확실하다는 것을 발견했습니다. 튜터링 프로그램을 시뮬레이션했을 때:

• "불확실성을 인지하는(Uncertainty Aware)" 전략 하에서: 학교에 튜터링을 위한 예산이 매우 적다면, 그들은 가장 확실하게 통과할 수 있는 학생들(고소득층 그룹)에게 전적으로 집중할 것입니다.
• "불확실성을 인지하지 못하는(Uncertainty Unaware)" 전략 하에서: 학교는 튜터링을 더 고르게 분배할 것이며, 이는 결과적으로 덜 효율적이었습니다.

그러나 학교 예산이 늘어남에 따라, "불확실성을 인지하는" 전략은 이론이 예측한 대로 변화하여, 결국 불확실성이 높은 학생들에게 더 많은 관심을 기울이게 되었습니다.

거대한 질문

논문은 도덕적 퍼즐로 결론을 맺습니다. 우리는 사람들의 미래가 얼마나 "안개 낀" 상태인지에 따라 다르게 대하는 것이 수학적으로 효율적이라는 것을 보여주었습니다. 하지만 그것이 과연 공정할까요? 두 학생이 정확히 같은 처지에 있더라도, 한 학생이 미래를 예측하기 더 어려운 배경에서 왔다는 이유로 수학적 계산이 그를 위험한 도박이라고 판단하여 도움을 덜 받게 되는 것이 옳을까요?

저자들은 이 도덕적 논쟁을 해결하지는 않지만, 우리 사회에 새로운 딜레마를 제시합니다. 불확실성을 무시하는 것이 자원 낭비를 초래한다는 점은 분명하지만, 불확실성을 근거로 도움을 줄 대상을 결정하는 것은 자원이 부족할 때 가장 취약한 사람들을 버리는 행위가 될 수 있습니다. 이는 인생이라는 게임에서 가장 "똑똑한" 수학적 움직임이 항상 가장 "공정한" 인간적 움직임은 아닐 수 있으며, 그 답은 우리 배에 구명조끼가 몇 개나 있느냐에 따라 달라진다는 사실을 상기시켜 줍니다.