Implementing Causal Perception: Competing SCMs and Situated Fairness

방 안의 식물이 왜 시들어가는지 알아내는 것처럼, 당신이 미스터리를 풀려고 노력하고 있다고 상상해 보십시오. 당신은 햇빛, 물, 또는 토양을 살펴볼 수도 있을 것입니다. 인공지능(AI)의 세계에서 과학자들은 이와 똑같은 일을 하기 위해 '구조적 인과 모델(Structural Causal Models)'이라는 특별한 지도들을 사용합니다. 이 지도들은 어떤 일이 다른 일의 원인이 되는지를 보여주는 순서도와 같습니다. 예를 들어, 어떤 지도는 '낮은 소득'이 '낮은 신용 점수'를 유발한다고 보여줄 수 있습니다. 하지만 여기에 반전이 있습니다. 두 명의 서로 다른 사람(또는 AI 프로그램)이 정확히 같은 식물을 보고도 완전히 다른 지도를 그릴 수 있다는 점입니다. 한 명은 토양이 문제라고 생각하는 반면, 다른 한 명은 햇빛이 문제라고 생각할 수 있습니다. 이것은 단순히 실수가 아니라, 세상을 보는 관점의 차이입니다. 이 아이디어는 매우 중요한데, 왜냐하면 우리가 AI에게 대출 승인이나 취업 여부와 같이 공정한 결정을 내리도록 요청할 때, 그 결정은 전적으로 AI가 어떤 지도를 사용하느냐에 달려 있기 때문입니다. 만약 지도들이 서로 충돌한다면, '공정성'이라는 개념은 누가 보고 있느냐에 따라 달라질 수 있습니다.

호세 M. 알바레스(José M. Álvarez)가 작성한 이 논문은 이론에서 현실로 나아가는 큰 발걸음을 내디디며, 이러한 '충돌하는 지도'를 실제로 측정할 수 있는 최초의 컴퓨터 프로그램을 구축했습니다. 저자는 이 현상을 '인과적 지각(causal perception)'이라고 부릅니다. 두 친구가 영화를 보고 있는 상황을 생각해 보십시오. 설령 그들이 같은 장면을 보더라도, 각자의 삶의 경험에 따라 등장인물의 동기를 다르게 해석할 수 있습니다. AI의 세계에서 이는 두 에이전트(또는 '수신자')가 동일한 대출 신청자 집단을 보면서도, 왜 어떤 사람들이 거절되었는지에 대해 서로 다른 이야기를 보게 될 수 있음을 의미합니다. 이 논문은 독일의 1,000명 대출 신청자라는 실제 데이터셋을 사용하여 이를 테스트했습니다. 연구진은 두 명의 디지털 '신용 심사관'을 만들었는데, 이들은 대부분의 사항에는 동의했지만, 성별이 개인의 신용 위험에 직접적인 영향을 미치는지 여부에 대한 특정 규칙 하나에 대해서는 의견이 엇갈렸습니다.

결과는 놀라웠습니다. 두 심사관이 그들의 정신적 지도에서 단 하나의 연결 고리에 대해서만 의견이 달랐음에도 불구하고, 결과적으로 그들은 세상을 매우 다르게 보고 있었습니다. 연구진이 두 사람의 견해 차이를 측정했을 때, 두 심사관은 개별 대출 결정의 약 21.7%에 대해 의견이 일치하지 않는다는 것을 발견했습니다. 또한 이 논문은 이러한 불일치가 매우 다른 공정성 평가로 이어질 수 있음을 강조합니다. 예를 들어, 서론에 기술된 가상의 시나리오에서, 단 하나의 인과적 엣지(edge)에서 차이를 보이는 두 수신자는 각각 -0.594 대 -0.170의 인구통계학적 패리티 격차에 도달할 수 있습니다. 논문은 또한 "그들이 정말로 다르게 보고 있는가?"라는 질문에 대한 답이 전적으로 어떤 측정 도구를 사용하느냐에 달려 있다는 사실을 발견했습니다. 만약 당신이 와서르슈타인-2(Wasserstein-2)라는 거리 척도를 사용한다면 그들은 거의 비슷해 보일 수 있습니다. 하지만 만약 다른 자(예를 들어 쿨백-라이블러 발산(Kullback-Leibler divergence)이나 총 변동(Total Variation))를 사용한다면, 그 격차는 엄청나게 커집니다.

궁극적으로, 이 논문은 편향이 단순히 공중에 떠다니는 고정된 사실이 아니라, 판단을 내리는 사람이나 AI의 특정한 세계관에 따라 결정되는 '상황적(situated)'인 것임을 보여줍니다. 저자는 우리가 이러한 상충하는 세계관을 무시하거나 모든 사람이 하나의 '정답'인 지도에 동의하도록 강요해서는 안 된다고 주장합니다. 대신, 여러 전문가가 존재하는 세상에서 사람마다 진정으로 공정성을 다르게 지각할 수 있음을 인정해야 하며, 우리의 도구는 그 불일치를 존재하지 않는 척하기보다 그 불일치를 다룰 수 있도록 준비되어 있어야 합니다.