Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
이 논문은 인공적 에이전트가 초래한 불리한 결과가 인간 에이전트가 초래한 결과보다 더 용이하게 수용된다는 점을 입증하는데, 이는 사람들이 AI에 대해 상향적 반사실적 사고와 의도성 귀여를 덜 수행하기 때문이며, 이러한 격차는 결과가 높은 개인적 이해관계와 결부될 때 더욱 두드러진다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
방금 시험을 망쳤거나, 혹은 가장 좋아하는 피자 배달이 식어서 늦게 도착했다고 상상해 보세요. 당신의 뇌는 즉시 작은 탐정 놀이를 시작합니다. 당신은 스스로에게 두 가지 큰 질문을 던집니다. "누군가 조금 더 노력했더라면 상황이 달라질 수 있었을까?" 그리고 "실수를 저지른 사람이 나를 골탕 먹이려고 일부러 그런 걸까?" 심리학자들은 첫 번째 질문을 '상향 반사실적 사고(upward counterfactual thinking)'라고 부릅니다. 이는 머릿속에서 상황이 더 잘 풀렸던 모습을 보여주는 '만약에' 영화를 감상하는 것과 같습니다. 두 번째 질문은 '의도성 귀인(intentionality attribution)'에 관한 것으로, 기본적으로 상대방이 은밀하고 못된 동기를 가지고 있었는지 추측하는 것입니다.
이제, 인간 상사가 일으킨 나쁜 결과와 로봇 컴퓨터가 일으킨 나쁜 결과를 다뤄야 한다고 상상해 봅시다. 오랫동안 과학자들은 궁금해했습니다. '우리는 로봇에게도 사람에게 화를 내는 것과 똑같은 방식으로 화를 내는가?' 어떤 이들은 우리가 로봇이 실패할 때 그것을 싫어한다고 생각하지만(알고리즘 혐오), 다른 이들은 로봇이 더 공정해 보이기 때문에 오히려 더 신뢰할 수도 있다고 생각합니다. 하지만 이미 나쁜 일이 벌어진 후에는 어떻게 될까요? 로봇이 그 일을 저질렀다면 우리는 그 결과를 더 쉽게 받아들일까요, 아니면 그냥 더 화가 날까요? 이 논문은 바로 그 좌절의 순간에 집중하여, 우리의 뇌가 살과 피가 있는 인간의 실수와 디지털 에이전트의 실수를 어떻게 다르게 처리하는지 파헤칩니다.
로봇 대 상사: 누구에게 책임을 물을 것인가?
Zhao, Li, Wen 연구진이 수행한 이 연구는 단순하지만 까다로운 질문에 답하고자 했습니다. '무언가 잘못되었을 때, 로봇이 그랬다면 더 쉽게 받아들일까, 아니면 사람이 그랬다면 더 받아들이기 힘들까?' 이를 알아내기 위해 그들은 참가자들이 실제처럼 느낄 수 있는 가상의 시나리오를 사용하여 두 가지 실험을 진행했습니다.
첫 번째 실험에서 연구진은 472명의 사람들에게 자신이 음식 배달원이라고 상상하게 했습니다. 갑자기 새로운 주문이 들어왔는데, 이 주문은 배달원을 늦게 만들 뿐만 아니라 완전히 반대 방향으로 가는 것이었습니다. 거절할 수도 없는 상황입니다. 여기서 반전은, 배달원의 절반은 인간 매니저가 이 끔찍한 주문을 배정했다고 들었고, 나머지 절반은 컴퓨터 알고리즘이 이 주문을 배정했다고 들었다는 점입니다.
결과는 명확했습니다. 사람들은 컴퓨터로부터 온 나쁜 주문에 대해서는 훨씬 더 기꺼이 수용했습니다. 인간 매니저가 이 끔찍한 주문을 배정했을 때, 배달원들은 훨씬 더 화가 났고 단순히 상황을 넘기려 하지 않았습니다. 왜 그럴까요? 그들의 뇌가 다음과 같은 두 가지 특정 방식으로 과도하게 작동했기 때문입니다.
- "만약에" 영화: 인간이 실수를 했을 때, 배달원들은 "아, 매니저가 다른 경로를 선택할 수도 있었을 텐데!"라거나 "내 다른 주문들을 먼저 확인했어야 했는데!"라고 상상하기 시작했습니다. 이것이 바로 상향 반사실적 사고입니다. 이는 마치 문이 열려 있는 것을 보고 "그들이 문을 닫았더라-면 내가 젖지 않았을 텐데!"라고 생각하는 것과 같습니다. 더 나은 대안을 더 많이 상상할수록, 현재의 엉망인 상황을 받아들이기는 더 힘들어집니다.
- "못된 의도" 탐정: 인간이 나쁜 주문을 배정했을 때, 배달원들은 "저 사람이 일부러 그랬나? 나를 무시한 건가?"라고 생각하기 시작했습니다. 이것이 의도성 귀인입니다. 우리는 인간에게 감정과 선택권이 있다고 가정하므로, 만약 인간이 실수를 하면 그것이 나를 괴롭히기 위해 의도한 것인지 궁금해합니다. 반면 컴퓨터는 그저 규칙을 따르는 것으로 간見됩니다. 로봇이 일부러 "못되게" 굴고 있다고 생각하기는 어렵습니다. 그저 오류이거나 계산의 결과일 뿐이니까요.
연구 결과, 인간은 이 두 가지 정신적 과정(‘만약에’ 영화와 ‘못된 의도’에 대한 의심)을 유발하기 때문에, 우리는 그들의 나쁜 결정을 덜 수용한다는 것이 밝혀졌습니다. 규칙을 따르는 기계로 인식되는 로봇은 이러한 생각을 덜 자극하기 때문에, 우리는 로봇의 나쁜 결정을 더 쉽게 받아들입니다.
"개인적 이해관계"라는 반전
하지만 이 현상이 항상 일all까요? 연구진은 이것이 개인에게 얼마나 직접적인 영향을 미치는지에 따라 달라지는지 궁금했습니다. 여기서 두 번째 실험이 등장합니다. 그들은 360명의 사람들에게 직장의 특별 교육 프로그램에 참여하지 못하게 된 상황을 상상하게 했습니다.
이번에는 규칙을 바꿨습니다. 어떤 사람들에게 이 교육은 **낮은 이해관계(low stakes)**였습니다. 즉, 경력에 변화를 주지 않는 재미있는 수업일 뿐이었습니다. 다른 사람들에게는 이 교육이 **높은 이해관계(high stakes)**였습니다. 이 교육을 받는 것은 승진, 임금 인상, 혹은 멋진 프로젝트를 맡을 기회를 의미했습니다. 이 기회를 놓치는 것은 미래에 엄청난 타격이 될 것입니다.
여기서 이야기는 흥Interesting해집니다. 이해관계가 낮을 때(단순히 재미있는 수업일 때)는 인간이든 로봇이든 "안 된다"고 말해도 큰 차이가 없었습니다. 사람들은 그들의 '만약에' 영화나 탐정 놀이를 시작할 만큼 신경 쓰지 않았습니다.
하지만 이해관계가 높을 때(경력에 영향을 줄 때)는 인간과 로봇 사이의 차이가 폭발적으로 나타났습니다.
- 높은 이해관계 + 인간: 사람들은 과잉 반응을 보였습니다. "상사가 예외를 인정해 줄 수도 있었을 텐데!"라며, "상사가 의도적으로 내 커리어를 방해한 건가?"라고 생각했습니다. 분노와 저항은 엄청났습니다.
- 높은 이해관계 + 로봇: 사람들은 여전히 아쉬워했지만, 훨씬 더 기꺼이 수용했습니다. 그들은 "음, 컴퓨터는 그냥 규칙을 따른 것뿐이야"라고 생각했고, 대안을 상상하거나 악의적인 의도를 추측하는 데 에너지를 쏟지 않았습니다.
이것이 의미하는 바
그렇다면 결론은 무엇일까요? 이 논문은 우리의 뇌가 나쁜 일이 생겼을 때 로봇과 인간을 다르게 취급하지만, 그것이 우리에게 정말 중요할 때만 그렇다는 점을 시사합니다.
로봇이 당신의 삶을 망친다면, 당신은 기분이 나쁠 수는 있지만, 그것이 '나쁜 태도'를 가졌다고 비난하거나 그것이 어떻게 다르게 할 수 있었을지 집착할 가능성은 낮습니다. 당신은 그것을 시스템 오류로 봅니다. 하지만 인간이 똑같은 실수를 저지르고, 특히 당신의 직업이나 미래가 걸려 있을 때, 당신의 뇌는 격렬하게 반응합니다. 당신은 그들이 당신을 도울 수 있었던 모든 방법을 상상하기 시작하고, 그들이 의도적으로 그런 행동을 했는지 의심하기 시작합니다.
연구진은 이 "개인적 이해관계"가 마치 볼륨 조절기처럼 작동한다는 것을 발견했습니다. 이해관계가 낮을 때, 우리의 분노와 의심의 볼륨은 낮아져서 인간과 로봇의 차이는 조용해집니다. 하지만 이해관계가 높을 때, 볼륨은 올라가고 우리는 그 차이를 아주 뚜렷하게 듣게 됩니다. 즉, 우리는 기계보다 인간에게 훨씬 더 높은 수준의 의도성과 유연성을 요구한다는 것입니다.
요약하자면, 우리가 로봇을 더 용서하는 이유는 로봇이 더 뛰어나서가 아니라, 우리의 뇌가 로봇에게 선택권이나 동기가 있다고 상상하는 것을 더 어려워하기 때문입니다. 결과가 정말 고통스러울 때, 우리는 책임자로서의 인간에게 더 많은 것을 요구하며, 로봇의 규칙은 조금 더 쉽게 받아들입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.