Bounded Normative Equivalence in Human-AI Cooperation: Group Behaviour, Not Partner Labels, Predicts Cooperation under Anonymous Aggregate Feedback

위대한 그룹 게임: 로봇이 원 안에 합류할 때

당신이 거대한 모래성을 함께 만드는 것과 같은 큰 프로젝트를 수행하는 팀의 일원이라고 상상해 보세요. 당신에게는 모래 한 양동이(당신의 자원)가 있고, 목표는 모든 사람이 힘을 보탰을 때 그룹 전체가 얼마나 많은 것을 건설할 수 있는지 확인하는 것입니다. 이것은 행동 경제학이라는 분야의 핵심인데, 이 분야는 개인의 이익이 그룹 전체의 이익과 충돌할 때 사람들이 어떻게 결정을 내리는지를 연구합니다. 수십 년 동안 과학자들은 인간이 까다롭다는 사실을 알고 있었습니다. 우리는 종-종 무임승차(다른 사람들이 성을 쌓는 동안 우리는 즐기기만 하는 것)를 하고 싶어 하지만, 동시에 친구를 따라 하는 경향도 있습니다. 다른 사람들이 모두 돕고 있다면 우리도 돕고, 그들이 게으름을 피우면 우리도 그렇게 합니다. 이것을 "조건부 협력(conditional cooperation)"이라고 부릅니다.

이제 새로운 반전을 상상해 보세요. 만약 당신의 팀원 중 한 명이 사람이 아니라 로봇이나 AI라면 어떻게 될까요? 인공지능이 우리 삶의 일상이 되어감에 따라, 우리는 중요한 질문을 던져야 합니다. 팀원이 기계라는 사실이 우리가 게임을 플레이하는 방식을 바꿀까요? 우리가 그들을 덜 신뢰하게 될까요? 우리가 더 공정하게 행동해야 한다는 압박을 덜 느끼게 될까요? 이 연구는 바로 그 미스터리를 파헤치며, 로봇이 파티에 합류했을 때 우리의 사회적 규칙—어떻게 행동해야 하는지에 대한 암묵적인 합의—이 깨지는지, 아니면 의자에 누가(또는 무엇이) 앉아 있든 그룹을 동일하게 대하는지를 탐구합니다.

---

실험: 인간, 봇, 그리고 비밀 라벨

답을 찾기 위해 연구진은 디지털 놀이터를 마련했습니다. 그들은 236명의 실제 사람들을 모아 4명씩 한 그룹으로 묶어 "공공재 게임(Public Goods Game)"이라는 게임을 하게 했습니다. 이것을 앞서 말한 모래성 챌िक인지의 반복된 라운드라고 생각하면 됩니다. 각 라운드에서 모든 플레이어는 100개의 토큰(놀이용 돈과 같은 것)을 받았고, 이를 공유된 항아리에 얼마나 넣을지 결정해야 했습니다. 만약 돈을 넣는다면, 그 돈은 불어나서 모두에게 다시 나누어집니다. 만약 돈을 챙겨둔다면, 그들은 오직 자신의 몫만을 갖게 됩니다.

여기에 비법이 있습니다. 모든 그룹에서 세 명의 플레이어는 실제 인간이었고, 네 번째 플레이어는 컴퓨터 프로그램(봇)이었습니다. 연구진은 인간들에게 작은 속임수를 썼습니다. 때때로 그들은 그룹에게 네 번째 플레이어가 인간이라고 말했습니다. 또 다른 때는 그것이 AI라고 말했습니다. 하지만 실제로 봇은 다음 세 가지 엄격한 스크립트 중 하나를 따랐습니다:

1. 슈퍼 헬퍼(Super Helper): 항상 100개의 토큰을 모두 넣음.
2. 미러(Mirror): 지난번 그룹의 평균값이 얼마였는지에 따라 넣음.
3. 프리 라이더(Free-Rider): 단 하나의 토큰도 넣지 않음.

인간들은 봇이 어떤 스크립트를 실행하고 있는지 몰랐고, 누가 항아리에 얼마를 넣었는지도 보지 못했습니다. 그들은 오직 그룹 전체가 기여한 총액만을 보았습니다. 10라운드 후에, 인간들은 자신의 습관이 계속 유지되는지 확인하기 위해 파트너와 함께 마지막으로 짧은 게임을 한 번 더 수행했습니다.

거대한 놀라움: 라벨은 중요하지 않았다

연구진은 사람들이 AI를 다르게 대할 것이라는 짐작이 있었습니다. 만약 팀원이 "AI"라고 라벨링 된다면, 사람들이 덜 협조적일 것이라고, 즉 무임승차에 대해 죄책감을 덜 느끼거나 기계에 대해 신뢰를 덜 할 것이라고 생각했습니다. 그들은 이를 "차별 효과(differentiation effect)"라고 불렀습니다.

하지만 결과는 완전한 반전이었습니다. 라벨은 아무것도 바꾸지 못했습니다.

그룹이 네 번째 플레이어를 인간이라고 생각하든 AI라고 생각하든, 인간들은 게임을 정확히 똑같은 방식으로 플레이했습니다.

• 수치: 사람들이 기여한 정도의 차이는 너무 작아서 기본적으로 제로에 가까웠습니다. 연구진은 어떤 차이가든 "인간" 그룹과 "AI" 그룹 사이의 차이가 5토큰(100토큰 시작 금액의 5%)보다 작다는 것을 증명하기 위해 특별한 수학적 테스트를 사용했습니다. 즉, 두 그룹은 통계적으로 동일했습니다.
• 진짜 동력: 실제로 중요했던 것은 네 번째 플레이어의 라벨이 아니었습니다. 그것은 바로 전체 그룹이 이전 라운드에서 무엇을 했느냐였습니다. 만약 그룹이 지난번에 많이 기여했다면, 인간들도 이번에 더 많이 기여했습니다. 만약 그룹이 게으름을 피웠다면, 인간들도 게으름을 피웠습니다. 인간들은 상대방의 정체가 아니라 그룹의 행동에 반응하고 있었던 것입니다.

심지어 봇의 전략조차 큰 파장을 일으키지는 못했습니다. 봇이 슈퍼 헬퍼였든, 미러였든, 프리 라이더였든 간에, 인간들은 그것에 따라 자신의 행동을 극적으로 바꾸지 않았습니다. 그룹의 집단적인 분위기가 보스였으며, 로봇의 구체적인 행동은 아니었습니다.

여파: 습관은 남고, 라벨은 남지 않는다

이 "AI 대 인간"의 혼란이 장기적인 영향을 미치는지 확인하기 위해, 연구진은 주요 이벤트 직후에 참가자들에게 마지막 게임을 요청했습니다. 그들은 "AI" 그룹이 "인간" 그룹보다 덜 협조적이 되도록 학습했는지를 보고 싶었습니다.

결과는 역시 아니었습니다. 그룹 게임 동안 형성된 인간의 습관은 상대가 로봇인지 사람인지와 상관없이 완벽하게 이어졌습니다. 무엇이 "공정"하고 다른 사람들이 무엇을 "해야 하는지"에 대한 그들의 믿음 또한 두 그룹 모두 동일했습니다.

왜 이런 일이 일어나는가: "흐릿한 사진" 효과

그렇다면 왜 AI 라벨이 변화를 일으키지 않았을까요? 논문은 정보가 공유되는 방식 때문이라고 제안합니다. 인간들은 그룹의 총점만을 보았을 뿐, 누가 무엇을 기여했는지는 보지 못했습니다. 이것은 군중의 흐릿한 사진을 보는 것과 같습니다. 군중이 움직이고 있다는 것은 볼 수 있지만, 특정 인물을 지목하며 "저 사람이 로봇이다!"라고 말할 수는 없는 것입니다.

인간들이 AI의 행동을 특정할 수 없었기 때문에, "AI" 라벨은 불신이나 도덕적 해제와 같은 특별한 감정을 유발하는 힘을 잃었습니다. 그룹은 하나의 단위로 행동했고, 인간은 그룹의 리듬에 반응했습니다. 연구진은 이를 **"경계적 규범적 등가성(Bounded Normative Equivalence)"**이라고 부릅니다. 이는 특정 조건(익명성, 그룹 수준의 피드백) 하에서는 로봇이 섞여 있더라도 협력의 규칙이 동일하게 작동한다는 것을 의미합니다.

이것이 의미하는 바 (그리고 의미하지 않는 것)

이 연구는 우리가 누가 무엇을 했는지 쉽게 알 수 없는 상황에서는 생각보다 AI와 더 잘 협력할 수도 있음을 시사합니다. 이는 우리가 항상 기계를 신뢰할 가치가 없는 "외부자"로 취급할 것이라는 생각에 도전합니다.

하지만 저자들은 이것이 모든 상황에서 로봇이 인간과 똑같다는 것을 의미하는 것은 아니라고 주의를 기울입니다. 이 "등가성"은 "경계적"입니다. 즉, 한계가 있다는 뜻입니다. 만약 피드백이 정확히 누가 무엇을 했는지 보여주었거나, 그룹이 대부분 로봇으로 구성되었다면 결과는 완전히 달랐을 것입니다. 하지만 현재로서는, 모든 행동이 하나로 섞여 있는 그룹 안에서 인간들은 상대가 피와 살을 가진 존재이든 코드이든 동일한 규칙을 따랐습니다.