Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

의료 시스템을 거대하고 북적이는 도서관이라고 상상해 보세요. 여기서 의사들은 수석 사서 역할을 합니다. 수년 동안 그들은 책을 가져오고, 선반을 정리하고, 당신의 기분이 나아지도록 돕는 이야기를 추천할 수 있는 유일한 허가권을 가진 사람들이었습니다. 하지만 최근, 새로운 종류의 조력자가 도착했습니다. 바로 인공지능(AI)으로 구동되는 초고속, 초지능 로봇 사서입니다. 이 로봇은 1초에 수백만 권의 책을 스캔하고, 인간이 놓칠 수 있는 패턴을 발견하며, 심지어 당신의 특정 기분에 딱 맞는 이야기를 제안할 수도 있습니다. 정말 멋지게 들리죠? 하지만 여기 함정이 있습니다. 로봇이 빠르다고 해서 모두가 그것을 신뢰하는 것은 아닙니다. 어떤 이들은 로봇이 이야기를 잘못 전달하거나, 자신의 비밀을 훔치거나, 심지어 인간 사서를 완전히 대체해 버릴까 봐 걱정합니다.

이 연구는 일반 사람들의 마음속을 들여다보며 큰 질문 하나에 답하고자 합니다. 우리는 이 새로운 로봇 사서를 신뢰할까요, 아니면 그것이 우리의 건강을 망칠까 봐 두려워할까요? 이 답을 이해하기 위해 우리는 몇 가지를 알아야 합니다. 첫째, "AI 리터러시(AI 문해력)"가 있는데, 이는 단순히 "당신이 이 로봇의 두뇌가 어떻게 작동하는지 아는가?"라는 뜻입니다. 그다음은 "친숙도"로, 이는 당신이 일상생활에서 이 로봇들을 얼마나 자주 보거나 사용해 보았는지를 의미합니다. 마지막으로 "인간의 감독"이라는 개념이 있는데, 이는 인간 사서가 여전히 책임자로서 로봇의 작업을 지켜보며 로봇이 올바르게 일을 하고 있는지 확인하고 있다는 믿음입니다. 연구진은 AI에 대해 더 많이 아는 것, 직접 사용하는 것, 또는 인간 사서를 신뢰하는 것이 우리가 로봇을 얼마나 유용하고, 위험하며, 공정하다고 생각하는지에 변화를 주는지 알고 싶었습니다.

암스테르담 대학교의 연구팀인 연구자들은 네덜란드 대중의 생각을 파악하기 위해 거대한 스냅샷을 찍기로 했습니다. 그들은 약 4,000명(남녀 비율은 거의 절반씩이며 평균 연령은 52세)에게 설문조사를 실시했습니다. 그들은 단순히 "AI를 좋아합니까?"라고 묻지 않았습니다. 대신 세 가지 구체적인 감정으로 나누어 질문했습니다. 의료 분야에서의 자동화된 의사결정(ADM)이 유용한가? 위험한가? 그리고 공정한가?

답을 찾기 위해 그들은 구조 방정식 모델링(Structural Equation Modeling)이라는 특별한 수학 도구를 사용했습니다. 이것은 서로 다른 점들을 연결하는 거대하고 복잡한 지도라고 생각하면 됩니다. 연구진은 "AI에 대해 얼마나 아는가?"와 "그것이 위험하다고 생각하는가?"와 같은 요소들 사이에 선을 그려 어떤 점이 가장 강하게 줄을 당기고 있는지 살펴보았습니다. 또한, 건강 상담을 위해 챗봇을 사용해 본 사람들이 구글만 사용하는 사람들과 다르게 느끼는지도 확인했습니다. 또한, 인간이 쓴 글과 AI가 쓴 글의 차이를 구별할 수 있는 의사의 능력에 대한 신뢰도가 전체 시스템에 대한 안전함으로 이어지는지도 점검했습니다.

그래서 그 지도는 무엇을 드러냈을까요? 그 결과는 놀라운 반전이 있는 롤러코스터 타기와 같습니다.

첫째, 사람들이 다양한 유형의 AI(챗봇, 딥페이크, 생성형 AI 등)에 대해 더 많이 알수록, 그것이 유용할 수 있다고 생각했습니다. 마치 마술의 원리를 알면 마술사의 기술을 더 높게 평가하게 되는 것과 같습니다. 하지만 반전이 있습니다. 바로 그 친숙함이 그들이 AI를 더 위험하게 느끼게 만들기도 했다는 점입니다. 즉, 로봇에 대해 조금 더 알게 되면, 그것이 완벽한 도구일 뿐만 아니라 잘못될 수도 있는 강력한 도구라는 사실을 깨닫게 된다는 것입니다. 따라서 더 많이 안다는 것이 단순히 사람들을 열광하게 만든 것이 아니라, 위험에 대해서도 더 잘 인지하게 만들었습니다.

둘째, 연구는 '인간 사서'에 대해 매우 흥령한 점을 발견했습니다. 사람들이 AI가 공정하고 유용하다고 생각하게 만드는 단 하나의 가장 큰 요인은, AI와 인간의 콘텐츠를 구별해 내는 의사의 능력에 대한 확신이었습니다. 만약 어떤 사람이 "내 의사는 이것이 컴퓨터가 쓴 것인지 알아차릴 수 있어"라고 믿는다면, 그들은 전체 시스템이 훨씬 더 공정하다고 느꼈습니다. 결국, 우리는 로봇 자체를 신뢰하는 것보다 로봇의 목줄을 쥐고 있는 인간을 신뢰하는 것에 더 신경을 쓰고 있었습니다. 인간이 통제권을 가지고 실수를 잡아낼 수 있다고 믿을 때, 우리는 안전함을 느낍니다.

셋째, 건강 정보를 얻기 위해 대화형 에이전트(챗봇이나 가상 비서 등)를 실제로 사용해 본 사람들은 다른 이들과 다르게 느꼈습니다. 이 사용자들은 시스템이 덜 위험하고 더 공정하다고 생각했습니다. 이는 자전거를 타는 것과 같습니다. 처음 자전거에 올라탈 때는 흔들거리고 무섭게 느껴지지만, 몇 번 타고 나면 평범하고 안전하게 느껴지는 것과 같습니다. 이러한 도구들을 사용하는 것은 무서운 로봇을 친절한 조력자처럼 느끼게 해준 듯 보였습니다. 다만, 연구진은 설문에 참여한 대부분의 사람이 아직 챗봇을 자주 사용하지 않는다는 점을 언급하며, 이 "자전거 타기" 효과가 아직 모두에게 적용되지는 않았다고 덧붙였습니다.

흥미롭게도, 연구는 전통적인 건강 웹사이트(예: 공식 병원 페이지)를 사용하는 사람들이 다르게 느끼는지도 살펴보았습니다. 결과적으로 기존의 디지털 소스에 의존하는 사람들은 AI가 더 위험하다고 생각했지만, 그것이 유용함이나 공정함에 대한 견해를 바꾸지는 못했습니다. 마치 "옛 방식"을 고수하는 것이 새로운 로봇을 더욱 의심스럽게 만드는 것과 같았습니다.

또한, 이 연구는 "AI 리터러시"(기술을 얼마나 잘 이해하는가)와 AI가 위험하다고 느끼는 것 사이에는 강한 연결 고리가 없다는 점을 발견했습니다. 자동차 엔진의 원리를 안다고 해서 자동차에 대한 두려움이 줄어들 것이라고 생각할 수도 있지만, AI의 경우 기술을 이해하는 것이 반드시 안전함을 느끼게 해주지는 않았습니다. 연구진은 기술을 이해하는 것이 어떤 이들에게는 위험을 명확히 보게 만들고, 다른 이들에게는 과도한 자신감을 갖게 하여 서로 상쇄되었기 때문일 수 있다고 제안했습니다.

연구진은 이 연구가 미래를 보여주는 영화가 아니라 현재의 모습을 담은 스냅샷임을 주의 깊게 밝혔습니다. 그들은 챗봇을 사용하는 것이 사람들의 두려움을 줄이는 '원인'이라고 단정 지을 수는 없으며, 단지 두 현상이 함께 나타난다는 것을 알 뿐이라고 말했습니다. 또한, 설문에 사용된 질문들이 단순했기 때문에, 이러한 감정들에는 더 미묘한 차이가 있을 수 있다고 언급했습니다.

결론적으로, 이 논문이 들려주는 이야기는 '신뢰'에 관한 것입니다. AI가 의료 분야에서 진정으로 도움이 되는 부분이 되기 위해서는, 단지 더 나은 로봇이 필요한 것이 아닙니다. 우리는 사람들이 그 로봇을 사용하는 인간 의사를 신뢰하도록 만들어야 합니다. 만약 사람들이 의사가 AI를 감시하고 실수를 잡아낼 수 있다고 믿는다면, 대중은 이 기술을 훨씬 더 공정하고 유용하다고 받아들일 것입니다. 하지만 만약 우리가 그 과정 속에 있는 '인간'을 잊어버린다면, 로봇은 우리 모두에게 그저 무섭고 위험한 기계로 보일 뿐일 것입니다.