Generative artificial intelligence in medical postgraduates: a qualitative study of perceived risks, benefits, and responsible use

의학의 세계를 모든 책에 치유의 비밀이 담겨 있는 거대하고 오래된 도서관이라고 상상해 보십시오. 수 세기 동안 의사들과 학생들은 적절한 답을 찾기 위해 모든 페이지를 일일이 손으로 읽어야 했습니다. 하지만 최근, 새로운 종류의 마법 같은 조수가 도착했습니다. 바로 생성형 인공지능(GenAI)입니다. 이 조수를 아주 빠르고 똑똑한 로봇 사서라고 생각해보세요. 이 로봇은 순식간에 수백만 권의 책을 읽고, 요약하며, 심지어 여러분을 위해 이야기까지 써줄 수 있습니다. 꿈만 같은 일처럼 들리죠, 그렇지 않나요? 하지만 여기 함정이 있습니다. 이 로봇 사서는 가끔 말을 지어내기도 하고, 사실 관계를 확인하는 것을 잊어버리기도 하며, 만약 여러분이 이야기를 쓰는 것을 이 로봇에게 맡겨버린다면, 여러분은 스스로 글을 쓰는 법을 잊어버릴지도 모릅니다.

이 논문은 이 마법 같은 로봇을 막 사용하기 시작한 매우 특정한 집단, 즉 중국의 의학 대학원생들에 대해 깊이 파고듭니다. 이들은 전문가가 되기 위해 배우고 있는 젊은 의사들입니다. 연구진은 알고 싶었습니다. 이 학생들은 로봇을 좋아할까요? 아니면 두려워할까요? 그리고 가장 중요한 것은, 그들이 언제 로봇의 도움을 받고 언제 스스로 직접 할지를 어떻게 결정하느냐는 것입니다. 연구진은 단순히 "예" 또는 "아니요"라는 답변을 구한 것이 아니라, 이 기술에 대한 학생들의 실제 생각, 두려움, 그리고 희망을 이해하기 위해 깊은 대화를 나누었습니다.

연구: 미래의 의사들에게 귀를 기울이다

연구진은 신경과(뇌 전문), 정신과(마음 전문), 영상의학과(이미지 전문) 등 다섯 가지 서로 다른 의학 전공의 첫해 석사 과정생 18명을 인터뷰했습니다. 이 학생들은 모두 이미 학업에 ChatGPT나 DeepSeek 같은 AI 도구를 사용해 본 경험이 있었습니다. 팀은 학생들의 이야기를 주의 깊게 들으며 그 안에서 패턴을 찾아냈습니다. 그 결과, 학생들은 매우 명확하고 균형 잡힌 시각을 가지고 있다는 것을 발견했습니다. 그들은 GenAI를 "양날의 검", 즉 문제를 빠르게 해결할 수 있는 날카로운 면도 있지만, 주의하지 않으면 다칠 수 있는 위험한 면도 가진 것으로 보고 있었습니다.

좋은 점: 초강력 사이드킥(조력자)

학생들은 로봇이 시간을 얼마나 아껴주는지에 대해 열광했습니다. 그들은 이를 뇌의 터보차저라고 묘사했습니다.

• 고된 작업의 속도를 높임: 한 학생은 AI가 "필요한 문헌을 빠르게 찾아내는 데" 도움을 준다고 말했고, 또 다른 학생은 "검토 논문을 빠르게 분석할 수 있다"고 언급했습니다. 이는 마치 도서관에서 몇 시간 대신 몇 초 만에 최고의 책들을 찾아주는 친구를 둔 것과 같습니다.
• 보이지 않는 것을 보는 능력: 학생들은 AI가 인간이 놓치는 미세한 디테일을 포착할 수 있다는 점에 놀랐습니다. 한 학생은 "육안으로는 보기 힘든 작은 협착(stenoses)에 대해 AI는 직접 협착률을 계산할 수 있다"고 설명했습니다. 또 다른 학생은 질병 표지자를 찾기 위해 방대한 양의 단백질 데이터를 분석할 수 있다고 언급했습니다. 이는 학생들에게 데이터에 대한 X선 시력을 제공하는 것과 같습니다.
• 브레인스토밍 파트너: AI는 또한 학생들이 미처 보지 못했던 연결 고리를 찾는 데 도움을 줍니다. 한 학생은 AI가 "10분 만에 4,000개의 의학 논문을 분석할 수 있다"며, 혼자일 때보다 더 빠르게 새로운 아이디어를 떠올릴 수 있게 해준다고 말했습니다.

무서운 점: 로봇의 나쁜 습관

하지만 학생들은 맹목적으로 신뢰하지 않았습니다. 사실, 그들의 가장 큰 걱정은 자신들이 게을러질 수 있다는 것이었습니다.

• "뇌 녹슬기"에 대한 공포: 이것은 가장 흔한 우려로, 18명 중 16명의 학생이 언급했습니다. 그들은 만약 AI가 모든 생각을 대신하게 된다면 자신의 뇌가 더 이상 열심히 작동하지 않을까 봐 두려워했습니다. 한 학생은 직설적으로 "AI를 직접 사용하는 것은 스스로의 사고 결여로 이어진다"고 말했습니다. 또 다른 학생은 "AI를 장기간 사용하는 것은 정신적 나태함으로 이어질 수 있다"고 걱정했습니다. 그들은 이를 계산기를 너무 많이 사용하여 기초적인 수학을 하는 법을 잊어버리는 상황에 비유했습니다.
• "가짜 뉴스" 문제: 학생들은 AI가 100% 진실할 것이라고 믿지 않았습니다. 그들은 AI가 "지어내거나" "환각(hallucinate)" 현상을 일으키는 경향이 있다고 지적했습니다. 한 학생은 "AI가 보여주는 대부분의 문헌 출처는 가짜다"라고 불평했습니다. 이는 마치 존재하지도 않는 책을 자신 있게 가리키는 사서와 같습니다.
• 개인정보 보호와 책임: 그들은 환자의 비밀에 대해서도 걱정했습니다. 만약 환자의 데이터를 AI에 입력한다면, 데이터가 유출되어 차별이나 사생활 침해로 이어질 수 있다고 우려했습니다. 또한, AI가 틀린 답을 냈을 때 누가 책임을 지는지에 대해서도 혼란스러워했습니다. 한 학생은 "AI는 책임을 질 수 없다. 개발자나 해당 기관이 이를 보증해야 한다"고 말했습니다. 만약 로봇 의사가 실수를 한다면, 누가 책임을 져야 할까요? 인간일까요, 기계일까요? 현재 그 답은 불분명합니다.

규칙: 공정하게 노는 법

두려움에도 불구하고, 학생들은 로봇을 금지하기를 원하지 않았습니다. 그들은 자신의 입장을 설명하기 위해 중국의 속담을 사용했습니다: "질식할까 봐 먹는 것을 멈춰서는 안 된다." 대신, 그들은 무엇이 허용되고 무엇이 허용되지 않는지에 대해 매우 명확한 선을 그었습니다.

• 그린 라이트 (사용 가능): 그들은 영어 문장을 다듬거나, 컴퓨터 코드를 점검하거나, 논문의 초안을 작성하는 데 AI를 사용하는 것에 찬성합니다. 그들은 이것을 더 빠르게 일하기 위한 도구로 보고 있습니다.
• 레드 라이트 (사용 금지): 그들은 AI가 환자의 진단을 내리거나, 민감한 환자 데이터를 다루거나, 연구의 독창적인 아이디어를 만들어내는 데 절대 사용되어서는 안 된다는 점에 단호합니다. 한 학생은 "초안을 만드는 데는 AI를 사용하겠지만, 반드시 수동으로 수정하고 검증할 것이다"라고 말했습니다. 그들은 AI를 선장이 아닌 항해사로 두고, 자신이 배의 선장이 되고자 합니다.

그들이 원하는 것: 완벽한 AI 비서

마지막으로, 학생들은 이러한 도구들을 안전하게 사용하기 위해 정확히 무엇이 필요한지 연구진에게 말했습니다. 그들은 설명 없이 답만 주는 "마법의 블랙박스"를 원하지 않습니다. 대신, 다음과 같은 AI를 원합니다:

1. 규칙을 아는 것: AI는 단순히 무작위 추측이 아니라, 실제적이고 수준 높은 의학적 근거와 가이드라인에 기반하여 답을 내놓아야 합니다.
2. 비밀을 보호하는 것: 환자의 데이터를 안전하게 지키기 위해 (HIPAA나 GDPR 같은) 엄격한 개인정보 보호법을 준수하며 은행 금고처럼 안전해야 합니다.
3. 자신의 작업을 설명하는 것: 단순히 답만 주는 것이 아니라, 왜 그런 답을 냈는지 논리를 설명하여 학생이 그 과정을 이해할 수 있어야 합니다.
4. 겸손함을 유지하는 것: AI는 의사의 대체물이 아니라 명확히 '보조자'로서의 위치를 지켜야 합니다.

결론

이 연구는 미래의 의사들이 단순히 기술을 수동적으로 사용하는 사용자가 아니라, 기술을 어떻게 사용할지에 대해 비판적으로 사고하고 있음을 시사합니다. 그들은 효율성과 발견을 위한 AI의 엄청난 이점을 보고 있지만, 동시에 자신의 창의적이고 비판적인 사고 능력을 잃는 것에 대해 깊이 우려하고 있습니다. 그들은 로봇을 버리라고 요구하는 것이 아닙니다. 정직하고, 안전하며, 보스가 아닌 조력자로 명확히 정의된 로봇을 요구하고 있는 것입니다. 그들의 목소리는 의학 분야에서 AI가 진정으로 도움이 되기 위해서는, 인간의 판단을 존중하고 인간이 운전대를 잡고 있도록 만드는 도구를 구축해야 한다는 점을 시사합니다.