Mastery Without a Master: Clinical Deskilling and the Post-Hegelian Paradox of Artificial Intelligence

현대 병원에서 의사의 업무는 언제나 인간의 판단과 축적된 지식 사이의 대화였습니다. 수 세기 동안 이 판단력은 실천을 통해 구축되었습니다. 의사는 수많은 환자를 보고, 불확실한 단서들을 저울질하며, 문제를 구성하고, 대안을 고려하며, 선택의 이유를 설명하는 정신적 단계를 연습함으로써 진단하는 법을 배웁니다. 이 과정은 단순히 오늘 정답을 맞히는 것에 관한 것이 아닙니다. 그것은 내일도 정답을 맞힐 수 있도록 정신을 날카롭게 유지하는 것에 관한 것입니다. 우리는 경험을 통해 알고 있습니다. 수술이든 추론이든, 기술은 강하게 유지되기 위해 정기적인 연습이 필요하다는 것을 말입니다. 만약 어떤 사람이 복잡한 과업을 수행하는 것을 중단한다면, 설령 그가 여전히 전문가라는 직함을 유지하고 있을지라도, 도움 없이 그 과업을 수행하는 능력은 조용히 사라질 수 있습니다. 이것이 새로운 질문이 등장하게 된 배경입니다. 즉, 의사의 사고를 돕기 위해 설계된 바로 그 도구들이 의사의 사고방식 자체를 변화시킨다면 어떤 일이 벌어질 것인가 하는 문제입니다.

안드레아 망기아멜리(Andrea Mangiameli)의 최근 논문은 인공지능이 임상 의학을 어떻게 재편하고 있는지를 살펴봄으로써 이 질문을 탐구합니다. 저자는 AI가 많은 업무를 효율적으로 처리할 수 있지만, 추론이라는 핵심적인 작업에 AI에 너무 과도하게 의존하는 것은 숨겨진 위험을 초래한다고 주장합니다. 이 위험은 기계가 실수를 하는 것이 아니라, 인간 의사가 스스로 문제를 생각하는 능력을 서서히 상실하게 되는 것입니다. 논문은 의사가 AI 시스템이 사례를 구성하고, 가능성 목록을 생성하거나, 설명을 초안하는 과정을 반복적으로 맡기게 될 때, 의사는 그러한 특정한 정신적 근육을 사용하는 연습을 멈추게 된다고 제안합니다. 이는 시간이 흐름에 따라 저자가 '위임된 숙련(abdicated mastery)'이라고 부르는 상태로 이어집니다. 이 상태에서 의사는 공식적인 직함과 환자 케어에 대한 최종 책임을 여전히 보유하고 있지만, 독립적으로 판단을 내릴 수 있는 실제 역량은 침식된 상태입니다. 시스템은 명목상으로는 인간의 통제하에 있지만, 그것을 진정으로 통제하는 데 필요한 인간의 능력은 감소한 것입니다.

이 논문은 기술이 어떻게 형성되고 유지되는지를 검토함으로써 이 주장을 뒷받은다. 저자는 전문적인 전문성이란 소유하는 정적인 것이 아니라, 지속적인 연습에 의존하는 살아있는 능력이라는 개념을 인용합니다. 의사가 환자의 병력을 요약하거나 진단을 제안하기 위해 AI를 사용할 때, 그들은 종가 생성(creation)이라기보다 평가(evaluation)의 과정에 참여하는 경우가 많습니다. 그들은 상자를 만드는 것이 아니라 상자에 체크 표시를 하는 것입니다. 저자는 이러한 변화가 당장은 무해해 보일 수 있다고 지적하는데, 이는 보조를 받는 케어가 대개 훌륭해 보이기 때문입니다. AI는 정답처럼 들리는 답을 제공하고, 서류 작업은 완벽하며, 환자는 치료됩니다. 그러나 논문은 이러한 매끄러운 수행이 장기적인 비용을 숨기고 있다고 언급합니다. 의사는 더 이상 아무것도 없는 상태에서 시작하거나, 불확실성과 씨우거나, 기초부터 새로운 설명을 구성하는 어려운 작업을 수행하지 않게 됩니다.

이 과정은 '포스트 헤겔적 역설(post-Hegelian paradox)'로 묘사되는데, 이는 주인과 하인에 관한 오래된 철학적 아이디어를 의사와 기계에 적용한 것입니다. 원래의 개념에서, 세상과 상호작용하는 데 전적으로 하인에게 의존하는 주인은 결국 세상과의 연결 고리를 잃게 됩니다. 의학적 버전에서 의사는 주인이고 AI는 하인입니다. 역설적이게도 의사는 공식적인 권위를 유지하면서 AI가 추론의 무거운 짐을 지게 되지만, 의사 자신의 독립적인 추론 능력은 서서히 사라집니다. 논문은 이것이 갑작스러운 실패가 아니라 점진적인 표류라고 제안합니다. 의사는 문제 목록을 위해 AI를 사용하고, 그다음에는 감별 진단을 위해, 그다음에는 치료 계획을 위해 AI를 사용할 수 있습니다. 각 단계는 작고 합리적인 지름길처럼 보입니다. 하지만 이러한 작은 지름길들을 몇 달 혹은 몇 년간 거치고 나면, 의사는 기계 없이는 문제 목록이나 치료 계획을 만들어낼 수 없음을 깨닫게 될 수도 있습니다. 권위는 남아 있으나, 기술의 실체는 비워진 것입니다.

이 연구는 이 문제가 숙련된 의사와 훈련 중인 이들에게 서로 다르게 나타난다는 점을 강조합니다. 숙련된 의사에게 위험은 한때 가졌던 능력을 더 이상 사용하지 않아 상실하는 '기술 퇴화(deskilling)'입니다. 수련생에게 위험은 기술을 구축할 기회 자체를 갖지 못하는 '성취의 차단(foreclosed mastery)'입니다. 만약 학생 의사가 항상 AI가 생성한 요약본으로 시작한다면, 그들은 모호한 환자의 이야기를 구조화된 의학적 문제로 바꾸는 법을 결코 배우지 못할 수도 있습니다. 그들은 정답에 도달할 수는 있겠지만, 심도 있는 이해를 구축하는 데 필요한 정신적 투쟁의 과정을 건너뛰게 될 것입니다. 논문은 이것이 위험한 격차를 만든다고 주장합니다. 의사는 AI의 경로를 따라갈 수는 있지만, 만약 그 경로가 사라지거나 막다른 길로 이어진다면, 의사는 새로운 길을 찾아낼 자원을 갖추지 못할 수도 있다는 것입니다.

저자는 이것이 의사들에게 기술 사용을 탓하는 것이 아님을 강조합니다. 논문은 의사들이 바쁘거나, 병원이 기대하거나, 혹은 환자 케어의 다른 부분에 집중할 수 있도록 도와주기 때문에 AI를 사용한다는 점을 인정합니다. 문제는 구조적입니다. 병원이 조직되는 방식, 전자 기록이 설계되는 방식, 그리고 교육이 이루어지는 방식 모두가 이러한 종류의 위임을 장려합니다. 논문은 현재 의학의 성공 척도가 오직 즉각적인 결과, 즉 '환자가 나았는가?', 'AI가 도움이 되었는가?'만을 바라본다고 지적합니다. 이러한 지표들은 의사의 능력에 일어나는 장기적인 변화를 놓칩니다. 의사는 AI의 도움을 받아 수년간 잘 수행할 수 있지만, AI가 실패하거나 사례가 시스템에 적합하지 않은 독특한 경우에 직면했을 때, 스스로 개입할 독립적인 기술이 부족하다는 것을 알게 될 수 있습니다.

'의미 있는 인간의 통제(meaningful human control)'라는 개념은 논문의 결론에서 핵심적인 역할을 합니다. 저자는 의사가 진정으로 통제하기 위해서는 AI의 제안에 의문을 제기하거나, 수정하거나, 거부할 수 있는 실제 능력을 갖추어야 한다고 주장합니다. 이 능력은 단순히 양식에 서명할 법적 권리가 아니라, 연습을 통해 계속 살려두어야 하는 실질적인 기술입니다. 만약 의사가 AI가 말하는 것을 그대로 반복할 수만 있다면, 그는 의미 있는 통제를 행사하는 것이 아닙니다. 그는 단지 메시지를 전달하는 것에 불과합니다. 진정한 통제는 특정 환자에게 왜 그 권고가 적절한지 이해하고, 그것이 적절하지 않을 때를 포착하며, 표준적인 계획이 실패했을 때 다른 계획을 세울 수 있는 역량을 요구합니다. 논문은 이 역량이 매우 취약하다고 제안합니다. 이는 보존될 수 있지만, 오직 의료 시스템이 의사들이 이러한 어렵고 보조 없는 과업들을 연습할 수 있는 공간을 의도적으로 만들어줄 때만 가능합니다.

논문은 AI가 나쁘다거나 금지해야 한다고 주장하는 것이 아닙니다. 대신, 완전한 의존의 길은 함정이라고 경고합니다. 저자는 의학적 판단의 미래가 오늘날 우리가 도움과 독립 사이의 균형을 어떻게 관리하느냐에 달려 있다고 제안합니다. 만약 우리가 AI가 모든 생각을 하게 내버려 둔다면, 우리는 공식적으로는 책임은 지고 있지만 실질적으로는 스스로 생각할 수 없는 의사 세대를 만들 위험이 있습니다. 해결책은 도구 사용을 멈추는 것이 아니라, 그 도구가 인간의 정신을 날카롭게 유지하는 연습을 대체하지 않도록 보장하는 것입니다. 의사는 AI가 제안을 하더라도 계속해서 사례를 구성하고, 대안을 생성하며, 자신의 선택을 정당화해야 합니다. 이것이 기계가 침묵할 때 의사가 여전히 권위 있게 말할 수 있는 유일한 방법입니다.

궁극적으로, 이 논문은 인공지능 시대의 전문성의 본질에 대해 조용하지만 긴박한 경고를 던집니다. 저자는 의사가 가진 가장 가치 있는 것은 정보에 대한 접근권이 아니라, 그 정보를 독특한 인간의 삶에 적합한 판단으로 합성하는 능력이라고 제안합니다. 이 능력은 느리고 종종 고통스러운 연습을 통해 구축됩니다. 만약 그 작업이 위임된다면, 그 능력은 사라집니다. 논문은 인간의 판단 능력을 보존하는 것이 단순한 기술적 세부 사항이 아니라 윤리적 필연성이라고 결론짓습니다. 시스템이 모든 결정에 의사가 승인하는 방식으로 인간의 통제하에 있는 것처럼 보일 수 있지만, 만약 의사들이 독립적으로 그 결정을 내릴 능력을 상실했다면, 그 통제는 환상에 불과합니다. 저자의 암시처럼, 의학의 미래는 우리가 오늘 도구를 사용하는 방식이 내일 우리가 어떤 의사를 갖게 될지를 결정한다는 사실을 인식하는 데 달려 있습니다.