Reporting of AI and ML Studies in Elderly Care Settings: A Rapid Systematic Scoping Review

기술이 인간의 돌봄을 대체하는 것이 아니라 이를 지원하기 위해 노인들을 조용히 지켜보는 세상을 상상해 보십시오. 요양원, 보조 생활 시설, 그리고 개인 주거지에서 컴퓨터는 간병인이 도착하기 전에 낙상을 감지하거나, 거주자에게 더 많은 도움이 필요한 시점을 예측하거나, 일상적인 일과를 모니터링하여 문제의 징후를 포착하는 등의 역할을 수행하도록 점점 더 많이 요청받고 있습니다. 이러한 시스템은 인공지능과 머신러닝에 의존하는데, 이 두 용어는 종 often 공상 과학 소설처럼 들리기도 하지만, 실제로는 단순히 컴퓨터가 데이터를 통해 패턴을 찾아내거나 예측을 하기 위해 학습하는 방법을 의미합니다. 이러한 도구들이 돌봄을 더 안전하고 효율적으로 만들 수 있기를 기대하는 것입니다. 그러나 이러한 도구들이 신뢰받고 효과적으로 사용되기 위해서는, 이를 만드는 사람들이 시스템이 정확히 어떻게 작동하는지, 어떤 데이터로부터 학습했는지, 그리고 어디에서 실패할 수 있는지에 대해 명확하게 설명해야 합니다. 명확한 설명이 없다면, 서류상으로는 완벽해 보이는 시스템도 실제 세상에서는 무용지물이거나 심지어 위험할 수도 있습니다.

켐텐 응용과학대학교(Kempten University of Applied Sciences)의 연구진은 최근 과학자들이 이러한 노인 대상 인공지능 프로젝트에 대해 현재 어떻게 보고하고 있는지 면밀히 조사하기로 했습니다. 그들은 새로운 시스템을 구축하거나 특정 장치를 테스트한 것이 아닙니다. 대신, 그들은 2020년 이후 발표된 69개의 최신 연구를 수집하고 검토하는 문헌 감사관 역할을 했습니다. 그들의 목표는 연구 저자들이 자신들이 만든 시스템을 다른 사람들이 이해할 수 있도록 충분한 정보를 제공하고 있는지 확인하는 것이었습니다. 그들은 보고서에 기술을 사용할 사람이 누구인지, 어떤 종류의 데이터가 컴퓨터를 학습시켰는지, 그리고 시스템이 통제된 실험실 환경 밖에서 테스트되었는지에 대한 세부 사항이 포함되어 있는지를 알고 싶었습니다.

그들이 발견한 것은 불균형한 보고의 양상이었습니다. 연구자들은 일반적으로 시스템의 기본 목적과 데이터의 출처를 설명하는 데는 능숙했지만, 시스템이 실제로 바쁜 요양원이나 조용한 거실에서 작동할 수 있는지를 결정짓는 결정적인 세부 사항은 누락하는 경우가 많았습니다. 예를 들어, 거의 모든 연구가 컴퓨터가 무엇을 해야 하는지는 설명했지만, 절반 미만의 연구만이 인간 의사결정자가 누구인지 명확하게 설명했습니다. 많은 경우, 시스템이 간호사, 가족, 또는 거주자 중 누구에게 알림을 보내도록 설계되었는지, 혹은 그 사람이 알림에 어떻게 반응해야 하는지가 불분명했습니다. 이러한 명확성의 부족은 기술이 복잡하고 인간 중심적인 일상 돌봄의 흐름 속에 어떻게 녹아드는지 파악하는 것을 어렵게 만듭니다.

연구진이 이러한 시스템이 어떻게 테스트되었는지 살펴보았을 때 그 격차는 더 벌어졌습니다. 대부분의 연구는 내부 검증(internal validation)에 의존했는데, 이는 컴퓨터가 이미 본 데이터나 학습한 것과 매우 유사한 데이터로 테스트되었음을 의미합니다. 이것은 마치 학생이 공부했던 문제와 똑같은 질문들로 연습 시험을 치르는 것과 같습니다. 이는 컴퓨터가 패턴을 인식할 수 있다는 것을 보여주기는 하지만, 새로운 환경의 무질서하고 예측 불가능한 현실을 다룰 수 있다는 것을 증명하지는 못합니다. 완전히 새롭고 독립적인 데이터로 시스템을 테스트했다고 보고한 연구는 단 16%에 불알과했습니다. 실제 환자 및 직원과 상호작용하며 시스템을 테스트했는지 기술한 연구는 그보다 더 적은 약 20%였습니다. 이러한 실세계 테스트가 없다면, 소음, 움직임, 그리고 다양한 변수가 존재하는 실제 가정이나 시설에서 시스템이 동일한 성능을 발휘할 수 있을지는 여전히 불투명합니다.

아마도 가장 우려스러운 누락은 불확실성과 편향성에 관한 논의의 부재였을 것입니다. 컴퓨터가 예측을 할 때, 그것이 100% 확실한 경우는 드물며, 때로는 특정 집단에게 더 불리한 방식으로 틀릴 수도 있습니다. 연구진은 오직 9%의 연구만이 시스템이 불확실성을 어떻게 처리하는지 또는 자신의 답변에 대해 얼마나 확신하는지를 설명했다는 것을 발견했습니다. 마찬가지로, 시스템이 남성과 여성, 또는 서로 다른 유형의 이동성 문제를 가진 사람들 사이에서 다르게 작동하는지 확인한 연구는 23%에 불과했습니다. 이러한 정보가 없다면, 시스템이 모든 사용자에게 공정하고 신뢰할 수 있는지 알 방법이 없습니다. 또한 연구들은 데이터가 누락되는 상황(실제 생활에서 흔히 발생하는 일)에 대해 거의 논의하지 않았으며, 이는 센서가 고장 나거나 기록이 불완전할 때 시스템이 어떻게 작동할지에 대한 상당한 사각지대를 남겼습니다.

이 리뷰의 저자들은 현재의 연구 방식이 컴퓨터 모델의 기술적 구축에 너무 치중되어 있으며, 시스템이 어떻게 광범위한 인간 환경에 적응하는지에 대해서는 충분히 다루지 못하고 있다고 제안합니다. 엑스레이나 혈액 검사와 같은 진단 도구를 위해 설계된 기존의 의학 연구 보고 가이드라인은, '환자'가 종종 다양한 요구를 가진 공동체 전체인 경우가 많고 '진단'이 지속적인 행동 데이터의 흐름인 노인 돌봄의 독특한 과제들을 충분히 포괄하지 못하는 것으로 보입니다. 이 리뷰는 기술은 빠르게 발전하고 있지만, 연구자들이 그 준비도와 한계를 전달하는 방식은 그 속도를 따라잡지 못하고 있음을 나타냅니다. 보고서에 누가 시스템을 사용하는지, 실세계에서 어떻게 테스트되었는지, 그리고 어디에서 실패할 수 있는지에 대한 명확한 세부 사항이 포함될 때까지, 간병인과 기관들이 이 도구들을 노인의 안전과 안녕을 맡길 수 있는 것으로 정말 신뢰할 수 있을지는 판단하기 어려울 것입니다.