From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

현대 건강 연구의 세계에서 과학자들은 패턴을 찾거나, 질병을 예측하거나, 치료법을 제안하기 위해 방대한 양의 정보로부터 학습하는 컴퓨터 프로그램에 의존하는 경우가 많습니다. 인공지능이라고 알려진 이 프로그램들은 강력한 도구이지만, 수십 년 동안 연구자들이 사용해 온 전통적인 실험과는 다르게 작동합니다. 표준적인 연구에서 과학자는 특정 질문을 위해 사람들에게 의료 기록 사용 허가를 요청하고, 분석을 실행한 뒤, 결과를 발표할 수 있습니다. 일단 연구가 완료되면 그 작업은 보통 끝난 것으로 간주됩니다. 그러나 인공지능은 이 타임라인을 변화시킵니다. 이러한 시스템은 데이터로 학습될 수 있으며, 초기 연구가 승인된 후 훨씬 긴 시간이 지난 뒤에도 완전히 새로운 작업을 위해 업데이트되고, 개선되며, 재배포될 수 있습니다. 또한 이들은 오래된 기록으로부터 새로운 정보를 생성하거나, 연구팀 외부의 기업들에 의해 사용될 수도 있어, 문제가 발생했을 때 누가 책임을 지는지에 대한 의문을 제기합니다. 캐나다는 연구자들이 인간 참여자를 어떻게 대우해야 하는지를 안내하는 '트라이-카운슬 정책 성명(Tri-Council Policy Statement)'이라는 잘 존경받는 일련의 규칙을 가지고 있습니다. 이 규칙들은 세 가지 견고한 아이디어, 즉 사람을 존중하고, 그들의 안녕을 돌보며, 공정성을 보장한다는 원칙 위에 세워졌습니다. 이러한 원칙들은 강력하지만, 인공지아가 건강 연구의 일반적인 부분이 되기 전에 작성되었습니다. 캐나다 연구 커뮤니티가 직면한 큰 질문은 이 오래된 규칙들이 이 스마트한 컴퓨터 시스템의 새롭고 변화하는 특성을 다루기에 충분한가 하는 점입니다.

연구자 압돌레자 바바마무디(Abdolreza Babamahmoodi)는 캐나다의 현재 규칙들이 건강 분야의 인공지능에 어떻게 적용되는지를 면밀히 조사함으로써 이 질문에 답하고자 했습니다. 이것은 새로운 약물을 테스트하거나 환자를 설문 조사하는 연구가 아니라, 캐나다와 전 세계의 기존 정책, 법률 및 가이드라인을 세심하게 검토하는 연구였습니다. 연구자는 캐나다의 주요 연구 윤리 정책, 세계보건기구(WHO)의 국제 지침, 그리고 호주와 유럽 연합의 규칙을 포함한 28개의 서로 다른 문서를 수집했습니다. 목표는 현재의 캐나다 규칙이 인공지능이 관여될 때 연구자와 윤리 위원회에 무엇을 해야 할지에 대한 명확한 지침을 제공하는지 확인하는 것이었습니다. 분석은 여섯 가지 핵심 영역에 집중되었습니다: 무엇을 연구로 간주할 것인지 결정하는 것, 데이터의 출처, 컴퓨터 모델이 얼마나 공정하게 작동하는지, 인간이 어떻게 통제권을 유지하는지, 시스템의 변화를 나중에 어떻게 처리하는지, 그리고 원주민 공동체의 권리를 존 how 존중하는지입니다.

연구 결과, 캐나다의 기존 규칙들이 도덕적 기조를 설정하는 데는 유용하지만, 연구자와 윤리 위원회가 내려야 하는 일상적인 결정을 안내하기에는 세부 사항이 부족하다는 것이 밝혀졌습니다. 현재의 정책은 연구자가 사람을 존중하고 공정성을 보ensure해야 한다고 명시하고 있지만, 연구자가 컴퓨터 모델이 공정하다는 것을 증명하기 위해 어떤 증거를 제시해야 하는지는 구체적으로 명시하지 않습니다. 또한 모델이 승인 6개월 후에 업데이트될 때 어떤 일이 발생하는지, 혹은 제3자 기업이 연구자가 예상하지 못한 방식으로 데이터를 사용할 경우 누가 책임을 지는지도 말해주지 않습니다. 연구자는 이러한 구체적인 지침이 없다면 윤리 위원회는 추측에 의존할 수밖에 없다고 지적했습니다. 어떤 이들은 너무 많은 정보를 요구하여 중요한 작업을 늦출 수도 있고, 다른 이들은 무엇을 찾아야 할지 몰라 결정적인 위험을 놓칠 수도 있습니다. 이 논문은 원칙들이 옳고 그름을 판단하기에는 충분하지만, 사람들에게 정확히 무엇을 해야 할지 알려주는 운영상의 적절함은 부족하다고 주장합니다.

이를 해결하기 위해 연구자는 "라이프사이클 리뷰(lifecycle review)"라고 불리는 새로운 관점을 제안했습니다. 연구를 출판 시점에 종료되는 단일 사건으로 보는 대신, 이 접근 방식은 연구를 여섯 가지 뚜렷한 체크포인트가 있는 연속적인 여정으로 간봅니다. 첫 번째 체크포인트는 목적입니다: 인공지능이 정확히 무엇을 할 것이며 누구를 도울 것인지 정의하는 것입니다. 두 번째는 데이터입니다: 정보가 어디에서 왔으며 누가 그것을 사용할 권리가 있는지 매핑하는 것입니다. 세 번째는 개발입니다: 컴퓨터 모델이 어떻게 구축되고 테스트되었는지 확인하는 것입니다. 네 번째는 검증입니다: 모델이 평균적인 집단뿐만 아니라 다양한 집단에 대해서도 잘 작동하는지 확인하는 것입니다. 다섯 번째는 배포입니다: 인간이 컴퓨터의 제안을 이해하고 실수가 발생했을 때 이를 중단할 수 있는지 확인하는 것입니다. 마지막 체크포인트는 변경 및 은퇴입니다: 모델이 업데이트되거나, 새로운 곳으로 이동하거나, 꺼질 때 어떤 일이 일어날지 계획하는 것입니다.

이 새로운 프레임워크는 연구자가 각 여섯 단계에서 특정 정보 세트를 제출해야 함을 시사합니다. 예를 들어, 모델이 처음 제안될 때 연구자는 의도된 용도를 설명해야 합니다. 나중에 모델이 업데이트되거나 데이터 소스가 변경되는 경우, 연구자는 그 변화가 재검토를 요할 만큼 중요한지 확인하기 위해 윤리 위원회에 이를 보고해야 합니다. 이 논문은 이것이 서류 작업의 산을 만드는 것이 아니라, 적절한 시기에 적절한 사람들이 적절한 결정을 내리도록 보장하는 것에 관한 것임을 강조합니다. 저위험 연구는 몇 가지 세부 사항만 필요할 수 있지만, 환자 진료에 영향을 미치는 고위험 연구는 훨씬 더 철저한 계획이 필요할 수 있음을 시사합니다.

논문의 중요한 부분은 캐나다 원주민의 권리를 다룹니다. 현재의 규칙은 이미 원주민 공동체가 개인의 권리뿐만 아니라 데이터에 대한 집단적 권리를 가지고 있음을 인정하고 있습니다. 연구자는 기존 정책이 이를 인정하고는 있지만, 이러한 권리가 인공지능에 어떻게 적용되는지는 설명하지 않는다는 점을 발견했습니다. 예를 들어, 컴퓨터 모델이 원주민 공동체의 데이터로 학습되었다면, 그 모델이 나중에 기업에 판매되거나 다른 목적으로 사용될 때 공동체가 발언권을 가질 수 있을까요? 논문은 이러한 질문들이 외부인이 작성한 일반적인 정책에 의해 답변될 수 없다고 주장합니다. 대신, 연구자는 이러한 구체적인 거버넌스 질문이 원주민 공동체에 의해 주도되어야 한다고 명시적으로 밝힙니다. 제안된 프레임워크는 이러한 공동체가 자신들의 데이터와 그 결과물인 컴퓨터 모델이 어떻게 취급될지에 대한 자체적인 규칙을 정의할 수 있는 공간을 남겨둠으로써, 일률적인 해결책에 의해 그들의 권위가 무시되지 않고 존중받도록 합니다.

연구자는 또한 다른 국가들이 이러한 문제를 어떻게 다루는지 살펴보았습니다. 세계보건기구와 호주는 인공지능을 위한 특정 가이드를 만들기 시작했으며, 유럽 연합은 고위험 시스템에 대한 엄격한 모니터링을 요구하는 법률을 가지고 있습니다. 논문은 캐나다가 이 법들을 똑같이 복제할 필요는 없지만, 그 구조로부터 배울 수 있다고 제안합니다. 기술이 변화함에 따라 업데이트될 수 있는 유사한 "살아있는(living)" 가이드를 채택함으로써, 캐나다는 핵심적인 윤리 원칙을 안정적으로 유지하면서도 새로운 도전에 대처하기 위한 필요한 세부 사항들을 추가할 수 있습니다. 연구는 현재의 시스템이 망가진 것이 아니라 불완전한 것이라고 결론짓습니다. 이는 강력한 도덕적 원칙과 인공지능이 작동하는 실제 현실 사이의 가교가 필요합니다.

제안된 해결책은 테스트하고 개선할 수 있는 작동 모델입니다. 연구자는 이 프레임워크가 완벽하다거나 모든 문제를 즉시 해결한다고 주장하는 것이 아닙니다. 대신, 이것은 토론과 향후 검증을 위한 도구로서 제시됩니다. 논문은 이 모델이 표준 규칙이 되기 전에, 실제 연구자와 윤리 위원회를 대상으로 테스트하여 불필요한 지연을 만들지 않으면서 실제로 더 나은 결정을 내리는 데 도움이 되는지 확인해야 한다고 제안합니다. 궁극적인 목표는 인공지능이 건강을 개선하는 데 사용될 수 있으면서도, 관련된 사람들이 보호받고, 데이터가 책임 있게 사용되며, 영향을 받는 공동체가 기술 거버넌스에 대해 실질적인 목소리를 낼 수 있는 시스템을 만드는 것입니다. 과정을 명확하고 관리 가능한 단계로 나눔으로써, 이 프레임워크는 복잡한 인공지능 연구의 세계를 관련된 모든 이들에게 더 투명하고 책임 있게 만드는 것을 목표로 합니다.