Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

당신의 정신이 찬란하고 북적이는 도시이지만, 그 도시로 나가는 길들이 완전히 막혀 있는 세상을 상상해 보십시오. 당신은 생각하고, 느끼고, 계획할 수 있지만, 손을 흔들거나 말하거나 타자를 칠 수는 없습니다. 이것이 바로 ALS(루게릭병)와 같은 질병으로 인해 발생하는 '완전 폐쇄 상태(completely locked-in state)'에 놓인 사람들의 현실입니다. 그들은 깨어 있고 의식이 있지만, 몸이 더 이상 말을 듣지 않는 상태입니다. 이때 뇌-컴퓨터 인터페이스(BCI)가 등장합니다. 이는 당신의 뇌에서 나오는 전기 신호를 읽어 화면 위의 단어로 바꿔주는 첨단 기술의 가교 역할을 합니다. 마치 당신의 생각을 듣고 대신 말해주는 번역기를 갖게 되는 것과 같습니다.

하지만 여기에 반전이 있습니다. 이 번역기는 단순히 수동적인 마이크가 아닙니다. 그것은 AI 기반의 편집기입니다. 움직일 수 없는 뇌에서 나오는 무질서하고 노이즈가 섞인 신호를 이해하기 위해, 컴퓨터는 '스무딩(smoothing, 노이즈 제거)'과 (당신의 휴대폰이 타이핑할 때 다음 단어를 예측하는 것처럼) '예측 텍는(predictive text)' 기술을 사용합니다. 여기서 거대하고 머리를 아프게 하는 질문이 생깁니다. 만로 컴퓨터가 문장을 완성하는 데 도움을 주었다면, 그 생각은 여전히 '당신의 것'일까요? 이는 의료적 도움을 통해 고통을 끝내고 싶다는 요청처럼 생사가 걸린 문제를 다룰 때 특히 중요합니다. 만약 기계가 요청 문장을 쓰는 데 도움을 주었다면, 실제로 요청을 하는 주체는 누구일까요?

이 논문은 바로 그 딜레마를 깊이 파고듭니다. 논문은 다음과 같이 묻습니다. 만약 폐쇄 상태의 환자가 AI로 강화된 BCI를 사용하여 안락사(medical aid in dying)를 요청한다면, 우리는 그 요청이 진정 그들의 목소리라고 신뢰할 수 있을까요, 아니면 알고리즘이 메시지를 변형시킨 것일까요? 저자인 Lee와 Ngan은 단순히 '예' 또는 '아니오'라고 답해서는 안 된다고 주장합니다. 대신, 그들은 그 요청이 환자의 의도와 기계의 도움이 결합된 '하이브리드(hybrid)' 산물이라고 제안합니다. 그들은 이 요청을 검증하는 새로운 방법을 제시하는데, 이는 컴퓨터가 작성한 단 하나의 문장을 보는 것이 아니라, 환자의 전체 생애, 과거의 가치관, 그리고 사전 의료 지침(advance directives)과 비교하는 방식입니다. 그들은 기계의 '추측'이 환자가 항상 믿어왔던 바와 일치한다면 그 요청은 유효하다고 결론짓습니다. 그러나 만약 기계의 추측이 환자의 이력과 모순된다면, 그 요청은 무시되어야 합니다. 이는 글리치(오류)가 있는 알고리즘에 의해 환자의 진정한 자아가 덮어씌워지는 것을 방지하기 위해 설계된 프레임워크입니다.

엘레나와 말하는 기계 이야기

이를 이해하기 위해 엘레나를 만나봅시다. 그녀는 54세의 철학 교수입니다. ALS가 그녀의 몸을 장악하기 전, 그녀는 명확한 편지를 남겼습니다. "만약 내가 내 마음속에 갇혀서 말할 방법이 없어진다면, 나는 고통을 멈추기로 선택하고 싶다." 그녀는 이 점에 대해 매우 구체적이었습니다.

현재 엘레나는 완전 폐쇄 상태에 있습니다. 그녀는 생각할 수 있지만, 근육 하나 움직일 수 없습니다. 그녀의 뇌에는 BCI가 이식되어 있습니다. 어느 날, 의사들이 그녀에게 걱정되는 부분이 있는지 묻습니다. 기계는 그녀의 뇌 신호를 읽어 다음과 같이 타이핑합니다: "나는 이 고통을 멈추고 싶다(I wish to stop this pain)."

의사들은 혼란스럽습니다. 그들은 엘레나가 고통을 끝내길 원했다는 것을 알지만, 동시에 기계가 완벽하지 않다는 것도 알고 있습니다. 기계의 설명서에는 '신호 스무딩(노이즈 제거)'과 '문맥적 예측(단어 추측)' 기능이 있다고 되어 있습니다. 의사들이 원본 데이터를 확인했을 때, 엘레나의 뇌 신호는 사실 **"나는 멈추고 싶다(I wish to stop)"**라는 파편에 불과했습니다. 기계는 그녀가 완화 의료실에 있고 스트레스를 받고 있다는 상황을 보고, "이 고통(this pain)"이라는 단어를 추측하여 문장에 추가한 것입니다.

그렇다면 큰 질문은 이것입니다. 엘레나가 "나는 이 고통을 멈추고 싶다"라고 말한 것일까요, 아니면 기계가 그녀를 대신해 말한 것일까요?

기계는 중립적인 통로가 아니다

이 논문은 이러한 BCI가 단순히 상대방의 말을 들려주는 전화선과 같지 않다고 설명합니다. 그것은 오히려 똑똑한 편집기에 가깝습니다. 컴퓨터는 많은 작업을 수행해야 합니다:

1. 뇌로부터 무질서한 전기 신호를 포착합니다.
2. "노이즈(static)"를 필터링합니다.
3. 어떤 뇌의 스파이크가 어떤 글자를 의미하는지 파악하려고 노력합니다.
4. 문장의 나머지 부분을 추측하기 위해 거대한 인간 대화 데이터베이스를 사용합니다.

저자들은 이러한 "추측"이 필수적이라고 지적합니다. 이것이 없다면 출력값은 횡설수설이 될 것이기 때문입니다. 하지만 이는 최종 문장이 공동 작업의 결과임을 의미합니다. 기계는 단순한 도구가 아니라, 공동 저자(co-author)입니다.

실수의 문제

논문은 또한 이러한 기계들이 실수를 저지른다는 점을 상기시킵니다.

• 단어 오류율(Word Error Rates): 실제 테스트에서, 어휘 규모에 따라 이 기계들은 약 **8%에서 24%**의 확률로 단어를 틀립니다.
• 거짓 양성(False Positives): 때때로 기계는 환자가 전혀 의도하지 않은 구절을 말할 수 있습니다. 단순한 문구의 경우 이런 일이 약 2%에서 5% 정도 발생합니다. 죽음을 요청하는 것과 같은 크고 감정적인 요청의 경우, 그 위험은 훨씬 더 높을 수 있습니다.

이 때문에 저자들은 단 하나의 문장만을 보고 "좋아, 이것이 최종 결정이다"라고 말해서는 안 된다고 말합니다. 그것은 위험한 일입니다.

"하이브리드" 솔루션

그렇다면 "누구의 목소리인가?"라는 미스터리를 어떻게 해결할 수 있을까요? 저자들은 순수한 인간의 목소리를 찾으려 하기보다, 그 목소리가 하이브리드임을 받아들이자고 제안합니다. 그들은 세 가지 개념을 사용하여 이를 설명합니다.

1. 확장된 마음(The Extended Mind): 당신의 뇌가 컴퓨터이고, BCI가 당신이 수년간 사용해 온 키보드라고 상상해 보십시오. 결국 그 키보드는 당신의 마음의 일부가 됩니다. 당신이 타이핑할 때, 당신은 단순히 도구를 사용하는 것이 아니라, 그 도구를 통해 생각하는 것입니다. 따라서 기계의 도움은 엘레나의 사고 과정의 일부입니다.
2. 공동 에이전시(Co-Agency): 이것을 춤에 비유해 보십시오. 엘레나가 리드하지만, 기계는 그녀의 스텝을 따르며 균형을 잡도록 돕습니다. 그들은 함께 춤을 추고 있습니다. 그 요청은 두 사람 모두의 것입니다.
3. 모자이크(The Mosaic): 타일로 만들어진 그림을 상상해 보십시오. 엘레나의 삶과 가치관은 그 그림입니다. BCI의 출력은 그저 하나의 새로운 타일일 뿐입니다. 우리는 단 하나의 타일만 보고 그림이 맞는지 판단할 수 없습니다. 전체 모자이크를 보아야 합니다.

두 가지 유형의 "도움"

논문은 기계가 돕는 두 가지 방식에 대해 매우 중요한 구분을 합니다.

• 확증적 정교화(Confirmatory Elaboration - 좋은 종류): 이것은 기계가 우리가 이미 알고 있는 환자의 모습과 완벽하게 부합하는 단어를 추측할 때 발생합니다. 엘레나의 경우, 그녀는 "나는 멈추고 싶다"라고 했고 기계는 "이 고통"을 덧붙였습니다. 엘레나가 항상 고통을 싫어했고 현재 통증 클리닉에 있다는 점을 고려하면, 이 추측은 타당합니다. 이는 그녀가 의도한 바를 확인해 주는 것입니다. 이는 안전합니다.
• 생성적 대체(Generative Substitution - 나쁜 종류): 이것은 기계가 환자에 대해 알고 있는 바와 상반되는 것을 추측할 때 발생합니다. 만약 엘레나가 평생 종교적이었고 죽음에 대해 부정적인 입장이었는데, 기계가 "나는 죽고 싶다"라고 추측했다고 가정해 봅시다. 이는 기계가 그녀의 의지를 자신의 추측으로 대체하는 것입니다. 이는 위험하며 무시되어야 합니다.

새로운 규칙: 궤적 기반 검증 프로토콜

저자들은 의사들이 이러한 요청을 처리하는 새로운 방법을 제안합니다. 그들은 이를 **궤적 기반 검증 프로토콜(Trajectory-Based Validation Protocol)**이라고 부릅니다. 단일 문장을 보는 대신, 의사들은 환자의 "궤적(삶의 경로)"을 살펴봐야 합니다.

작동 방식은 다음과 같습니다:

1. 이력 확인: 환자가 폐쇄 상태가 되기 전 명확한 서면 계획(예: 사전 의료 지침)을 가지고 있었는가? 이전에 의사들과 이 문제에 대해 논의했는가?
2. 모자이크 체크: 기계의 메시지가 환자의 삶의 이야기와 일치하는가? 만약 기계가 "죽고 싶다"라고 말하는데, 환자가 수년간 삶을 얼마나 사랑하는지에 대해 글을 써왔다면, 기계가 틀렸을 가능성이 높습니다.
3. 반복 및 검증: 단 하나의 메시지를 믿지 마십시오. 같은 질문을 반복해서 던지십시오. 만약 기계가 매번 같은 내용을 말하고, 그것이 환자의 이력과 일치한다면, 그것은 실제 의도일 가능성이 높습니다.
4. 모순 조항: 만약 기계의 메시지가 환자의 과거와 모순된다면, 멈추십시오. 실행에 옮기지 마십시오. 기계에 오류가 있거나 환자가 혼란을 겪고 있는 것일 수 있습니다. 반드시 더 많은 증거가 필요합니다.

결론

이 논문은 우리가 "기계가 거짓말을 한다"와 "기계가 완벽하다" 사이에서 하나를 선택할 필요가 없다고 결론짓습니다. 진실은 그 중간에 있습니다. 요청은 **공동 구성된 산물(co-constructed product)**입니다. 그것은 환자와 알고리즘 모두의 것입니다.

알고리즘의 추측이 환자가 오랫동안 유지해 온 가치 및 이력과 일치한다면, 설령 기계가 문장을 쓰는 데 도움을 주었더라도 그 요청은 유효합니다. 하지만 알고리즘이 새로운 내용이나 모순되는 내용을 추측한다면, 우리는 그것을 극도로 의심스럽게 다루어야 합니다.

저자들은 이것이 아직 완성된 의료 규칙이 아니라 하나의 개념적 프레임워크임을 주의 깊게 밝히고 있습니다. 그들은 이 논문에서 실제 수치나 법적 코드를 테스트하지 않았으며, 단지 지도를 그려놓았을 뿐입니다. 그들은 향-후 연구를 통해 정확한 수치(예: 메시지를 몇 번 반복해야 하는지)를 결정하고 이를 법률에 어떻게 적용할지를 밝혀내야 한다고 제안합니다. 하지만 핵심 아이디어는 명확합니다. 환자의 진정한 목소리를 듣기 위해서는, 기계와 환자의 전체 생애를 함께 경청해야 한다는 것입니다.