Causal-Reasoning World Models: Toward AI’s Subjectivity through Backward Generation
이 논문은 AI의 인과 추론을 명사 기반에서 동사 기반으로 전환하는 패러다임 시프트를 제안하며, 유방암 환자의 궤적을 통해 입증된 바와 같이 에이전트와 같은 세계 모델링과 개별 수준의 반사실적 연역을 가능하게 하는 '가능한 타이밍 분포' 프레임을 도입함으로써 AI 주관성을 위한 이론적 토대를 마련한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
수십 년 동안 가장 강력한 인공지능 시스템들은 세상을 정적인 객체들의 집합으로 취급함으로써 패턴을 인식하도록 훈련되어 왔습니다. 이러한 관점에서 환자는 고정된 특성들의 집합이고, 질병은 특정 라벨이며, 치료는 별개의 사건입니다. 컴퓨터는 이러한 명사들 사이에 선을 긋는 법을 배우며, "만약 어떤 사람이 이 증상을 가지고 있다면, 그 질병을 가질 가능성이 높은가?"와 같은 질문을 던집니다. 이러한 접근 방식은 인상적인 결과를 냈지만, 단단한 한계에 부딪혔습니다. 이는 세상이 이름 붙여지고 셀 수 있는 것들로 이루어져 있다고 가정하며, 삶이 실제로는 행동과 변화의 흐름이라는 사실을 간과합니다. 문제는 현실을 고정된 범주의 상자 안에 강제로 밀어 넣음으로써, 인과관계가 작동하게 만드는 핵심 요소인 변화의 타이밍과 과정 자체를 놓치게 된다는 점입니다. 우리는 원인이 결과보다 먼저 일어나야 한다는 것을 알고 있지만, 표준 모델들은 종-종 단순히 대규모 집단의 평균적인 수치가 아니라, 특정 개인에게 있어 그 타이밍이 어떻게 결과를 형성하는지를 이해하는 데 어려움을 겪습니다.
미네소타 대학교의 연구진은 이러한 시스템을 구축하는 방식에 대한 근본적인 변화를 제안하고 있습니다. 그들은 컴퓨터에게 객체 간의 관계를 암기하도록 시키는 대신, 행동과 가능성의 관점에서 생각하도록 가르치고 있습니다. 그들은 이를 "명사 기반" 모델링에서 "동사 기반" 모델링으로의 이동이라고 부릅니다. 이 새로운 프레임워크에서 AI는 단순히 환자가 약을 복용했고 그 후에 병이 생겼다는 사실을 기록하는 데 그치지 않습니다. 대신, AI는 아픔으로부터 역방향으로 추론하여 그 결과가 발생할 수 있었던 모든 다양한 방식들을 상상할 수 있는 가상의 세계를 구축합니다. AI는 "만약 약을 다른 시간에 복용했다면 어땠을까? 만-약 환자의 병력이 달랐다면 어땠을까?"라고 묻습니다. 이러한 대안적 시나리오들을 생성함으로써, AI는 물리적 세계와 독립적으로 컴퓨터 내부에 존재하는 "세계 모델"을 구축합니다. 이를 통해 AI는 동일한 행동이 언제, 어떻게 일어나느냐에 따라 다른 결과를 초래할 수 있다는 인간의 직관처럼 인과관계에 대해 추론할 수 있게 됩니다.
연구진은 이 아이디어를 3,276명의 유방암 환자의 실제 의료 기록을 사용하여 테스트했습니다. 그들은 AI가 환자들이 치료 여정을 거쳐가는 과정에서 숨겨진 패턴을 발견할 수 있는지 확인하고자 했습니다. 전통적인 분석에서는 연구자들이 대부분의 환자가 따르는 단일한 평균 경로를 찾으려 할 것입니다. 하지만 새로운 시스템은 다르게 작동했습니다. 시스템은 최종 결과(암 치료의 심각한 합병증인 심장 질환 발생)에서 시작하여, 그 결과로 이어질 수 있었던 수천 가지의 가능한 타임라인을 역순으로 생성했습니다. 시스템은 단순히 사건의 순서만을 보는 것이 아니라, 각 단계의 구체적인 타이밍에 주목했습니다. 이 시스템은 데이터 전체를 볼 때는 명확히 드러나지 않던, 유사하고 유의미한 치료 경로를 공유하는 환자 집단들을 자발적으로 식별해 낼 수 있음을 발견했습니다.
가장 놀라운 발견 중 하나는 무엇이 일어났는지뿐만 아니라, 그것이 '언제' 일어났는지의 중요성을 포착하는 시스템의 능력이었습니다. 예를 들어, AI는 환자의 치료 과정 중 특정 치료법의 타이밍이 결정적이게 되는 순간들을 식별했습니다. AI는 어떤 환자들에게는 특정 시점에 투여된 특정 약물이 심장 문제의 강력한 예측 인자가 된 반면, 다른 환자들에게는 동일한 약물이 다른 시점에 투여되었을 때 아무런 의미가 없었다는 점을 포착했습니다. 시스템은 심지어 암 치료 전 당뇨와 고혈압이라는 복잡한 병력을 공유했던 13명의 특정 환자 그룹을 대상으로 한 "만약에(what-if)" 시나리오를 시뮬레이션할 수 있었습니다. 이 특정 그룹에 대해 역방향으로 시뮬레이션을 실행함으로써, AI는 이들에게 세 번째 표적 치료를 늦추는 것이 심장 질환 발생 위험을 유의미하게 줄였을 수도 있다는 결론을 도출했습니다. 이것은 일반적인 규칙에 기반한 추측이 아니라, 그 작은 집단만의 고유한 타이밍 패턴으로부터 도출된 연역이었습니다.
이 연구는 의료 분야에서 인공지능의 미래가 인구 통계적 평균이 아닌 개별적인 이야리를 다루는 능력에 달려 있음을 시사합니다. 연구진은 이 시스템이 아직 인간의 의식을 완벽하게 복제한 것은 아니지만, AI에게 "주관성"—즉, 자신이 연구하는 세계를 외부에서 관찰하는 것이 아니라 그 세계에 대한 상대적인 위치를 점유하는 능력—을 부여하기 위한 필수적인 첫 단계라고 강조합니다. 실제 환자에게 아무런 위험을 주지 않고 수백만 가지의 가능성을 테스트할 수 있는 가상 세계를 구축함으로써, AI는 전통적인 통계학이 놓칠 수 있는 인과관계에 대한 가설을 제시할 수 있습니다. 연구진은 이 접근 방식이 특히 표준적인 방법으로는 명확한 답을 찾기 어려운 희귀 질환이나 복잡한 사례에 강력한 힘을 발휘한다는 것을 발견했습니다. 이 시스템은 여전히 그 발견을 해석하고 검증하기 위해 인간 전문가를 필요로 하지만, 컴퓨터를 단순한 사실의 수동적 기록자에서 가능성의 능동적 탐험가로 변화시킴으로써 이전에는 대답할 수 없었던 질문들을 던질 수 있는 새로운 도구를 제공합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.