bioMoR: Biology-Guided Mixture-of-Recursions for Effective Genomic Learning

당신이 거대한 범죄 현장을 해결하려는 형사라고 상상해 보십시오. 하지만 단 몇 개의 단서가 아니라, 수천 개의 흩어진 메모, 사진, 그리고 지문들로 가득 찬 방을 마주하고 있습니다. 생물학의 세계에서 이 '범죄 현장'은 당신 몸속의 단 하나의 세포이며, 이 '메모'들은 그 안에 들어있는 수천 개의 유전자입니다. 과학자들은 최근 이 메모들을 읽기 위해 **트랜스포머(Transformer)**라고 불리는 일종의 컴퓨터 뇌를 사용하기 시작했습니다. 트랜스포머를 도서관의 모든 책을 읽어 이야기를 이해하는 초능력을 가진 아주 똑똑한 사서라고 생각하십시오. 이 모델은 연결 고리를 찾아내는 데 탁월하지만, 대부분의 페이지가 빈 종이이거나 관련 없는 광고임에도 불구하고 모든 책을 동일한 양의 주의를 기울여 다루기 때문에 매우 느리고 비용이 많이 듭니다.

여기서 큰 질문이 생깁나다. 어떻게 하면 이 사서를 더 똑똑하고 빠르게 만들 수 있을까요? 우리는 어떤 세포 내에서 오직 아주 적은 수의 유전자만이 사람이 건강한지 아픈지를 결정하는 핵심적인 역할을 한다는 것을 알고 있습니다. 나머지는 그저 배경 소음에 불과합니다. 만약 컴퓨터가 지루한 책들을 무시하고 중요한 책들을 읽는 데 더 많은 시간을 할애할 수 있다면 훨씬 더 효율적일 것입니다. 여기서 **혼합 재귀(Mixture-of-Recursions, MoR)**라는 새로운 개념이 등장합니다. MoR를 책이 얼마나 흥미로운지에 따라 한 번, 두 번, 혹은 열 번 읽기로 결정할 수 있는 사서라고 상상해 보십시오. 하지만 여기에는 함정이 있습니다. 외부의 도움 없이는 사서가 어떤 책이 중요한지 실제로 알지 못하며, 오직 텍가는 텍스트 자체만을 바탕으로 추측해야 한다는 점입니다.

이것이 바로 bioMoR라는 논문이 다루는 문제입니다. 연구자인 코우식 하울라더(Koushik Howlader)와 그의 팀은 다음과 같이 물었습니다. "만약 우리에게 도서관의 지도(Map)를 준다면 어떨까?" 그들은 단순히 어떤 유전자가 중요한지 추측하는 것이 아니라, 실제 세상에서 유전자들이 어떻게 함께 작동하는지에 대한 기존의 지도를 사용하는 새로운 시스템을 구축했습니다. 그들은 생물학적 '지도'를 컴퓨터의 의사 결정 과정에 직접 입력함으로써, 모델이 훨씬 더 뛰어난 형사가 된다는 것을 발견했습니다. 이 모델은 질병을 예측하는 능력이 좋아질 뿐만 아니라 컴퓨터 자원을 훨씬 적게 사용하며, 이는 생물학적 규칙을 아는 것이 컴퓨터를 더 빠르고 똑똑하게 학습시킨다는 것을 증명합니다.

문제점: 과로하는 사서

과거에 과학자들은 유전자를 분석하기 위해 컴퓨터 모델을 만들었지만, 모든 유전자를 동일하게 취급했습니다. 이는 마치 선생님이 1,000페이지짜리 에세이를 채점하면서 "하늘은 푸르다"라거나 "그리고 나서"와 같은 단어 하나하나에 똑같은 시간을 들여 읽는 것과 같습니다. 생물학에서 우리는 오직 특정 유전자(마커 유전자라고 불림)나 유전자 집단(경로/pathway라고 불림)만이 진짜 주인공이라는 것을 알고 있습니다. 이들이 세포가 건강한 폐 세포인지 아니면 암세as 세포인지를 결정합니다.

그러나 기존의 컴퓨터 모델들은 지루한 부분을 읽는 데 엄청난 에너지를 낭비합니다. 또한 유전자가 고립되어 작동하는 것이 아니라 팀으로 작동한다는 사실을 놓칩니다. 만약 유전자 A가 유전자 B와 대화하고 있다면, 컴퓨터는 그들이 연결되어 있다는 것을 알아야 합니다. 하지만 기존 모델에는 이러한 '사회적 네트워크' 정보가 내장되어 있지 않았습니다. 즉, 이 모델들은 유전자 사이의 실제 관계를 알지 못하는 '생물학적 무지(biology-agnostic)' 상태였습니다.

해결책: bioMoR, 안내받는 형사

저자들은 bioMoR(Biology-Guided Mixture-of-Recursions)를 소개했습니다. 이것이 어떻게 작동하는지 이해하기 위해 다시 사서 비유로 돌아가 봅시다.

1. 지도 (생물학적 지식): 사서가 책을 읽기 시작하기도 전에, bioMoR은 그들에게 지도를 제공합니다. 이 지도는 어떤 유전자가 친구인지, 어떤 유전자가 같은 팀(경로)에서 일하는지, 그리고 어떤 유전자들이 서로 대화하는지를 보여줍니다. 이 지도는 유전자가 어떻게 상호작용하는지에 대한 실제 과학적 데이터에 기반합니다.
2. 메모 매끄럽게 하기 (임베딩 스무딩/Embedding Smoothing): 사서가 메모(유전자)를 집어 들었을 때, 단순히 그것을 고립시켜 읽는 것이 아닙니다. 그들은 지도를 보고 이렇게 말합니다. "오, 이 유전자는 다른 세 명의 친구가 있네. 이들의 아이디어를 하나로 섞어서 이 메모를 더 잘 이해해 보자." 이는 노이즈를 제거하고 유전자의 '목소리'를 더 명확하게 만드는 데 도움이 됩니다.
3. 스마트 라우터 (적응형 깊이/Adaptive Depth): 이것이 마법 같은 부분입니다. 사서는 읽는 동안 다음과 같이 결정해야 합니다. "이 메모를 다시 읽어야 할까? 세 번 더 읽어야 할까?" 기존 모델에서 이 결정은 무작위 추측이었습니다. 하지만 bioMoR에서 사서는 지도를 다시 확인합니다. 만약 어떤 유전자가 중요한 팀(예: 암과 싸우는 것으로 알려진 경로)의 일부라면, 라우터는 이렇게 말합니다. "이것은 중요하다! 더 깊이 있게 읽고 더 많은 주의를 기울이자." 만약 어떤 유전자가 그저 배경 소음이라면, 라우터는 "충분히 읽었으니 다음으로 넘어가자"라고 결정합니다.

이 과정은 컴퓨터의 뇌 속 세 가지 특정 지점에서 일つ 일어납니다:

• 시작 단계: 유전자의 초기 설명을 정제하기 위해.
• 읽는 단계: 관련 있는 유전자들이 서로 주목할 수 있도록 하기 위해.
• 결정 지점: 유전자를 몇 번 다시 읽을지 결정하기 위해.

결과: 더 똑똑하고, 빠르고, 저렴하게

연구팀은 단일 세포 데이터(개별 세포를 관찰)부터 수천 명의 환자로부터 얻은 복잡한 암 데이터에 이르기까지 8개의 서로 다른 데이터셋을 통해 bioMoR을 테스트했습니다. 그들은 이 새로운 시스템을 기존의 가장 강력한 비생물학적 모델들과 비교했습니다.

결과는 인상적이었습니다. bioMoR 모델은 주요 척도 중 하나인 macro-F1에서 평균 8.2 퍼센트 포인트, 또 다른 척도인 balanced accuracy에서 7.1 퍼센트 포인트의 정확도 향상을 보였습니다. 하지만 진정한 승리는 효율성이었습니다.

• 적은 파라미터 수: bioMoR 모델은 표준 딥러닝 모델보다 내부적인 '조절 나사'(컴퓨터가 학습을 위해 조정하는 값)를 75% 적게 사용했습니다.
• 적은 컴퓨팅 파워: 단계를 건너뛰지 않는 표준 트랜스포머보다 58% 적은 FLOPs(컴퓨터가 수행해야 하는 수학 연산량의 척도)를 사용했습니다.

이는 bioMoR이 단순히 더 정확할 뿐만 아니라, 실행 비용도 훨씬 저렴하다는 것을 의미합니다. 이 모델은 중요하지 않은 유전자에 시간을 낭비하지 않음으로써 이를 달성합니다.

'무엇' 뒤에 숨겨진 '왜'

이 연구에서 가장 흥激한 부분 중 하나는 컴퓨터가 단순히 운이 좋았던 것이 아니라, 실제로 올바른 것을 배웠다는 점입니다. 연구진은 모델이 어떤 유전자와 경로를 "더 깊게 읽기로" 결정했는지 살펴보았습니다. 그들은 모델이 Wnt 신호 전달 체계 및 PI3K-Akt 신호 전달 체계와 같이 암 세포가 퍼지고 다른 조직을 침범하도록 돕는 것으로 유명한 암 관련 경로를 일관되게 선택했다는 것을 발견했습니다.

이는 모델이 단순히 패턴을 암기하는 것이 아니라, 생물학적 지도를 사용하여 세포의 어느 부분이 실제로 질병을 주도하는지 파악하고 있음을 시사합니다. 이는 마치 탐정이 단순히 추측하는 대신, 경찰 데이터베이스를 사용하여 어떤 용의자가 가장 유죄일 가능성이 높은지 즉각적으로 파악하는 것과 같습니다.

논문이 말하는 것 (그리고 말하지 않는 것)

저자들은 자신들이 무엇을 입증했는지 매우 명확하게 밝히고 있습니다. 그들은 이러한 특정 유형의 컴퓨터 아키텍처(MoR)에 생물학적 지식을 추가하는 것이 생물학적 지식을 무시하는 것보다 더 효과적이라는 것을 보여주었습니다. 그들은 단일 세포에서 전체 종양에 이르기까지 다양한 유형의 데이터에 걸쳐 이를 입증했습니다.

하지만 그들은 생물학의 모든 문제를 해결했다고 주장하지 않습니다. 이 모델이 암을 치료하거나 의사를 대체할 수 있다고 말하지도 않았습니다. 또한 이것이 유일한 방법이라고 주장한 것도 아니며, 단지 매우 효과적인 새로운 방법임을 제시했을 뿐입니다. 논문은 모든 유전자를 동일하게 취급하거나 유전자가 어떻게 상호작용하는지 전혀 모르는 컴퓨터 모델에 의존해야 한다는 생각에 명시적으로 반대합니다. 그들은 생물학을 무시하는 것이 헛된 노력과 낮은 정확도로 이어진다는 것을 보여주었습니다.

요약하자면, bioMoR은 우리가 컴퓨터에게 생명을 이해하도록 가르칠 때, 단순히 종이 뭉치를 던져주며 "알아서 알아내 봐"라고 해서는 안 된다는 것을 시사합니다. 우리는 그들에게 교과서와 지도, 그리고 게임의 규칙을 주어야 합니다. 그렇게 할 때, 컴퓨터는 훨씬 더 나은 학생이 되어 더 빨리 배우고 실수를 덜 하게 됩니다.