Is the Bitter Lesson coming to genomic prediction? An untuned tabular foundation model matches or beats specialized methods
이 연구는 범용적이고 튜닝되지 않은 테이블형 파운데이션 모델인 TabPFN-3.5가 여러 식물 종과 형질에 걸쳐 특화된 유전체 예측 방법들과 대등하거나 이를 능가한다는 것을 입증하며, 이는 확장 가능한 계산적 접근 방식이 도메인 특화된 인간의 지식을 넘어설 수 있다는 서튼(Sutton)의 "쓰라린 교훈(Bitter Lesson)"을 뒷받침한다.
원본 논문은 CC0 1.0 (https://creativecommons.org/publicdomain/zero/1.0/)에 따라 공공 도메인에 제공됩니다. 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기
농부와 육종가들은 오랫동안 어려운 선택에 직면해 왔습니다. 식물이나 동물이 실제 세상에서 어떻게 성과를 낼지 확인하기 위해 수년을 기다릴 것인가, 아니면 유전 코드를 바탕으로 그 미래를 추측할 것인가 하는 문제입니다. 현대 육종에서 과학자들은 수천 명의 후보자의 DNA를 빠르고 저렴하게 읽을 수 있지만, 소가 생산하는 우유의 양이나 옥수수 줄기의 높이와 같은 실제 형질을 측정하는 일은 여전히 느리고 비용이 많이 듭니다. 이 간극을 메우기 위해 그들은 게놈 예측(genomic prediction)이라는 도구를 사용합니다. 이 방법은 컴퓨터가 특정 개체들의 데이터를 통해 유전자와 신체적 형질 사이의 관계를 학습하도록 훈련시킨 뒤, DNA 검사만 마친 새로운 개체들의 형질을 예측하는 데 그 지식을 적용합니다. 수십 년 동안 이 작업에서 가장 성공적이었던 도구들은 유전학의 특정 규칙에 맞게 정교하게 설계된 전문 모델들이었습니다. 예를 들어, 형질이 수많은 작은 유전적 효과의 합이라고 가정하는 방식입니다.
새로운 연구는 다음과 같은 도발적인 질문을 던집니다. 만약 우리가 복잡하고 맞춤 제작된 규칙들로 데이터를 능가하려고 애쓰는 것을 멈춘다면 어떻게 될까? 유전학을 위해 특별히 설계된 모델 대신, 온갖 종류의 합성 데이터를 수백만 건 학습한 범용 컴퓨터 프로그램이 단순히 가공되지 않은 숫자들을 보는 것만으로 유전적 결과를 예측할 수 있을까? 연구진은 파운데이션 모델(foundation model)이라 불리는 강력한 새로운 유형의 소프트웨어를 사용하여 이 아이디어를 테스트했습니다. 모든 설정을 조정하고 유전자가 어떻게 작동하는지에 대한 가정을 세워야 하는 전통적인 도구와 달리, 이 모델은 사전 훈련을 마치고 바로 실전에 투입될 준비가 된 상태로 옵니다. 연구진은 이 모델에 식물과 나무의 유전 데이터를 별도의 특수 조정이나 유전적 지식 없이 직접 입력하여, "일당백"의 접근 방식이 지난 20년 동안 정교하게 다듬어진 전문적인 방법들과 대등하거나 혹은 능가할 수 있는지 확인했습니다.
연구진은 이 범용 모델을 콩, 쌀, 옥수수, 화이트 스프로스(white spruce)를 포함한 6가지 식물 및 나무 종에 걸쳐 18가지의 서로 다른 예측 방법과 비교 테스트했습니다. 그들은 수천 명의 개체와 수십만 개의 유전적 표지를 포함하는 방대한 데이터를 사용했습니다. 첫 번째 라운드 테스트에서, 연구진은 이 새로운 모델의 성능을 이전 연구들에서 보고된 18가지 기존 방법의 평균 결과와 비교했습니다. 범용 모델은 가장 높은 성적을 거두었으며, 테스트된 18가지 특정 형질 중 11개에서 1위를 차지했습니다. 이 모델은 매우 뛰어난 성능을 보여 전체 테스트에서 가장 높은 순위를 기록했는데, 이는 일반적인 데이터 분석을 위해 설계된 도구가 유전학을 위해 구축된 도구보다 더 나은 성과를 낼 수 있음을 시사합니다.
비교의 공정성을 확보하기 위해, 연구진은 가장 성공적인 전통적 모델들을 새로운 모델이 사용한 것과 정확히 동일한 데이터 분할 방식으로 다시 실행했습니다. 이 단계는 매우 중요했습니다. 왜냐하면 이전 연구들은 데이터를 나누는 방식이 서로 달랐고, 이는 때때로 결과를 실제보다 좋거나 나쁘게 보이게 만들 수 있기 때문입니다. 이러한 엄격한 정면 승부에도 불구하고, 범용 모델은 그 자리를 지켜냈습니다. 이 모델은 콩의 세 가지 형질 모두와 쌀의 개화 시기를 포함한 4가지 특정 테스트에서 기존의 가장 우수한 모델들을 유의미하게 앞질렀습니다. 데이터셋이 가장 컸던 콩 테스트에서 새 모델은 확실히 우월했습니다. 그러나 완벽한 승리는 아니었습니다. 화이트 스프로스의 목재 밀도와 관련된 한 가지 테스트에서는 전통적인 모델이 여전히 더 정확했습니다.
또한 연구는 이 모델들이 원래 훈련 그룹에 포함되지 않았던 식물 가계(families)의 형질을 예측할 때 얼마나 잘 작동하는지라는 중요한 한계를 탐구했습니다. 육종에서는 한 세트의 가계로 모델을 훈련시킨 뒤, 완전히 새로운 가계의 성과를 예측하는 것이 흔한 일입니다. 연구진이 콩을 대상으로 이 시나리오를 테스트했을 때, 새로운 모델의 이점은 사라졌습니다. 범용 모델과 전통적인 전문 모델 모두 보지 못한 가계에 직면했을 때 똑같이 어려움을 겪었습니다. 이 발견은 새 모델의 성공이 보편적인 법칙을 발견하기보다는, 이미 본 적이 있는 특정 친족 집단 내의 패턴을 인식하는 데 크게 의존하고 있음을 시사합니다.
연구진은 자신들의 결과가 "비터 레슨(Bitter Lesson, 쓰라린 교훈)"이라는 개념을 뒷받침한다고 결론지었습니다. 이 개념은 인공지능 분야에서 단순히 더 많은 컴퓨팅 파워와 함께 규모를 키우는 방법이 인간의 직관과 도메인 특화 지식으로 구축된 방법을 결국 추월한다는 논리입니다. 범용 모델은 유전자가 어떻게 작동하는지 또는 유전 데이터를 어떻게 다루어야 하는지에 대해 배울 필요가 없었습니다. 모델은 주어진 정보를 단순히 처리했을 뿐이며, 합성 데이터에 대한 방대한 사전 훈련을 활용하여 인간이 설계한 모델이 놓쳤던 패턴을 찾아냈습니다. 정확도의 향상이 절대적인 수치로는 완만했을지라도, 핵심적인 영역에서는 일관되고 유의미했습니다. 이 연구는 게놈 예측의 미래가 더 복잡하고 전문적인 모델을 만드는 데 있는 것이 아니라, 데이터로부터 직접 학습하는 강력하고 범용적인 도구를 사용하는 데 있으며, 인간의 전문 지식보다는 계산 능력에 무거운 짐을 맡기는 데 있다는 것을 보여줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.