Zero-shot biological reasoning with open-weights large language models reproduces CRISPR screen based prediction of synthetic lethal interactions.

본 연구는 사전 훈련된 생물학적 지식을 활용하여 무작위 확률 및 비-LLM 방법보다 우수한 성능을 발휘하며 합성 치명적 상호작용을 효과적으로 예측할 수 있음을 보여주는데, 특히 Qwen2.5-32B-Instruct와 같은 오픈 가중치 대규모 언어 모델은 암 치료 표적 우선순위 설정을 위한 확장 가능하고 해석 가능한 대안을 제시합니다.

핵심

두 개의 특정 열쇠를 함께 돌려 암을 막는 문을 여는 '비밀 악수'를 찾으려 한다고 상상해 보세요. 생물학에서는 이를 합성 치사 상호작용을 찾는 것이라고 합니다. 이는 마치 열쇠 A 하나만으로는 아무 일도 일어나지 않고, 열쇠 B 하나만으로도 아무 일도 일어나지 않지만, 두 열쇠를 함께 사용하면 암세포를 파괴한다는 사실을 발견하는 것과 비슷합니다.

오랫동안 과학자들은 어떤 열쇠들이 함께 작동할지 추측하기 위해 복잡한 컴퓨터 프로그램 (머신러닝) 을 사용해 왔습니다. 하지만 이러한 프로그램들은 블랙박스처럼 작동합니다. 즉, '예' 또는 '아니오'라는 답변은 제공하지만, 왜 그렇게 생각했는지는 설명하지 못합니다. 그들은 과학적 배경에 담긴 이야기를 전달하지 못합니다.

'수퍼 리더' (대규모 언어 모델) 의 등장
이 논문의 연구자들은 새로운 시도를 해보기로 결정했습니다. 블랙박스를 사용하는 대신, 오픈 가중치 대규모 언어 모델 (LLM) 이라고 불리는 '수퍼 리더'들을 테스트했습니다. 이러한 모델들은 거의 모든 생물학 교과서, 연구 논문, 의학 저널을 읽어본 학생들처럼 생각하면 됩니다. 그들은 단순히 숫자를 계산하는 것이 아니라, 학습 과정에서 흡수한 방대한 지식을 바탕으로 '추론'을 수행합니다.

큰 테스트
연구팀은 이 수퍼 리더들에게 추측 게임을 하도록 요청했습니다. 연구팀은 유전자 쌍을 제시하며 "이 두 가지를 파괴하면 암세포가 죽을까요?"라고 물었습니다.

• 도전 과제: 그들은 과학자들이 이미 수천 개의 유전자 쌍을 물리적으로 테스트하여 무엇이 작동하는지 확인한 세 가지 유명한 실제 실험 (CRISPR 스크리닝) 을 통해 모델들을 검증했습니다.
• 결과: 수퍼 리더들은 훌륭한 성과를 거두었습니다! 그들은 무작위 추측이나 기존의 블랙박스 컴퓨터 프로그램보다 훨씬 정확하게 정답을 추측했습니다. 그들은 실제로 데이터를 살펴보고 "이 두 가지는 이런 생물학적 이유 때문에 함께 작동한다고 생각합니다"라고 말하며, 답변을 사람이 읽을 수 있는 형태로 제시할 수 있었습니다.

'충분히 큰'의 크기는 어느 정도인가?
연구자들은 또한 "이 일을 수행하려면 거대한 두뇌가 필요한가, 아니면 더 작은 두뇌로도 충분할까?"라고 궁금해했습니다.

• 그들은 더 큰 모델 (더 많은 '두뇌 능력' 또는 파라미터를 가진 모델) 이 일반적으로 더 좋은 성과를 거두는 것을 발견했습니다.
• 흥미롭게도 모델에게 추가 노트 (예: 특정 경로 도표나 유전자 목록) 를 제공하는 것은 크게 도움이 되지 않았습니다. 사실, 모델들은 이미 '독서'를 통해 너무 많은 것을 알고 있었기 때문에, 추가 노트는 그들이 이미 이해하고 있는 내용을 반복하는 것에 불과했습니다.

승자와 대규모 탐색
여러 모델을 테스트한 후, 연구자들은 '골디락스' 모델인 Qwen2.5-32B-Instruct를 선정했습니다. 이 모델은 너무 느리지도, 너무 멍청하지도 않으며 매우 정확했습니다 (0 에서 1 까지의 척도에서 0.715 점으로, 꽤 좋은 점수입니다).

이 선택된 모델을 사용하여 연구자들은 몇 쌍의 유전자만 테스트한 것이 아니라, 거대한 디지털 보물 사냥을 벌였습니다. 그들은 893 개의 중요한 암 관련 유전자와 관련된 398,277개의 서로 다른 유전자 쌍을 스캔했습니다.

핵심 결론
이 논문은 이러한 오픈 소스 수퍼 리더들이 강력한 도구임을 보여줍니다. 그들은 수백만 가지 가능성을 빠르게 분류하여 유전자 간의 가장 유망한 '비밀 악수'를 강조할 수 있는 지능적이고 문맥을 인지하는 사서처럼 행동할 수 있습니다. 여기서의 목표는 즉시 암을 치료하는 것이 아니라, 이러한 AI 리더들이 다음에 연구할 가치가 있는 유전자 상호작용을 효율적으로 우선순위화하여 미래에 더 복잡한 유전자 퍼즐을 찾아낼 수 있는 토대를 마련하는 것이었습니다.

기술 요약

기술 요약

문제
임상적으로 관련된 합성 치명성 (SL) 상호작용의 식별은 암에서 새로운 치료적 취약점을 규명하는 데 있어 핵심적인 전략입니다. 이 문제에 대한 현재의 계산적 접근법은 주로 SL 상호작용의 확률을 추정하는 기계 학습 모델에 의존합니다. 그러나 이러한 전통적인 방법들은 종종 "블랙박스"처럼 작동하여, 잠재된 생물학적 메커니즘에 대한 명시적인 지식을 제공하거나 특정 상호작용이 예측된 이유를 설명하는 인간이 읽을 수 있는 해석을 제시하지 못합니다. 이러한 해석 가능성의 부재는 생물학적 추론과 가설 생성을 안내하는 데 있어 그 유용성을 제한합니다.

방법론
본 연구는 오픈 가중치 대규모 언어 모델 (LLM) 이 합성 치명성 상호작용을 예측하기 위한 제로샷 (zero-shot) 생물학적 추론을 수행할 수 있는 능력을 조사합니다. 저자들은 특정 SL 데이터에 대한 미세 조정 (fine-tuning) 없이 세 가지 알려진 전장 유전체 CRISPR 녹아웃 스크린의 결과를 재구성할 수 있는 능력을 평가하기 위해 여러 오픈 가중치 LLM 을 테스트했습니다.

실험 설계는 다음을 포함했습니다:

1. 벤치마킹: 확립된 CRISPR 스크린 데이터를 사용하여 다양한 LLM 의 예측 성능을 무작위 확률 및 비 LLM 기반 방법과 비교합니다.
2. 애블레이션 분석 (Ablation Analysis): 추가적인 경로 및 유전 정보를 모델에 제공하는 것이 사전 학습 중에 이미 습득된 지식 이상으로 성능을 향상시키는지 평가합니다.
3. 모델 선택: 예측 성능 (수신자 작동 특성 곡선 아래 면적, AUROC 로 측정) 과 계산 효율성의 균형을 기반으로 최적의 모델을 선택합니다.
4. 실내 (In Silico) 스크리닝: 선택된 모델을 활용하여 893 개의 임상적으로 관련된 유전자에서 파생된 398,277 개의 유전자 쌍을 스크리닝하여 잠재적인 새로운 SL 상호작용을 식별합니다.

주요 결과
연구 결과, 테스트된 대부분의 오픈 가중치 LLM 은 세 가지 전장 유전체 CRISPR 스크린의 결과를 재구성하는 데 있어 무작위 확률 및 비 LLM 기반 방법보다 우수한 성능을 보였습니다. 모델 성능에 관한 두 가지 주요 경향이 나타났습니다:

• 파라미터 확장: 성능은 모델의 파라미터 크기와 양의 상관관계를 보였습니다.
• 정보 중복성: 평균적으로 모델들은 외부 경로 및 유전 정보의 추가로부터 거의 혜택을 받지 못했으며, 이는 SL 가능성 추정에 필요한 지식이 이미 모델의 사전 학습 데이터 내에 내장되어 있음을 시사합니다.

성능과 효율성 사이의 가장 좋은 절충안을 제공하는 모델은 AUROC 0.715를 달성한 Qwen2.5-32B-Instruct로 확인되었습니다. 이 모델을 사용하여 저자들은 약 40 만 개의 유전자 쌍에 대한 대규모 in silico 스크리닝을 성공적으로 수행했습니다.

의의 및 주장
이 논문은 오픈 가중치 LLM 을 합성 치명성 상호작용을 우선순위화하기 위한 확장 가능하고 문맥 인식형 도구로 위치시킵니다. 이전 방법들과 달리, 이러한 모델들은 사전 학습 중에 문헌으로부터 습득한 광범위한 생물학적 지식을 활용하여 예측과 함께 인간이 읽을 수 있는 추론을 제공할 가능성을 제시합니다. 저자들은 이 작업이 고차원 유전적 상호작용 예측의 기초를 마련하며, 작업별 학습 데이터 없이도 오픈 가중치 LLM 을 통한 제로샷 추론이 암에서 새로운 치료 표적을 규명하는 실현 가능한 접근법임을 입증했다고 주장합니다.