Contrastive Learning Improves Generalization on M2OR Olfactory Binding Dataset

센서가 증상이 나타나기 전 질병의 냄새를 맡거나, 공기 중의 숨겨진 화학적 위협을 감지하거나, 혹은 향기만으로 새로운 약물 후보를 식별할 수 있는 세상을 상상해 보십시오. 이것이 바로 생명체가 냄새를 맡는 방식을 모방한 장치인 후각 기반 바이오센서가 약속하는 미래입니다. 자연계에서 동물들은 특화된 단백질인 수용체를 사용하여 공중에 떠다니는 휘발성 분자를 포착하고, 이 화학적 신호를 뇌가 이해할 수 있는 신경 자극으로 전환합니다. 과학자들은 오랫동안 이 시스템의 인공 버전을 구축하려고 노력해 왔지만, 한 가지 고질적인 문제에 직면해 있습니다. 바로 이러한 특정 단백질이 방대한 화학적 냄새의 세계와 어떻게 상호작용하는지에 대한 데이터가 턱없이 부족하다는 점입니다. 연구할 수 있는 실제 사례가 충분하지 않기 때문에, 이러한 상호작용을 예측하도록 설계된 컴퓨터 프로그램은 새로운 미지의 화학 물질을 마주했을 때 종종 실패하곤 합니다. 프로그램들이 화학의 근본적인 규칙을 학습하기보다는 훈련 데이터의 패턴을 단순히 암기해 버리기 때문이며, 이로 인해 엔지니어들은 이를 실제 응용 분야에 신뢰하며 사용할 수 없게 됩니다.

한 연구팀은 단백질과 화학 물질이 어떻게 결합하는지에 관한 두 개의 대규모 데이터 컬렉션을 사용하여, 컴퓨터가 일반화(즉, 새로운 상황에 적용할 수 있는 교훈을 배우는 것)하는 방법을 가르치는 실험을 통해 이 문제를 해결하고자 했습니다. 그들은 특정 과제에 집중했습니다. 바로 컴퓨터 모델이 훈련 과정에서 이미 본 적이 있는 화학 물질이나 단백질을 인식하는 것에 의존하지 않도록 보장하는 것이었습니다. 이를 위해 그들은 데이터를 나누는 다양한 방법을 시도했습니다. 표준적인 방식에서는 컴퓨터가 훈련 중에 접했던 화학 물질을 대상으로 테스트받을 수 있으며, 이는 잘못된 성공의 느낌을 줍니다. 대신 연구진은 독특한 화학 물질이나 단백질 그룹 전체를 따로 떼어 놓음으로써, 모델이 이전에 한 번도 접해보지 못한 대상에 대해 어떻게 반응할지를 예측하도록 강제했습니다. 그 결과, 특별한 도움 없이는 모델들이 큰 어려움을 겪는다는 것을 발견했습니다. 컴퓨터가 화학적 원리로서 분자들이 어떻게 결합하는지를 이해하기보다 특정 세부 사항을 암기하는 데 의존했기 때문에 성능이 급격히 떨어졌습니다.

돌파구는 연구진이 '대조 학습(contrastive learning)'이라 불리는 기법을 도입하면서 마련되었습니다. 단순히 두 분자가 결합하는지 여부만을 컴퓨터에게 알려주는 대신, 그들은 컴퓨터에게 관계를 인식하는 법을 가르쳤습니다. 컴퓨터는 공통된 부분을 공유하는 분자 쌍을 보여주면 이들을 유사한 것으로 취급하도록 배웠고, 아무런 공통점이 없는 쌍은 서로 다른 것으로 취급하도록 배웠습니다. 이 방법은 일종의 가이드 역할을 하여, 컴퓨터가 단순히 목록을 암기하는 것이 아니라 공유된 특징을 바탕으로 화학 세계의 정신적 지도를 구축하도록 강제했습니다. 연구진이 이 접근 방식을 적용했을 때, 모델들은 놀라울 정도로 견고해졌습니다. 모델은 무작위 데이터로 테스트를 받든, 이전에 본 적 없는 완전히 새로운 화학 물질과 단백질로 테스트를 받든 상관없이 0.88이라는 높은 점수에 도달하며 높은 수준의 정확도를 유지했습니다. 이는 분자의 공유된 구성 요소를 중심으로 학습함으로써, 컴퓨터가 상호작용을 예측하는 더 근본적인 방법을 터득했음을 시사합니다.

또한 이 연구는 데이터가 준비되는 방식이 구체적인 컴퓨터 모델의 유형보다 더 중요하다는 사실을 밝혀냈습니다. 만약 훈련 단계와 테스트 단계 모두에서 익숙한 부분을 볼 수 있도록 데이터를 나누었다면, 단순한 모델조차도 좋은 성능을 보였습니다. 그러나 연구진이 그 안전망을 제거하자, 대조 학습 방식으로 훈련된 모델만이 그 난관을 극복할 수 있었습니다. 이 발견은 기존의 많은 연구가 가진 숨겨진 결함을 강조합니다. 즉, 테스트 데이터에 컴퓨터가 이미 본 요소들이 포함되어 있었기 때문에 성능 점수가 부풀려졌을 가능성이 높다는 것입니다. 연구진은 이러한 예측이 진정으로 유용해지려면, 컴퓨터가 일반화하도록 강제하는 데이터로 평가해야 한다고 주장합니다. 대조 학습을 사용함으로써, 그들은 컴퓨터가 냄새의 화학을 이해하여 새로운 단백질과 화학 물질이 어떻게 상호작용할지 예측할 수 있음을 보여주었으며, 이는 의료 및 보안 분야에서 더욱 신뢰할 수 있는 바이오센서를 구축하는 길을 열어주었습니다.