우리가 별들을 움직이는 것과 같은 동일한 힘을 활용할 수 있는 세상, 즉 핵융합이라 불리는 과정을 실현하는 세상을 상상해 보십시오. 이를 실현하기 위해 과학자들은 토카막이라 불리는 거대한 도넛 모양의 기계를 만듭니다. 이 기계 내부에서는 초고온의 가스, 즉 플라즈마가 강력한 자기장에 의해 압축되어 서로 융합되며 엄청난 양의 에너지를 방출합니다. 문제는 이 플라즈마가 믿을 수 없을 정도로 혼란스럽고 불안정하다는 점입니다. 이를 가두고 안전하게 유지하기 위해 연구자들은 기계의 신경계 역할을 하는 방대한 센서 배열에 의존합니다. 이 센서들은 가스의 온도와 압력부터 이 모든 것을 붙잡고 있는 자기장의 강도에 이르기까지 모든 것을 끊임없이 측정합니다. 수십 년 동안 과학자들은 이 데이터를 사용하여 플라즈마가 언제 불안정해질지 예측하고 실시간으로 기계를 제어해 왔습니다. 그러나 목표가 진정한 자립형 발전소를 건설하는 것으로 옮겨감에 따라, 데이터의 양과 다양성이 너무 방대해져 기존의 컴퓨터 프로그램이 해결하기 어려운 새로운 종류의 난제가 되어가고 있습니다.

프린스턴 대학교의 한 연구팀은 차세대 인공지능을 위해 이 데이터를 어떻게 조직할지에 초점을 맞추어 이 데이터 문제에 대해 새로운 시각을 제시했습니다. 그들은 거대 언어 모델이 인간의 언어를 이해하는 법을 배우는 것과 유사하게, 방대한 양의 정보로부터 일반적인 패턴을 학습하는 유형의 고급 컴퓨터 프로그램인 '파운데이션 모델(foundation models)'의 사용을 탐구하고 있습니다. 이러한 모델들이 언어나 이미지 인식 분야에서 혁신을 일으켰지만, 핵융합에 적용하는 것은 데이터가 균일하지 않기 때문에 매우 어렵습니다. 전형적인 핵융합 실험에서 기계는 혼란스러운 정보의 혼합물을 생성합니다. 어떤 센서는 단일 값의 단순하고 느린 측정을 수행하는 반면, 다른 센서는 파동과 패턴의 복잡하고 빠른 스냅샷을 포착합니다. 연구진은 이 무질서하고 뒤섞인 데이터를 컴퓨터 모델에 직접 입력하려고 시도하는 것이 마치 모래 한 양동이, 물 한 잔, 그리고 한 움큼의 돌을 하나의 깔때기에 한꺼번에 들이붓는 것과 같다는 사실을 발견했습니다. 서로 다른 재료들이 제대로 섞여 흐르지 못하기 때문입니다.

문제의 범위를 파악하기 위해 연구팀은 주요 핵융합 연구 시설인 DIII-D 토카막의 데이터를 분석했습니다. 그들은 단순한 전류 측정부터 복잡한 이미지 및 소리 형태의 파동 패턴에 이르기까지 23가지의 서로 다른 측정 유형을 분류했습니다. 그들은 데이터가 속도 면에서 매우 다양하다는 것을 발견했습니다. 어떤 센서는 초당 불과 몇 번의 정보만을 기록하는 반면, 다른 센서는 초당 수천 개의 스냅샷을 포착합니다. 이 차이는 5개 차수(order of magnitude)에 달하며, 이는 가장 빠른 센서가 가장 느린 센서보다 약 10만 배 더 빠르다는 것을 의미합니다. 또한, 데이터는 서로 다른 형태를 띱니다. 어떤 측정값은 시간에 따라 변하는 단일 숫자 열이고, 어떤 것은 히트맵처럼 보이는 2차원 격자이며, 또 어떤 것은 파동이 플라즈마를 통해 어떻게 이동하는지를 보여주는 3차원 데이터 블록입니다. 만약 컴퓨터 모델이 이 모든 것을 한꺼번에 학습하려고 한다면, 빠르게 움직이는 데이터의 엄청난 양에 현혹되어 기계의 전반적인 건강 상태를 알려주는 느리지만 똑같이 중요한 신호들을 무시할 위험이 있습니다.

연구진은 또한 기계 내부의 물리학이 끊임없이 변화한다는 사실을 발견했습니다. 플라즈마는 안정적이고 예측 가능한 방식으로 행동하지 않습니다. 대신, 난류로 인해 아주 짧은 찰나의 순간 동안 그 특성이 변하며, 플라즈마의 전체적인 형태는 훨씬 더 긴 시간에 걸쳐 진화합니다. 이는 안정적인 배경을 가정하는 표준적인 데이터 정제 및 준비 방식이 시스템의 진정한 본질을 포착하는 데 실패한다는 것을 의미합니다. 연구팀은 성공적인 파운데이션 모델을 구축하기 위해서는 단순히 모든 데이터를 하나의 더미로 던져 넣어서는 안 된다는 것을 깨달았습니다. 대신, 데이터를 시간적으로 어떻게 자를 것인지 신중하게 결정해야 합니다. 매우 짧은 시간 창을 본다면 빠르고 혼란스러운 파동을 명확히 볼 수 있지만, 기계가 어떻게 진화하는지에 대한 큰 그림을 놓치게 됩니다. 반대로 긴 시간 창을 본다면 느린 변화는 볼 수 있지만, 급격한 변동의 세부 사항은 놓치게 됩니다.

분석을 통해 연구팀은 이러한 고급 모델 학습에 사용할 수 있도록 데이터를 조직하는 구체적인 전략을 제л 제안했습니다. 그들은 약 100밀리초(ms)의 시간 창이 실용적인 균형점이 될 것이라고 제안했습니다. 이 기간은 플라즈마의 느리고 안정적인 움직임을 포착하기에 충분히 길면서도, 중요한 빠르고 움직이는 파동을 여전히 볼 수 있을 만큼 짧습니다. 또한 그들은 센서의 서로 다른 속도를 처리하는 방법도 권장했습니다. 모든 데이터를 동일한 속도로 강제하는 대신(이는 중요한 고속 세부 정보를 잃거나 감당할 수 없는 양의 저속 데이터를 생성하게 될 것입니다), 그들은 유연한 처리 방식을 제안했습니다. 특정 모델 아키텍처를 사용하는 것에 따라, 데이터 양을 줄이기 위해 원시 파형으로부터 스펙트로그램과 같은 복잡한 표현을 미리 계산하거나, 모델이 훈련되는 동안 시간 창을 추출하고 정규화 및 증강을 적용하여 데이터를 실시간으로 처리하는 방식을 제안했습니다. 이 접근 방식은 컴퓨터가 데이터를 하나의 인위적인 틀에 억지로 맞추지 않고도 빠른 센서와 느린 센서로부터 동시에 학습할 수 있게 해줍니다.

이 연구는 비록 핵융합 발전을 향한 길이 복잡하지만, 올바르게 조직된다면 필요한 데이터는 점점 더 접근 가능해질 것이라고 결론짓습니다. 연구진은 이 연구에서 작동하는 핵융합 발전소를 건설하거나 최종적인 완벽한 모델을 훈련시킨 것이 아닙니다. 대신, 그들은 결정적인 청사진을 제공했습니다. 그들은 데이터의 지형을 그려냈고, 과학자들이 이 분야에서 대규모 인공지능을 사용하는 것을 가로막았던 구체적인 장애물들을 식별했으며, 어떻게 진행해야 할지에 대한 명확한 가이드라인을 제시했습니다. 그들의 작업은 데이터의 독특한 특성, 즉 서로 다른 속도, 형태, 그리고 행동 양식을 존중함으로써, 과학자들이 마침내 혼돈스러운 핵융합 물리학을 정복하는 데 필요한 강력한 컴퓨터 시스템을 훈련시키기 시작할 수 있다는 것을 시사합니다. 이러한 조직화는 지구 위에서 별을 통제하는 법을 기계가 배울 수 있는 미래를 향한 필수적인 첫걸음입니다.