상상해 보세요. 당신은 훌륭한 네비게이션 앱을 개발했습니다. 햇살이 내리쬐고 차가 없는 도시를 perfect GPS 신호를 받으며 운전할 때는 완벽하게 작동합니다. 당신은 이를 "청정 성능 (Clean Performance)"이라고 부릅니다. 하지만 폭풍우가 몰아치는 도로를 운전하거나, 거리 표지판이 없는 동네에서 길을 잃거나, 더 이상 지도에 존재하지 않는 도로를 탐색하려 할 때는 어떻게 될까요? 앱이 충돌하나요? 당신을 호수로 안내하나요? 아니면 그저 "모르겠습니다"라고 말할 뿐인가요?

이 논문인 "그래프 표현 학습의 안전성 (On the Safety of Graph Representation Learning)" 은 데이터용 차세대 "네비게이션 앱"을 위한 방대하고 엄격한 스트레스 테스트와 같습니다.

데이터 세계에서는 이러한 "앱"들을 그래프 표현 학습 (Graph Representation Learning, GRL) 모델이라고 부릅니다. 이들은 소셜 미디어 연결, 화학 분자, 금융 거래와 같은 복잡한 네트워크를 컴퓨터가 이해할 수 있는 단순한 지도로 변환합니다. 최근에는 단순한 지도에서 "기초 모델 (Foundation Models)"로 이동했는데, 이는 어디서나 작동할 것이라고 약속하는 초지능 사전 학습 시스템입니다.

하지만 저자들은 묻습니다: 이러한 초지능 모델들은 실제 세계가 혼란스러워질 때 실제로 안전한가요?

일상적인 비유를 사용하여 그들의 발견 사항을 정리해 보겠습니다:

1. 문제: "청정실 (Clean Room)"의 함정

지금까지 과학자들은 주로 이러한 모델들을 "청정실"에서 테스트했습니다. "모든 것이 완벽할 때 정답을 예측하는 능력은 얼마나 뛰어난가?"라고 질문했습니다.
저자들은 이는 매끄러운 레이싱 트랙에서만 자동차를 테스트하는 것과 같다고 말합니다. 이는 자동차가 얼음, 구덩이, 또는 펑크 난 타이어를 어떻게 처리하는지에 대해 아무것도 알려주지 않습니다. 실제 세계에서는 데이터가 "손상 (corrupted)"되거나 (나쁜 정보), 시간이 지남에 따라 변화하거나 (새로운 트렌드), 심각한 불균형을 보이거나 (희귀 사건) 합니다.

2. 해결책: GRL-안전 (GRL-Safety, "충돌 테스트" 벤치마크)

저자들은 GRL-Safety라는 새로운 테스트 장소를 만들었습니다. 모델에게 단일 점수 (예: "90% 정확도") 를 부여하는 대신, 25 개의 다양한 실제 데이터셋에 걸쳐 12 개의 서로 다른 모델을 5 가지 특정 유형의 스트레스 테스트에 통과시켰습니다.

이를 5 가지 다른 충돌 시나리오를 가진 AI 를 위한 충돌 테스트 더미 시설로 생각하세요:

• 손상 견고성 (Corruption Robustness, "정적 (Static)" 테스트):

  • 시나리오: GPS 신호가 잡음으로 가득 차 있거나, 반 이상의 거리 표지판이 사라진 상황을 상상해 보세요.
  • 발견: 일부 모델은 튼튼한 트럭처럼 도로가 울퉁불퉁해도 계속 주행합니다. 반면 다른 모델들은 스포츠카처럼 연결선 (road connections) 이 몇 개만 제거되어도 무너집니다. 흥미롭게도 "나쁜 신호"를 처리하는 데 뛰어난 모델이 반드시 "사라진 도로"를 처리하는 데 뛰어난 것은 아닙니다. 이는 서로 다른 기술입니다.

• OOD 일반화 (OOD Generalization, "새로운 영토" 테스트):

  • 시나리오: 뉴욕 지도로 모델을 훈련시켰는데, 이제 도쿄를 운전해야 합니다. 또는 2010 년 데이터로 훈련시켰는데, 이제는 2024 년입니다.
  • 발견: "모든 도로의 왕"인 단일 모델은 없습니다. 시간적 변화 (새로운 트렌드 등) 를 처리하는 모델은 네트워크 구조가 변할 때 (예: 새로운 유형의 분자) 처참하게 실패할 수 있습니다. 단순히 "최고"인 모델을 선택할 수 없습니다. 귀하의 특정 새로운 영토에 가장 적합한 모델을 선택해야 합니다.

• 클래스 불균형 (Class Imbalance, "희귀 사건" 테스트):

  • 시나리오: 사기 탐지기가 정상 거래 1,000 건당 사기 1 건을 본다고 상상해 보세요. "모든 것이 정상"이라고만 말하면 99% 정확도를 쉽게 얻을 수 있습니다.
  • 발견: 많은 모델은 다수에게만 관심을 기울이는 "불량배"와 같습니다. 그들은 훌륭한 점수를 받지만 희귀하고 위험한 사례 (사기) 를 완전히 놓칩니다. 저자들은 희귀한 것을 잡기 위해서는 종종 일반적인 것에 대한 성능을 희생해야 한다고 발견했습니다. 이는 트레이드오프입니다.

• 공정성 (Fairness, "부자 vs 가난한 자" 테스트):

  • 시나리오: 소셜 네트워크에서 인기 있는 사람들 (높은 차수 노드) 은 친구가 많지만, 인기가 없는 사람들 (낮은 차수 노드) 은 친구가 적습니다.
  • 발견: 모델들은 "인기 있는" 사람들에게 편향되는 경향이 있습니다. 잘 연결된 사람들에 대해서는 매우 정확한 예측을 하지만, 고립된 사람들에 대해서는 혼란을 겪고 실수를 합니다. 모델의 "안전성"은 누가 사용하는지에 크게 의존합니다.

• 해석 가능성 (Interpretation, "나를 믿어" 테스트):

  • 시나리오: 모델이 "이 분자는 독성이 있다"고 말합니다. 당신은 "왜?"라고 묻고, 모델은 분자의 특정 부분을 가리킵니다. 이것이 진실인지, 아니면 단순히 추측인지 어떻게 알 수 있을까요?
  • 발견: 모델이 설명을 할 수 있다고 해서 그 설명이 진실이라는 뜻은 아닙니다. 저자들은 오직 소수의 모델만이 자신의 결정에 대한 실제 이유를 가리킨다는 것을 발견했습니다. 대부분의 모델은 우연히 틀리게 되는 그럴듯한 이유를 만들어냅니다.

3. 주요 교훈 (The "Driver's Ed" 교훈)

저자들은 AI 안전성에 대한 우리의 사고 방식을 바꾸는 세 가지 주요 결론을 도출했습니다:

1. "브랜드"가 아니라 "매칭"이 중요합니다:
   "기초 모델이 가장 안전하다"고 말할 수 없습니다. 무엇이 깨지는지에 따라 다릅니다. 데이터에 누락된 링크가 있다면 한 유형의 모델이 필요하고, 노이즈가 있는 레이블이 있다면 다른 모델이 필요합니다. "안전성"은 모델의 설계를 직면할 특정 스트레스에 맞게 일치시킬 때 나옵니다.

2. "슈퍼 모델" 신화는 거짓입니다:
   최신이고 가장 진보된 모델 (기초 모델) 은 만능 해결책이 아닙니다. 그들은 전문가입니다. 하나는 시간적 변화를 처리하는 데 뛰어나고, 다른 하나는 공정성에 뛰어날 수 있습니다. 모든 것에 대한 단일한 "가장 안전한" 모델은 존재하지 않습니다.

3. 일부 도로는 여전히 너무 어렵습니다:
   테스트된 최고의 모델들조차 극단적인 클래스 불균형이나 특정 유형의 데이터 변화와 같은 특정 상황에서는 여전히 어려움을 겪습니다. 이는 우리가 단순히 "선반에서 최고의 모델을 고를" 수 없다는 것을 의미합니다. 우리는 이러한 혼란스럽고 실제 세계의 스트레스를 처리하도록 특별히 설계된 새로운 학습 방법을 개발해야 합니다.

요약

이 논문은 완벽한 청정 실험실에서 그래프 모델이 얼마나 잘 수행되는지로 평가하는 것을 멈추어야 한다고 주장합니다. 대신 우리는 "진흙과 비"가 가득한 실제 조건에서 이를 테스트해야 합니다. 안전성은 단일 숫자가 아닙니다. 무언가 잘못되었을 때 모델이 어떻게 행동하는지에 대한 프로필입니다. 진정으로 안전한 시스템을 구축하기 위해서는 우리가 이들을 우리의 자동차를 운전하게 하기 전에 어떻게 그리고 언제 실패할 수 있는지 정확히 알아야 합니다.