DeGLIF for Label Noise Robust Node Classification using GNNs

인공지능의 세계에서 기계는 학생이 교과서로부터 배우는 것과 매우 유사하게, 예시들을 학습하며 배웁니다. 하지만 만약 그 교과서가 오타로 가득 차 있거나, 더 나아가 뒷면에 있는 정답들이 틀렸다면 어떻게 될까요? 이것이 바로 노이즈 레이블(noisy labels)의 문제입니다. 소셜 네트워크 매핑부터 의료 스캔을 통한 질병 진단에 이르기까지, 많은 현실 세계의 시나리오에서 데이터는 군중이나 실수를 저지르는 자동화된 시스템에 의해 저렴하고 빠르게 수집됩니다. 이러한 오류는 단순한 사소한 결함이 아닙니다. 정보 간의 연결 관계에 의존하는 시스템에서, 단 하나의 잘못된 레이블은 소문처럼 퍼져나가 이웃들의 이해를 타락시키고 전체 시스템을 실패하게 만들 수 있습니다. 수년 동안 연구자들은 이러한 실수에도 불구하고 효과적으로 학습할 수 있는 기계를 만들기 위해 노력해 왔으며, 종종 나쁜 데이터를 무시하거나 좋은 데이터가 노이즈를 압도하기를 희망하곤 했습니다.

인도 공과대학교 봄베이(IIT Bombay)의 연구팀은 특히 소셜 미디어 사용자나 화학 분자와 같이 연결된 점들의 네트워크로 존재하는 데이터에 대해 이 문제를 해결할 새로운 방법을 제 Propose했습니다. 그들은 이 방법을 DeGLIF라고 부릅니다. 복잡한 패턴을 기반으로 어떤 레이블이 틀렸는지 추측하거나 특정 유형의 오류를 가정하는 대신, 그들의 접근 방식은 다음과 같은 단순하면서도 직관에 어긋나는 질문을 던집니다. "만약 우리가 단순히 이 특정 데이터 포인트를 제거한다면, 우리 모델의 성능에는 어떤 일이 일어날까?" 하나의 데이터 포인트를 제거했을 때를 시뮬레이션하고, 작고 신뢰할 수 있는 깨끗한 예시 세트에서 모델의 정확도가 얼마나 향상되는지를 측정함으로써, 그들은 어떤 레이블이 오염되었을 가능성이 높은지 식별할 수 있습니다. 만약 노드를 제거했을 때 모델이 더 똑똑해진다면, 그 노드는 아마도 잘못된 교훈을 주고 있었던 것입니다.

연구진은 모든 데이터 포인트마다 모델을 수천 번 다시 학습시켜야 하는 불가능한 과업을 수행하지 않고도 이 질문에 답할 수 있는 수학적 지름길을 개발했습니다. 그들은 모델의 현재 상태를 살펴봄으로써 데이터 포인트의 영향을 추정하는 'leave-one-out influence function'이라는 개념을 사용했습니다. 연결된 네트워크의 맥락에서 이는 특히 까다로운데, 한 점을 제거하면 그 이웃들과의 연결도 끊어져 다른 모든 이들의 정보 흐름을 변화시키기 때문입니다. 연구팀은 이러한 구조적 변화를 고려하여 기존 방법론을 확장하였고, 이를 통해 특정 노드가 깨끗하고 신뢰할 수 있는 데이터에 대한 모델의 예측에 얼마나 많은 영향을 미치는지 계산할 수 있었습니다. 만약 어떤 노드의 존재가 깨끗한 데이터에 대한 모델의 성능을 저하시킨다면, 시스템은 이를 노이즈로 분류합니다.

노이즈가 있는 노드가 식별되면, 시스템은 단순히 그것을 버려서 귀중한 정보를 낭비하지 않습니다. 대신, 실수를 수정하려고 시도합니다. 잘못된 레이블을 가진 노드에 대해, 시스템은 현재 모델이 해당 노드에 대해 예측하는 바를 살펴보고 레이블을 가장 가능성 높은 올바른 클래스로 바꿉니다. 연구진은 이 레이블 수정 과정이 노드를 완전히 삭제하는 것보다 수학적으로 우월하다는 것을 이론적으로 증명했는데, 이는 노드의 구조적 가치는 유지하면서 정체성을 수정하기 때문입니다. 그들은 과학 논문 및 제품 리뷰의 대규모 컬렉션을 포함한 여러 표준 데이터셋에 이 접근 방식을 테스트하였으며, 레이블에 다양한 수준의 무작위 오류를 도입했습니다. 이 테스트에서 그들의 방법은 기존의 최첨단 기술들을 지속적으로 능가하며, 어떤 경우에는 정확도를 최대 거의 18%까지 향상시켰습니다.

또한 이 연구는 이 방법이 서로 다른 조건 하에서 어떻게 작동하는지 탐구했습니다. 그들은 신뢰할 수 있는 깨끗한 데이터 세트가 전체 데이터셋의 2% 미만을 나타내는 매우 작은 경우에도 시스템이 잘 작동한다는 것을 발견했습니다. 그들은 연결이 희소하든 밀집되어 있든 다양한 유형의 네트워크 구조 전반에서 이 방법이 견고하다는 것을 관찰했으며, 오류가 얼마나 존재하는지 또는 어떤 종류의 오류인지에 대한 사전 지식을 요구하지 않는다는 것을 확인했습니다. 실제로 연구진은 이 방법을 반복적으로 적용할 수 있음을 입증했습니다. 첫 번째 클리닝 라운드를 거친 후 데이터는 더 깨끗해졌으며, 두 번째 패스를 통해 훨씬 더 많은 오류를 찾아내고 수정할 수 있었습니다. 초기 계산에는 네트워크 구조를 분석하기 위한 상당한 컴퓨팅 파워가 필요했지만, 연구진은 이 방법이 메모리 제한 때문에 다른 경쟁 알고리즘들이 실패했던 대규모 데이터셋에서도 여전히 실행될 수 있음을 보여주었습니다.

결과는 이 접근 방식이 문제의 근원을 알 필요 없이 지저분한 데이터를 정리하는 다재다능한 도구를 제공한다는 것을 시사합니다. 노이즈 자체를 모델링하려 하기보다 각 데이터 포인트가 모델의 성공에 미치는 실제 영향에 집중함으로써, 시스템은 신호와 잡음을 효과적으로 분리할 수 있습니다. 연구진은 이 방법이 계산 집약적이지만, 성능을 더욱 높이기 위해 다른 학습 기법들과 결합될 수 있는 강력한 전처리 단계 역할을 한다고 언급했습니다. 고품질의 데이터가 비싸고 희귀한 환경에서, 노이즈가 섞인 신뢰할 수 없는 데이터셋을 깨끗하고 신뢰할 수 있는 것으로 바꾸는 이 능력은 머신러닝의 연결된 데이터 분야에서 중요한 진전을 의미합니다. 이 작업은 개별 데이터 포인트의 영향력을 이해하는 것이 어떻게 더 탄력적이고 정확한 인공지능 시스템을 이끌어낼 수 있는지에 대한 실질적인 증거입니다.