CoCoNet: : Convex Conformal Network for Multi-Dimensional Uncertainty Regions

데이터 과학의 세계에서 단일 숫자를 예측하는 것은 종종 간단한 일이지만, 서로 연관된 결과들의 집합(cluster)을 예측하는 것은 전혀 다른 차원의 도전 과제입니다. 모델이 미래를 예측할 때, 그것은 결코 단 하나의 완벽한 지점만을 제시하지 않습니다. 대신 불확실성을 고려하여 발생 가능한 결과들의 범위를 제공해야 합니다. 단순한 예측의 경우 이 범위는 단일 구간이 될 수 있습니다. 하지만 자동차의 3차원 미래 위치나 기상 관측소의 온도, 습도, 풍속처럼 여러 가지를 동시에 예측할 때는 불확칙성이 복잡한 다차원적 형태를 띠게 됩니다. 목표는 의사결정에 유용할 만큼 충분히 조밀하면서도, 신뢰할 수 있을 만큼 충분히 넓은 경계선을 그리는 것입니다. 만약 경계가 너무 느슨하면 실질적인 지침을 제공하지 못하고, 너무 좁으면 실제 결과를 놓칠 위험이 있습니다. 핵심적인 과제는 이 경계를 상자나 구와 같은 고정된 기하학적 형태에 강제로 맞추는 것이 아니라, 데이터의 실제적이고 종종 불규칙한 기하학적 구조에 부합하도록 형상화하는 데 있습니다.

조지아 공과대학교의 연구진은 이 문제를 해결하기 위해 CoCoNet이라 불리는 새로운 방법을 개발했습니다. 그들의 연구는 예측 영역이 수학적으로 특정 확률만큼 정확함을 보장할 뿐만 아니라, 가능한 한 작고 효율적이어야 한다는 점에 초점을 맞추고 있습니다. 기존 방식들은 데이터를 맞추기 위해 타원이나 직사각형을 늘리는 것과 같이 고정된 기하학적 템플릿에 의존하는 경우가 많습니다. 이러한 형태들은 다루기는 쉽지만, 실제 불확실성이 왜곡되었거나, 한쪽으로 치우쳤거나, 혹은 복잡하고 불규칙한 형태를 띨 때는 제대로 작동하지 못합니다. 연구진은 컴퓨터에게 데이터로부터 불확실성의 형태를 직접 학습하도록 가르치는 동시에, 해당 형태가 반드시 볼록(convex)해야 한다는 규칙(즉, 안으로 움푹 들어간 곳이나 구멍이 없어야 함)을 엄격히 적용함으로써, 데이터의 구조에 완벽하게 적응하는 예측 구역을 생성할 수 있다는 것을 발견했습니다.

그들 접근 방식의 핵심은 두 단계의 과정으로 이루어집니다. 첫째, 시스템은 표준 예측과 비교했을 때 특정 결과가 얼마나 '놀라운지'를 측정하는 점수 함수(scoring function)를 학습합니다. 결정적으로, 이 점수 함수는 볼록하도록 설계되어, 결과적으로 생성되는 가능한 결과의 영역이 틈 없이 하나의 단단한 형태를 갖도록 보장합니다. 연구진은 두 가지 버전의 시스템을 테스트했습니다. 하나는 접힌 종이처럼 연결된 평면들의 연속을 사용하여 형태를 구축하는 방식이고, 다른 하나는 거의 모든 방식으로 형태를 빚어낼 수 있는 매우 유연한 신경망 아키텍처를 사용하는 방식입니다. 그 후, 요구되는 커버리지 보장을 충족하기 위해 별도의 데이터를 사용하여 학습된 형태들을 보정했습니다. 이는 만약 시스템이 90%의 신뢰도를 갖도록 설정되었다면, 실제 결과가 밑바탕이 되는 데이터 분포와 상관없이 90%의 확률로 예측 영역 안에 들어오게 됨을 의미합니다.

이 방법을 테스트하기 위해 연구진은 자율 주행 차량의 움직임 예측부터 건물의 에너지 소비 추정, 분자의 화학적 성질 분석에 이르기까지 30가지의 서로 다른 실세계 문제에 적용했습니다. 이 작업들은 두 개에서 최대 16개의 서로 다른 결과를 동시에 예측하는 것들을 포함했습니다. 그들은 직사각형, 타원 또는 기타 표준 형태를 생성하는 기존의 여러 기술들과 이 새로운 방법을 비교했습니다. 결과는 놀라웠습니다. 신경망을 사용하여 형태를 학습하는 가장 유연한 버전의 시스템이 30개 작업 중 22개에서 가장 효율적인 예측 영역을 만들어냈습니다. 많은 경우, 이 시스템이 생성한 영역은 기존의 최선책들이 만든 영역보다 현저히 작았으며, 이는 신뢰성을 희생하지 않으면서도 불확실성에 대해 훨씬 더 조밀하고 유용한 경계값을 제공할 수 있음을 의미합니다.

또한 이 연구는 근본적인 불확실성이 깔끔한 패턴을 따르지 않을 때 어떤 일이 발생하는지 탐구했습니다. 실제 불확실성이 삼각형이나 사다리꼴 형태를 띠는 합성 테스트에서, 표준 방식들은 종-종 큰 면적을 덮기 위해 불필요한 공간을 낭비하며 비효율적인 영역을 생성하며 어려움을 겪었습니다. 반면, 새로운 방식은 이러한 형태들의 정확한 기하학적 구조를 학습하여 데이터에 밀착된 예측 영역을 만들어냈습니다. 불확실성이 대략 타원형인 경우에도 새로운 방식은 타원에 특화된 설계 방식만큼 혹은 그보다 더 나은 성능을 보여주며 범용성을 입증했습니다. 연구진은 형태를 외부에서 강제로 부여하는 대신 데이터로부터 학습하도록 허용함으로써, 기존 방식들이 놓쳤던 서로 다른 결과들 사이의 미묘한 비대칭성과 의존성을 포착할 수 있음을 보여주었습니다.

이 연구가 중요한 이유는 예측 영역의 품질이 그에 기반해 내려지는 결정의 질에 직접적인 영향을 미치기 때문입니다. 로봇 공학, 금융, 또는 기후 모델링 분야에서 불확실성의 정밀한 한계를 아는 것은 더 안전하고 효과적인 계획을 가능하게 합니다. 불필요하게 넓은 예측 영역은 의사결정자가 일어나지 않을 가능성이 높은 최악의 시나리오에 대비하게 만들어 자원의 비효율적인 사용을 초래합니다. 반대로, 영역이 너무 좁으면 실제 결과를 놓쳐 치명적인 실패로 이어질 수 있습니다. 수학적으로 타당하면서도 기하학적으로 효율적인 예측 영역을 생성하는 방법을 제공함으로써, 이 새로운 방식은 복잡하고 다차원적인 환경에서 불확실성을 헤쳐 나갈 수 있는 더 신뢰할 수 있는 도구를 제공합니다. 연구진은 자신들의 코드와 데이터를 공개하여 다른 이들이 이 접근 방식을 자신의 문제에 적용할 수 있도록 함으로써, 이론적 보증과 실질적인 고성능 불확실성 정량화 사이의 간극을 메우고 있습니다.