Using dynamic loss weighting to boost improvements in forecast stability

기상 예보관으로서 당신은 다음 주 기온을 예측하려고 노력하고 있습니다. 매일 아침, 당신은 어제의 기온 데이터라는 새로운 정보를 받습니다. 자연스럽게, 당신은 다음 주 화요일에 대한 예측을 업데이트합니다. 하지만 여기 함정이 있습니다. 업데이트를 할 때마다, 다음 주 화요일에 대한 당신의 예측이 급격하게 오르거나 내릴 수 있다는 점입니다. 어떤 날은 70°F라고 했다가, 다음 날은 65°F, 그다음 날은 72°F라고 합니다. 이러한 끊임없는 흔들림을 "예측 불안정성(forecast instability)"이라고 부릅니다. 이는 소풍을 계획하거나 공급망을 관리하는 사람들에게 매우 번거로운 일입니다. 왜냐하면 숫자가 그대로 유지될 것이라는 믿음을 가질 수 없기 때문입니다.

과학자들은 단순히 정확하기만 한(기온을 맞히는) 것뿐만 아니라 안정적인(자신의 이야기를 고수하는) 컴퓨터 모델을 만들기 위해 노력해 왔습니다. 최근 연구자들은 모델에게 "안정성 페널티"를 추가함으로써 모델이 좀 더 꾸준해지도록 가르치는 방법을 발견했습니다. 이것은 마치 선생님이 학생에게 "정답만 맞히려고 하지 말고, 새로운 힌트를 볼 때마다 답을 바꾸지 마렴"이라고 말하는 것과 같습니다. 하지만 이 방식을 가르치는 기존의 방법은 다소 경직되어 있었습니다. 그것은 "정확도에 90%, 안정성에 10%의 주의를 기울여라"라는 고정된 규칙을 사용했으며, 이 비율은 전체 훈련 과정 동안 전혀 변하지 않았습니다.

이 논문은 간단하고도 호기심 어린 질문을 던집니다. 만약 우리가 이 규칙을 동적으로 만들 수 있다면 어떨까요? 모델이 먼저 정확도에 집중하고, 기초적인 것을 잘하게 된 후에야 안정성을 걱정하기 시작한다면 어떨까요? 연구진은 KU Leuven의 팀으로서, 강력한 예측 모델인 N-BEATS를 사용하여 이 아이디어를 테스트했습니다. 그들은 모델이 정확도와 안정성의 중요성을 스스로 조절할 수 있게 하는 "동적 손실 가중치(dynamic loss weighting)" 기법들을 시험했습니다. 그들은 모델이 스스로 우선순위를 조정하게 함으로써, 이전보다 훨씬 덜 요동치면서도 정확도는 동일한 예측을 얻을 수 있다는 것을 발견했습니다. 이는 마치 학생이 수업 내용을 마스터한 후에 스스로를 의심하는 것을 멈추도록 가르치는 것과 같으며, 결과적으로 사람들이 실제로 신뢰할 수 있는 예측을 만들어냅니다.

흔들리는 예측의 이야기

시계열 예측의 세계에서 컴퓨터는 과거를 보고 미래를 추측하는 수정구슬과 같습니다. 하지만 이 수정구슬에는 나쁜 습도가 있습니다. 바로 변덕스럽다는 것입니다. 새로운 데이터가 도착하면, 모델은 다음 주에 대한 예측을 완전히 뒤집어버릴 수도 있습니다. 이것을 **롤링 오리진 예측 불안정성(rolling origin forecast instability)**이라고 합니다. 당신이 파티를 계획하고 있다고 상상해 보세요. 만약 친구가 "내 생각엔 10명이 올 것 같아"라고 말했다가, 5분 뒤에 "사실, 아마 20명일 거야"라고 하고, 한 시간 뒤에 "잠깐, 아마 5명일지도 몰라"라고 한다면, 당신은 꽤 좌절할 것입니다. 당신은 적절한 양의 피자를 주문할 수 있을 만큼 신뢰할 수 있는 예측이 필요합니다.

오랫동안 목표는 단지 예측을 최대한 정확하게 만드는 것이었습니다. 하지만 현실 세계에서는 정확도만이 중요한 것이 아닙니다. 예측이 너무 많이 요동친다면 사람들은 더 이상 그것을 믿지 않습니다. 사람들은 자신만의 "직감"에 따른 조정을 하기 시작할 것이고, 이는 종종 예측을 덜 정확하게 만듭니다. 그래서 연구자들은 모델이 "정확도"를 잃지 않으면서도 "안정성"을 갖추도록 가르치고자 했습니다.

옛날 방식: 정적인 규칙책

이전에 이를 해결하기 위해 N-BE}_BEATS-S라는 방법이 도입되었습니다. 이것은 컴퓨터에게 두 부분으로 된 숙제를 주는 방식으로 작동했습니다.

1. 파트 A: 숫자를 맞혀라 (정확도).
2. 파트 B: 새로운 데이터를 받았을 때 답을 너무 많이 바꾸지 마라 (안정성).

컴퓨터는 이 두 가지 과제의 균형을 맞춰야 했습니다. 이 작업을 수행하는 기존 방식은 정적 하이퍼파라미터(이를 $\lambda$라고 부릅시다)를 사용하는 것이었습니다. 이것은 훈련생이 컴퓨터가 학습을 시작하기 전에 설정하는 다이얼과 같습니다. 만약 당신이 다이얼을 0.025로 설정하면, 컴퓨터는 "헤이, 정확도에 97.5%를 집중하고 안정성에는 2.5%만 신경 써"라는 지시를 받습니다. 만 만약 0.275로 설정하면, "좋아, 안정성에 더 많은 주의를 기울여"라고 말하는 것입니다.

이 정적 다이얼의 문제는 훈련 과정 내내 돌처럼 굳어 있다는 점입니다. 컴퓨터는 무엇에 집중할지 스스로 결정할 수 없습니다. 이는 마치 학생에게 "학기 내내 수학에 20%, 역사에 80%의 시간을 써라"라고 말하는 것과 같습니다. 학생이 이미 수학 천재라서 역사 연습이 조금만 더 필요한 상황임에도 불구하고 말이죠. 연구자들은 경직된 규칙책이 컴퓨터의 발목을 잡고 있을 것이라고 의심했습니다.

새로운 아이디어: 역동적인 춤

이 논문의 저자들은 다음과 같은 의문을 가졌습니다. 만약 컴퓨터가 학습하는 동안 다이얼을 바꿀 수 있다면 어떨까? 이것을 **동적 손실 가중치(Dynamic Loss Weighting, DLW)**라고 합니다. 고정된 규칙 대신, 컴퓨터는 "좋아, 지금 나는 정확도가 형편없으니까 잠시 안정성은 무시할게. 하지만 정확도가 좋아지면, 그때부터 안정성을 걱정하기 시작할 거야"라고 결정할 수 있습니다.

그들은 이러한 종류의 동적 균형을 맞추는 몇 가지 기존 방법들을 테스트했고, 또한 **과업 인지 무작위 가중치(Task-Aware Random Weighting, TARW)**라는 새로운 방법을 발명했습니다.

• GradNorm: 이 방법은 컴퓨터가 두 가지 과제를 같은 속도로 학습하도록 보장하려고 노력합니다. 만약 정확도를 너무 빨리 배우고 있다면, 안정성에 집중하기 위해 그 속도를 늦춥니다.
• Uncertainty Weighting (불확실성 가중치): 이 방법은 "내가 이 과제에 대해 얼마나 확신이 없는가?"라고 묻습니다. 만약 컴퓨터가 안정성에 대해 매우 확신이 없다면, 그 일에 주의를 덜 기울입니다.
• Random Weighting (RW, 무작위 가중치): 이것은 약간 혼란스럽습니다. 컴퓨터가 새로운 데이터 배치를 학습할 때마다 0과 1 사이의 무작위 숫자를 그냥 뽑습니다. 놀랍게도, 이 무작위성이 종종 잘 작동합니다.
• TARW (새로운 등장인물): 저자들은 "무작위 가중치" 아이디어를 가져와서 약간 수정했습니다. 0과 1 사이의 숫자를 뽑는 대신, 0과 특정 한계값(이를 $\kappa$라고 합시다) 사이의 숫자를 뽑습니다. 이는 컴퓨터가 안정성에 너무 집착하여 정확도를 잊어버리는 일이 없도록 보장합니다. 이는 마치 "무작위로 해도 좋지만, 너무 미치지는 마"라고 말하는 것과 같습니다.

그들이 발견한 것: 최적의 지점

연구팀은 월간 시계열 데이터(판매 수치나 날씨 데이터와 같은 수천 개의 서로 다른 시계열을 포함하는 M3 및 M4 데이터셋)를 사용하여 실험을 진행했습니다. 그들은 새로운 동적 방법들을 기존의 정적 방법(고정된 다이얼을 가진 N-BEATS-S)과 비교했습니다.

숫자들이 말해주는 결과는 다음과 같습니다:

1. 안정성 향상: 거의 모든 동적 방법이 예측을 훨씬 더 안정적으로 만들었습니다. 예측의 "흔들림"이 크게 줄어들었습니다. 예를 들어, M4 데이터셋에서 일부 방법은 불안정성 지표(RMSSC)를 기존의 정적 방법인 약 0.537에서 0.146 또는 0.224까지 낮추었습니다. 이는 요동치는 정도가 엄청나게 감소했음을 의미합니다.
2. 정확도 유지: 안정성에 집중함으로써 컴퓨터의 정확도가 떨어질 것이라는 큰 우려가 있었습니다. 결과는 가장 좋은 방법들의 경우 정확도가 거의 동일하게 유지되었음을 보여주었습니다. 실제로 M3 데이터셋에서 새로운 TARW high 방법은 기존 N-BEATS 모델보다 더 정확한 예측(RMSSE 점수 1.082 대 1.088)을 생성했습니다.
3. 승자: TARW 방법(특히 "high" 버전)이 눈에 띄었습니다. 이 방법은 정확도를 해치지 않으면서도 안정성을 크게 개선했습니다. 이는 예측을 견고하면서도 매우 정밀하게 만드는 방법을 찾아낸 것과 같았습니다.
4. 이유: 내부를 들여다보았을 때, 그들은 동적 방법들이 저자들이 기대했던 대로 작동하고 있음을 확인했습니다. 훈련 초기에는 컴퓨터가 정확도에 크게 집중했습니다. 정확도가 좋아진 후에야 비로소 안정성에 주의를 기울이기 시작했습니다. 반면 정적 방법은 첫날부터 두 가지를 모두 하려고 했고, 이는 때때로 모델을 혼란스럽게 하거나 모델을 "지역 최적점(local optimum, 안정적이지만 정확하지 않은 상태에 갇힌 지점)"으로 몰아넣었습니다.

결론

이 논문은 우리가 정확도와 안정성의 균형을 맞추기 위해 경직되고 미리 설정된 규칙을 강요할 필요가 없다는 점을 시사합니다. 대신, 모델이 우선순위를 동적으로 조정하도록—특히 정확도를 먼저 우선시한 다음 안정성을 도입하도록—두면 더 나은 결과를 얻을 수 있습니다.

저자들은 TARW를 단순하고 효과적인 도구로 제안합니다. 이것은 본질적으로 컴퓨터가 너무 일찍 안정성에 집착하지 않도록 하는 "스마트한 무작위 생성기"입니다. 훈련 중의 계산 비용은 가중치를 조정하기 위해 컴퓨터가 아주 약간의 수학적 계산을 더 해야 하므로 약간 더 높지만, 실제 사용(추론) 시의 비용은 기존 방법과 정확히 같습니다.

결국, 이 연구는 만약 당신이 사람들이 신뢰할 수 있는 예측 시스템을 원한다면, 단순히 정확하라고 요구하는 것만으로는 부족하다는 것을 보여줍니다. 당신은 그것이 일관성을 갖도록 가르쳐야 하며, 다만 그 교훈을 적절한 시기에 배우도록 해야 합니다. 이러한 동적 방법을 사용함으로써, 우리는 정확할 뿐만 아니라 신뢰할 수 있는 예측을 얻을 수 있으며, 이를 통해 기업과 계획가들을 끊임없이 변하는 숫자의 골칫거리로부터 구할 수 있습니다.