Research on Enterprise Cost Prediction Method Based on Improved Informer Model

당신이 다음 달의 날씨를 예측하려고 한다고 상상해 보세요. 하늘을 보니 갑작스러운 폭풍, 기묘한 열기 급증, 그리고 아무런 의미도 없는 무작위 구름들이 뒤섞인 혼란스러운 상태입니다. 만약 당신이 이 소음(noise)을 바탕으로 기온을 추측하려 한다면, 아마 틀릴 가능성이 높을 것입니다. 이것이 바로 컴퓨터가 과거의 데이터 선을 통해 미래를 예측하려고 노력하는 과학의 한 분야인 '시계열 예측(time series forecasting)'의 일상적인 고충입니다. 보통 이러한 컴퓨터들은 패턴을 찾아내는 데 탁ual한 매우 똑똑한 학생과 같지만, '소음'—즉, 실제 트렌드가 아니라 단순한 글리치(glitch)나 사고에 불과한 갑작스럽고 이상한 데이터의 도약—에 쉽게 주의를 빼앗기곤 합니다.

이를 해결하기 위해 과학자들은 '인포머(Informer)'라고 불리는 특별한 도구를 만들었습니다. 인포머를 1초에 백만 권의 책(데이터 포인트)을 읽으면서도 두통을 느끼지 않는 매우 효율적인 사서라고 생각해 보세요. 이 모델은 '희소 주의 집중(sparse attention)'이라는 기술을 사용하는데, 이는 마치 사서가 시간을 아끼기 위해 책의 모든 단어를 읽는 대신 가장 중요한 장들만 골라 읽기로 결정하는 것과 같습니다. 하지만 이 초능력을 가진 사서에게도 약점은 있습니다. 데이터가 무질서하고 격렬하게 요동칠 때(예: 기업 비용), 사서는 효율성을 너무 추구하다가 정작 가장 흥미롭고 중요한 반전들을 실수로 건너뛸 수도 있습니다. 이 논문은 바로 그 구체적인 문제를 다룹니다.

---

문제: 데이터가 거칠게 날뛸 때

당신이 거대한 공장의 관리자라고 상상해 보세요. 매일 당신은 다음 주, 다음 달, 혹은 심지어 내년에 돈을 얼마나 쓸지 알아야 합니다. 이것을 '기업 비용 예측(enterprise cost prediction)'이라고 합니다. 하지만 비용 데이터는 매우 지저분합니다. 때로는 배송 지연 때문에 원자재 가격이 갑자기 치솟기도 하고, 예상치 못하게 기계가 고장 나기도 합니다. 이것들은 '극단값(extreme values)'입니다. 즉, 큰 트렌드처럼 보이지만 실제로는 사고에 불과한, 데이터 속의 갑작스럽고 시끄러운 소음입니다.

기존의 컴퓨터 모델들은 이러한 사고에 혼란을 느낍니다. 그들은 하루 동안 발생한 지출 급증을 미래의 새로운 규칙이라고 착각하여 잘못된 예측을 내놓습니다. 장기 예측에 뛰어난 스마트한 '인포머' 모델조차도 여기서는 어려움을 겪습니다. 인포머는 시간을 아끼기 위해 어떤 데이터 포인트에 집중할지를 무작위로 선택하는데, 혼란스러운 비용 환경에서는 가장 중요한 스파이크(급등)를 실수로 무시하거나 소음에 정신이 팔릴 수 있습니다.

해결책: 더 똑똑하고 주의 깊은 사서

이 논문의 저자인 난 반(Nan Ban)과 그 팀은 인포 l머에게 대대적인 업그레이드를 해주기로 했습니다. 단순히 더 많은 데이터를 쏟아부은 것이 아니라, 현실 세계의 비즈니스 비용이 갖는 혼돈을 다룰 수 있도록 두 가지 새로운 기술을 가르쳤습니다.

기술 1: "노이즈 캔슬링 헤드폰" (동적 디노이징, Dynamic Denoising)
먼저, 전처리 단계를 추가했습니다. 데이터가 잡음과 툭툭 끊기는 소리로 가득 찬 노래라고 상상해 보세요. 인포머가 노래를 듣기 전에, 이 새로운 알고리즘은 노이즈 캔슬링 헤드폰을 씁니다. 이 알고리즘은 데이터를 살펴보고 묻습니다. "이것은 진짜 트렌드인가, 아니면 단순한 글리치인가?"

• 만약 어떤 숫자가 주변 값들에 비해 너무 높거나 낮다면(예: 사무용품 비용의 갑작스럽고 불가능한 급등), 알고리즘은 단순히 그것을 삭제하지 않습니다. 삭제하면 중요한 정보를 잃을 수 있기 때문입니다. 대신, 거친 모서리를 부드럽게 다듬듯 데이터를 "매끄럽게(smooth)" 만들어 곡선에 더 잘 맞도록 조정합니다.
• 결정적으로, 이것은 일률적인 필터가 아닙니다. 알고리즘은 원자재처럼 본래 변동성이 크고 요동치는 비용이 있는 반면, 사무실 임대료처럼 차분한 비용도 있다는 것을 알 만큼 똑똑합니다. 알고-리즘은 이에 따라 민감도를 조절하여, 진짜 '거친' 트렌드는 유지하면서 가짜 소음만을 걷어냅니다.

기술 2: "액션에 스포트라이트 비추기" (변동성 인지 샘플링, Volatility-Aware Sampling)
데이터가 깨끗해진 후, 인포머는 무엇을 읽을지 결정해야 합니다. 기존의 인포머는 시간을 아끼기 위해 데이터 포인트를 다소 무작위로 선택합니다. 하지만 새로운 버전은 '변동성 인지' 전략을 사용합니다.

• 이것은 콘서트 현장의 카메라 기사를 생각하면 쉽습니다. 밴드가 느리고 지루한 발라드를 연주하고 있다면 카메라는 가만히 있습니다. 하지만 드러머가 미친 듯이 빠르고 화려한 솔로를 시작하면(높은 변동성), 카메라는 줌인을 하여 모든 비트를 따라갑니다.
• 새 모델도 이와 같습니다. 모델은 특정 데이터 덩어리가 얼마나 흔들리거나 요동치는지 계산합니다. 만약 어떤 덩어리가 매우 변동성이 크다면(액션이 많다면), 모델은 스스로에게 더 집중하라고 강제하여 중요한 스파이크를 놓치지 않도록 합니다. 데이터가 차분하다면, 모델은 휴식을 취합니다. 이를 통해 모델은 비용 이야기 속의 '반전'들을 놓치지 않으면서도 압도당하지 않고 핵심을 포착합니다.

발견: 중기 예측에서의 더 나은 성과

연구팀은 새로운 '슈퍼 인포머'를 담배 회사의 실제 데이터와 표준 전기 데이터셋에 테스트했습니다. 그리고 이를 기존의 인포머 및 다른 모델들과 비교했습니다.

결과는 그들의 새로운 방식이 특히 조금 더 먼 미래를 예측하는 '중기(medium term)' 예측에서 명확한 승자임을 보여주었습니다.

• 12단계 예측(12개 시간 단위 앞을 내다보는 것)에서, 새 모델은 오차(MSE)를 0.3819로, 평균 절대 오차(MAE)를 0.3449로 줄였습니다. 이는 노이즈 제거 단계만 수행한 모델보다 각각 **2.1%**와 2.2% 개선된 수치입니다.
• 24단계 예측에서는 오차가 MSE 기준 0.5035, MAE 기준 0.4202로 떨어졌으며, 이는 각각 **0.1%**와 **0.2%**의 작지만 꾸준한 개선을 보여줍니다.

흥미롭게도, 저자들은 매우 단기적인 예측(6단계)에서는 새 모델이 노이즈 제거만 수행한 버전보다 약간 덜 정확했다는 점에 주목했습니다. 이는 단기 예측은 충분히 단순해서 추가적인 '스포트라이트'가 아직 필요하지 않기 때문입니다. 하지만 노이즈와 변동성이 정말 중요해지는 더 먼 미래를 내다볼 때, 새 모델은 빛을 발합니다. 이 모델은 소음에 속아 발생하는 '가짜 낮은 오차(false low errors)'를 피함으로써, 비용이 어디로 향하고 있는지에 대해 더 안정적이고 신뢰할 수 있는 뷰를 제공합니다.

이것이 왜 중요한가

이것은 단순한 수학 연습이 아닙니다. 기업들이 밤에 잠을 더 편히 잘 수 있도록 돕는 일입니다. 비용 트렌드를 정확하게 예측함으로써, 기업은 예산 초과 가능성을 조기에 발견하고 재앙이 되기 전에 해결할 수 있습니다. 저자들은 이 '디노이징(denoising)과 스포트라이트'의 조합이 완벽한 팀을 만든다고 제안합니다. 한 부분은 데이터를 정화하고, 다른 부분은 이야기의 가장 중요한 격동적인 부분에 집중합니다.

이 논문은 테스트된 데이터셋에서 견고한 결과를 보여주었지만, 저자들은 이미 다음 단계를 보고 있습니다. 그들은 예측을 더욱 날카롭게 만들기 위해 원자재 가격이나 정책 변화와 같은 더 많은 요소를 결합할 계획입니다. 하지만 현재로서는, 컴퓨터에게 소음을 무시하고 실제 액션에 집중하는 법을 가르쳤을 때 미래에 대해 훨씬 더 나은 이야기를 들려줄 수 있다는 것을 입증했습니다.