Predictive Modeling for Course Demand and Revenue Forecasting on Edupro: Moving from Reactive to Proactive Planning

당신이 거대한 디지털 레모네이드 가판대를 운영하고 있다고 상상해 보세요. 다만 레몬 대신 온라인 강의를 팔고 있습니다. 데이터 과학의 세계에서 이것을 "예측 모델링(predictive modeling)"이라고 부릅니다. 이것은 마치 일기 예보와 같은데, 비가 올지 해가 뜰지를 예측하는 대신, 얼마나 많은 사람이 당신의 레모네이드를 살 것이고 당신이 얼마만큼의 돈을 벌 것인지를 예측하는 것입니다. 여기서 핵심 아이디어는 매우 간단합니다. 단순히 어제의 판매량을 보고 내일을 추측하는 대신, 수학적인 레시피를 사용하여 사람들이 '왜' 레모네이드를 샀는지 그 이유를 살펴보는 것입니다. 가격 때문이었을까요? 맛 때문이었을까요? 아니면 날씨 때문이었을까요? 이러한 단서들을 이용해 미래를 계획하는 것입니다. 이것이 중요한 이유는, 만약 예측에 실패한다면 레몬을 너무 많이 사서 돈을 낭비하거나, 반대로 너무 적게 사서 판매 기회를 놓칠 수 있기 때문입니다. EduPro와 같은 기업에게 있어 이를 정확히 해내는 것은, 번창하는 비즈니스가 되느냐 아니면 컵이 다 떨어져 버린 레모네이드 가판대가 되느냐의 차이를 만듭니다.

---

EduPro의 디지털 레모네이드 가판대 이야기

EduPro는 인터넷상에 존재하는 거대한 학교와 같은 대규모 온라인 교육 기업입니다. 오랫동안 EduPro의 경영진은 지나온 흔적만을 보고 배를 조종하는 선장처럼 사업을 운영해 왔습니다. 그들은 지난달에 어떤 강의가 인기 있었는지를 보고 이렇게 말하곤 했습니다. "헤이, 저 강의가 대박 났네! 다음 달에도 마케팅 비용을 저기에 다 쏟아붓자!"라거나, "다음 강의에는 저 선생님을 고용하자!"라고 말이죠. 하지만 이러한 "사후 검토형" 전략은 문제를 일으켰습니다. 이미 너무 인기가 높아 더 이상 성장할 여지가 없는 강의에 돈을 쏟아붓고 있었던 것입니다(마치 이미 가득 찬 양동이에 물을 채우려는 것과 같습니다). 또한, 수학 수업을 맡기기에 적절하지 않은 강사를 배치하는 것처럼, 강사의 기술과 맞지 않는 강의를 배정하기도 했습니다(마치 마스터 셰프에게 수학 수업을 맡기는 것과 같습니다).

이를 해결하기 위해 EduPro의 연구원들은 수정구슬을 만들기로 했습니다. 그들은 데이터를 모았습니다: 10,000건의 학생 거래 내역, 60개의 서로 다른 강의, 그리고 강사 명단입니다. 이 모든 정보를 하나로 뭉쳐서 전체적인 그림을 볼 수 있도록 딱 60개의 행(각 강의당 하나)을 가진 깔끔한 표로 만들었습니다.

"전문성 매칭"이라는 비밀 소스

그들이 처음 발견한 것은 일종의 미스터리였습니다. 어떤 강의들은 수익이 전혀 발생하지 않은 채 "악성 재고"처럼 선반 위에 방치되어 있다는 것을 발견했습니다. 또한 이상한 점도 발견했는데, 단순히 강사의 평점이 높다고 해서 반드시 해당 강의의 수익이 높아지는 것은 아니라는 사실이었습니다. 알고 보니 회사가 강사의 전문 지식을 확인하지 않고 무작위로 강사를 배정해 왔던 것이 문제였습니다.

그래서 팀은 "Expertise_Match(전문성 매칭)"라는 새로운 기술을 발명했습니다. 퍼즐을 맞춘다고 상상해 보세요. 만약 사각형 조각을 억지로 원형 구멍에 끼워 넣으려 한다면 맞지 않을 것입니다. 연구원들은 간단한 Yes/No 스위치를 만들었습니다. 강사의 기술이 강의 주제와 일치하면 스위치가 "1"(Yes!)로 바뀌고, 일치하지 않으면 "0"(Nope!)으로 유지되도록 했습니다. 조사 결과, 약 35%에서 45%의 확률로 강사와 강의가 일치하지 않는다는 것을 알아냈습니다. 이 불일치를 해결함으로써, 그들은 강의의 매력을 높이고자 했습니다.

위대한 알고리즘 대결: 단순함 vs 복잡함

이제 본격적인 테스트가 시작되었습니다. 팀은 두 가지를 예측할 컴퓨터 모델을 구축하고자 했습니다: 얼마나 많은 학생이 등록할 것인가(수요), 그리고 해당 강의가 얼마만큼의 수익을 낼 것인가(매출). 그들은 두 가지 다른 접근 방식을 시도했습니다.

첫 번째로, 그들은 "단순한 방법"인 **선형 회귀(Linear Regression)**를 시도했습니다. 이것은 그래프 위의 점들이 흩어져 있는 곳에 직선을 긋는 것과 같습니다. 이는 고전적이고 직관적인 방법으로, 여러 요소 간의 관계(예: 가격과 판매량)가 직선 경로를 따른다고 가정합니다.

그다음, 그들은 "복잡한 방법"인 **랜덤 포레스트(Random Forest)**를 시도했습니다. 이것은 수백 명의 아주 똑똑한 탐정들(의사 결정 나무)이 각자 데이터를 다르게 분석한 뒤 투표를 통해 답을 내리는 것과 같습니다. 보통 데이터 과학의 세계에서는 이 복잡한 팀이 챔피언이 되어야 합니다. 왜냐하면 단순한 직선이 놓칠 수 있는 까다롭고 숨겨진 패턴을 찾아낼 수 있기 때문입니다.

하지만 반전이 있었습니다. EduPro의 데이터가 단 60개의 강의뿐이었기 때문에(컴퓨터가 학습하기에는 매우 적은 숫자입니다), 이 복잡한 팀은 혼란에 빠졌습니다. 그들은 일반적인 규칙을 배우는 대신, 60개 강의의 구체적인 세부 사항을 통째로 외워버리기 시작했습니다. 이를 "과적합(Overfitting)"이라고 합니다. 이는 마치 연습 시험의 답을 통째로 외웠지만, 개념을 이해하지 못해 실제 시험에서는 낙제하는 학생과 같습니다. 랜덤 포레스트 모델의 정확도는 94%에 그쳤습니다.

반면, 단순한 선형 회귀가 놀라운 승자로 떠올랐습니다. 데이터 세트가 작고 관계가 비교적 단순했기 때문에, 단순한 직선이 완벽하게 작동한 것입니다. 이 모델은 98%의 정확도를 달した는데, 이는 입력된 요인들을 통해 매출 변화의 98%를 설명할 수 있음을 의미합니다.

숫자가 말해주는 것들

승리한 모델은 놀라운 진실들을 밝혀냈습니다. 학생들의 등록을 끌어내는 데 있어서는 강사의 평점이 중요했지만, 강의 가격은 그보다 훨씬 더 중요했습니다(그리고 가격이 높아질수록 판매량은 줄어드는 음(-)의 관계를 가집니다). 그러나 수익을 창출하는 데 있어서는 가격이 주인공이었습니다. 가격을 올리면 학생 수는 줄어들지만, 학생 한 명당 벌어들이는 수익은 늘어납니다. 이 모델은 경영진이 "스윗 스팟(Sweet Spot)", 즉 사람들을 쫓아내지 않으면서도 가장 많은 총수익을 올릴 수 있는 정확한 가격 지점을 찾도록 도와줍니다.

또한 그들은 (Streamlit이라는 도구를 사용한) 게임 컨트롤 패널처럼 보이는 멋지고 인터랙티브한 대시보드를 구축했습니다. 경영진은 바를 조절하여 가격을 바꾸거나 강사를 교체할 수 있으며, 대시보드는 즉시 "이렇게 하면 X명의 학생이 모이고 Y달러를 벌게 됩니다"라고 알려줍니다. 또한 "탄력성 시뮬레이터(Elasticity Simulator)" 기능도 있어, 다양한 가격을 설정하며 군중의 규모가 어떻게 변하는지 실험해 볼 수 있습니다.

핵심 요약

이 논문은 EduPro가 추측을 멈추고 이 데이터 기반의 수정구슬을 사용해야 한다고 결론짓습니다. 그들은 "Expertise_Match"를 사용하여 적절한 강사가 적절한 수업을 가르치도록 해야 하며, 가격 결정 도구를 사용하여 가격과 학생 수 사이의 완벽한 균형을 찾아야 합니다. 현재 모델은 믿기 힘들 정도로 정확하지만(98%), 저자는 회사가 성장하고 데이터가 더 많아짐에 따라 모델을 계속 업데이트하여 예리함을 유지해야 한다고 경고합니다. 하지만 현재로서는, 이 단순한 수학이 EduPro를 반응적인 선장에서 선제적인 항해사로 탈바꿈시켜 주었으며, 이제 더 수익성 있는 미래를 향해 나아갈 준비를 마쳤습니다.