🤖 machine learning

Click prediction boosting via Bayesian hyperparameter optimization based ensemble learning pipelines

이 논문은 온라인 여행사의 호텔 클릭 예측 정확도를 약 10% 향상시키기 위해 특성 제거와 스택 모델을 결합한 베이지안 하이퍼파라미터 최적화 기반의 앙상블 학습 파이프라인을 제안한다.

원저자: Çağatay Demirel, A. Aylin Tokuç, Ahmet Tezcan Tekin

게시일 2026-07-28

📖 3 분 읽기☕ 가벼운 읽기

원저자: Çağatay Demirel, A. Aylin Tokuç, Ahmet Tezcan Tekin

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인터넷을 수백만 명의 사람들이 완벽한 숙소를 찾아 헤매는 거대하고 북적이는 디지털 시장이라고 상상해 보십시오. 사람들은 방을 예약하기 전, 종종 카약(Kayak)이나 트립어드바이저(TripAdvisor)와 같은 거대한 비교 쇼핑몰인 '메타 검색' 사이트를 이용합니다. 이곳에서는 수십 개의 서로 다른 여행사로부터 가격과 리뷰를 한눈에 확인할 수 있습니다. 이 혼잡한 시장에서 눈에 띄기 위해 여행사들은 광고비를 지불합니다. 하지만 까다로운 점은, 그들이 실제로 누군가 광고를 클릭했을 때만 비용을 지갑에서 지불한다는 것입니다. 만약 가격을 잘못 예측하면, 실제 클릭으로 이어지지 않는 클릭에 엄청난 돈을 쓸 수도 있고, 더 나아가 입찰가를 너무 낮게 설정하여 수천 명의 잠재 고객을 놓칠 수도 있습니다. 따라서 이들 여행사의 핵심 질문은 이것입니다. "우리가 가격을 특정 숫자로 설정한다면, 실제로 얼마나 많은 사람이 클릭할 것인가?"

이 질문에 답하기 위해 과학자들은 머신러닝이라 불리는 컴퓨터 과학의 한 분야를 사용합니다. 이는 단순히 엄격한 규칙을 따르는 것이 아니라, 컴퓨터에게 데이터에서 패턴을 찾는 법을 가르치는 과정입니다. 인기 있는 방법 중 하나인 '앙상블 학습(ensemble learning)'은 마치 '슈퍼 탐정 팀'을 구성하는 것과 같습니다. 단서 하나를 놓칠 수도 있는 단 한 명의 탐정에게 의존하는 대신, 전체 탐정단을 모아 각자 사건을 조사하게 한 뒤, 그들의 이론을 결합하여 훨씬 더 정확한 답을 얻어내는 방식입니다. 이 논문은 그 세계를 파고들어, 온라인 여행사를 위한 호텔 클릭 수를 예측하는 궁극의 알고리즘 팀을 구축하고자 합니다.

이 연구의 저자들은 터키의 한 주요 온라인 여행사로부터 얻은 방대한 데이터셋을 사용하여 클릭 예측의 퍼즐을 풀고자 했습니다. 그들은 단순히 하나의 알고리즘을 문제에 던져 넣은 것이 아니라, '드림팀' 예측 모델을 만들기 위해 정교한 파이프라인을 구축했습니다. 먼저, 그들은 누락된 부분을 채우고 날씨 보고서나 공휴일과의 거리와 같은 유용한 맥락을 추가하여 지저분한 데이터를 정제했습니다. 그다음, 그들은 XGBoost라고 불리는 도구를 기반으로 한 스마트한 필터링 과정을 통해 노이즈가 많고 도움이 되지 않는 정보를 버리고, 가장 중요한 단서만을 남겼습니다.

그다음, 그들은 복잡한 트리 기반 시스템부터 단순한 선형 방정식에 이르기까지 열 가지 서로 다른 유형의 수학적 모델을 훈련시켰습니다. 하지만 진짜 마법은 이 모델들을 결합할 때 일어났습니다. 그들은 모델들의 답변을 단순히 평균 내거나, 더 똑똑한 모델에 더 많은 가중치를 주는 방식, 그리고 '스태킹(stacking)'과 '블렌딩(blending)'이라 불리는 두 가지 고급 기법을 포함하여 네 가지 방식으로 모델을 섞는 방법을 테스트했습니다. 스태킹은 첫 번째 팀의 탐정들이 보고서를 작성하면, 두 번째의 선임 팀이 그 보고서들을 읽고 최종 판결을 내리는 것과 같습니다. 블렌딩도 비슷하지만, 선임 팀이 보고서를 읽는 동안 원래의 단서들도 함께 살펴본다는 점이 다릅니다.

결과는 매우 명확했습니다. 개별 모델들도 준수했지만, 팀의 노력은 훨씬 더 뛰어났습니다. 논문은 가장 좋은 접근 방식이 '스태킹 앙상블' 모델, 특히 선임 팀이 첫 번째 팀의 보고서를 해석하기 위해 선형 회귀와 같은 단순한 도구를 사용하는 방식이라고 제안했습니다. 이 최고 성능의 모델은 단일 모델보다 약 10% 더 높은 점수(R² 값 0.639)를 기록했습니다. 저자들은 첫 번째 층의 모델들이 이미 힘든 작업을 수행했기 때문에, 단순한 모델들이 '최종 심판' 역할을 하는 데 가장 적합하다고 발견했습니다. 또한, 더 복잡한 모델들이 반드시 최종 결정을 더 낫게 만드는 것은 아니며, 오히려 상황을 악화시키기도 한다는 점에 주목했습니다.

결론적으로, 이 연구는 특징(feature)을 신중하게 선택하고, 알고리즘의 설정을 조정하며, 여러 모델을 스마트한 방식으로 결합함으로써 온라인 여행사가 자신들의 광고가 얼마나 많은 클릭을 생성할지 훨씬 더 명확한 그림을 얻을 수 있다고 시사합니다. 저자들은 이 방법이 업계에 유망한 방향이라고 제안하면서도, 여전히 성장할 여지가 있음을 인정했습니다. 그들은 향후 인공 신경망이나 범주형 데이터를 처리하는 특화된 도구와 같은 더 많은 유형의 모델을 추가하여 정확도를 더욱 높일 수 있는지 확인해 볼 수 있다고 암시했습니다. 하지만 현재로서는, 클릭을 예측하는 세계에서는 다양성을 갖춘 생각들의 잘 조율된 팀이 고독한 천재를 매번 이긴다는 단순한 진실이 증거를 뒷받로하고 있습니다.

기술 요약: 베이지안 하이퍼파라미터 최적화 기반 앙상블 학습 파이프라인을 통한 클릭 예측 증대

문제 정의
본 논문은 메타 검색 입찰 엔진에서 특정 입찰 금액에 대해 호텔이 받을 클릭 수를 예측하는 과제를 다룹다. 이러한 예측은 비용당 클릭(CPC) 광고 캠пи인을 관리하는 온라인 여행사(OTA)에게 매우 중요한데, 입찰 금액과 예측된 클릭 수의 곱이 전체 캠페인 비용을 정의하기 때문이다. 이 문제는 일일 데이터의 높은 분산, 외부 요인(계절성, 이벤트, 위치)의 존재, 그리고 피처와 클릭량 사이의 비선형 관계를 모델링해야 하는 필요성을 특징으로 한다.

방법론
제안된 시스템은 데이터 추출, 전처리, 피처 선택, 하이퍼파라미터 최적화, 그리고 앙상블 모델링을 포함하는 5단계 파이프라인을 따른다.

데이터 전처리 및 피처 엔지니어링:
- 데이터 소스: 데이터셋은 메타 검색 플랫폼의 일일 보고서와 주요 터키 OTA의 데이터를 결합한다. 경제적 및 계절적 맥락을 포착하기 위해 일일 날씨, 환율, 공휴일 인접성 등 외부 피처가 통합된다.
- 정제: 범주형 및 수치형 컬럼의 결측치는 각각 최빈값과 평균값으로 대체된다.
- 피처 생성: 슬라이딩 윈도우(시차) 접근 방식을 사용하여 3일, 7일, 30일 기간 동안의 통계적 집계(평균, 표준편차)를 계산한다. 시계열 피처는 가법 성분(추세, 계절성, 잔차)을 생성하기 위해 계절 분해를 거친다.
- 인코딩 및 스케일링: 문자열 기반 피처는 원-핫 인코딩 또는 바이너리 인코딩을 수행하며, 모든 피처는 min-max 스케일링을 통해 정규화된다.
피처 선택:
- 저자들은 XGBoost 기반의 재귀적 피처 제거(Recursive Feature Elimination) 알고리즘을 사용한다. 이 과정은 중요도에 따라 피처를 순위를 매기고 중요도가 낮은 피처를 반복적으로 제거한다. 제거 과정은 축소된 피처 부분 공간의 $R^2$ 점수가 이전 반복의 점수를 초과하지 않을 때까지 지속되며, 이를 통해 예측력을 유지하면서 차원을 효과적으로 축소한다.
하이퍼파라미터 최적화:
- XGBoost, LightGBM, SGD 모델을 튜닝하기 위해 베이지안 하이퍼파라미터 최적화가 적용된다. 이 확률적 접근 방식은 더 적은 에포크 내에서 비볼록 함수(non-convex functions)의 전역 최적점을 효율적으로 찾기 위해 그리드 탐색(Grid Search)이나 랜덤 탐색(Random Search) 대신 선택되었다. 최적화 지표는 $R^2$ 점수이다.
앙상블 학습 전략:
- 본 연구는 10개의 기본 회귀 모델(XGBoost, LightGBM, SGD, Lasso, Lasso Lars, Ridge, Bayesian Ridge, Huber, Passive Aggressive Regressors, Elastic Net)을 평가한다.
- 단순 평균(Simple Averaging): 두 가지 방법이 테스트된다: 예측값의 단순 평균과, 개별 기본 모델의 $R^2$ 점수로부터 도출된 가중치를 사용하는 가중 평균이다.
- 스태킹(Stacking): 10개 기본 모델의 예측값이 중간 데이터셋을 형성한다. 이 데이터셋은 최종 예측을 생성하기 위해 4개의 메타 회귀 모델(XGBoost, Lasso, Bayesian Ridge, Linear Regression)에 입력된다.
- 블렌딩(Blending): 스태킹과 유사하지만, 중간 예측값이 동일한 4개의 메타 회귀 모델에 입력되기 전에 원래의 차원 축소된 피처 세트와 결합된다. 이 접근 방식은 피처 차원을 확장하기 위해 인공적인 피처를 효과적으로 생성한다.

주요 기여

파이프라인 통합: 본 논문은 호텔 클릭 예측을 위해 시차 피처 엔지니어링, XGBoost 기반 차원 축소, 그리고 베이지안 최적화를 통합한 종합적인 파이프라인을 제시한다.
비교 앙상블 분석: 46개의 모델 조합에 대해 네 가지 뚜렷한 앙상블 전략(단순 평균, 가중 평균, 스태킹, 블렌딩)을 체계적으로 비교한다.
메타 학습기 선택: 연구는 서로 다른 메타 학습기의 효용성을 조사하며, 스태킹 아키텍처의 최종 레이어로 사용될 때 단순한 선형 모델이 복잡한 트리 기반 모델보다 종종 더 우수한 성능을 보인다는 점을 발견한다.

결과

개별 모델: 10개의 기본 회귀 모델이 개별적으로 테스트되었다. 가장 성능이 좋은 단일 모델은 $R^2$ 점수 0.579를 기록한 Ridge 회귀였다. 가장 낮은 성능을 보인 모델은 음수의 $R^2$ (-0.012)를 기록한 Elastic Net이었다.
앙상블 성능: 모든 앙상블 방법이 개별 모델보다 우수한 성능을 보였다.
- 최고 성능 모델은 세 가지 스태킹 앙상블(Stack Ensemble) 변형 모델(Linear Regression, Lasso, Bayesian Ridge를 메타 학습기로 사용)이었으며, 모두 0.639의 $R^2$ 점수를 달성했다.
- Lasso와 Bayesian Ridge를 사용한 블렌딩 앙상블(Blend Ensemble) 모델이 $R^2$ 0.638로 그 뒤를 바짝 쫓았다.
- 가중 평균(Weighted Average) 방식은 $R^2$ 0.597로 3위를 기록했다.
- XGBoost를 사용한 스태킹이나 LightGBM을 사용한 블렌딩과 같은 다른 조합들은 개별 모델 수준의 성능을 보였다.
성능 향상: 저자들은 최적의 앙상블 모델이 최적의 단일 머신러닝 모델에 비해 예측 성능을 약 10% 개선한다고 결론지었다.

의의 및 주장
본 논문은 특히 단순 선형 메타 학습기를 사용하는 스태킹 앙상블 파이프라인이 단독 회귀 모델에 비해 호텔 클릭 예측의 정확도를 유의미하게 향상시킨다고 주장한다. 저자들은 이러한 성공의 원인을 앙상블 방법이 분산을 줄이고 다양한 알고리즘의 상호 보완적인 강점을 활용할 수 있는 능력 덕분이라고 설명한다. 또한 "레벨-1" 회귀 모델(메타 학습기)은 주로 중재자 역할을 수행한다고 언급하며, "레벨-0" 학습자들이 이미 복잡한 패턴을 포착했다면 단순한 알고리즘만으로도 이 역할을 수행하기에 충분하다는 점을 시사한다. 본 연구는 도메인 지식과 피처 엔지니어링이 필수적이지만, 스태킹을 통한 모델의 구조적 결합이 메타 검색 환경에서 CTR 및 클릭량 예측을 개선하기 위한 강력한 방향임을 강조한다.

유사한 논문