Building a User Foundation Model for the Open Web

인터넷을 거대한, 북적이는 도시라고 상상해 보세요. 그곳에서 모든 사람은 상점과 상점을 돌아다니며 디지털 발자국을 남깁니다. 수년 동안 우리에게 광고를 보여주는 기업들은 우리가 다음에 무엇을 사고 싶어 할지 추측하기 위해 각 개인의 발자국을 바탕으로 '프로필'을 구축하려고 노력해 왔습니다. 이것이 바로 추천 시스템(recommender systems)의 세계입니다. 이는 수학을 사용하여 인간의 행동을 예측하는 컴퓨터 과학의 한 분야입니다. 현대 시스템의 핵심 비결은 방대한 양의 데이터로부터 패턴을 학습하는 머신러닝(machine learning)과, 특정 업무를 배우기 전에 이미 사건의 순서를 이해하는 법을 배운 거대한 사전 훈련된 뇌와 같은 '파운데이션 모델(foundation models)'입니다.

하지만 여기에 까다로운 문제가 있습니다. '오픈 웹'(로그인 없이 방문하는 인터넷의 영역)에서는 이러한 발자국이 매우 무질서합니다. 당신이 휴대폰으로 사이트를 방문한 후 나중에 노트북으로 접속할 수도 있는데, 컴퓨터는 그것이 동일 인물인지 알 방법이 없습니다. 당신의 기록은 파편화되어 아주 짧거나, 개인정보 설정 때문에 아예 누락되기도 합니다. 이 논문은 중요한 질문을 던집니다. 우리는 이 무질서하고 파편화된 발자국을 로그인한 사용자의 깨끗하고 긴 기록만큼 잘 이해할 수 있는 스마트한 시스템을 구축할 수 있을까요? 이 질문에 대한 답은 중요합니다. 왜냐관측하면, 만약 우리가 이를 해내지 못한다면 인터넷의 거대한 부분을 이해하지 못하게 되어, 광고가 무작ical하거나 관련 없게 느껴지게 되기 때문입니다.

---

끊어진 흔적이라는 퍼즐

Teads 출신의 연구진은 독특한 과제에 직면했습니다. 대부분의 추천 시스템(소셜 미디어 혹은 쇼핑 앱 등)에서는 사용자의 삶에 대한 길고 연속적인 영화를 가지고 있습니다. 사용자가 로그인하고, 영상을 시청하고, 신발을 사고, 사진을 '좋아요' 하는 과정을 말이죠. 컴퓨터는 이 전체 영화를 관찰하여 사용자를 이해할 수 있습니다.

하지만 오픈 웹에서의 '영화'는 종종 몇 개의 흩어진 프레임이거나, 때로는 단 하나의 프레임일 뿐입니다. 사용자는 익명일 수 있고, 그들의 기록은 개인정보 선택에 의해 끊길 수 있습니다. 기존 방식은 단순히 개수를 세는 것이었습니다. "이 사용자는 스포츠 광고를 3번 클릭했다"와 같이 말이죠. 하지만 이것은 사람의 눈 깜빡임 횟수만 알고 그 사람의 성격을 이해하려는 것과 같습니다. 이는 '이야기'를 놓치게 됩니다. 즉, 사건의 순서, 타이밍, 그리고 흐름을 놓치는 것입니다.

연구진은 질문했습니다. 우리는 컴퓨터에게 이 짧고 끊어진 이야기들을 이해하도록 가르칠 수 있을까? 그리고 만약 그렇게 한다면, 우리가 그가 누구인지 모르는 상태에서도 사용자가 무엇을 클릭할지 예측하는 데 도움이 될 것인가?

"시간 여행자"의 뇌

이를 해결하기 위해 연구진은 **사용자 파운데이션 모델(User Foundation Model, UFM)**을 구축했습니다. 이 모델을 웹을 서핑하는 사람들에 대한 수백만 개의 짧고 파편화된 이야기를 읽은 초스마트 '시간 여행자'라고 생각해보세요.

이 모델은 단순히 클릭 수를 세는 대신, 사건의 *순서(sequence)*를 살펴봅니다. 모델은 사용자의 브라우징 히스토리를 하나의 문장처럼 취급합니다. 문장에 주어, 동사, 목적어가 있듯이, 사용자의 히스토리에는 퍼블리셔(어디에 있었는지), 광고주(무엇을 보았는지), 그리고 이벤트(클릭했는지 혹은 그냥 보기만 했는지와 같은 행동)가 있습니다.

모델은 **자기 지도 학습(Self-Supervised Learning)**이라는 게임을 통해 훈련되었습니다. 문장에서 일부 단어가 가려져(masked) 있고, 문맥을 바탕으로 그 단어가 무엇인지 맞혀야 하는 상황을 상상해 보세요. 모델은 사용자의 히스토리를 보고, 일부를 숨긴 뒤, 빈칸을 채우는 연습을 했습니다. 또한 매칭 게임도 수행했습니다. 모델은 동일한 사용자의 서로 다른 두 부분(예: 오전과 오후의 기록)을 가져와서, 설령 겉모습이 다르더라도 이들이 같은 사람에게 속한다는 것을 학습했습니다.

뇌를 미세 조정하는 "로봇 코치"

여기서 정말 멋진 부분이 등장합니다. 연구진은 단순히 모델을 만든 것이 아니라, AI를 사용하여 AI를 만들었습니다. 그들은 이를 "LLM-as-Optimizer(최적화 도구로서의 LLM)"라고 불렀습니다.

당신이 완벽한 경주용 자동차를 만들려고 한다고 상상해 보세요. 어떤 엔진이나 타이어가 최선인지 추측하는 대신, 로봇 코치(대규모 언어 모델)가 과학 서적에 나온 150가지의 다양한 "튜닝 팁" 카탈로그를 읽습니다. 로봇 코치는 다음과 같이 제안합니다. "엔진을 약간 더 크게 만들어 봅시다" 또는 "연료 혼합비를 바꿔봅시다." 연구진은 이러한 변화를 테스트하고, 만약 변화가 자동차를 더 빠르게 만든다면 로봇 코치는 그 성공을 기억하고 이를 바탕으로 더 발전된 시도를 합니다.

이 논문에서 로봇 코치는 모델이 가진 사고의 층(layer)의 수, 시간 처리 방식, 학습 방식 등을 변경함으로써 '사용자 파운데이션 모델'을 미세하게 조정했습니다. **신경 구조 탐색(Neural Architecture Search, NAS)**이라고 불리는 이 과정은 원래의 모델보다 훨씬 더 뛰어난 버전의 모델을 찾아냈습니다.

결과: "아마도"에서 "예"로

연구진은 새로운 로봇 코칭 모델을 두 가지 방식으로 테스트했습니다. 먼저 시뮬레이션(오프라인)을 통해, 그다음 실제 환경(온라인)에서 테스트했습니다.

1. 시뮬레이션 (오프라인):
그들은 실제 광고 요청 데이터셋을 사용하여 모델을 테스트했습니다. 그리고 이를 Teads가 기존에 사용하던 시스템과 비교했습니다.

• 좋은 소식: 새 모델은 사용자가 무엇을 클릭할지에 대한 예측력을 +1.354% 향상시켰습니다. 광고의 세계에서 이는 엄청난 도약입니다.
• "끊어진 흔적" 테스트: 연구진은 특히 히스토리가 매우 짧거나 누락된 사용자들을 대상으로 테스트했습니다. 히스토리가 거의 없는 사용자들에 대해서도 모델은 예측력을 +0.99% 개선했습니다. 이는 모델이 단 하나의 프레임만 있는 상황에서도 작동함을 증명합니다.
• 일반화 테스트: 연구진은 다른 유형의 예측 작업(예: 광고가 입찰에서 승리할지 여부 예측)에도 모델을 적용했습니다. 모델은 거기서도 잘 작동하며 **+1.197%**의 개선을 보였습니다. 이는 모델이 단순히 특정 기술을 익힌 것이 아니라, 인간 행동에 대한 깊은 이해를 학습했음을 시사합니다나.

2. 실제 환경 (온라인):
연구진은 7일 동안 라이브 테스트를 진행하여, 절반의 사용자에게는 새 모델을, 나머지 절반에게는 기존 모델을 보여주었습니다.

• 결과: 새 모델을 접한 그룹은 광고를 2.13% 더 자주 클릭했습니다.
• 비용: 광고가 더 관련성 있게 변함에 따라, 클릭당 비용(CPC)은 1.13% 감소했습니다.
• 신뢰도: 연구진은 이 수치들에 대해 매우 확신하고 있습니다. 그들은 80% 신뢰 구간을 계산했으며, 이는 이 개선이 운이 아니라 통계적으로 유의미한 실제적인 향상임을 의미합니다.

이것이 중요한 이유

이 논문은 사용자를 이해하기 위해 완벽하고 긴 히스토리가 필요하지 않다는 것을 보여줍니다. 파편화되고 짧으며 익명인 데이터가 있더라도, 스마트한 모델은 그 이야기의 조각들을 맞출 수 있습니다.

저자들은 이 접근 방식이 개선을 위한 "새로운 축"을 연다고 제안합니다. 이는 단순히 기존의 수학을 조금 더 낫게 만드는 것이 아닙니다. 브라우징 히스토리를 단순한 '횟수의 목록'이 아닌 '이해해야 할 순서'로 취급함으로써, 사용자 데이터를 바라보는 완전히 새로운 사고방식을 더하는 것입니다. 이를 통해 그들은 인터넷의 '유령'들, 즉 로그인하지 않는 사용자들에게조차 광고를 더 관련성 있게 만들 방법을 찾아냈습니다.

연구진은 한계점도 인정합니다. 그들은 오직 한 가지 특정 모델 구조와 한 세트의 데이터만을 테스트했습니다. 또한 그들의 '로봇 코치'가 좋은 솔루션을 찾았을 수는 있지만, 그것이 '절대적인 최선의 솔가'인지는 알 수 없다고 언급했습니다. 그러나 라이브 테스트는 이 접근 방식이 실제 세계에서 작동함을 확인시켜 주었으며, 이론적인 아이디어를 오픈 웹을 조금 더 덜 혼란스럽고 조금 더 개인화된 공간으로 만드는 실질적인 도구로 바꾸어 놓았습니다.