당신이 로봇에게 궁극의 쇼핑 어시스턴트가 되는 법을 가르치고 있다고 상상해 보세요. 수년 동안 이 작업을 수행하는 표준적인 방법은 매우 엄격한 규칙이 있는 "매드립스(Mad Libs)" 게임을 하는 것과 같았습니다. 당신은 로봇에게 고정된 레고 브릭 목록(사전 정의된 수학 연산자)을 건네주며 이렇게 말합니다. "오직 이 브릭들만을 사용하여 최고의 추천 엔진을 만들어봐." 이것을 **신경망 구조 탐색(Neural Architecture Search, NAS)**이라고 부릅니다. 문제는 로봇이 당신이 준 상자 안에 들어있는 브릭들로만 무언가를 만들 수 있다는 점입니다. 로봇은 새로운 종류의 브릭을 발명할 수 없으며, 만약 지침이 잘못되었다면 그 지침을 사용하는 방법 자체를 고칠 수도 없습니다.

그 후, **LLM 기반 코드 진화(LLM-driven code evolution)**라는 새로운 트렌드가 등장했습니다. 이것은 로봇에게 빈 캔버스와 마법 펜을 건네주며, "너만의 코드를 써봐!"라고 말하는 것과 같았습니다. 이제 로봇은 새로운 브릭을 발명할 수 있게 되었습니다. 하지만 함정이 있었습니다. 로봇은 여전히 단 하나의 지루한 숫자, 예를 들어 시험 점수와 같은 것에 따라 성적이 매겨지고 있었다는 점입니다. 만약 점수가 떨어지면, 로봇은 "아마 이 숫자를 바꿔야 하나?"라고 추측하며 다시 시도할 뿐이었습니다. 이것은 눈을 가리고 다트를 던지는 게임과 같았습니다. 로봇은 왜 목표를 놓쳤는지 알지 못했습니다. 추천이 너무 대중적이었던 걸까요? 아니면 사용자의 특이한 빈티지 양말 취향을 무시했던 걸까요? 로봇은 그저 점수가 떨어졌다는 것을 알았고, 당황하며 다시 시도할 뿐이었습니다.

여기서 Self-EvolveRec이라는, 두 명의 특별한 조수를 둔 매우 똑똑한 코치 역할을 하는 새로운 프레임워크가 등장합니다.

두 명의 조수: 비평가와 의사

단순히 테스트 점수만 보는 대신, Self-EvolveRec는 사용자 시뮬레이터(이름을 "비평가"라고 부릅시다)와 모델 진단 도구(이름을 "의사"라고 부릅시다)를 사용합니다.

비평가는 각기 다른 개성을 가진 가상의 쇼핑객 팀입니다. 어떤 이는 비싼 전자제품을 싫어하는 예산이 한정된 학생일 수도 있고, 다른 이는 최신 가젯을 원하는 트렌드 추종자일 수도 있습니다. 로봇이 추천을 하면, 비평가는 단순히 "점수: 4/5"라고 말하지 않습니다. 그녀는 "지루해요! 방금 게임 콘솔을 세 번 연속으로 줬잖아요. 다양성이 필요해요!"라거나 "이 아이템은 제 예산에 비해 너무 비싸요!"라고 말합니다. 이는 로봇에게 방향성 있는 피드백(directional feedback), 즉 무엇이 잘못되었고 왜 그런지에 대한 명확한 지도를 제공합니다.

의사는 내부를 들여다보는 정비사입니다. 사용자가 경험에 대해 불평하는 동안, 의사는 엔진의 내부 건강 상태를 체크합니다. 그는 사용자에게는 보이지 않는 것, 예를 들어 "임베딩 붕괴(Embedding Collapse)"를 포착할 수 있습니다. 만약 로봇의 "신발"과 "샌들"에 대한 모든 아이디어가 뇌의 아주 작은 구석으로 찌그러져서, 두 가지를 완전히 같은 것으로 생각하게 된다면 어떨까요? 의사는 이를 수학적으로 측정하여 "이봐요, 당신의 뇌가 혼란스러워하고 있어요. 아이디어들이 너무 비슷합니다"라고 말합니다.

마법의 루프: 공동 진화(Co-Evolution)

이 부분이 정말 멋진 부분입니다. 보통 로봇이 새로운 기술(예: 가격을 처리하는 새로운 방법)을 배우면, 기존의 의사는 그것을 검사하는 방법을 모를 수 있습니다. 그는 마치 "이 새로운 엔진 부품을 위한 도구가 없어요!"라고 말하는 것과 같습니다.

Self-EvolveRec는 이 문제를 **진단 도구 - 모델 공동 진화(Diagnosis Tool - Model Co-Evolution)**를 통해 해결합니다. 로봇이 진화하고 새로운 기술을 배움에 따라, 의사도 그와 함께 진화합니다. 만약 로보가 새로운 "가격 인코더(Price Encoder)"를 발명하면, 의사는 그것을 측정하기 위한 새로운 "가격 체크" 도구를 자동으로 발명합니다. 만약 비평가가 "다양성 부족"에 대해 불평하면, 의사는 다양성을 측정하고 로봇이 실제로 이를 해결했는지 확인할 수 있는 새로운 수학 공식을 발명합니다. 그들은 함께 성장하며, 로봇이 항상 적절한 도구에 의해 검증되도록 보장합니다.

결과: 단순한 추측이 아니다

저자들은 Amazon(CD, 전자제품, 사무용품)과 MovieLens의 실제 데이터를 사용하여 이를 테스트했습니다. 그들은 Self-EveolveRec를 기존의 "레고 브릭" 방식 및 "눈 가리고 다트 던지기" 식의 코드 진화 방식과 비교했습니다.

결과는 Self-EvolveRec가 다른 방식들을 지속적으로 능가했다는 것을 보여주었습니다. 예를 들어 CDs 데이터셋에서, 기본 모델로부터 시작하여 Self-EvolveRec는 NDG@5(상위 추천이 얼마나 좋은지를 측정하는 척도)를 0.3865까지 끌어올린 반면, 가장 뛰어난 "눈 가리고 던지기" 경쟁 모델은 0.3610에 그쳤습니다. HR@5(Hit Ratio)에서도 Self-EvolveRec는 0.5274를 기록하며 경쟁 모델의 0.4870을 앞질렀습니다.

하지만 진짜 승리는 숫자만이 아니었습니다. 저자들이 독립적인 AI 심사위원들에게 로봇이 작성한 코드의 품질을 평가하도록 요청했을 때, Self-EvolveRec는 창의성(Creativity, 7.50 대비 8.04)과 통찰력(Insight, 7.40 대비 8.16)에서 가장 높은 점수를 받았습니다. 이는 로봇이 단순히 추측하는 것이 아니라, 실제로 문제를 이해하고 "카테고리 인식 하드 네거티브(Category-Aware Hard Negatives)"를 추가하여 똑같이 지루한 것들만 계속 추천하는 것을 방지하는 등 영리한 해결책을 발명하고 있음을 시사합니다.

그들은 또한 "사용자 만족도" 시뮬레이션도 실행했습니다. 가상의 사용자들이 계속 브라우징을 할지 아니면 나갈지를 결정하는 테스트에서, Self-EvolveRec는 그들을 더 오래 몰입하게 만들었습니다. CDs 데이터셋에서 깊이(Depth)(얼마나 많은 페이지를 둘러보았는지)는 다음으로 좋은 방식의 1.952와 비교하여 2.048에 달했습니다. 이는 추천이 더 인간적이고 덜 로봇처럼 느껴졌음을 시사합니다.

한계점

이 논문이 주장하지 않는 점을 명시하는 것도 중요합니다. 저자들은 자신들의 "사용자 시뮬레이터"가 인간의 행동을 매우 잘 모사하고 있지만, 여전히 시뮬레이션이라는 점을 주의 깊게 언급합니다. 그들은 이러한 개선 사항을 실제 사용자에게서 완전히 검증하려면 실제 사람들을 대상으로 한 A/B 테스트가 필요하며, 이는 향후 과제로 남겨둔다고 명시했습니다. 또한, "비평가"(사용자 시뮬레이터)를 제거하고 "의사"(진단 도구)만 사용했을 경우, 로봇이 여전히 개선되기는 하지만 그 정도가 훨씬 낮다는 것을 발견했습니다. 두 가지의 조합이 바로 마법을 만드는 핵심입니다.

요약하자면, Self-EvolveRec는 진정으로 훌륭한 추천 시스템을 구축하기 위해서는 단순히 점수만 봐서는 안 된다는 것을 시사합니다. 당신이 실패했을 때 왜 그랬는지 알려주는 코치, 내부 기어를 점검하는 정비사, 그리고 당신이 성장함에 따라 함께 배우고 성장하는 시스템이 필요합니다. 이것은 "추측하고 확인하기"의 혼란스러운 과정을 발견을 향한 안내된 여정으로 바꿉니다.