LLM-GRec: Large Language Model Enhanced Graph Recommendation via Granular-Ball Computing

디지털 시대에 우리는 인간의 정신이 결코 처리할 수 있는 것보다 더 많은 정보에 둘러싸여 있습니다. 이 범람하는 정보 속을 항해하기 위해, 우리는 어떤 영화를 볼지, 어떤 책을 읽을지, 또는 어떤 제품을 살지를 제안하는 보이지 않는 엔진인 개인화된 추천 시스템에 의존합니다. 수년 동안 이러한 시스템은 우리의 과거 행동 패턴을 살펴보는 방식, 즉 "당신이 이것을 좋아했다면, 저것도 좋아할 수 있다"라고 묻는 방식으로 작동해 왔습니다. 이들은 강력하지만, 데이터가 부족하거나 사용자의 선택 뒤에 숨겨진 깊은 의미를 이해하지 못할 때 종종 어려움을 겪습니다. 최근, 대규모 언어 모델(LLM)이라는 새로운 도구가 등장했습니다. 이들은 이야기를 쓰거나 복잡한 질문에 답할 수 있는 능력을 갖춘 것과 동일한 첨단 인공지능 시스템입니다. 연구자들은 단순한 패턴을 넘어 인간의 관심사에 대한 진정한 이해로 나아가기 위해, 언어 모델을 사용하여 우리의 선호도 뒤에 숨겨진 "이유"를 파악하려는 시도를 시작했습니다. 그러나 이 새로운 접근 방식은 그 자체로 일련의 문제점을 안고 있는데, 주로 AI 시스템이 생성하는 관심사가 무질서하고, 반복적이며, 때로는 단순히 틀릴 수 있다는 점 때문입니다.

충칭 공과대학교의 연구팀은 이 특정 문제를 해결하기 위해 LLM-GRec이라 불리는 새로운 방법론을 개발했습니다. 그들의 목표는 대규모 언어 모델이 만들어내는 노이즈와 오류가 추천 과정을 망치게 두지 않으면서, 언어 모델의 깊은 이해력을 활용하는 것이었습니다. 연구진은 AI 모델이 사용자의 이력을 바탕으로 관심을 설명할 때, 그 결과물이 종종 서로 연결되지 않는 단어와 구절들의 흩어진 목록처럼 나타난다는 것을 발견했습니다. 이러한 구절 중 일부는 같은 내용을 다른 방식으로 말하는 중복된 것이며, 다른 것들은 사용자가 실제로 가진 적이 없는 가공의 관심사인 '환각(hallucination)'입니다. 만약 추천 시스템이 이 무질서한 목록을 직접 사용하려고 한다면, 특히 데이터가 매우 적을 때 혼란에 빠지고 정확도가 떨어지게 됩니다.

이를 해결하기 위해 연구진은 '그래뉼러-볼 컴퓨팅(granular-ball computing)'이라는 기술을 도입했습니다. 흩어져 있는 모래 더미를 몇 개의 단단하고 안정적인 더미로 정리하는 것을 상상해 보십시오. 연구진은 이 개념을 사용하여 언어 모델이 생성한 미세하고 흩어진 관심 구절들을 하나로 묶었습니다. 그들은 유사한 아이디어들을 더 크고 안정적인 '앵커(anchors)'로 클러스터링했습니다. 모든 개별 키워드를 별개의 취약한 정보 조각으로 취급하는 대신, 시스템은 이들을 견고한 카테고리로 묶습니다. 이 과정은 중복성과 노이즈를 걸러내어, 사용자가 실제로 관심을 갖는 바를 명확하고 구조화된 지도로 남깁니다. 이는 엉클어진 키워드 목록을 시스템이 신뢰할 수 있는 신뢰할 수 있는 관심사 세트로 변환합니다.

이러한 안정적인 관심 앵커가 생성되면, 연구진은 사용자와 아이템, 그리고 이 새로운 관심 그룹을 연결하는 통합 지도를 구축했습니다. 그들은 이 지도로부터 학습하기 위해 그래프 신경망(graph neural network)이라 알려진 유형의 인공지능을 사용했습니다. 이 네트워크는 단순히 누가 무엇을 샀는지만 보는 것이 아니라, 아이템의 의미론적 의미와 그것이 사용자의 새롭게 조직된 관심사와 어떻게 연관되는지도 살펴봅니다. 시스템의 정확성을 유지하기 위해, 연구진은 품질 검사를 추가했습니다. 시스템은 데이터에 의해 충분히 뒷받침되지 않거나 약한 관심 앵커를 자동으로 식별하여 학습 과정 중에 일시적으로 숨깁니다. 시스템이 이러한 숨겨진 관심사를 주변 맥락으로부터 재구성하도록 강제함으로써, 모델은 잘못된 데이터를 무시하고 신뢰할 수 있는 신호에 집중하는 법을 배웁니다. 이는 필터 역할을 하여, 언어 모델이 저지를 수 있는 간헐적인 오류에 시스템이 현혹되는 것을 방지합니다.

연구팀은 책과 영화를 다루는 세 가지 실제 데이터셋을 대상으로 이 새로운 프레임워크를 테스트했으며, 이는 작은 규모의 컬렉션부터 대규모 라이브러리까지 다양했습니다. 결과에 따르면, 그들의 방법은 기존의 추천 기술들을 지속적으로 능가했습니다. 이 시스템은 특히 데이터가 희소한 상황, 즉 사용자가 이전에 무엇을 좋아했는지에 대한 기록이 매우 적은 상황에서 효과적이었습니다. 기존 시스템들이 좋은 제안을 하는 데 자주 실패하는 이러한 어려운 시나리오에서도, LLM-GRec은 높은 정확도를 유지했습니다. 또한 연구진은 시스템이 견고하다는 것을 발견했습니다. 데이터를 의도적으로 노이즈가 섞인 상태로 만들어 오류를 시뮬레이션했을 때도, 이 방법은 경쟁 모델들보다 더 잘 버텨냈습니다. 대규모 언어 모델의 깊은 의미론적 이해를 구조적이고 노이즈에 강한 정보 정리 방식과 결합함으로써, 연구진은 데이터가 불완전하거나 무질서할 때조차 사람들이 무엇을 원하는지 더 신뢰할 수 있는 방법으로 이해하는 길을 열었습니다.