[논문리뷰] Don't Waste It: Guiding Generative Recommenders with Structured Human Priors via Multi-head Decoding

링크: 논문 PDF로 바로 열기

저자: Yunkai Zhang, Qiang Zhang, Feng (Ryan) Lin, Ruizhong Qiu, Hanchao Yu, Jiayi (Jason) Liu, Yinglong Xia, Zhuoran Yu, Zeyu Zheng, Diji Yang

핵심 연구 목표

본 논문은 추천 시스템이 정확도를 넘어선 다양성, 참신성, 개인화 등의 목표를 달성하지 못하는 문제를 해결하고자 합니다. 기존의 사후 조정(post-hoc adjustments)이나 비지도 학습 방식이 핵심 모델 학습과 분리되어 있거나, 축적된 인간 사전 지식(human priors) 을 효과적으로 활용하지 못하는 한계를 극복하는 것을 목표로 합니다.

핵심 방법론

저자들은 백본 모델에 구애받지 않는(backbone-agnostic) 프레임워크를 제안하며, 경량의 prior-conditioned adapter heads 를 통해 인간 사전 지식(예: 아이템, 시간, 이벤트, 그래프, 사용자 등)을 종단간 훈련에 통합합니다. LLM 디코딩 전략 에서 영감을 받은 어댑터 헤드는 호환성 마스킹(compatibility masking) 으로 사용자 의도를 인간이 이해할 수 있는 축(human-understandable axes) 을 따라 분리합니다. 또한, 복잡한 prior 상호작용을 모델링하기 위해 계층적 구성 전략(hierarchical composition strategy) 을 도입하며, 그룹 내 부정 샘플링(in-group negative sampling) , 빈도 균형(frequency balancing) , 시간 할인 계수(temporal discount factor) 를 포함하는 통합 손실 함수를 사용합니다.

주요 결과

세 가지 대규모 데이터셋( Pixel8M, MerRec, EB-NeRD )에 대한 광범위한 실험을 통해 제안된 방법이 HSTU 및 HLLM 백본 모델의 Recall 및 NDCG 와 같은 표준 정확도 지표를 일관되게 향상시킴을 입증했습니다. 특히, Pixel8M 에서 HLLM 기반 모델에 LT/ST1과 Item Prior를 함께 사용했을 때 NDCG@10 지표가 +15.76% 향상되었으며, 다양성, 개인화, 사용자 관심사 탐색과 같은 비정확도 목표에서도 상당한 개선을 보였습니다. 인간 사전 지식은 백본 모델이 더 긴 컨텍스트 길이 와 더 큰 모델 크기 를 더 효과적으로 활용하도록 돕는 것으로 나타났습니다.

AI 실무자를 위한 시사점

본 연구는 generative recommender 의 성능과 해석 가능성을 높이는 실용적인 방법을 제시하며, 산업계에서 축적된 도메인 지식(human priors) 을 모델 학습 과정에 직접 통합하는 중요성을 강조합니다. 경량 어댑터 헤드 와 계층적 구성 전략 을 통해 기존 백본 모델을 수정하지 않고도 다양한 목표를 동시에 최적화할 수 있어, end-to-end foundation model 개발에 중요한 방향을 제시합니다. 데이터 희소성 및 데이터 불균형 문제를 해결하기 위한 그룹 내 부정 샘플링 과 빈도 균형 기법은 실제 추천 시스템 적용 시 필수적인 고려사항입니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.