그래프 구조 학습을 위한 스펙트럴 위치 인코딩 기반 GNN-Transformer 하이브리드 추천 모델

Ⅰ. 서 론

사용자와 아이템 간 상호작용을 이용한 추천 시스템은 대규모 온라인 서비스의 핵심 구성 요소로 자리 잡았으며, 그래프 신경망(Graph Neural Networks, GNN)의 발전으로 관계 구조를 보다 정교하게 학습할 수 있게 되었다. GNN은 인접 노드의 표현을 반복적으로 집계(aggregation)하여 고차 이웃(high-order neighbors) 정보를 통합함으로써 추천 정확도를 향상시켜 왔다. 그러나 이러한 지역적 전파(local propagation)는 레이어가 깊어질수록 표현이 균질화되는 오버스무딩(oversmoothing)을 초래하고, 결과적으로 전역적 관계를 포착하는 데 한계를 드러낸다^[1,2].

한편 Transformer는 자기-어텐션(self-attention) 메커니즘을 통해 장거리 의존성을 유연하게 모델링하는 데 강점을 보이며, 최근 그래프 분야로의 확장이 활발히 논의되고 있다. 그럼에도 불구하고, Transformer는 본질적으로 시퀀스 중심의 아키텍처이기 때문에 그래프의 위상(topology)과 연결 구조를 직접 부호화(encode)하는 데 취약하다는 한계를 지닌다^[3,4]. 결과적으로, GNN은 전역 문맥을 충분히 전달하지 못하고, Transformer는 지역 구조 신호를 충분히 반영하지 못하는 상보적 약점을 가진다.

본 연구는 이러한 간극을 해소하기 위해 GNN의 구조적 메시지 전파와 Transformer의 전역 표현 학습을 결합한 하이브리드 추천 모델을 제안한다. 제안 모델은 (i) 그래프 기반 메시지 전달을 통해 다중 홉의 구조 신호를 집계하고, (ii) 사용자·아이템 임베딩을 전용 Transformer 인코더로 정교화하여 장거리 상호작용을 반영한다.

특히 우리는 그래프 라플라시안의 고유벡터를 이용한 스펙트럴 위치 인코딩(spectral positional encoding, SPE)을 도입한다. 본질적 차별점은 ‘이중 대역(dual-band)’ 설계에 있다. 기존 연구가 주로 저주파 성분(스무스한 커뮤니티 구조) 중심으로 위치 정보를 주입하거나, 거리 기반 또는 노드 중심성과 같은 방법을 사용해 전역 혼합을 수행하는 데 그쳤다면, 우리 모델은 저주파와 함께 고주파 성분(희소 상호작용·경계부·급격한 취향 변화)을 동시에 주입하여 전파 과정에서 사라지기 쉬운 고주파 단서를 초기 단계부터 보강한다^[5]. 이때 SPE가 Transformer에 위상 좌표계를 제공하므로, 자기-어텐션은 단순 내용 유사도뿐 아니라 그래프 구조에 정렬된 전역 혼합을 수행하게 된다. 즉, (a) message passing의 저역 편향을 고주파 주입으로 상쇄하고, (b) Transformer의 구조 위상 정보 부재를 SPE로 보정하며, (c) 레이어 가중합으로 멀티스케일을 보존하는 3요소가 상호작용하여, 기존 GNN–Transformer 결합이 달성하지 못한 깊은 전파에서도 정보 이득 유지, 오버스무딩 완화, 다중 스케일 보존을 동시에 실현한다.

종합하면, 제안하는 하이브리드 설계는 지역 구조 신호(메시지 전파)와 전역 문맥(self-attention), 그리고 스펙트럼 기반 위치 정보(저·고주파)를 하나의 파이프라인에서 통합한다. 우리는 Yelp, Tmall 등 공개 데이터셋을 대상으로 한 실험을 통해, 본 모델이 GNN 또는 Transformer 단독 기반 방법에 비해 Recall@K 및 NDCG@K에서 일관되게 우수한 성능을 보임을 확인하였다. 이는 저·고주파 스펙트럴 인코딩을 통한 토폴로지 인식적 표현 강화와 GNN–Transformer 결합 구조가 실제 추천 시나리오에서 유의미한 성능 개선을 가져올 수 있음을 시사한다.

Ⅱ. 제안 방법

본 장에서는 제안하는 하이브리드 추천 모델의 전체 구조에 대해 설명한다. 제안된 모델은 GNN과 Transformer의 상호 보완적 구조를 바탕으로, 그래프 기반의 지역적 관계와 전역적 상호작용을 동시에 반영할 수 있도록 설계되었다. 또한, 그래프의 위상 정보를 포착하기 위해 라플라시안 행렬의 고유벡터를 스펙트럴 임베딩으로 활용하여 위치 인코딩(Positional Encoding)으로 통합하였다.

5. 학습

모델은 쌍별(pairwise) 랭킹 최적화 관점에서 학습한다. 최종 사용자/아이템 임베딩을 $$ U\in R^{\left|U\right|\times d}$$, $$ I\in R^{\left|I\right|\times d}$$라 하고, 사용자 u와 아이템 i의 점수를 s(u,i) = <u_u, i_i>로 정의한다. 각 관측 삼중항 (u,i⁺,i^-)에 대해 BPR(Bayesian Personalized Ranking) 손실을 최소화한다:

$\[ L_{BPR}=-\frac{1}{\left|\beta \right|}\sum _{\left(u,i^{+},i^{-}\right)\in \beta }\text{log}\sigma \left(s\left(u,i^{+}\right)-s\left(u,i^{-}\right)\right. \]$

(7)

여기서 $$ \sigma \left(\cdot \right)$$는 시그모이드이고, i^-는 전체 아이템 집합에서 온라인 무작위 샘플링으로 선택한다. 최적화는 Adam으로 수행하며, 추론 시에는 학습에 사용된 상호작용을 마스킹한 뒤 (u,i)로 전체 아이템을 전순위 평가하여 Top-K를 추천한다.

Fig. 1.

Model Overview

Ⅲ. 실험 및 결과

본 장에서는 제안하는 하이브리드 추천 모델의 성능을 검증하기 위해 Yelp, Tmall 데이터셋에서 실험을 수행하고, 기존 대표 방법들과의 비교를 통해 모델의 효과를 입증한다.

4. 전체 결과

하이브리드 구조가 전역(Transformer) + 지역(message passing) 신호를 함께 활용하고, 스펙트럴 위치 인코딩으로 토폴로지 인식을 부여해 희소·롱테일 상호작용(Tmall)과 다양한 커뮤니티 구조(Yelp) 모두에서 상위 랭킹 품질을 끌어올린다. R@20뿐 아니라 NDCG@20도 동반 상승해 상위권 정렬 품질이 실제로 개선되었다.

Table 1.

Performance based on the Yelp and Tmall datasets

Table 2.

Ablation study based on the Yelp datasets

Ⅳ. 결 론

본 연구에서는 그래프 신경망(GNN)과 Transformer의 장점을 결합한 하이브리드 추천 모델을 제안하였다. GNN은 그래프의 구조적 정보를 효과적으로 학습할 수 있는 반면, 전역 관계를 포착하는 데 한계를 가지며, Transformer는 전역적인 표현 학습에는 강점을 가지지만 그래프의 위상 정보를 반영하는 데에 부족함이 있다. 이를 보완하기 위해, 제안 모델은 GNN 기반 메시지 전달과 Transformer 기반 인코더를 통합하여 지역성과 전역성을 동시에 반영하였으며, 그래프 라플라시안의 고유벡터 기반 스펙트럴 임베딩을 위치 인코딩(Positional Encoding)으로 활용하여 그래프 구조를 더욱 정밀하게 반영하였다. 제안한 모델은 기존 대표 모델 대비 Recall@20과 NDCG@20에서 각각 향상을 달성하였다. 향후 LLM 기반의 연구들과의 비교로 확장할 계획이다^[12].

Acknowledgments

이 논문의 결과 중 일부는 한국방송·미디어공학회 2025년 하계학술대회에서 발표한 바 있음

This research was supported by the Basic Science Research Program of the National Research Foundation (NRF) funded by the Korean government (MSIT) (No. IITP-2025-RS-2024-00346737); and by three additional grants from the Institute for Information & Communications Technology Planning & Evaluation (IITP) funded by the Ministry of Science and ICT (MSIT), Korea, through the Global Scholars Invitation Program (No. RS-2024-00459638), the Graduate School of Metaverse Convergence at Sungkyunkwan University (No. RS-2023-00254129), and the ICT Challenge and Advanced Network of HRD (ICAN) support program (No. RS-2023-00259497)

References

• Q. Li, Z. Han, X.-M. Wu, “Deeper insights into graph convolutional networks for semi-supervised learning,” Proceedings of the Thirty-Second AAAI Conference on Artificial Intelligence, No. 433, pp. 3538–3545, 2018. [https://doi.org/10.1609/aaai.v32i1.11604]
• U. Alon, E. Yahav, “On the bottleneck of graph neural networks and its practical implications,” arXiv preprint arXiv:2006.05205, , 2020. [https://doi.org/10.48550/arXiv.2006.05205]
• A. Vaswani, N. Shazeer, N. Parmar, J. Uszkoreit, L. Jones, A. N. Gomez, Ł. Kaiser, I. Polosukhin, “Attention is all you need,” Advances in Neural Information Processing Systems, vol. 30, 2017. [https://doi.org/10.5555/3295222.3295349]
• E. Min, J. Guo, X. Liu, L. Wang, J. Zhang, G. Zhang, “Transformer for graphs: An Overview from architecture perspective,” arXiv preprint arXiv:2202.08455, , 2022. [https://doi.org/10.48550/arXiv.2202.08455]
• Y. Shin, J. Choi, H. Wi, and N. Park, “An attentive inductive bias for sequential recommendation beyond the self-attention,” Proceedings of the AAAI Conference on Artificial Intelligence, vol. 38, no. 8, pp. 8984–8992, 2024. [https://doi.org/10.1609/aaai.v38i8.28747]
• X. He, K. Deng, X. Wang, Y. Li, Y. Zhang, M. Wang, “LightGCN: Simplifying and powering graph convolution network for recommendation,” Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval, 2020. [https://doi.org/10.1145/3397271.3401063]
• F. R. K. Chung, “Spectral Graph Theory,” vol. 92, American Mathematical Society, 1997. [https://doi.org/10.1090/cbms/092]
• K. Mao, J. Zhu, X. Xiao, B. Lu, Z. Wang, and X. He, “UltraGCN: Ultra simplification of graph convolutional networks for recommendation,” Proceedings of the 30th ACM International Conference on Information and Knowledge Management (CIKM), pp. 1253–1262, 2021. [https://doi.org/10.1145/3459637.3482291]
• X. Zhou, D. Lin, Y. Liu, and C. Miao, “Layer-refined graph convolutional networks for recommendation,” 2023 IEEE 39th International Conference on Data Engineering (ICDE), pp. 1247–1259, 2023. IEEE. 2023. [https://doi.org/10.1109/ICDE55515.2023.00100]
• Q. Zhang, L. Xia, X. Cai, S. M. Yiu, C. Huang, and C. S. Jensen, “Graph augmentation for recommendation,” 2024 IEEE 40th International Conference on Data Engineering (ICDE), pp. 557–569, 2024. [https://doi.org/10.1109/ICDE60146.2024.00049]
• P. Zhang, Y. Yan, X. Zhang, C. Li, S. Wang, F. Huang, and S. Kim, “TransGNN: Harnessing the collaborative power of Transformers and graph neural networks for recommender systems,” Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR ’24), pp. 1285–1295, 2024. [https://doi.org/10.1145/3626772.3657721]
• N. Lee, and J Kim, “SEALR: Sequential Emotion-Aware LLM-Based Personalized Recommendation System,” Proceedings of the 48th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR ’25), pp. 2906-2910, 2025. [https://doi.org/10.1145/3726302.3730249]