微信「看一看」 朋友在看的增强推荐系统
本文基于ECML-PKDD-2020論文《Social Influence Attentive Neural Network for Friend-Enhanced Recommendation》,論文作者是北京郵電大學、騰訊微信、新加坡管理大學的陸元福、謝若冰、石川、方元、王偉、張旭和林樂宇。
導讀
隨著在線社交網絡的興起,許多社交應用程序中出現了一種新的基于社交的推薦方式,微信看一看推薦系統中的朋友在看就是其代表應用之一。在本文中,我們將微信看一看的朋友在看推薦稱為“好友增強型推薦(Friend-Enhanced Recommendation,FER)”。在 FER 中,對于某一從未交互過的商品,用戶顯式可見其好友對該商品的交互行為(這些好友被稱作好友推薦圈),例如微信“看一看”場景下的文章推薦場景。與傳統社交推薦不同, FER 中特有的好友推薦圈可能會因為其重要性和可解釋性而顯著改變推薦結果。
針對這一好友增強型推薦場景,作者提出了一種新穎的社交影響力專注的神經網絡(SIAN)。SIAN 從異質信息網絡的角度建模推薦場景,構建了注意力特征聚合器,其對多類型的異質信息進行節點級和類型級的特征聚合,并學習得到用戶和商品的向量表示。更重要的是, SIAN 模型設計了一個社交影響力耦合器,以專心地捕捉好友推薦圈的影響力。
基于兩個公開數據集和一個微信看一看的數據,作者進行了豐富的實驗分析,模型與對比方法相比,均有顯著提升。尤其是,在看一看數據集上,作者進行了一些定量分析討論,并得到了一些有趣的發現以及有價值的社會學模式。
背景簡介
當下,隨著在線社交網絡的興起,人們更愿意在社交平臺上表達自己的觀點并與好友共享信息。好友成為重要的信息來源和高質量的信息過濾器。好友互動過的商品(共享的,喜歡的等)會對用戶產生重大影響,這很可能會成為用戶未來的興趣所在。工業界,也有許多推薦系統專注于好友的社交影響,例如,關注 YouTube 中的信息流和微信中的“看一看”文章推薦。
在本文中,作者基于微信“看一看”文章推薦場景,形式化了一個全新的推薦場景,叫做好友增強的推薦系統(Friend-Enhanced Recommendation,FER),其大大增強了推薦系統中好友對用戶行為的影響力。相較于傳統的社交化推薦,好友增強推薦有兩個主要區別:(1)鑒于好友可以看作高質量信息過濾器為用戶提供高質量的商品,好友增強推薦只為用戶推薦好友交互過的商品(讀過的文章);(2)與某一商品交互過的所有好友都會顯式的展示給當前用戶,即當前用戶已知哪些好友與當前物品有過交互。這一特點重點強調了顯式的社交影響力對用戶行為的影響,這也有益于用戶行為的可解釋性。
圖1. 好友增強性型推薦場景
上圖左側顯示了推薦給 Jerry 的兩篇文章的場景,下面是與兩篇文章互動(共享,喜歡等)的朋友(如 Tom)。右側顯示了好友增強推薦問題的形式化,其中僅推薦朋友交互過的文章,并且與該項目進行交互的朋友被明確暴露給用戶 Jerry。
圖 1 展示了微信“看一看”場景下的一個形式化示例。對于每一個用戶-物品對,好友增強型推薦顯式地展示已經和當前物品交互過的好友集合,這個集合被定義為:針對當前商品,當前用戶的好友推薦圈(Friend Referral Circle, FRC)。
舉例來說,對于關于 AirPods 的文章, Jerry 的好友推薦圈是{Tom, Lily, Jack}。在傳統社交推薦中,好友推薦圈對于 Jerry 是不可見的(不會展示給 Jerry),因此 Jerry 可能會基于自身的興趣閱讀某一篇文章。然而,在好友增強型推薦場景中,好友推薦圈對用戶 Jerry 是顯式可見的,因此他閱讀這篇關于 AirPods 的文章,更可能是因為科技專家 Tom 讀過這篇文章。而 Jerry 閱讀一篇關于 Disneyland 的文章,完全有可能是因為他的妻子 Lily 讀過這篇文章。更進一步地,當文章與科技相關時,相較于妻子和科技文章,專家和文章的同時出現對 Jerry 的耦合影響力更大,而在娛樂方面,可能是完全相反的情況。
因此,在好友增強型推薦場景中,多個因素導致了用戶的行為。用戶閱讀/點擊一篇文章的原因可能來自:(1)其自身對文章的興趣(文章本身)(2)專家的推薦(文章-好友的組合)(3)對某一好友的關注(好友)。可以看到,在好友增強型推薦場景中,用戶有關注好友在看的內容的傾向,而非僅僅看自己本身感興趣的內容。甚至可以說,傳統社交推薦關注于結合社交信息去推薦物品,而好友增強的推薦旨在推薦物品和好友的組合。
作為好友增強型推薦的關鍵特性,顯式的好友推薦圈為該推薦場景帶來兩個挑戰:(1)如何從多方面的異質因素中提取關鍵信息?好友增強的推薦場景涉及多個異質目標,例如物品內容,好友推薦圈及用戶-物品交互行為等。在用戶,物品和朋友推薦圈的不同組合下,這些因素的影響甚至也有所不同。因此好友增強的推薦場景更具挑戰性,因為它不僅需要學習用戶對商品的偏好,還需要預測不同因素對好友的影響。(2)如何利用顯式的好友推薦圈信息?顯式的好友推薦圈推薦極大地強調了推薦中社交信息的重要性,這在好友增強的推薦場景中是至關重要。但是,很少有工作在實際推薦中探索好友推薦圈的影響和特性。因此需要一種精心設計的策略,以充分利用好友增強的推薦場景中的顯式的好友推薦圈信息。
為了解決這些問題,作者提出了一種新穎的社交影響力專注的神經網絡(SIAN)。具體來說, SIAN 將好友增強推薦定義為異質社交圖上的用戶-物品交互預測任務,該任務將豐富的異質信息靈活地集成到異質對象及其交互連接中。首先,作者設計了一個注意力特征聚合器,它同時考慮節點級和類型級的特征聚合,以學習用戶和物品的表示向量。接下來,作者實現了一個社交影響力耦合器,以建模通過顯式好友推薦圈傳播的耦合影響力,該耦合器利用注意力機制將多種因素(例如,朋友和物品)的影響力耦合在一起。總體而言,SIAN 模型捕獲了好友增強的推薦場景中有價值的多方面因素,從而成功地從異質信息網絡和顯式好友推薦圈中提取了用戶的最基本偏好。
模型結構
如圖 2 所示, SIAN 利用異質社交網絡建模好友增強型推薦場景。除了用戶和物品的向量表示,SIAN 還通過耦合有影響力的好友與物品來學習社交影響力的低維向量表示。通過學習用戶、物品和耦合的社交影響力的向量表示,最終 SIAN 預測用戶 ???? 和物品 ???? 之間交互的概率。
圖2. SIAN 模型總覽
首先,考慮到相同類型的不同鄰居可能對特征聚合的貢獻是不同的,并且不同類型包含多方面的信息,因此作者設計了分層的節點級和類型級的注意力特征聚合器。在每個級別,注意力機制區分和捕獲鄰居和類型的潛在關聯性,使得 SIAN 模型能夠更細粒度地編碼多方面的異質信息。與之前的一些工作不同的是, SIAN 不需要基于任何先驗知識手動選擇元路徑。
其次,作者設計了一個社交影響力耦合器,其用來捕獲一個有影響力好友(例如 Tom)和一個物品(例如 Disneyland 相關文章)的耦合影響力, 從而量化它們的耦合影響力程度。最后,帶有注意力地融合來自好友推薦圈內的多個耦合影響力,以表示整個好友推薦圈對當前用戶和物品的影響。
最后,基于用戶、物品以及耦合的影響力表示,作者將三者拼接并送入兩層神經網絡中,并通過一個回歸層,預測得到用戶-物品的交互概率?。最終,通過優化交叉熵損失函數訓練優化模型。
實驗分析
基于兩個公開數據集(Yelp 和 Douban)以及微信看一看數據(FWD),作者進行了豐富的實驗評估和分析。數據集統計信息見下表 1。
表1. 數據集統計
在主實驗中,作者對比了四類代表性的方法,并報告了在不同表示維下的模型表現,結果可以見表 2。可以看到,在多個數據集上,提出的 SIAN 模型明顯優于對比方法。特別是,和傳統社會化推薦方法相比,SIAN 模型依然表現突出,這得益于社交影響力耦合器在為好友增強推薦場景編碼各種社交因素時的能力,也這進一步證實了社交影響力在好友增強推薦中的重要性。
表2. 用戶行為預測實驗結果
其次,作者分析了多方面異質信息的影響。在注意力特征聚合器中,每個節點的向量表示都是從其具有不同權重的各種類型的異質鄰居聚合而來的,作者分析發現:SIAN 模型學習得到的好友類型的平均注意力權重值顯著大于物品類型的平均注意力權重。這表明了 SIAN 模型更加關注用戶的社交關系,這種關注甚至超過了內容本身。這同時也驗證了好友推薦圈是好友增強推薦中最重要的因素。實驗結果如圖 3 所示。
圖3. 多方面信息影響分析
更進一步地,在微信看一看數據集上,作者分析了不同的用戶屬性如何通過社交影響力耦合器的影響力強度來影響好友增強推薦場景中的用戶行為,并得出了一些有趣的發現。例如,在圖 4(a)中,可以觀察到用戶行為受到更具權威性的朋友的影響,而與用戶自己的權威度無關。同時,高權威朋友對中等權威用戶具有更大的影響力。用戶通常更容易受到權威人士的影響,這和我們的常識也是相符的。因此,在好友增強推薦場景中,可能存在一個有趣的現象,即有時用戶會更多地關注權威人士的喜好(或者僅僅是關注權威人士本身),而不是他們自己的實際喜好。我們也觀察到其它用戶基礎屬性對于好友增強推薦場景中的用戶行為產生影響。
圖4. 社交影響力分析
總結
在這一工作中,作者首次形式化定義了微信看一看中的朋友在看推薦場景,即好友增強型推薦,其顯式地展示已經和當前物品交互過的好友。針對這一新型且應用廣泛的推薦場景,作者提出了社交影響力注意的神經網絡 SIAN,SIAN 模型通過一個兩級注意力聚合器學習 user 和 item 的表示,并設計了一個社交影響力耦合器的用于提取朋友推薦圈中的影響力信息。實驗結果表明,在三個真實的數據集上,SIAN 的性能明顯優于最新基準,豐富的模型分析揭示出有趣的社會學模式。
我們認為未來以微信看一看朋友在看為代表的好友增強型推薦將會成為人們獲取信息的重要方式,通過推薦連接用戶與世界。現在對好友增強型推薦的研究僅僅處于初級階段,我們希望未來能有更多新的研究工作與分析。?
參考文獻:
[1] Chen, Chong, et al. "Efficient Heterogeneous Collaborative Filtering without Negative Sampling for Recommendation." Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 34. No. 01. 2020.
[2] Dong, Yuxiao, Nitesh V. Chawla, and Ananthram Swami. "metapath2vec: Scalable representation learning for heterogeneous networks." Proceedings of the 23rd ACM SIGKDD international conference on knowledge discovery and data mining. 2017.
[3] Fan, Wenqi, et al. "Graph neural networks for social recommendation." The World Wide Web Conference. 2019.
[4]Grover, Aditya, and Jure Leskovec. "node2vec: Scalable feature learning for networks." Proceedings of the 22nd ACM SIGKDD international conference on Knowledge discovery and data mining. 2016.
[5] Kipf, Thomas N., and Max Welling. "Semi-supervised classification with graph convolutional networks." arXiv preprint arXiv:1609.02907 (2016).
[6] Perozzi, Bryan, Rami Al-Rfou, and Steven Skiena. "Deepwalk: Online learning of social representations." Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and data mining. 2014.
[7] Shi, Chuan, et al. "Heterogeneous information network embedding for recommendation." IEEE Transactions on Knowledge and Data Engineering 31.2 (2018): 357-370.
[8] Veli?kovi?, Petar, et al. "Graph attention networks." arXiv preprint arXiv:1710.10903 (2017).
[9] Wang, Xiao, et al. "Heterogeneous graph attention network." The World Wide Web Conference. 2019
[10] Wu, Le, et al. "A neural influence diffusion model for social recommendation." Proceedings of the 42nd international ACM SIGIR conference on research and development in information retrieval. 2019.
[11] Xiao, Wenyi, et al. "Beyond personalization: Social content recommendation for creator equality and consumer satisfaction." Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. 2019.
直播預告
小程序云開發實戰直播課第二期
本期直播時間
9月3日(周四)?20:00
本期直播主題
Kbone+云開發,快速助力小程序&Web同構
掃碼預約
小程序云開發,是官方推出的一站式小程序后端云服務。使用云開發,開發者無需管理底層架構,就可以開發一個帶有前后端的小程序。
Kbone 是一個致力于微信小程序和 Web 端同構的解決方案,讓Web端的代碼可以無需過多的改動就能在小程序上運行。
總結
以上是生活随笔為你收集整理的微信「看一看」 朋友在看的增强推荐系统的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Tencent JDK 国产化CPU架构
- 下一篇: 基于Flink的高可靠实时ETL系统