神經影響傳播模型為了社交推薦

原文鏈接：A Neural Influence Diffusion Model for Social Recommendation, SIGIR’19
原理：社交網絡上應用GNN提取朋友對用戶的影響+候選項對用戶歷史交互項的注意力影響=用戶向量，用戶向量和項向量的內積預測評分。

摘要

準確的user 和 item的嵌入學習時建立一個成功的推薦系統的關鍵。協同過濾CF提供了一種從用戶項的交互歷史中學習user和item嵌入的方式，但這樣的話系統的性能將會被用戶行為數據的稀疏性而限制。隨著在線社交網絡的出現，社交推薦系統可以利用用戶鄰居的表現去緩解數據稀疏性的問題，從而更好的模擬user和item的嵌入。
我們認為，對于一個社交平臺的每一個用戶來說，他潛在的嵌入是受其信任用戶的影響的，而這些信任用戶又受信任用戶的社會關系的影響。隨著社交影響遞歸的在社交網絡中傳播和擴散，每個用戶的嵌入會在每次的遞歸過程中變化。
然而，目前的社交推薦模型僅僅是利用每個用戶的本地鄰居（應該指的是直接相連的鄰居）來開發靜態模型，而沒有模擬全球社交網絡中的遞歸擴散，導致推薦性能不佳。
在本文中，我們提出了一個深度影響傳播模型，以激發用戶如何受遞歸社會擴散過程的影響。對于每個用戶，擴散過程開始于融合了相關特性和捕獲了潛在行為表現的免費用戶潛在向量的一個初始嵌入。我們提出的模型的核心思想是，我們設計了一個分層的影響傳播結構來模擬用戶的潛在嵌入是如何隨著社會擴散過程的繼續而發展的。

問題定義

user set：U ( |U|=M )
item set：V ( |V|=N )
user-item interaction matrix：R ∈ R ^M×N
user-user directed graph：G = [U , S ∈ R ^M×M ]
user attributes matrix：X ∈ R ^d1×M
item attributes matrix：Y ∈ R ^d2×N
定義【社交推薦】：
Given a rating matrix R, a social network S, and associated real-valued feature matrix X and Y of users and items, our goal is to predict users’ unknown preferences to items as: R? = f (R, S, X, Y), where R? ∈ R ^M×N denotes the predicted preferences of users to items.

模型結構

模型的整體框架如下：

Embedding Layer

用 P ∈ R^D×M 和 Q ∈ R^D×N 分別表示 users 和 items 的free embeddings，他們捕獲了用戶和項協作的潛在表示，給定用戶和項的索引，embedding layer 根據索引從矩陣 P 和 Q 中得到用戶潛在向量 p_a 和項潛在向量 q_i。

Fusion Layer

對于每個用戶 a，融合層將用戶潛在向量 p_a 和用戶特征向量 x_a 作為輸入，輸出用戶 a 的融合嵌入 h⁰_a，融合嵌入從不用類型的輸入數據中捕獲了用戶最初的興趣。（項操作類似）我們用一層全連接層來模擬融合層：

Influence Diffusion Layers

對于每個用戶 a，用 h^k_a 表示他在影響傳播部分第 k 層的潛在嵌入，通過將第 k 層的輸出輸入到第 k+1 層，將會把用戶 a 的潛在嵌入更新為h^k+1_a。

h^k_Sa ：平均池化操作，就是將用戶 a 在 k 層信任的所有用戶向量取平均來進行表示。
在給定 K 的情況下，最終會得到用戶 a 在第 K 層的潛在嵌入 h^K_a

Predict Layer

用戶 a 的潛在表示由兩部分組成：社交傳播層輸出的嵌入 h^K_a 和 歷史行為的表示（歷史交互 items 的平均表示）。
最終的預測由 user 最終潛在向量和 item 潛在向量的內積計算得到。

模型訓練

pair-wise ranking based loss function

總結

1、要理解在社交傳播層不是水波紋那樣一圈一圈的計算（比如我之前寫過的 pipple network），而是整體進行遞歸的計算。是典型 neural graph network 的那種計算方式。
2、作者所說的社交網絡的動態影響其實只是區別于之前一些工作中直接將鄰居（信任用戶）向量進行簡單的平均池化操作而言，作者的方法考慮遞歸的考慮了這些鄰居的向量表示，讓鄰居的向量表示也像當前用戶向量的計算方式那樣計算。這里用到的社交網絡其實也是靜態的，并沒有隨著時間的變化而改變，比如下一個時刻用戶信任了別的用戶，信任網絡可能隨著時間而擴大。
3、對于信任用戶的信任程度方面，沒有考慮不同用戶的重要程度，更沒有考慮用戶在購買不同物品時對不同用戶的不同信任程度。

總結

以上是生活随笔為你收集整理的论文笔记（A Neural Influence Diffusion Model for Social Recommendation）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。