論文筆記整理：康矯健，浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系，碩士研究生。

---

論文鏈接：https://arxiv.org/pdf/1905.07854.pdf

發(fā)表會(huì)議：KDD 2019

任務(wù)定義

輸入：協(xié)同過濾知識(shí)圖譜

具體來說包括兩個(gè)部分，其一是用戶和商品的二部圖

其二是原始的知識(shí)圖譜

輸出：預(yù)測(cè)用戶u喜愛商品 i 的概率

動(dòng)機(jī)

KG 存在的商品之間的高階連接關(guān)系，比如商品 1 和商品 2 是同一個(gè)導(dǎo)演，對(duì)推薦系統(tǒng)是有作用的

在引入 KG 的兩類方法中，Meta-Path based Method 需要 domain knowledge 預(yù)先設(shè)計(jì)好 Meta-Path，且并非端到端的訓(xùn)練過程

而 Regularization-based methods 缺乏顯式地捕獲商品之間的高階連接關(guān)系

基于以上 3 點(diǎn)，本篇論文作者將 KG 引入到推薦系統(tǒng)，提出了一個(gè)新的模型 KGAT，該模型能夠以一種端到端的方法，顯式地捕獲商品之間的高階連接關(guān)系，從而克服了之前 KG-Based Method 的不足之處

??????????????????????????????????????????

模型

1.???? Embedding Layer

基于 TransR，使得真實(shí)的 triplet 盡可能地滿足，而非真實(shí)的 triplet盡可能地不滿足該關(guān)系，損失函數(shù)如下：

2.???? Attentive Embedding Propagation Layers

Information Propagation: 用于聚合周圍節(jié)點(diǎn)的信息

其中

Knowledge-aware Attention:聚合時(shí)候采用 knowledge attention的方式，而不是 averaging pooling 的方式

Information Aggregation:將聚合過來的周圍節(jié)點(diǎn)信息和節(jié)點(diǎn)自身的信息結(jié)合在一起作為更新后的節(jié)點(diǎn)信息。這里邊作者提供了三種方式，后續(xù)也有對(duì)照實(shí)驗(yàn)比較這幾種方式的優(yōu)劣

High-order Propagation:聚合多次就可以得到 high order 的 embedding。

3.???? Prediction Layer

將L+1層的embedding拼接在一起作為最終user和item的embedding，并用兩者的內(nèi)積作為最終的預(yù)測(cè)值

4.???? Optimization

Loss 包括兩個(gè)部分，一個(gè)是KG embedding的loss，還有一個(gè)是商品推薦的loss，因此模型是一個(gè)聯(lián)合訓(xùn)練的過程

實(shí)驗(yàn)分析

1.???? Performance Comparison

可以看到，本文提出的KGAT在recall和ndcg指標(biāo)上都不同程度地好于目前效果最好的模型，具體結(jié)果如下：

2.???? Performance Comparison w.r.t. Interaction Sparsity Levels

在不同sparsity設(shè)定下，KGAT均好于當(dāng)前所有模型

3.???? E?ect of Model Depth

可以看出，在大多數(shù)情況下，當(dāng)KGAT的層數(shù)達(dá)到4層時(shí)，效果最好，證明了high order信息被我們有效地捕獲到了

4.???? E?ect of Aggregators

?可以發(fā)現(xiàn)，Bi-Interaction的聚合方式能夠達(dá)到最好的performance

5.???? E?ect of Knowledge Graph Embedding and Attention Mechanism

可以發(fā)現(xiàn)，缺少了KG embedding或者attention mechanism之后，模型性能都在一定程度上有所下降，證明了這兩個(gè)模塊是有用的。

6.???? Case Study

根據(jù)左圖的 attention 值，可以發(fā)現(xiàn)給用戶 u₂₀₈ 推薦商品 i₄₂₉₃ 是由于用戶 u₂₀₈ 曾經(jīng)購買過商品 i₁₈₂₇，且商品 i₁₈₂₇ 和商品 i₄₂₉₃ 有共同的作者，這很明顯為模型提供了一定程度的可解釋性。

?

---

?

OpenKG

開放知識(shí)圖譜（簡(jiǎn)稱 OpenKG）旨在促進(jìn)中文知識(shí)圖譜數(shù)據(jù)的開放與互聯(lián)，促進(jìn)知識(shí)圖譜和語義技術(shù)的普及和廣泛應(yīng)用。

點(diǎn)擊閱讀原文，進(jìn)入 OpenKG 博客。

總結(jié)

以上是生活随笔為你收集整理的论文浅尝 | 基于知识图谱注意力网络的商品推荐的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。