---

←上一篇↓↑下一篇→

4.8 代價(jià)函數(shù)	回到目錄	4.10 風(fēng)格代價(jià)函數(shù)

---

內(nèi)容代價(jià)函數(shù) (Content cost function)

風(fēng)格遷移網(wǎng)絡(luò)的代價(jià)函數(shù)有一個(gè)內(nèi)容代價(jià)部分，還有一個(gè)風(fēng)格代價(jià)部分。

$J(G)=\alpha J_{content}(C,G)+\beta J_{style}(S,G)$

我們先定義內(nèi)容代價(jià)部分，不要忘了這就是我們整個(gè)風(fēng)格遷移網(wǎng)絡(luò)的代價(jià)函數(shù)，我們看看內(nèi)容代價(jià)函數(shù)應(yīng)該是什么。

假如說(shuō)，你用隱含層 $l$ 來(lái)計(jì)算內(nèi)容代價(jià)，如果 $l$ 是個(gè)很小的數(shù)，比如用隱含層1，這個(gè)代價(jià)函數(shù)就會(huì)使你的生成圖片像素上非常接近你的內(nèi)容圖片。然而如果你用很深的層，那么那就會(huì)問(wèn)，內(nèi)容圖片里是否有狗，然后它就會(huì)確保生成圖片里有一個(gè)狗。所以在實(shí)際中，這個(gè)層 $l$ 在網(wǎng)絡(luò)中既不會(huì)選的太淺也不會(huì)選的太深。因?yàn)槟阋约鹤鲞@周結(jié)束的編程練習(xí)，我會(huì)讓你獲得一些直覺(jué)，在編程練習(xí)中的具體例子里通常 $l$ 會(huì)選擇在網(wǎng)絡(luò)的中間層，既不太淺也不很深，然后用一個(gè)預(yù)訓(xùn)練的卷積模型，可以是VGG網(wǎng)絡(luò)或者其他的網(wǎng)絡(luò)也可以。

現(xiàn)在你需要衡量假如有一個(gè)內(nèi)容圖片和一個(gè)生成圖片他們?cè)趦?nèi)容上的相似度，我們令這個(gè) $a^{[l][C]}$ 和 $a^{[l][G]}$ ，代表這兩個(gè)圖片 $C$ 和 $G$ 的 $l$ 層的激活函數(shù)值。如果這兩個(gè)激活值相似，那么就意味著兩個(gè)圖片的內(nèi)容相似。

我們定義這個(gè)

$J_{content}(C,G)=\frac{1}{2}||a^{[l][C]}?a^{[l][G]}|{|}^2$

為兩個(gè)激活值不同或者相似的程度，我們?nèi)?$l$ 層的隱含單元的激活值，按元素相減，內(nèi)容圖片的激活值與生成圖片相比較，然后取平方，也可以在前面加上歸一化或者不加，比如 $\frac{1}{2}$ 或者其他的，都影響不大,因?yàn)檫@都可以由這個(gè)超參數(shù) $\alpha$ 來(lái)調(diào)整（ $J(G)=\alpha J_{content}(C,G)+\beta J_{style}(S,G)$ ）。

要清楚我這里用的符號(hào)都是展成向量形式的，這個(gè)就變成了這一項(xiàng)（ $a^{[l][C]}$ ）減這一項(xiàng)（ $a^{[l][C]}$ ）的 $L2$ 范數(shù)的平方，在把他們展成向量后。這就是兩個(gè)激活值間的差值平方和，這就是兩個(gè)圖片之間 $l$ 層激活值差值的平方和。后面如果對(duì) $J(G)$ 做梯度下降來(lái)找 $G$ 的值時(shí)，整個(gè)代價(jià)函數(shù)會(huì)激勵(lì)這個(gè)算法來(lái)找到圖像 $G$ ，使得隱含層的激活值和你內(nèi)容圖像的相似。

這就是如何定義風(fēng)格遷移網(wǎng)絡(luò)的內(nèi)容代價(jià)函數(shù)，接下來(lái)讓我們學(xué)習(xí)風(fēng)格代價(jià)函數(shù)。

課程板書

---

←上一篇↓↑下一篇→

4.8 代價(jià)函數(shù)	回到目錄	4.10 風(fēng)格代價(jià)函數(shù)

---

總結(jié)

以上是生活随笔為你收集整理的4.9 内容代价函数-深度学习第四课《卷积神经网络》-Stanford吴恩达教授的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。