CycleGAN:图片风格,想换就换 | ICCV 2017论文解读
在碎片化閱讀充斥眼球的時代,越來越少的人會去關注每篇論文背后的探索和思考。
在這個欄目里,你會快速 get 每篇精選論文的亮點和痛點,時刻緊跟 AI 前沿成果。
點擊本文底部的「閱讀原文」即刻加入社區(qū),查看更多最新論文推薦。
這是 PaperDaily 的第?51?篇文章本期推薦的論文筆記來自 PaperWeekly 社區(qū)用戶 @LUOHAO。本文提出的模型名為 CycleGAN,作者希望在不借助 paired example 情況下,來實現(xiàn)圖片的風格轉換。
如果你對本文工作感興趣,點擊底部的閱讀原文即可查看原論文。
關于作者:羅浩,浙江大學博士研究生,研究方向為計算機視覺和深度學習,現(xiàn)為曠視科技(Face++)的 research intern。
■?論文 | Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks
■ 鏈接 | https://www.paperweekly.site/papers/807
■ 源碼 | https://junyanz.github.io/CycleGAN/
前言
CycleGAN 是發(fā)表于 ICCV17 的一篇 GAN 工作,可以讓兩個 domain 的圖片互相轉化。傳統(tǒng)的 GAN 是單向生成,而 CycleGAN 是互相生成,網(wǎng)絡是個環(huán)形,所以命名為 Cycle。
并且 CycleGAN 一個非常實用的地方就是輸入的兩張圖片可以是任意的兩張圖片,也就是 unpaired。
單向GAN
讀者可以按照原論文的順序理解 CycleGAN,這里我按照自己的思路解讀。CycleGAN 本質上是兩個鏡像對稱的 GAN,構成了一個環(huán)形網(wǎng)絡。其實只要理解了一半的單向 GAN 就等于理解了整個CycleGAN。
上圖是一個單向 GAN 的示意圖。我們希望能夠把 domain A 的圖片(命名為 a)轉化為 domain B 的圖片(命名為圖片 b)。
為了實現(xiàn)這個過程,我們需要兩個生成器 G_AB 和 G_BA,分別把 domain A 和 domain B 的圖片進行互相轉換。
圖片 A 經過生成器 G_AB?表示為 Fake Image in domain B,用?G_AB(a) 表示。而?G_AB(a) 經過生辰器 G_BA?表示為圖片 A 的重建圖片,用?G_BA(G_AB(a)) 表示。
最后為了訓練這個單向 GAN 需要兩個 loss,分別是生成器的重建 loss 和判別器的判別 loss。
判別 loss:判別器 D_B 是用來判斷輸入的圖片是否是真實的 domain B 圖片,于是生成的假圖片 G_AB(A) 和原始的真圖片 B 都會輸入到判別器里面,公示挺好理解的,就是一個 0,1 二分類的損失。最后的 loss 表示為:
生成 loss:生成器用來重建圖片 a,目的是希望生成的圖片?G_BA(G_AB(a)) 和原圖 a 盡可能的相似,那么可以很簡單的采取 L1 loss 或者 L2 loss。最后生成 loss 就表示為:
以上就是 A→B 單向 GAN 的原理。
CycleGAN
CycleGAN 其實就是一個 A→B 單向 GAN 加上一個 B→A 單向 GAN。兩個 GAN 共享兩個生成器,然后各自帶一個判別器,所以加起來總共有兩個判別器和兩個生成器。一個單向 GAN 有兩個 loss,而 CycleGAN 加起來總共有四個 loss。
CycleGAN 論文的原版原理圖和公式如下,其實理解了單向 GAN 那么 CycleGAN 已經很好理解。?
X→Y 的判別器損失為,字母換了一下,和上面的單向 GAN 是一樣的:
同理,Y→X 的判別器損失為:
而兩個生成器的 loss 加起來表示為:
最終網(wǎng)絡的所有損失加起來為:
論文里面提到判別器如果是對數(shù)損失訓練不是很穩(wěn)定,所以改成的均方誤差損失,如下:
下面放一張網(wǎng)友們自制的 CycleGAN 示意圖,比論文原版的更加直觀。
效果展示
CycleGAN 的效果還是不錯的,論文里給出了很多結果圖,可以欣賞一下。
本文由 AI 學術社區(qū) PaperWeekly 精選推薦,社區(qū)目前已覆蓋自然語言處理、計算機視覺、人工智能、機器學習、數(shù)據(jù)挖掘和信息檢索等研究方向,點擊「閱讀原文」即刻加入社區(qū)!
點擊以下標題查看相關內容:?
GAN做圖像翻譯的一點總結
GAN眼中的圖像翻譯(附神奇歌單)
PTGAN:針對行人重識別的生成對抗網(wǎng)絡
#榜 單 公 布?#
2017年度最值得讀的AI論文 | NLP篇 · 評選結果公布
2017年度最值得讀的AI論文 | CV篇 · 評選結果公布
??我是彩蛋?
解鎖新功能:熱門職位推薦!
PaperWeekly小程序升級啦
今日arXiv√猜你喜歡√熱門職位√
找全職找實習都不是問題
?
?解鎖方式?
1. 識別下方二維碼打開小程序
2. 用PaperWeekly社區(qū)賬號進行登陸
3. 登陸后即可解鎖所有功能
?職位發(fā)布?
請?zhí)砑有≈治⑿?#xff08;pwbot01)進行咨詢
?
長按識別二維碼,使用小程序
*點擊閱讀原文即可注冊
? ? ? ? ???
? ? ? ? ???
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 查看原論文
總結
以上是生活随笔為你收集整理的CycleGAN:图片风格,想换就换 | ICCV 2017论文解读的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 直播预告 | 从编码器与解码器端改进生成
- 下一篇: 今晚直播 | 从编码器与解码器端改进生成