T-GANs：基于“图灵测试”的生成对抗模型
在碎片化閱讀充斥眼球的時代，越來越少的人會去關(guān)注每篇論文背后的探索和思考。
在這個欄目里，你會快速 get 每篇精選論文的亮點和痛點，時刻緊跟 AI 前沿成果。
點擊本文底部的「閱讀原文」即刻加入社區(qū)，查看更多最新論文推薦。
這是 PaperDaily 的第?114?篇文章作者丨武廣
學(xué)校丨合肥工業(yè)大學(xué)碩士生
研究方向丨圖像生成
本期推薦的論文筆記來自 PaperWeekly 社區(qū)用戶?@TwistedW。本文將“圖靈思想”用在 GAN 的框架下，這個思想在 RSGAN 中最先提出——將以往判別器逐個判斷數(shù)據(jù)真假換為將真假樣本混合后再做判斷，同時在生成器下引入真實樣本做參考，增加了生成器的生成能力。本文對該思想做了更一般化的推證和應(yīng)用，可以說”圖靈思想“適用于任何一種 GAN 模型。
引言
利用 GAN 做實驗的學(xué)者一定為其訓(xùn)練不穩(wěn)定感到痛苦，如何去控制超參數(shù)，如何去平衡判別器和生成器間的迭代都是操碎了心。盡管 WGAN [1]、LSGAN [2]?對于 GAN 的梯度消失做了解釋和改進，但是在實際的訓(xùn)練中模型的不穩(wěn)定一直存在。SNGAN [3]?可以有效地約束判別器的能力，但是隨著生成精度的增加，仍然不可避免訓(xùn)練的不穩(wěn)定。
T-GANs 是蘇劍林的一篇在 RSGAN 的基礎(chǔ)上對相對判別器做一般化改進的文章，論文現(xiàn)已掛在 arXiv，代碼已開源。文章中出現(xiàn)了較多的數(shù)學(xué)公式，筆者盡量用簡潔的話語闡述清楚文章觀點。
源碼鏈接：
https://github.com/bojone/T-GANs
論文引入
由于 GAN 的文章更新太多，現(xiàn)將原始 GAN 稱為 Standard GAN，簡稱 SGAN，文章后續(xù)的 SGAN 就是大家最熟悉的由 Goodfellow 創(chuàng)作的最原始的 GAN?[4]。
GAN 在訓(xùn)練和分析過程中都會發(fā)現(xiàn)判別器 D 的能力是遠超生成器 G 的，這個理論推導(dǎo)在 SNGAN 中有所提及。為了較好地平衡 D 和 G 的關(guān)系，在 GAN 剛開始的階段，大多數(shù)學(xué)者是控制判別器和生成器的更新比例。由于 WGAN 和 LSGAN 等一系列改進文章的提出，權(quán)重裁剪、梯度懲罰得到應(yīng)用，SNGAN 對判別器做譜歸一化來約束判別器的能力。?
上述這些方法仍然無法完全消除 GAN 訓(xùn)練過程中的不穩(wěn)定，尤其是訓(xùn)練特別高維數(shù)據(jù)的情況下，例如 1024 x 1024 的圖像。這個觀念在最近新出的 BigGAN 中作者也是吐槽了一下。
RSGAN 將“圖靈測試”的思想引入到了 GAN 中，何謂圖靈測試，借用蘇大哥文章中的描述做解釋：?
圖靈測試指的是測試者在無法預(yù)知的情況下同時跟機器人和人進行交流，如果測試者無法成功分別出人和機器人，那么說明這個機器人已經(jīng)（在某個方面）具有人的智能了?！皥D靈測試”也強調(diào)了對比的重要性，如果機器人和人混合起來后就無法分辨了，那么說明機器人已經(jīng)成功了。?
RSGAN 把圖靈測試在 GAN 中的應(yīng)用可以這么理解，對于真實樣本我們將其理解為人，假樣本則理解為機器人，不再按照 SGAN 中一張張送到判別器下判斷樣本真假，而是將真假樣本混合在一起讓判別器判斷何為真何為假。
這樣判別器將不再按照記憶去判斷真假，而是在混合的數(shù)據(jù)堆中找到真假，這個無疑是增加了判別器的判別要求，在訓(xùn)練階段有用的和豐富的梯度將得到保留；同時讓生成器也看到真實樣本，在生成階段更加逼真的生成高質(zhì)量樣本。這種一收一放，有效地控制了 D 和 G 的能力，進而在整體上提高了 GAN 的性能。
GAN的回顧
為了保證與原文的公式一致，接下來部分的公式保持與原文一致。大部分 GAN 的目的都是為了減小真實樣本和生成樣本的分布差異。我們定義真實樣本的分布為 p?(x)，生成樣本分布為 q(x)，對于 SGAN 對抗下最大最小化博弈，對于判別器 T(x) 和生成器 G(z)：
這里的 σ 為 sigmoid 函數(shù)，其中 h 可以是任何標(biāo)量函數(shù)，只要使 h(log(t)) 成為變量 t 的凸函數(shù)即可，這個后續(xù)再說。對上述的判別器優(yōu)化公式 (1) 進行變分操作，類似于微分，可以得到：
詳細證明可參看RSGAN：對抗模型中的“圖靈測試”思想。帶入到公式 (2)，可以得到：
設(shè) f(t)=h(log(t))，可以看出 SGAN 的基本目標(biāo)是最小化 p(x) 和 q(x) 之間的 f- 散度，函數(shù) f 受凸函數(shù)約束。因此，任何使 h(log(t)) 成為凸函數(shù)的函數(shù)都可以使用，例如 h(t)=?t，h(t)=?logσ(t)，h(t)=log(1?σ(t))。?
對于 WGAN 中的 Wasserstein distance，其目的也是為了最小化 p(x) 和 q(x) 之間的距離，詳細解釋可參看原文，這里不再贅述。不過統(tǒng)一起來，這些 GAN 都是為了拉近生成分布與真實分布；在更新生成器時，只有來自生成分布的假樣本可用。這種一張張輸入判斷真假的任務(wù)對于擁有強大記憶性的判別器來說是容易的，這無疑會導(dǎo)致越訓(xùn)練判別器的能力越強，最終導(dǎo)致訓(xùn)練的失敗。
RSGAN
RSGAN 在 SGAN 的基礎(chǔ)上對判別器做了一定變化，此時判別器不再是一張張判斷輸入的真假，而是將真假混合在一起來判斷，同時生成器的更新也加入了真實樣本作為指導(dǎo)，這就是 RSGAN 的整體思路，所對應(yīng)的優(yōu)化公式為：
繼續(xù)通過變分的思想，可以對公式 (5) 進一步分析，得到的最優(yōu)解：
帶入到公式 (6) 可以得到：
這就是 RSGAN 的目的所在，它實際上優(yōu)化的是 p?(Xr)q(Xf) 和 p?(Xf)q(Xr) 的 f- 散度。我們可以進一步分析（以下觀點借鑒自蘇劍林文章）：?
假如我從真實樣本采樣一個 Xr 出來，從偽造樣本采樣一個 Xf 出來，然后將它們交換一下，把假的當(dāng)成真，真的當(dāng)成假，那么還能分辨出來嗎？換言之：p?(Xf)q(Xr) 有大變化嗎？?
假如沒有什么變化，那就說明真假樣本已經(jīng)無法分辨了，訓(xùn)練成功。假如還能分辨出來，說明還需要借助真實樣本來改善偽造樣本。所以，式 (8) 就是 RSGAN 中“圖靈測試”思想的體現(xiàn)：打亂了數(shù)據(jù)，是否還能分辨出來？
T-GANs
前面說到 RSGAN 的突破性工作就是優(yōu)化了 p?(Xr)q(Xf) 和 p?(Xf)q(Xr) 的 f- 散度，利用“圖靈測試”的思想來優(yōu)化 GAN。為了讓這一思想更加一般化，更可以稱得上是“圖靈測試”在 GAN 中的應(yīng)用，T-GANs 顯示出了更加一般化的思想。?
假設(shè)聯(lián)合分布 P(Xr,Xf)=q?(Xr)p(Xf)，Q(Xr,Xf)=q?(Xf)p(Xr)?，F(xiàn)在的目的是想最小化 P(Xr,Xf) 和 Q(Xr,Xf) 的距離，如果將 (Xr,Xf) 視為一個變量，并帶入 SGAN 即公式 (1) 中，可以得到：
代入公式 (2) 可以得到 G 的優(yōu)化公式，這里的 Xf 可以表示為 Xf=G(z),z～q(z)，最終得到一般化優(yōu)化公式：
這就是利用 SGAN 實現(xiàn)了 p?(Xr)q(Xf) 和 p?(Xf)q(Xr) 分布距離的拉近，并且也可以進一步將“圖靈測試”思想用在 WGAN 上。
最終應(yīng)用在優(yōu)化公式上：
怎么去實現(xiàn) T(Xr,Xf) 呢？
可以構(gòu)造一個編碼器 E，將真實樣本和生成樣本先編碼到潛在空間，再通過判別器 D 判斷 E(Xr)?E(Xf) 的真假，可以表示為：
當(dāng)然這種“圖靈思想”可以用在更多的 GAN 模型上，甚至可以說對于任何一種 GAN 都是適用的，所以文章將“圖靈思想（Turing Test）”用作題目，簡稱為 T-GANs。
實驗
在不同的圖像尺寸上，T-GANs 展示了更多的網(wǎng)絡(luò)適應(yīng)能力和更快的收斂速度。在私下和作者交流的過程中，64 尺寸到 128，甚至是 256 整體框架的改動不大， 這對于一般 GAN 模型是困難的，看一下實驗結(jié)果對比：
由于文章還處于初稿階段，本博文只是為了對文章做中文解釋，后續(xù)的實驗還會再豐富。
總結(jié)
在本文中，作者提出了一種新的對抗模式，用于訓(xùn)練稱為 T-GAN 的生成模型。這種對抗模式可以解釋為 GAN 中的圖靈測試，它是訓(xùn)練 GAN 而不是特定 GAN 模型的指導(dǎo)思想。 它可以與當(dāng)前流行的 GAN（如 SGAN 和 WGAN）集成，從而實現(xiàn) T-SGAN 和 T-WGAN。
實驗表明，T-GAN 在從小規(guī)模到大規(guī)模的數(shù)據(jù)集上具有良好且穩(wěn)定的性能。 它表明在 GAN 中更新發(fā)生器時，實際樣本的信號非常重要。然而，T-GAN 提高穩(wěn)定性和收斂速度的機制仍有待進一步探索。
參考文獻
[1]?Martin Arjovsky, Soumith Chintala, and Le?on Bottou. Wasserstein generative adversarial networks. In International Conference on Machine Learning, pages 214–223, 2017.
[2] Xudong Mao, Qing Li, Haoran Xie, Raymond YK Lau, Zhen Wang, and Stephen Paul Smolley. Least squares generative adversarial networks. In 2017 IEEE International Conference on Computer Vision (ICCV), pages 2813–2821. IEEE, 2017.
[3] Takeru Miyato, Toshiki Kataoka, Masanori Koyama, and Yuichi Yoshida. Spectral normalization for generative adversarial networks. arXiv preprint arXiv:1802.05957, 2018.
[4] Ian Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, and Yoshua Bengio. Generative Adversarial Networks. Advances in Neural Information Processing Systems 27, pages 2672–2680. Curran Associates, Inc., 2014.
本文由 AI 學(xué)術(shù)社區(qū) PaperWeekly 精選推薦，社區(qū)目前已覆蓋自然語言處理、計算機視覺、人工智能、機器學(xué)習(xí)、數(shù)據(jù)挖掘和信息檢索等研究方向，點擊「閱讀原文」即刻加入社區(qū)！
點擊標(biāo)題查看更多論文解讀：?
在全景視頻中預(yù)測頭部運動：一種深度強化學(xué)習(xí)方法
網(wǎng)絡(luò)表示學(xué)習(xí)綜述：一文理解Network Embedding
神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（NAS）綜述
從傅里葉分析角度解讀深度學(xué)習(xí)的泛化能力
深度解讀DeepMind新作：史上最強GAN圖像生成器
ACL2018高分論文：混合高斯隱向量文法
自然語言處理中的語言模型預(yù)訓(xùn)練方法
EMNLP 2018論文解讀 | 對話生成 & 文本風(fēng)格轉(zhuǎn)化
#投 稿 通 道#
?讓你的論文被更多人看到?
如何才能讓更多的優(yōu)質(zhì)內(nèi)容以更短路徑到達讀者群體，縮短讀者尋找優(yōu)質(zhì)內(nèi)容的成本呢？?答案就是：你不認識的人。
總有一些你不認識的人，知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁，促使不同背景、不同方向的學(xué)者和學(xué)術(shù)靈感相互碰撞，迸發(fā)出更多的可能性。?
PaperWeekly 鼓勵高校實驗室或個人，在我們的平臺上分享各類優(yōu)質(zhì)內(nèi)容，可以是最新論文解讀，也可以是學(xué)習(xí)心得或技術(shù)干貨。我們的目的只有一個，讓知識真正流動起來。
??來稿標(biāo)準(zhǔn)：
? 稿件確系個人原創(chuàng)作品，來稿需注明作者個人信息（姓名+學(xué)校/工作單位+學(xué)歷/職位+研究方向）?
? 如果文章并非首發(fā)，請在投稿時提醒并附上所有已發(fā)布鏈接?
? PaperWeekly 默認每篇文章都是首發(fā)，均會添加“原創(chuàng)”標(biāo)志
? 投稿郵箱：
? 投稿郵箱：hr@paperweekly.site?
? 所有文章配圖，請單獨在附件中發(fā)送?
? 請留下即時聯(lián)系方式（微信或手機），以便我們在編輯發(fā)布時和作者溝通
?
現(xiàn)在，在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關(guān)注」訂閱我們的專欄吧
關(guān)于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學(xué)術(shù)平臺。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號后臺點擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 下載論文 & 源碼
總結(jié)
以上是生活随笔為你收集整理的T-GANs：基于“图灵测试”的生成对抗模型的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 自然语言处理太难？按这个方式走，就是砍瓜
- 下一篇： 自动机器学习（AutoML）最新综述