都說(shuō)眼見(jiàn)為實(shí)，但真是這樣嗎？

先來(lái)看下這張動(dòng)圖。

是不是感覺(jué)這2個(gè)圓圈，會(huì)隨著箭頭方向移動(dòng)？

然而事實(shí)卻是：

它們沒(méi)有發(fā)生任何改變。

而就是這樣一張動(dòng)圖，近日卻在網(wǎng)上引發(fā)了熱烈的討論。

連深度學(xué)習(xí)三巨頭之一的LeCun大神，也出面發(fā)表言論：

大腦的對(duì)抗性樣本。

每個(gè)類似CNN的結(jié)構(gòu)……都有盲點(diǎn)……會(huì)被愚弄。

那么這張動(dòng)圖到底暗含什么玄機(jī)？又為何讓LeCun作出如此評(píng)價(jià)？

對(duì)此，很多網(wǎng)友還是選擇相信自己的眼睛，認(rèn)為得它們就是在動(dòng)；也有堅(jiān)持說(shuō)沒(méi)動(dòng)的。

于是他們找到各種辦法來(lái)證明。

最簡(jiǎn)單的方法就是擋住箭頭，效果是這樣的。

恐怕這種幻覺(jué)與箭頭無(wú)關(guān)，這位網(wǎng)友評(píng)價(jià)道。

接著，其他人便采取了更加科學(xué)的方法——畫(huà)線。

可以明顯看到，圓圈的轉(zhuǎn)動(dòng)確實(shí)沒(méi)有超過(guò)標(biāo)記線。

那是不是箭頭發(fā)生了移動(dòng)，才產(chǎn)生的錯(cuò)覺(jué)呢？

也有人做了實(shí)驗(yàn)。

也不難看出，箭頭位置沒(méi)有發(fā)生變化，而且第一個(gè)實(shí)驗(yàn)也證明了與箭頭無(wú)關(guān)。

那這到底是怎么一回事？LeCun給出了正解：

它們是靜態(tài)的。

黃色區(qū)域的外側(cè)，有一條藍(lán)色的細(xì)線；藍(lán)色區(qū)域外側(cè)，則有一條黃色的細(xì)線。

網(wǎng)友將圓圈放大后，也發(fā)現(xiàn)了這個(gè)隱藏的貓膩。

LeCun繼續(xù)補(bǔ)充道：

你的視網(wǎng)膜→MT視覺(jué)通路，將圓周運(yùn)動(dòng)中的高對(duì)比度邊緣，解釋成了與邊緣正交的運(yùn)動(dòng)。

例如CNN在工作過(guò)程中，也會(huì)提取圖像中的一些邊緣信息/特征。

而這也正是LeCun在文章開(kāi)頭處評(píng)價(jià)的由來(lái)——大腦的對(duì)抗性樣本。

他認(rèn)為：

每一個(gè)類似CNN的架構(gòu)，無(wú)論是人工的還是自然的，都有盲點(diǎn)。

它們會(huì)被訓(xùn)練數(shù)據(jù)分布之外的輸入所愚弄。

LeCun說(shuō)這話并不是空穴來(lái)風(fēng)，而是在AI（尤其是計(jì)算機(jī)視覺(jué)）*相關(guān)的研究中，諸如此類的忽悠現(xiàn)象屢見(jiàn)不鮮。

對(duì)抗性樣本，簡(jiǎn)單來(lái)說(shuō)就是：

對(duì)輸入數(shù)據(jù)樣本，添加一些人無(wú)法觀察到的干擾，導(dǎo)致模型以高置信度給出一個(gè)錯(cuò)誤的輸出。

一個(gè)非常經(jīng)典的例子就是圖像分類。

例如一張已經(jīng)被分類為熊貓的圖片，在加入一些干擾后，我們?nèi)祟惾庋凼菬o(wú)法察覺(jué)輸出圖像產(chǎn)生的變化。

但在AI眼里卻截然不同，并以高置信度將輸出圖像分類為長(zhǎng)臂猿。

至于其原理，可以引用Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images這篇文章中的圖來(lái)示意：

一種方法是從一個(gè)類別的樣本出發(fā)，添加一些小修改，然后模型就會(huì)把修改后的樣本，判定為另一類。

另外一種方法，就是利用分類不確定性。比如圖中除了最上面部分的空間可以認(rèn)為是數(shù)據(jù)存在概率極低的區(qū)域，從實(shí)際應(yīng)用的角度甚至可以認(rèn)為是完全不關(guān)心的區(qū)域。

而這樣的對(duì)抗性樣本，不僅僅是在圖像分類任務(wù)中存在，在自動(dòng)駕駛中也是常見(jiàn)的。

例如一個(gè)膠帶就把特斯拉忽悠瘸了。

用一條2英寸的膠帶，成功欺騙2016年版特斯拉的攝像頭系統(tǒng)，誘使其出現(xiàn)了50英里/小時(shí)（80公里/小時(shí)）的異常加速。

欺騙后的效果是這樣的：

而這樣的問(wèn)題，也成為了自動(dòng)駕駛的一個(gè)安全隱患。網(wǎng)友：LeCun，你說(shuō)的不對(duì)

最后，對(duì)于LeCun說(shuō)大腦的對(duì)抗性樣本這句話，也成了網(wǎng)友們熱議的一個(gè)焦點(diǎn)。

有網(wǎng)友非常直白地說(shuō)：

這并不是一個(gè)很好的對(duì)抗性樣本。

也有網(wǎng)友提出質(zhì)疑：

這是人類視覺(jué)系統(tǒng)的一個(gè)對(duì)抗性例子，還是一個(gè)特征？

這看起來(lái)像是我們泛化能力的產(chǎn)物。

對(duì)此，你怎么看？

總結(jié)

以上是生活随笔為你收集整理的圆圈在动吗？这个骗过人眼的动图火了的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。