OpenAI“单手解魔方”被公开质疑，Gary Marcus称七大问题涉嫌误导
全世界只有3.14 %?的人關注了
青少年數學之旅
近日，“OpenAI的機器手在4分鐘內單手成功還原魔方”引起刷屏，然而，這一成就被著名機器學習懷疑論者馬庫斯質疑了，馬庫斯逐條列舉OpenAI的誤導性說法，機器學習圈卻都撐OpenAI。你支持哪方？歡迎來與大咖一起討論～
?
這幾天，人工智能領域最令人興奮的進展莫過于?“OpenAI 的機器手學會了單手解魔方”。
OpenAI 在 10?月 15 日發(fā)布這一成果，立即引起大量討論。轉魔方的視頻被瘋狂刷屏，僅 YouTube 的視頻就有 20?萬觀看，網友紛紛表示：人工智能機器人的一個新里程碑誕生了！這是機器人在機體靈活性以及機器學習軟件方面的飛躍！
機器手還原一個三階魔方全程只花了4分鐘
即使兩根手指被綁住了也沒問題
OpenAI 使用強化學習和 Kociemba 算法訓練神經網絡來模擬解決魔方問題。
研究人員專注于一個機器目前難以掌握的問題：感知和靈巧的操作。他們訓練神經網絡來實現由法生成的還原所需的旋轉和翻轉，并開發(fā)了一種稱為自動域隨機化的新方法，該算法能夠無休止地在仿真中生成越來越困難的環(huán)境，從而讓神經網絡在模擬環(huán)境中學習解魔方，再遷移應用到現實世界。
“用機器手解決魔方”?的背后有許多人手
OpenAI 訓練類人機器手來解魔方的嘗試，早在 2017 年 5 月就開始了。之所以對解魔方情有獨鐘，是因為研究人員認為，如果能成功訓練這樣一只機器手來完成復雜的操作任務，就能為通用型機器人奠定基礎。
OpenAI 同時公開了一個機器手解魔方的完整視頻，視頻未經任何剪輯，可以看到，機器手靈活地操作魔方，在約 4 分鐘的時間里成功還原了一個三階魔方。
機器手還原魔方的完整過程，視頻未經任何編輯
然而，這一成果遭到了紐約大學心理學與認知科學教授、暢銷書作家加里?·?馬庫斯?(Gary Marcus)?的質疑?——OpenAI 聲稱?“解決”?了魔方，真的是這樣嗎？馬庫斯認為 OpenAI 還原魔方的博客內容存在誤導性，他說：
鑒于 OpenAI 仍然沒有更改關于?“解決魔方”?的誤導性博客帖子?(博客標題是?“Solving Rubik’s Cube with a Robot Hand)，所以我附上了詳細的分析，將他們的說法和暗示與實際所做的進行了比較。依我之見，這些誤導性對大多數對非專業(yè)人士來說并不明顯。
馬庫斯對 OpenAI“解決魔方”?的 7 條質疑如下：
1、這不是神經網絡解決的；而是有 17 年歷史的符號算法做到的。
2、這種算法是先天的，而不是學習的。
3、強化學習在選擇轉向哪個方向?(即大多數人所說的解決了魔方)?時不起作用。
4、所學到的是物體操縱，而不是解魔方。
5、只有一個物體被操縱，并且沒有測試對其他對象的可推廣性。
6、該物體裝配了大量儀器?(如藍牙傳感器)，機器手也安裝了 LED。
7、成功率只有 20%；魔方經常從機器人手中掉落。
他說：“我強調一下，這個成果本身給人留下了深刻的印象，但描述有誤導，更恰當的標題應該是’用強化學習操縱魔方’或‘靈巧的機器人手操縱物體的進展”?或類似的句子。”
OpenAI 聯合創(chuàng)始人、機器人團隊負責人 Woj Zaremba 注意到馬庫斯的帖子，反駁道：
1. 你的前三個論點是一樣的。
2. 泛化是從模擬到現實，而不是從一個物體到另一個物體。
3. 我們沒有裝配儀器得到的結果稍微弱一些。
4. 你確信我們不會將性能提升到 100%?嗎？
馬庫斯回應道：
1. 我的前兩個論點完全不同：先天性≠象征性。這些是不同的。第三個論點有一點重疊，但并不明顯。
2.?我當然知道，但是為了穩(wěn)健性，你需要推廣到新物體上
3&4：我期待看到其他結果；我相信你們最終會做得更好。
盡管是馬庫斯率先提出質疑，但不少人的回復并不贊同馬庫斯的說法，有人回復道：
“這是一個有缺陷的批評，基于對魔方的誤解。魔方不是像圍棋那樣是一種可以學習的任務，而是需要記憶解法和熟練操作的任務；人類玩魔方也遵循一種算法。”
馬庫斯仍表示：總的來說，他們?(OpenAI)?沒有對我的觀點做出回應，我的觀點是那篇博客的框架與論文的內容不相符合，雖然我同意這個工作很重要，但炒作是有誤導性的。
網友評論各執(zhí)一詞，馬庫斯是一針見血，還是吹毛求疵？
馬庫斯在 Twitter 上也承認這個研究是個不錯的研究，但博客文章中的一些說法用詞不當，和實際不符，具有誤導性。
我的主要觀點是，現在被熱議的 OpenAI 的博客文章具有誤導性；在技術論文中精挑細選出的東西并不能解決問題。我在推特上也詳細講了，文章本身的標題以及開頭的框架都具有誤導性。因此，文章本身有其自身的問題。?
OpenAI 博客中的結尾表示：“強化學習不僅可以作為虛擬任務的工具，而且可以解決需要前所未有的靈活性的真實世界中的問題。” 而馬庫斯認為，如果沒有更強的泛化測試，就無法提出進一步的主張。5 個略有不同的 cube 實驗，也不能讓這個機械手學會擰緊螺絲，開鎖或給襯衫系上扣子。
所以，這些問題的解決實際上無從談起。
?
Twitter 上有人對馬庫斯表示支持，認為 OpenAI 的博客中的說法和實際確實存在實際差異。這種夸大其詞可能導致大眾對技術的盲目信任，進而造成消極后果，比如特斯拉的撞車事故。
?
馬庫斯自己還發(fā)了個投票：
?
不過從 600 多人的投票結果看，支持“解決魔方”應包括認知和操縱兩方面的占大多數。
?
在 Twitter 上不斷 “放炮” 的同時，這場辯論的戰(zhàn)火不了避免地轉到了其他平臺，比如 Reddit。
有網友搬運了馬庫斯在 Twitter 上發(fā)出的對 OpenAI 博客文章的 7 點詳細意見，并配了貼圖。但從網友討論來看，支持馬庫斯的不多。更多的人認為他這是過于苛刻，咬文嚼字，沒事找事。
?
比如下邊這位就說，他覺得馬庫斯寫的這 7 點摘要比 OpenAI 博客文章更具誤導性。
?
關注點 1-4：“神經網絡沒有解決問題；解決問題的是具有 17 年歷史的符號 AI 算法。”
博客：“我們使用強化學習和 Kociemba 的算法來選擇求解步驟，訓練神經網絡來解決仿真中的魔方。”
?
關注點 5：“只有一個對象被操縱，沒有對其他對象的可推廣性測試”
博客：測試使用了五種不同的原型，一個鎖緊的模仿，一個面部立方體，一個完整的立方體，一個吉克魔方和一個 “常規(guī)” 魔方。這篇文章從來沒有聲稱要解決魔方的問題。
?
關注點 6：“該物體已被植入大量設備（比如帶有藍牙功能傳感器）。玩魔方的手上也裝有 LED。”
博客：五個不同的原型中置入了不同級別的儀器。?“常規(guī)” 魔方沒有置入任何設備，只是從中心正方形上切除小角，以消除對稱性。
?
關注點 7：“成功率只有 20％；魔方經常掉落。”
博客：“盡管如此，我們的機器人仍未完善其技術，因為只有 60％的成功幾率（而最困難的情況下只有 20％的成功幾率）。”
?
而且下文專門開了一段來說這個問題。
?
還有人認為，馬庫斯實在是過于挑剔了，過于糾結于實際上并不重要的問題。
?
我承認馬庫斯是一個能言善辯的人。但我覺得他過于迂腐，以至于無視于眼前的實際問題，大多數外行人都有能力閱讀文章的背后之意，查看研究或博客文章的內容。
?
你可以去追求學術上的精確，但是那些真正關心這些東西的人很可能會陷入困境。我們都對他列出的幾條問題有所了解，但至少其中大多數。在這種情況下幾乎是無關緊要的，甚至像 “泛化性”?之類的重要論點，在機器人的高靈敏度這一主要問題面前，也顯得不那么重要了。
?
我明白，不同的人會以不同的嚴謹程度來對待這個問題，并且我也理解馬庫斯的擔憂，但我認為，對于 OpenAI 的公開批評過于挑剔，這些問題本身對這次討論并不重要。?
馬庫斯是誰？深度學習懷疑論者
Gary Marcus
加里?·?馬庫斯?(Gary Marcus)?是一位科學家、暢銷書作家和企業(yè)家。他是 Robust.AI 公司的創(chuàng)始人和首席執(zhí)行官，Geometric Intelligence 公司?(2016 年被優(yōu)步收購)?的創(chuàng)始人兼首席執(zhí)行官，出版著作包括《代數思維》、《怪誕腦科學?(Kluge)》、《思維的誕生》等，最新著作是與 Ernest Davis 合著的《Rebooting AI :?構建我們可以信任的人工智能》。
馬庫斯也是著名的深度學習懷疑論者。作為認知心理學家，他一直高調參與人工智能辯論，與 Yann LeCun、AAAI 前主席 Thomas Dietterich 等 AI 大牛都展開過激烈辯論。
他曾撰文批判深度學習?(Marcus, 2018)，?稱深度學習實際上并沒解決什么問題。這篇文章引起了人工智能圈極大的反響，幾天之內，成千上萬的人在推特上發(fā)表了自己對這個問題的看法，有些人熱情支持馬庫斯的論點（例如，“這是我多年來讀到的有關深度學習和 AI 的最好的觀點），有些相反（例如，“有思考...... 但大部分都是錯誤的”）。
在那篇批判深度學習的文章中，馬庫斯概括了深度學習的十大挑戰(zhàn)，直言深度學習本身雖然有用，但它不可能實現通用人工智能。他建議把深度學習視為?“一種非普遍的解決方法，而只是一種工具。”
他說：“相比純粹的深度學習，我呼吁混合模型，不僅包括深度學習的監(jiān)督形式，還包括其他技術，例如符號處理（symbol-manipulation），以及無監(jiān)督學習（它本身也可能被重新概念化）。我也敦促社區(qū)考慮將更多的內在結構納入 AI 系統。”
轉載來源：新智元參考來源：https://www.reddit.com/r/MachineLearning/comments/dkd4vz/d_gary_marcus_tweet_on_openai_still_has_not部分素材源于網絡，版權歸原作者所有如有侵權請留言聯系刪除，感謝合作
寫在最后
微信公眾號“少年數學家”提供豐富的數學課外知識數學人物、數學趣談、科技與數學想讓孩子懂得更多有趣的數學記得關注“少年數學家”總結
以上是生活随笔為你收集整理的OpenAI“单手解魔方”被公开质疑，Gary Marcus称七大问题涉嫌误导的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 双十一变身大型奥数竞赛现场？数学不好的你
- 下一篇： 来自女朋友的灵魂拷问！| 今日最佳