NeurIPS十年高引学者TOP100榜单发布!这些大牛值得膜拜!
12月8日(本周日),期待已久的NeurIPS 2019就要在加拿大溫哥華正式拉開帷幕。
作為機器學習領域最重要的頂會,NeurIPS一直有著很強的影響力和排名,被認為是神經計算方面最好的會議之一。
隨著近幾年深度學習的崛起,NeurIPS不僅成為了學術界的新星,也引起了工業界的高度關注,注冊人數從數年前的幾百人躍升到今年的近萬人。
根據AMiner數據平臺的統計分析,NeurIPS的H5指數為149,10H值為34641,在人工智能方向會議中排名第二。
通過對NeurIPS近十年接收論文引用量的統計分析,我們評選出了NeurIPS高引學者TOP100榜單。
?
這100位學者,他們都是機器學習領域的頂尖人物,不論是在學術界還是工業界,都取得了令人矚目的成果。
在這100位學者中,谷歌+DeepMind就占據了五分之一,形成了絕對的霸主地位,8人來自Facebook,7人來自加州大學伯克利分校。同時,斯坦福大學5人,麻省理工學院4人,OpenAI 4人,紐約大學、蒙特利爾大學都有3人上榜。
他們中約有16位華人學者上榜。比如前百度首席科學家吳恩達、計算機視覺大神何愷明;但是在中國大陸任職的卻僅有幾人,比如商湯科技的代季峰,曠視科技的孫劍,Momenta的任少卿等。
NeurIPS的明星學者
下面就來看看NeurIPS高引學者榜單中的Top10都有哪些大牛?
包攬高引學者榜單前三甲的正是“神經網絡之父” Geoffrey Hinton與他的高徒Ilya Sutskever、Alex Krizhevsky。
排在高引學者榜單第二位的Geoffrey Hinton,是深度學習的泰斗,被人們譽為“人工智能教父”,他的名字在當今的人工智能研究界可謂是如雷貫耳。他曾發明了玻爾茲曼機(Boltzmann machine),也首先將反向傳播(Backpropagation)應用于多層神經網絡;不僅如此,他還有 Yann LeCun 和 Ilya Sutskever 等大牛級的學生。
Hinton在劍橋大學獲得實驗心理學學士學位,在愛丁堡大學獲得人工智能博士學位?,F任Google副總裁兼工程研究員,同時在多倫多大學教書育人,也是VectorInstitute首席科學顧問。在2012年,Hinton還獲得了加拿大基廉獎(Killam Prizes,有“加拿大諾貝爾獎”之稱的國家最高科學獎)。
Hinton教授是機器學習的開創者,使得計算機可以獨立想出程序、自己解決問題。特別重要的是,他還從中開辟了機器學習的一個子領域,即所謂的“深度學習”,也就是讓那些機器像一個蹣跚學步的孩子一樣,模仿大腦的神經網絡形式進行學習。他將神經網絡帶入到研究與應用的熱潮,將“深度學習”從邊緣課題變成了谷歌等互聯網巨頭仰賴的核心技術。
Hinton自NeurIPS創辦以來的三十多年間,共發表了60篇論文,幾乎每年都有成果產出。而在2009年至2019年間,Hinton在NeurIPS共發表了16篇論文,引用量達47482次。
正可謂青出于藍而勝于藍, 排在榜首的Ilya Sutskever不僅是Hinton的博士生,還是吳恩達的博后,他曾是谷歌的頂級人工智能專家,后來創辦了人工智能非盈利公司——OpenAI。
Sutskever的H-index值為56,在2015 年他被麻省理工學院技術評論評為Visionaries 類別「35 歲以下創新者」。
十年間,他雖只在NeurIPS發表了11篇文章,但引用量高達67457次,位于高引學者榜單首位。
對計算機非常癡迷的Sutskever本科就讀于多倫多大學。在大學期間,他遇到了Hinton教授。Hinton 給了他一個研究項目:改進隨機鄰居嵌入算法。該項目正是他們合作的開始,接下來Sutskever順理成章地加入了Hinton的小組攻讀博士學位。
2012年畢業后,Sutskever在斯坦福大學跟隨吳恩達教授讀了兩個月的博士后。然后他回到了多倫多大學并加入了Hinton創立的研究公司 DNNResearch。四個月后,Google 收購了 DNNResearch,而Sutskever至此正式加入Google Brain 。
在谷歌的兩年間, Sutskever曾加入過 Google 開源庫,開發了深度學習框架TensorFlow。他還協助DeepMind開發了劃時代的圍棋人工智能 AlphaGo,而關于AlphaGo 的論文于2016 年在Nature上發表,Sutskever 是合著者之一。
2015年12月,Sutskever離開谷歌,和Greg Brockman(現為 OpenAI 首席技術官)共同創立了 OpenAI。OpenAI 的目標是希望向所有人開放人工智能技術,在過去的幾年間OpenAI取得了許多驚人的成就。Sutskever則一直站在人工智能革命的最前沿,和他的團隊一起推動實現強人工智能的終極高峰。
排在榜單第三位的Alex Krizhevsky,同樣作為Hinton的博士生,Alex似乎顯得更為低調,網上也鮮有他的資料。
2012 年,在Hinton的指導下,Alex Krizhevsky和Sutskever 合作開發了 轟動一時的AlexNet。這篇題為《ImageNet Classification with Deep Convolutional Neural Networks》的論文,引用量高達44218次。這也是Alex 在NeurIPS發表的唯一論文。
AlexNet以一種新穎的神經網絡架構在NeurIPS亮相,包含五個卷積層和三個全連接層。這篇論文被廣泛認為是一項真正的開創性工作,因為它首次證明了在GPU上訓練的深度神經網絡可以將圖像識別任務提升到一個新的水平。
AlexNet網絡對神經網絡的發展產生了非常重要的影響,之后的ImageNet冠軍全都采用了卷積神經網絡結構,使得CNN架構成為圖像分類的核心模型,并由此開啟了深度學習新一波浪潮,其使用的卷積+池化+全連接的架構仍然是當前深度學習最主要的網絡結構。
自那之后,Alex似乎沉寂起來。他曾同Hinton教授和Sutskever 共同創辦了初創公司 DNNresearch,他們開發出了可以大幅改善目標辨識技術的解決方案。后來Alex和Sutskever共同加入了谷歌。
再后來,Alex加入了加拿大創業公司Dessa ,擔任Dessa的首席機器學習架構師。而就在今年年初,Dessa開發了一個語音合成系統RealTalk,與以往基于語音輸入學習人聲的系統不同,它可以僅基于文本輸入生成完美逼近真人的聲音。
排在榜單第四位的是“人工智能三巨頭”之一的Yoshua Bengio,他同Geoffrey Hinton、Yann LeCun同獲2018年圖靈獎。
Yoshua Bengio是人工智能自然語言處理領域的先鋒。Bengio,1964年出生于法國,成長于加拿大,現居蒙特利爾,在蒙特利爾大學(University of Montreal)計算機科學與運算系任教授。Bengio在麥吉爾大學獲得計算機科學博士學位。他與Geoffrey Hinton、Yann LeCun一起被認為是20世紀90年代和21世紀初期推動深度學習的三個人。2016年10月,Bengio聯合創立了一個位于蒙特利爾的人工智能孵化器Element AI。
Bengio也是三人中最看重學術純粹性的。在微軟擔任顧問的同時,他還是CIFAR機器與大腦學習項目的聯合主任,加拿大計算機科學與運籌學系的全職教授,也是蒙特利爾大學統計學習算法研究主席。
在NeurIPS會議上,Bengio一共發表了74篇論文,尤其在今年的會議上,有 Bengio署名的論文就有9篇。
在過去的十年間,他在NeurIPS共發表了40篇文章,引用量達18714次。
其中引用量最高的是發表于2014年,同他的博士生Ian Goodfellow合著的《Generative Adversarial Nets》一文,引用量達10618次,這篇文章提出了著名的生成對抗網絡(GANs)。
它是一種能“教會”計算機勝任人類工作的有趣方法。過去五年,GANs在圖像生成領域取得了重大突破,現在可以生成動物、風景以及人臉等高度逼真的合成圖像,充分展示了“無監督學習”技術的潛力。
同時它在理論層面解決了機器學習技術長久以來的問題:如何促使機器學習的訓練成果向著人類希望的方向前進。2015年時,GANs技術還名不見經傳,2016年就達到了無處不在的火爆程度,甚至被專家稱為“機器學習領域20年來最酷的想法”。
說到了GANs,那就不得不說Ian Goodfellow--“GANs之父”。他位于高引學者榜單的第九位,十年間他在NeurIPS共發表了10篇論文,總引用量達13480次。
Goodfellow是機器學習領域備受關注的年輕學者之一,本科與碩士就讀于斯坦福大學,師從吳恩達,博士階段則跟隨Yoshua Bengio研究機器學習。他最引人注目的成就是在 2014 年 6 月提出了生成對抗網絡(GANs)。
畢業后,Goodfellow加入Google,成為Google Brain研究團隊的一員。然后他離開谷歌加入新成立的OpenAI研究所,在2017年3月他又回到谷歌研究院。就在今年4月,Ian Goodfellow加入蘋果公司擔任總監級別職務,在蘋果公司領導一個「機器學習特殊項目組」。
位于高引學者榜單第五至第八位的學者,是來自谷歌的Greg Corrado、Jeffrey Dean、Kai Chen、Tomas Mikolov。
Greg Corrado、Jeffrey Dean十年間在NeurIPS各發表了3篇文章,總引用量為17218次。Tomas Mikolov也發表了3篇文章,總引用量為15407。Kai Chen發文兩篇,總引用量為16139次。
他們與Ilya Sutskever于2013年共同發表了《Distributed Representations of Words and Phrases and their Compositionality》一文,引用量達14087次。
這篇論文是對《Efficient Estimation of Word Representations in Vector Space》的補充,介紹了使用Skip-gram模型和Hierarchical Softmax訓練模式的訓練方法,并補充了Negative Sampling的訓練模式替代Negative Sampling,獲得更快的訓練效果。論文還提出了對高頻詞進行二次抽樣的方法,以及衡量短語的方法,學習短語的表示。
Greg Corrado是Google機器學習資深研究科學家,主要研究方向為人工智能、計算神經科學和可擴展機器學習,也是Google Brain項目的創始人之一。
谷歌人工智能大神Jeff Dean,是谷歌的首席架構師、谷歌研究院的高級研究員,也是谷歌的人工智能團隊谷歌大腦(Google Brain)的負責人。身披華盛頓大學博士、美國工程院院士、ACM Fellow、清華大學AI研究院計算機學科顧問、AAAS Fellow等名譽的Jeff Dean在谷歌負責過許多大型項目,支持谷歌運行的超大規模計算框架MapReduce和機器學習的標志性軟件TensorFlow就是在他的領導下開發的。
Tomas Mikolov曾在谷歌工作,目前是Facebook人工智能研究實驗室的科學家。他也是一位產出多篇高質量paper的學者,從RNNLM、Word2Vec再到最近流行的FastText都與他息息相關。
排在第十位的是計算機視覺大神、Facebook AI研究科學家何愷明。他的研究方向為計算機視覺和深度學習。十年間他在NeurIPS共發表過3篇論文,總引用量為12605次。
最有名的一篇是發表于2015年的《Faster R-CNN:Towards Real-Time Object Detection with Region Proposal Networks》一文,引用量達11093次。
在這份TOP100榜單中,還有更多機器學習領域大神級人物的存在,比如機器學習之父、美國三院院士、伯克利教授Michael I.Jordan,蘋果首任AI總監Ruslan Salakhutdinov等等,雖然我們沒有一一寫到,但并不能否認他們在機器學習領域無人能及的地位。
為了更便于大家了解和掌握NeurIPS 2019的最新信息與動態,
本周末我們將會上線NeurIPS 2019 conf-plus頁面,歡迎大家關注使用!
?
往期回顧
NeurIPS 2019 | 中科院、武大、微軟等8篇論文解讀
解讀!北郵、西電、DeepMind等8篇NeurIPS 2019論文合集
NeurIPS 2019 | 華為、北大等聯合提出:一種基于正類與未標記樣本(PU)的云端網絡壓縮方法
總結
以上是生活随笔為你收集整理的NeurIPS十年高引学者TOP100榜单发布!这些大牛值得膜拜!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 使用同花顺获取单只股票的所有历史日线数据
- 下一篇: 谷歌无法启动更新检查(错误代码为4: 0