转:Jeff Dean的Stanford演讲
老文章了,但是參數(shù)還是很有參考性的。
?
Google 公司的?Jeff Dean?在Stanford大學(xué)做了一個(gè)非常?精彩的演講(視頻未墻)。我覺得我們每一個(gè)人都應(yīng)該去看一看這個(gè)視頻,當(dāng)然,沒有字幕,需要不錯(cuò)的聽力,當(dāng)然,我不可能全部翻譯出來,因?yàn)槲乙膊皇峭耆苈牰?#xff0c;下面是一些相關(guān)的Notes,供你參夸,并歡迎牛人指證。
- 比較了從1999年到2010年十年來的搜索量的變化。搜索量增加了 1000 倍,而搜索速度快了5 倍。1999年,一個(gè)網(wǎng)頁的更新最多需要一個(gè)月到兩個(gè)月,而今天,只需要幾秒鐘,足足加快了5w倍。
- 一開始,這些大量的查詢產(chǎn)生了大約30GB的I/O量。2004年,他們考慮過全部重寫infrastructure。
- 討論了一些關(guān)于變量長度字節(jié)對(duì)齊的東西。
- 今天的MapReduce 有400萬個(gè)作業(yè),處理將近1000PB的數(shù)據(jù),130PB的中間數(shù)據(jù),還有45PB的輸出數(shù)據(jù)。(1PB =1024TB)關(guān)于 MapReduce (Google云計(jì)算的精髓) 的一些統(tǒng)計(jì),見下圖:
?
- 現(xiàn)在Jeff正在做一個(gè)叫Spanner的項(xiàng)目,這是一個(gè)跨多個(gè)數(shù)據(jù)中心的項(xiàng)目。在后來的Q&A中,Jeff解釋了現(xiàn)在的數(shù)據(jù)基本上都在各個(gè)數(shù)據(jù)中心中,數(shù)據(jù)在不同數(shù)據(jù)中心間的交換幾乎不可能。所以,他們需要提供一些手動(dòng)的方式或是一些工作或任務(wù)來達(dá)到數(shù)據(jù)共享。這其中還需要有一些策略配置,共同的namespace,事務(wù)處理,數(shù)據(jù)一致性等等工作。
- 最后一個(gè)段落應(yīng)該是最精彩的,Jeff講了很多很有意思的東西,絕對(duì)讓你受用一生:
- 一個(gè)大型的系統(tǒng)需要分解成N多的小services.(這和Amazon的很相似,一個(gè)頁面的調(diào)用可能要經(jīng)過幾百個(gè)后臺(tái)的services)
- 代碼的性能將會(huì)是想當(dāng)?shù)闹匾eff給了一張叫“Numbers Everyone Should Know” 的slide,如下所示,我覺得太經(jīng)典了,其中的東西,如果你看過我的那篇“給老婆普及計(jì)算機(jī)知識(shí)”,我想我不需要多解釋了。(注:1 ns = 十億分之一秒)
- 把相同的東西抽出來去建立一個(gè)系統(tǒng),而不是把所有的事情交給所有的人。他說:?“最后的那個(gè)功能可能會(huì)導(dǎo)致你怎么個(gè)系統(tǒng)超出了原有的復(fù)雜度”。
- 不要無限制地設(shè)計(jì)可擴(kuò)展性。5倍到50倍的擴(kuò)展性設(shè)計(jì)足夠了。如果你要達(dá)到100倍的,那應(yīng)該是re-arch了。
- Jeff很喜歡有中心主結(jié)點(diǎn)的架構(gòu)體系,他并不喜歡分布式系統(tǒng)。當(dāng)然,中心主結(jié)點(diǎn)主要是用來做控制的,而不是做數(shù)據(jù)或是計(jì)算服務(wù)的。
- J在一些小機(jī)器上運(yùn)行多個(gè)小服務(wù),而不在一個(gè)大機(jī)器上運(yùn)行一個(gè)mongo作業(yè)。越小的單元就越容易處理,修復(fù),負(fù)載均衡和擴(kuò)展。(化繁為簡(jiǎn))
- …… ……
這是一個(gè)非常不錯(cuò)的演講,很讓人開闊眼界。
最后,我想說說英文,很多程序員都很不喜歡英文,哎……怎么說呢?如果你今天對(duì)英文還很害怕的話,這只能怪我們的教育制度的失敗。但如果你以此為借口的話,那只能怪你自己了。沒有英文的能力,你的技術(shù)和認(rèn)知僅限于中文圈中,而中文圈中基本上都是產(chǎn)商的文化。有人說,“功夫網(wǎng)”讓我們的internet成為了局域網(wǎng),而我想說,讓我們成為局域網(wǎng)的不是那個(gè)墻,而是我們自己的世界觀和英文能力。
?
來自酷殼:http://coolshell.cn
轉(zhuǎn)載于:https://www.cnblogs.com/legendary/archive/2012/09/26/2704303.html
總結(jié)
以上是生活随笔為你收集整理的转:Jeff Dean的Stanford演讲的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 用python连接redis时错误Inv
- 下一篇: 【转】一步一步学Linq to sql(