cache与buffer
Cache
緩存區(qū),是高速緩存,是位于CPU和主內(nèi)存之間的容量較小但速度很快的存儲器,因?yàn)镃PU的速度遠(yuǎn)遠(yuǎn)高于主內(nèi)存的速度,CPU從內(nèi)存中讀取數(shù)據(jù)需等待很長的時間,而? Cache保存著CPU剛用過的數(shù)據(jù)或循環(huán)使用的部分?jǐn)?shù)據(jù),這時從Cache中讀取數(shù)據(jù)會更快,減少了CPU等待的時間,提高了系統(tǒng)的性能。
??? Cache并不是緩存文件的,而是緩存塊的(塊是I/O讀寫最小的單元);Cache一般會用在I/O請求上,如果多個進(jìn)程要訪問某個文件,可以把此文件讀入Cache中,這樣下一個進(jìn)程獲取CPU控制權(quán)并訪問此文件直接從Cache讀取,提高系統(tǒng)性能。
Buffer
緩沖區(qū),用于存儲速度不同步的設(shè)備或優(yōu)先級不同的設(shè)備之間傳輸數(shù)據(jù);通過buffer可以減少進(jìn)程間通信需要等待的時間,當(dāng)存儲速度快的設(shè)備與存儲速度慢的設(shè)備進(jìn)行通信時,存儲慢的數(shù)據(jù)先把數(shù)據(jù)存放到buffer,達(dá)到一定程度存儲快的設(shè)備再讀取buffer的數(shù)據(jù),在此期間存儲快的設(shè)備CPU可以干其他的事情。Buffer一般是用在寫入磁盤的,例如:某個進(jìn)程要求多個字段被讀入,當(dāng)所有要求的字段被讀入之前已經(jīng)讀入的字段會先放到buffer中。
cache例子
假設(shè)某地發(fā)生了自然災(zāi)害(比如地震),居民缺衣少食,于是派救火車去給若干個居民點(diǎn)送水。救火車到達(dá)第一個居民點(diǎn),開閘放水,老百姓就拿著盆盆罐罐來接水。假如說救火車在一個居民點(diǎn)停留100分鐘放完了水,然后重新儲水花半個小時,再開往下一個居民點(diǎn)。這樣一個白天來來來回回的,也就是4-5個居民點(diǎn)。但我們想想,救火車是何等存在,如果把水龍頭完全打開,其強(qiáng)大的水壓能輕易沖上10層樓以上, 10分鐘就可以把水全部放完。但因?yàn)榫用袷悄门韫藿铀?#xff0c;100%打開水龍頭那就是給人洗澡了,所以只能打開一小部分(比如10%的流量)。但這樣就降低了放水的效率(只有原來的10%了),10分鐘變100分鐘。那么,我們是否能改進(jìn)這個放水的過程,讓救火車以最高效率放完水、盡快趕往下一個居民點(diǎn)呢?
方法就是:在居民點(diǎn)建蓄水池。救火車把水放到蓄水池里,因?yàn)槭且?00%的效率放水,10分鐘結(jié)束然后走人。居民再從蓄水池里一點(diǎn)一點(diǎn)的接水。我們分析一下這個例子,就可以知道Cache的含義了。救火車要給居民送水,居民要從救火車接水,就是說居民和救火車之間有交互,有聯(lián)系。但救火車是“高速設(shè)備”,居民是“低速設(shè)備”,低速的居民跟不上高速的救火車,所以救火車被迫降低了放水速度以適應(yīng)居民。為了避免這種情況,在救火車和居民之間多了一層“蓄水池(也就是Cache)”,它一方面以100%的高效和救火車打交道,另一方面以10%的低效和居民打交道,這就解放了救火車,讓其以最高的效率運(yùn)行,而不被低速的居民拖后腿,于是救火車只需要在一個居民點(diǎn)停留10分鐘就可以了。所以說,蓄水池是“活雷鋒”,把高效留給別人,把低效留給自己。把10分鐘留給救火車,把100分鐘留給自己。
從以上例子可以看出,所謂Cache,就是“為了彌補(bǔ)高速設(shè)備和低速設(shè)備之間的矛盾”而設(shè)立的一個中間層。因?yàn)樵诂F(xiàn)實(shí)里經(jīng)常出現(xiàn)高速設(shè)備要和低速設(shè)備打交道,結(jié)果被低速設(shè)備拖后腿的情況。以PC為例。CPU速度很快,但CPU執(zhí)行的指令是從內(nèi)存取出的,計(jì)算的結(jié)果也要寫回內(nèi)存,但內(nèi)存的響應(yīng)速度跟不上CPU。CPU跟內(nèi)存說:你把某某地址的指令發(fā)給我。內(nèi)存聽到了,但因?yàn)樗俣嚷?#xff0c;遲遲不見指令返回,這段時間,CPU只能無所事事的等待了。這樣一來,再快的CPU也發(fā)揮不了效率。怎么辦呢?在CPU和內(nèi)存之間加一塊“蓄水池”,也就是Cache(片上緩存),這個Cache速度比內(nèi)存快,從Cache取指令不需要等待。當(dāng)CPU要讀內(nèi)存的指令的時候先讀Cache再讀內(nèi)存,但一開始Cache是空著的,只能從內(nèi)存取,這時候的確是很慢,CPU需要等待。但從內(nèi)存取回的不僅僅是CPU所需要的指令,還有其它的、當(dāng)前不需要的指令,然后把這些指令存在Cache里備用。CPU再取指令的時候還是先讀Cache,看看里面有沒有所需指令,如果碰巧有就直接從Cache取,不用等待即可返回(命中),這就解放了CPU,提高了效率。(當(dāng)然不會是100%命中,因?yàn)镃ache的容量比內(nèi)存小)。
CPU的Cache,可以有好幾層,而且還分?jǐn)?shù)據(jù)Cache和指令Cache磁盤緩存也是一樣,剛才說內(nèi)存是慢速設(shè)備,所以需要片上緩存,但這個“慢”是相對于CPU而言的,相對于機(jī)械硬盤HDD,內(nèi)存的速度可快多了。對于磁盤的讀寫操作,在很久以前,讀寫過程需要CPU參與,后來出現(xiàn)了“DMA/直接內(nèi)存訪問"就不再需要CPU了,但即使如此,高負(fù)荷、長時間的磁盤讀寫也非常的耗時,因?yàn)榇疟P是機(jī)械旋轉(zhuǎn)部件,其讀寫速度相比CPU和內(nèi)存條的二進(jìn)制電壓變化速度,那就是蒸汽機(jī)和火箭速度的差別。為了加快數(shù)據(jù)的讀寫速度,在磁盤和內(nèi)存之間也插入一層Cache(Windows在內(nèi)存里劃分出一塊區(qū)域作為Cache,硬盤也有板載Cache。)寫入數(shù)據(jù)的時候先寫入到Cache里;因?yàn)镃ache很快,所以數(shù)據(jù)很快就寫入。比方說,1G的數(shù)據(jù),如果直接寫入硬盤需要10秒,但寫入Cache(也就是系統(tǒng)內(nèi)存)只需要1秒。這樣一來用戶就有了系統(tǒng)速度很快的“幻覺”。但這只是障眼法,數(shù)據(jù)暫存在Cache里并沒有被真正寫入磁盤,等系統(tǒng)空閑的時候再慢慢寫入。同理,在讀數(shù)據(jù)的時候,除了所需的數(shù)據(jù),還有一堆目前不需要的數(shù)據(jù)也都被讀出來放到內(nèi)存的Cache里。下次再讀的時候,如果恰巧Cache里有所需的數(shù)據(jù)就可直接讀入(命中),這就避免了從慢速的HDD讀數(shù)據(jù)的尷尬。用戶的體驗(yàn)同樣也是速度很快。(同樣不會100%命中,因?yàn)镽AM的容量遠(yuǎn)小于硬盤容量)PC有16G的內(nèi)存,磁盤Cahce占用了3.59G,這是動態(tài)的,會自動調(diào)整大小硬盤也內(nèi)置了Cache。
某品牌硬盤的廣告強(qiáng)調(diào)了大緩存的優(yōu)勢,以上舉了3個栗子:蓄水池、CPU的Cache、磁盤的Cache,Cache的存在是為了解決什么問題?速度太慢了,要加快速度!
buffer例子
比如說吐魯番的葡萄熟了,要用大卡車裝葡萄運(yùn)出去賣果園的姑娘采摘葡萄,當(dāng)然不是前手把葡萄摘下來,后手就放到卡車上,而是需要一個中間過程“籮筐”:摘葡萄→放到籮筐里→把籮筐里的葡萄倒入卡車。也就是說,雖然最終目的是“把葡萄倒入卡車”,但中間必須要經(jīng)過“籮筐”的轉(zhuǎn)手,這里的籮筐就是Buffer。是“暫時存放物品的空間”。注意2個關(guān)鍵詞:暫時,空間再換句話說,為了完成最終目標(biāo):把葡萄放入卡車的空間,需要暫時把葡萄放入籮筐的空間。
以BT為例,BT下載需要長時間的掛機(jī),電腦就有可能24小時連軸轉(zhuǎn),但BT下載的數(shù)據(jù)是碎片化的,體現(xiàn)在硬盤寫入上也是碎片化的,因?yàn)橛脖P是機(jī)械尋址器件,這種碎片化的寫入會造成硬盤長時間高負(fù)荷的機(jī)械運(yùn)動,造成硬盤過早老化損壞,當(dāng)年有大量的硬盤因?yàn)锽T下載而損壞。于是新出的BT軟件在內(nèi)存里開辟了Buffer,數(shù)據(jù)暫時寫入Buffer,攢到一定的大小(比如512M)再一次性寫入硬盤,這種“化零為整”的寫入方式大大降低了硬盤的負(fù)荷。這就是:為了完成最終目標(biāo):把數(shù)據(jù)寫入硬盤空間,需要暫時寫入Buffer的空間。再以編程為例,假設(shè)要實(shí)現(xiàn)一個功能:接受用戶鍵入的字符串,并賦值給一個字符串變量其過程如下:1:在內(nèi)存中開辟一個”鍵盤緩沖區(qū)“接受用戶鍵入的字符串2:把緩沖區(qū)中的字符串copy到程序中定義的字符串變量指向的內(nèi)存空間(也就是賦值過程)也就是說,為了完成最終目標(biāo):把字符串放入字符串變量指向的空間,需要暫時把字符串放入“鍵盤緩沖區(qū)”的空間。以上舉的3個栗子:籮筐、BT的Buffer,鍵盤緩沖區(qū)的BufferBuffer的存在是為了解決什么問題?找個臨時的存儲空間!
總結(jié):
Cache和Buffer的相同點(diǎn):都是2個層面之間的中間層,都是內(nèi)存。
Cache和Buffer的不同點(diǎn):Cache解決的是時間問題,Buffer解決的是空間問題。
為了提高速度,引入了Cache這個中間層。
為了給信息找到一個暫存空間,引入了Buffer這個中間層。
為了解決2個不同維度的問題(時間、空間),恰巧取了同一種解決方法:加入一個中間層,先把數(shù)據(jù)寫到中間層上,然后再寫入目標(biāo)。
這個中間層就是內(nèi)存“RAM”,既然是存儲器就有2個參數(shù):寫入的速度有多塊(速度),能裝多少東西(容量)
Cache利用的是RAM提供的高讀寫速度,Buffer利用的是RAM提供的存儲容量(空間)。
轉(zhuǎn)載于:https://www.cnblogs.com/guanghe/p/10299116.html
與50位技術(shù)專家面對面20年技術(shù)見證,附贈技術(shù)全景圖總結(jié)
以上是生活随笔為你收集整理的cache与buffer的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 5-Error:failed to fi
- 下一篇: 是Dubbo不香了吗?阿里为啥又搞一套S