Federation 简介
?
HDFS的局限性(HDFS只有一個active的namenode):
1. 在name中存儲所有的元數據(metadata),因此單個namenode所能存儲的對象(塊+文件)數據受到namenode所在JVM的heap size的限制。
2. 整個HDFS文件系統的吞吐量受限于單個namenode的吞吐量
3. 無法隔離namespace
?
Federation HDFS 與 HDFS的區別
HDFS只有一個name space, 它使用全部的塊。 而Federation HDFS 中有多個獨立的namespace,每個命名空間使用一個block Pool
Bolck Pool : 維護單個命名空間的所有block。Data node是一個物理概念,而block pool是一個重新將block劃分的邏輯概念。同一個DataNode可以存儲 著屬于多個blocknode的多個塊。block允許一個命名空間在不通知其它命名空間的情況下為一個新的block創建blockID。同時,一個namenode失效不會影響旗下的DataNode為其它namenode服務。
?
Federation HDFS 架構圖
?
?
?Federation HDFS HA架構圖
?其中 NN1 NN3 屬于同一個namenode, NN2 NN4 屬于同一個namenode
?
?
參考:
http://www.jikexueyuan.com/course/2570.html
總結
以上是生活随笔為你收集整理的Federation 简介的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Java线程问题问答
- 下一篇: Java 死锁