内存中数据模型和大数据持久性
ORM框架在希望與關(guān)系數(shù)據(jù)庫進行交互時可以幫助開發(fā)人員。 對于關(guān)系數(shù)據(jù)庫,有許多出色的ORM框架,例如Hibernate和Apache OpenJPA,其中一些確實很棒。
如今,大數(shù)據(jù)正在涌現(xiàn),越來越多的人開發(fā)在大數(shù)據(jù)上運行的應(yīng)用程序。 已經(jīng)開發(fā)了各種NoSQL數(shù)據(jù)庫來存儲這種大小的數(shù)據(jù),即列存儲和文檔存儲。
盡管ORM框架解決了許多問題(即使它們有缺點),并且在關(guān)系數(shù)據(jù)庫方面如此普遍,但由于NoSQL數(shù)據(jù)庫沒有通用標準,因此NoSQL數(shù)據(jù)庫的情況有所不同。
Apache Gora旨在通過特定于數(shù)據(jù)存儲的映射為用戶提供易于使用的內(nèi)存數(shù)據(jù)模型和大數(shù)據(jù)框架的持久性。 Apache Gora的總體目標是成為大數(shù)據(jù)的標準數(shù)據(jù)表示和持久性框架。
Gora支持持久存儲到列存儲,鍵值存儲,文檔存儲和RDBMS,并通過廣泛的Apache Hadoop MapReduce支持來分析數(shù)據(jù)。
Gora使用Apache Avro,并且依賴于特定于每個數(shù)據(jù)存儲的映射文件。 與其他OTD(對象到數(shù)據(jù)存儲)映射實現(xiàn)不同,在Gora中,數(shù)據(jù)Bean到數(shù)據(jù)存儲特定的架構(gòu)映射是顯式的。 這樣做的好處是,在使用HBase和Cassandra等數(shù)據(jù)模型時,您始終可以知道這些值是如何持久保存的。
Apache Gora的路線圖
- 數(shù)據(jù)持久性:將對象持久化到列存儲,例如HBase,Cassandra,Hypertable; 鍵值存儲,例如Voldermort,Redis等; SQL數(shù)據(jù)庫,例如MySQL,HSQLDB,本地文件系統(tǒng)或Hadoop HDFS中的平面文件。
- 數(shù)據(jù)訪問:易于使用的Java友好通用API,用于訪問數(shù)據(jù),而不管其位置如何。
- 索引:將對象持久化為Lucene和Solr索引,使用Gora API訪問/查詢數(shù)據(jù)。
- 分析:通過Apache Pig,Apache Hive和Cascading的適配器訪問數(shù)據(jù)并進行分析
- MapReduce支持:現(xiàn)成的和廣泛的MapReduce(Apache Hadoop)支持數(shù)據(jù)存儲中的數(shù)據(jù)。
Apache Gora和當(dāng)前解決方案之間有什么區(qū)別?
- Gora特別關(guān)注NoSQL數(shù)據(jù)存儲,但對SQL數(shù)據(jù)庫的支持有限。
- Gora的主要用例是使用Hadoop訪問/分析大數(shù)據(jù)。
- Gora使用Avro進行bean定義,而不是字節(jié)碼增強或注釋。
- 對象到數(shù)據(jù)存儲的映射是特定于后端的,因此可以使用完整的數(shù)據(jù)模型。
- Gora很簡單,因為它忽略了復(fù)雜的SQL映射。
- Gora將使用Pig,Lucene,Hive等支持數(shù)據(jù)的持久性,索引和分析。
Apache Gora支持的數(shù)據(jù)存儲
- Apache Accumulo
- 阿帕奇·卡桑德拉(Apache Cassandra)
- 亞馬遜DynamoDB
- Apache HBase
- 阿帕奇·索爾(Apache Solr)
- MongoDB
Apache Spark是大數(shù)據(jù)開發(fā)人員的一個光輝的項目。 Spark提供了更快,更通用的數(shù)據(jù)處理平臺。 與Hadoop相比,Spark使您在內(nèi)存上運行程序的速度提高了100倍,在磁盤上運行的速度提高了10倍。 目前Gora不支持Spark,在我的GSoC期間,我正在為Apache Gora實施Spark后端以填補這一空白。
資源資源
翻譯自: https://www.javacodegeeks.com/2015/08/in-memory-data-model-and-persistence-for-big-data.html
總結(jié)
以上是生活随笔為你收集整理的内存中数据模型和大数据持久性的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 事业单位岗位设置管理办法(事业单位岗位设
- 下一篇: 最适合出门拍照的季节即将到来,如何拍好秋