在Eclipse中打开Hadoop工程
1. 安裝虛擬機,我用的是VMware Workstation 12 Player
2. 在VM中安裝Ubuntu,我用的鏡像文件是ubuntu-15.10-desktop-amd64.iso
3. 安裝java,sudo apt-get install openjdk-7-jdk
4. 安裝Eclipse,去Eclipse官網(wǎng)http://www.eclipse.org/downloads,下載Eclipse安裝器,運行后選擇安裝Eclipse IDE for Java Developers
5. 安裝git與maven,sudo apt-get install git maven
?
?
后面的部分是參考Apache官網(wǎng)的wiki來完成的:http://wiki.apache.org/hadoop/EclipseEnvironment
6. 用git下載Hadoop源碼,git clone git://git.apache.org/hadoop-common.git
7. cd進入git下載的hadoop-common文件夾內(nèi),然后輸入命令:mvn install -DskipTests
這一步可能會報錯 ?cannot run program protoc 之類的
原因是系統(tǒng)沒有安裝google的protobuf
有一點需要注意的是,當(dāng)前版本的Hadoop(2.6.4)是依賴于protobuf 2.5.0,而使用apt-get install 安裝的protobuf高于這個版本,所以我們需要手動安裝2.5.0版本的protobuf
而由于墻的緣故,我們只好使用別人分享的源碼了,下載鏈接是:http://pan.baidu.com/s/1pJlZubT
安裝方法參考http://blog.csdn.net/realxie/article/details/7456013
輸入protoc --version命令,如顯示libprotoc 2.5.0則安裝成功
8. 繼續(xù)輸入命令:mvn eclipse:eclipse -DdownloadSources=true -DdownloadJavadocs=true
9. 在Eclipse中導(dǎo)入工程
ps
1. 7/8兩步由于需要聯(lián)網(wǎng)下載依賴項與文檔,會耗費相當(dāng)長的時間
2. vim上下左右變abcd的解決方案見http://blog.csdn.net/yf210yf/article/details/6700308
?
?
在導(dǎo)入hadoop-common, hadoop-hdfs, hadoop-mapreduce項目之后,編譯器報了數(shù)百個錯,大概分類如下
1.?access restriction
參考http://blog.csdn.net/ustcxjt/article/details/7438614
修改Eclipse的報警等級即可
然后剩下一百一十多個錯誤
2.?avrorecord cannot be resolved to a type
?需要下載Apache的avro-tools包,我使用的版本為1.7.7,下載地址為:http://mirrors.hust.edu.cn/apache/avro/avro-1.7.7/java/avro-tools-1.7.7.jar
?將下載好的jar包放到hadoop的源碼路徑,對于我來說就是/home/cc/git/hadoop-common/
然后執(zhí)行以下命令
cd /home/cc/git/hadoop-common/hadoop-common-project/hadoop-common/src/test/avro
java -jar /home/cc/git/hadoop-common/avro-tools-1.7.7.jar compile schema avroRecord.avsc ../java
刷新項目后還剩108個錯誤
3.?echorequestproto cannot be resolved
首先需要安裝好google的protobuf
然后執(zhí)行以下命令
cd /home/cc/git/hadoop-common/hadoop-common-project/hadoop-common/src/test/proto
protoc --java_out=../java *.proto
刷新項目后還剩55個錯誤
4. yarn-xxx項目未導(dǎo)入
將hadoop-common中的hadoop-yarn-project項目全部導(dǎo)入Eclipse中
刷新項目,0 Error
轉(zhuǎn)載于:https://www.cnblogs.com/stevenczp/p/5212712.html
總結(jié)
以上是生活随笔為你收集整理的在Eclipse中打开Hadoop工程的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 内部使用final参数的原因
- 下一篇: 22.网络提速(最短路)