2019獨(dú)角獸企業(yè)重金招聘Python工程師標(biāo)準(zhǔn)>>>

1、環(huán)境，3臺(tái)CentOS7，64位，Hadoop2.7需要64位Linux，CentOS7 Minimal的ISO文件只有600M，操作系統(tǒng)十幾分鐘就可以安裝完成，
Master 192.168.0.182
Slave1 192.168.0.183
Slave2 192.168.0.184


2、SSH免密碼登錄，因?yàn)镠adoop需要通過(guò)SSH登錄到各個(gè)節(jié)點(diǎn)進(jìn)行操作，我用的是root用戶，每臺(tái)服務(wù)器都生成公鑰，再合并到authorized_keys
(1)CentOS默認(rèn)沒(méi)有啟動(dòng)ssh無(wú)密登錄，去掉/etc/ssh/sshd_config其中2行的注釋，每臺(tái)服務(wù)器都要設(shè)置，
#RSAAuthentication yes
#PubkeyAuthentication yes
(2)輸入命令，ssh-keygen -t rsa，生成key，都不輸入密碼，一直回車(chē)，/root就會(huì)生成.ssh文件夾，每臺(tái)服務(wù)器都要設(shè)置，
(3)合并公鑰到authorized_keys文件，在Master服務(wù)器，進(jìn)入/root/.ssh目錄，通過(guò)SSH命令合并，
cat id_rsa.pub>> authorized_keys
ssh root@192.168.0.183 cat ~/.ssh/id_rsa.pub>> authorized_keys
ssh root@192.168.0.184 cat ~/.ssh/id_rsa.pub>> authorized_keys
(4)把Master服務(wù)器的authorized_keys、known_hosts復(fù)制到Slave服務(wù)器的/root/.ssh目錄
(5)完成，ssh root@192.168.0.183、ssh root@192.168.0.184就不需要輸入密碼了


3、安裝JDK，Hadoop2.7需要JDK7，由于我的CentOS是最小化安裝，所以沒(méi)有OpenJDK，直接解壓下載的JDK并配置變量即可
(1)下載“jdk-7u79-linux-x64.gz”，放到/home/java目錄下
(2)解壓，輸入命令，tar -zxvf jdk-7u79-linux-x64.gz
(3)編輯/etc/profile
export JAVA_HOME=/home/java/jdk1.7.0_79
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin?
(4)使配置生效，輸入命令，source /etc/profile
(5)輸入命令，java -version，完成


4、安裝Hadoop2.7，只在Master服務(wù)器解壓，再?gòu)?fù)制到Slave服務(wù)器
(1)下載“hadoop-2.7.0.tar.gz”，放到/home/hadoop目錄下
(2)解壓，輸入命令，tar -xzvf hadoop-2.7.0.tar.gz
(3)在/home/hadoop目錄下創(chuàng)建數(shù)據(jù)存放的文件夾，tmp、hdfs、hdfs/data、hdfs/name


5、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的core-site.xml
<configuration>
? ??<property>
? ??? ??<name>fs.defaultFS</name>
? ??? ??<value>hdfs://192.168.0.182:9000</value>
? ??</property>
? ??<property>
? ??? ??<name>hadoop.tmp.dir</name>
? ??? ??<value>file:/home/hadoop/tmp</value>
? ??</property>
? ??<property>
? ? ? ? <name>io.file.buffer.size</name>
? ? ? ? <value>131702</value>
? ? </property>
</configuration>


6、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的hdfs-site.xml
<configuration>
? ??<property>
? ??? ??<name>dfs.namenode.name.dir</name>
? ??? ??<value>file:/home/hadoop/dfs/name</value>
? ??</property>
? ??<property>
? ??? ??<name>dfs.datanode.data.dir</name>
? ??? ??<value>file:/home/hadoop/dfs/data</value>
? ??</property>
? ??<property>
? ??? ??<name>dfs.replication</name>
? ??? ??<value>2</value>
? ??</property>
? ? <property>
? ? ? ? <name>dfs.namenode.secondary.http-address</name>
? ? ? ? <value>192.168.0.182:9001</value>
? ? </property>
? ??<property>
? ??<name>dfs.webhdfs.enabled</name>
? ??<value>true</value>
? ??</property>
</configuration>


7、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml
<configuration>
? ? <property>
? ? ? ? <name>mapreduce.framework.name</name>
? ? ? ? <value>yarn</value>
? ? </property>
? ? <property>
? ? ? ? <name>mapreduce.jobhistory.address</name>
? ? ? ? <value>192.168.0.182:10020</value>
? ? </property>
? ? <property>
? ? ? ? <name>mapreduce.jobhistory.webapp.address</name>
? ? ? ? <value>192.168.0.182:19888</value>
? ? </property>
</configuration>


8、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml
<configuration>
? ? <property>
? ? ? ? <name>yarn.nodemanager.aux-services</name>
? ? ? ? <value>mapreduce_shuffle</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>
? ? ? ? <value>org.apache.hadoop.mapred.ShuffleHandler</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.address</name>
? ? ? ? <value>192.168.0.182:8032</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.scheduler.address</name>
? ? ? ? <value>192.168.0.182:8030</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.resource-tracker.address</name>
? ? ? ? <value>192.168.0.182:8031</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.admin.address</name>
? ? ? ? <value>192.168.0.182:8033</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.webapp.address</name>
? ? ? ? <value>192.168.0.182:8088</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.nodemanager.resource.memory-mb</name>
? ? ? ? <value>768</value>
? ? </property>
</configuration>


9、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下hadoop-env.sh、yarn-env.sh的JAVA_HOME，不設(shè)置的話，啟動(dòng)不了，
export JAVA_HOME=/home/java/jdk1.7.0_79




10、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的slaves，刪除默認(rèn)的localhost，增加2個(gè)從節(jié)點(diǎn)，
192.168.0.183
192.168.0.184


11、將配置好的Hadoop復(fù)制到各個(gè)節(jié)點(diǎn)對(duì)應(yīng)位置上，通過(guò)scp傳送，
scp -r /home/hadoop 192.168.0.183:/home/
scp -r /home/hadoop 192.168.0.184:/home/


12、在Master服務(wù)器啟動(dòng)hadoop，從節(jié)點(diǎn)會(huì)自動(dòng)啟動(dòng)，進(jìn)入/home/hadoop/hadoop-2.7.0目錄
(1)初始化，輸入命令，bin/hdfs namenode -format
(2)全部啟動(dòng)sbin/start-all.sh，也可以分開(kāi)sbin/start-dfs.sh、sbin/start-yarn.sh
(3)停止的話，輸入命令，sbin/stop-all.sh
(4)輸入命令，jps，可以看到相關(guān)信息


13、Web訪問(wèn)，要先開(kāi)放端口或者直接關(guān)閉防火墻
(1)輸入命令，systemctl stop firewalld.service
(2)瀏覽器打開(kāi)http://192.168.0.182:8088/
(3)瀏覽器打開(kāi)http://192.168.0.182:50070/


14、安裝完成。這只是大數(shù)據(jù)應(yīng)用的開(kāi)始，之后的工作就是，結(jié)合自己的情況，編寫(xiě)程序調(diào)用Hadoop的接口，發(fā)揮hdfs、mapreduce的作用。

轉(zhuǎn)載于:https://my.oschina.net/lizhiling/blog/472814

總結(jié)

以上是生活随笔為你收集整理的CentOS7安装Hadoop2.7完整流程的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。