Hadoop 07_MapReduce运行的三种方式
Mapreduce運行3種方式
本地方式運行:
pc環境
1.1、將 Hadoop安裝本地解壓
1.2、配置 Hadoop的環境變量
添加%HADOOP_HOME%
修改%PATH%添加%HADOOP_HOME%/bin;%HADOOP_HOME%/sbin
3、在解壓的 Hadoop的bin目錄下添加 winutils.exe工具
Java工程
2.1、jdk一定要使用自己的jdk、不要使用 eclipse自帶
2.2、根目錄(src目錄下),不要添加任何 Mapreduce的配置文件hdfs-site.xml yarn-site.xml core-site.xml mapred-site.xml
2.3、在代碼當中,通過conf.set方式來進行指定。conf set("fs.defaults","hdfs://nodel:8020");
2.4、修改 Hadoop源碼
3、右鍵run執行
集群運行兩種方式
Java工程
1、根目錄(Src目錄下),添加 Hadoop的配置文件hdfs-site.xm1 yarn-Site.xm1 core-site.xm1 mapped-site.xm1
2、在代碼當中,指定jar包的位置, config.set(" mapped.jar","D:\\WR\wc.jar");
3、修改 Hadoop源碼
4、將工程打jar包
5、右鍵run執行
Java工程
根目錄(src目錄下),添加 Hadoop的配置文件hdfs-site.xm1 yarn-Site.xm1 core-site.xm1 mapped-site.xm1
2、將工程打jar包
手動將jar包上傳到集群當中
4、通過 hadoop命令來運行。 hadoop jar jar位置mr代碼入口(例如: hadoop jar/usr/wc.Jar com.sxt.mr.Wcjob)
在代碼當中指定 Hbase所使用的 Zookeeper集群
(注意:如果 hbase搭建的是仍分布式,那么對應的 Zookeeper就是那臺偽分布式的服務器
conf.set("hbase.zookeeper.quorum","nodel, node 2, node3")
System.setproperty("HADOOP_USER_NAME,"root");
?
總結
以上是生活随笔為你收集整理的Hadoop 07_MapReduce运行的三种方式的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Hbase 02_伪分布式、完全分布式
- 下一篇: 磁盘和内存