Flume学习笔记(一)安装与简单使用
生活随笔
收集整理的這篇文章主要介紹了
Flume学习笔记(一)安装与简单使用
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
本文環境如下:
操作系統:CentOS 7.2.1511 64位
Flume版本:1.6.0
1. 系統需求
Flume需要Java 1.6及以上(推薦1.7),對Agent監控目錄的讀寫權限。
2. 下載軟件包
到Flume官網上http://flume.apache.org/download.html下載軟件包,例如:
wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz" tar -xzvf apache-flume-1.6.0-bin.tar.gz mv flume-1.6.0 /opt3. 簡單示例
3.1 修改配置文件
vi /opt/flume-1.6.0/conf/flume.conf輸入以下內容
# 指定Agent的組件名稱 a1.sources = r1 a1.sinks = k1 a1.channels = c1# 指定Flume source(要監聽的路徑) a1.sources.r1.type = spooldir a1.sources.r1.spoolDir = /root/path# 指定Flume sink a1.sinks.k1.type = logger# 指定Flume channel a1.channels.c1.type = memory a1.channels.c1.capacity = 1000 a1.channels.c1.transactionCapacity = 100# 綁定source和sink到channel上 a1.sources.r1.channels = c1 a1.sinks.k1.channel = c13.2 啟動flume agent
cd /opt/flume-1.6.0 bin/flume-ng agent --conf conf --conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console| –conf 或 -c | 指定配置文件夾,包含flume-env.sh和log4j的配置文件 | –conf conf |
| –conf-file 或 -f | 配置文件地址 | –conf-file conf/flume.conf |
| –name 或 -n | agent名稱 | –name a1 |
| -z | zookeeper連接字符串 | -z zkhost:2181,zkhost1:2181 |
| -p | zookeeper中的存儲路徑前綴 | -p /flume |
3.3 寫入日志內容
vi 1.log寫入Hello Flume.作為測試內容。然后拷貝到flume監聽路徑。
cp 1.log /root/path/接著就可以在前一個終端看到剛剛采集的內容了,如下:
2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D Hello Flume. }至此flume已經能夠正常運行。
總結
以上是生活随笔為你收集整理的Flume学习笔记(一)安装与简单使用的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: java.util.Concurrent
- 下一篇: Flume学习笔记(二)问题整理