Flume数据采集准备

时间:2024-01-05 12:26:32

Flume数据采集准备

flume的官网:http://flume.apache.org/

flume的下载地址:http://flume.apache.org/download.html

Flume数据采集准备

这里我们用的是apache版本的flume

Flume数据采集准备

Flume数据采集准备

Flume数据采集准备

Flume数据采集准备

解压

Flume数据采集准备

改下名字

Flume数据采集准备

把不必要的文件删除

Flume数据采集准备

Flume数据采集准备

flume用户指南官网地址:https://cwiki.apache.org//confluence/display/FLUME/Getting+Started

把节点1的flume分发到节点2 和节点3上去

Flume数据采集准备

Flume数据采集准备

通过noteap++连接到节点2上

Flume数据采集准备

修改下名字

Flume数据采集准备

修改配置文件

Flume数据采集准备

因为这个配置文件比较乱

Flume数据采集准备

我们直接把内容干掉然后自己重新配置

Flume数据采集准备

我们可以参考官网 http://flume.apache.org/FlumeUserGuide.html

Flume数据采集准备

Flume数据采集准备

画红线的地方是数据源的路径

Flume数据采集准备

Flume数据采集准备

Flume数据采集准备

下面配置channel

Flume数据采集准备

http://flume.apache.org/FlumeUserGuide.html#memory-channel

Flume数据采集准备

Flume数据采集准备

下面配置sink

Flume数据采集准备

http://flume.apache.org/FlumeUserGuide.html#avro-sink

Flume数据采集准备

Flume数据采集准备

这里为什么sink的hostname是配置到节点1 呢,因为我们这里节点2 和节点3是各自通过一个flume初步收集数据,节点1再通过一个flume来合并数据

Flume数据采集准备

为了方便我们看到配置文件知道是节点2,我们修改一下

Flume数据采集准备

把weblogs.log文件分发给节点3

Flume数据采集准备

因为节点3的flume没有配置,我们现在就直接用节点2的flume把节点3的覆盖掉了

Flume数据采集准备

这个是节点3的,现在看到的是保留了节点2的配置,因为刚刚从节点2复制过来的,现在我们需要修改一下

Flume数据采集准备

这个是修改后的

Flume数据采集准备