特点
1) Flume提供一个分布式的,可靠的,对大数据量的日志进行高效收集、聚集、移动的服务,Flume只能在Unix环境下运行
2)Flume基于流式架构,容错性强,也很灵活简单
3)Flume、Kafka用来实时进行数据收集,Spark、Flink用来实时处理数据,impala用来实时查询。
flume流式处理
Source常见类型:spooling directory,exec,syslog,avro,netcat
Put事务流程
Doput:将批量数据写入临时缓冲区putlist
Docommit:检查channel内存队列是否足够合并
DoRollback:channel内存队列空间不足,回滚数据
channel
Memory Channel
File Channel
Take事务
Dotake:先将数据取到临时缓冲区takelist
Docommit:如果数据全部发送成功,则清除临时缓冲区takelist
dorollBack:数据发送过程中如果出现异常,rollBack将临时缓冲区takelist中的书据归还给channel内存队列.
Sink源