MLib(machine learning)
HIVE
dataload
IMPALA
spark
YARN
XDR数据写入hdfs,impala和hive都可查询
APP
数据分析层
Spark Streaming
加载机
数据存储层
热库
资源调度层
软总线
输出数据到clickhouse,供iaap进行快速查询
HDFS
HBASE
输出到impala,供iaap查询
Spark整合hive,读取XDR数据进行事后SDR生成
clickhouse
数据接入层
DIMS
Spark SQL
Spark on Yarn