大数据技术分层
2016-09-27 13:49:13 0 举报
大数据技术分为基础层、处理层和应用层。基础层包括数据源、数据存储和数据传输,其中涉及的技术有数据库、分布式文件系统等;处理层主要负责数据的清洗、转换、聚合和挖掘等操作,涉及的技术有Hadoop、Spark、Flink等;应用层则将处理后的数据用于实际业务场景中,例如推荐系统、风控模型等。大数据技术的分层架构使得数据处理过程更加高效和可扩展,同时也提高了数据的可靠性和安全性。随着人工智能和物联网的发展,大数据技术将继续发挥重要作用,为各行各业带来更多的机遇和挑战。
作者其他创作
大纲/内容
BATCH
ElasticSearch,Solr
TDC的值:1.9.0.72-37.30d
追踪短链生成
HDFS
计算&服务
HBase
AWSDynamoDB服务
追踪码注入cookie业务请求携带上报
RELATIONAL
NOSQL
注册登录
TrackActivityService 创建投放推广追踪活动
1、创建投放活动(渠道id, 投放活动名称,目的页链接,自定义参数):返回投放短链接、追踪码2、获取投放活动信息(追踪码):返回投放活动信息,渠道id, 投放活动名称,目的页链接,自定义参数
用户手机端
结算
UNSTRUCTURED
渠道追踪码TDC
FILESTSTEM
站内站外短链投放
Arrow
Hive,SparkSqlImpala,Presto
STRUCTURED
Kudu
站内资源位短链投放
领券
ETL
下单
用户注册来源追踪
SEARCH
加购
位置追踪码TPC
用户请求消息
活动投放
SparkStream,Storm
Kafka
业务系统消息推送
支付
Sqoop
STREAM
DSP广告系统
MEMORY
MongoDB
存储层
加购下单来源追踪
活动落地页
Flume,DataX
消息中心
TPC的值:1.2.12.2
SQL ON
CHANNEL
Spark,MapReduce
领券来源追踪
ChannelService 渠道管理服务
1、创建渠道(渠道名称,渠道code):返回渠道id2、更新渠道(渠道id, 渠道名称,渠道code)3、获取渠道列表:返回渠道列表
0 条评论
下一页