TempDB2SparkJob.sh
2016-12-15 10:08:16 0 举报
TempDB2SparkJob.sh是一个用于将临时数据库(TempDB)中的数据转换为Spark作业的脚本。该脚本通过执行一系列命令和操作,将TempDB中的数据提取、转换和加载到Spark作业中进行分析和处理。它提供了一种方便的方式来利用Spark的强大功能对TempDB中的数据进行更深入的分析和挖掘。TempDB2SparkJob.sh可以帮助用户快速实现数据的转换和处理,提高工作效率和数据处理能力。
作者其他创作
大纲/内容
判断本计算对象是否需要skip
End
(如果运行失败则退出程序)
初始化操作1、source env.sh(加载环境信息)2、source func.sh(加载需要用到的函数)3、source TempDB2SparkJob.conf(如果这个配置文件不存在,则退出程序。配置文件指定了需要从dmpsrc导数进dmpv3的表,并且指定了哪些表需要生成offset)4、定义变量,用于保存TempDB2SparkJob.sh的入参信息
TempDB2SparkJob.sh
Not Stop
Skip
Not Skip
Stop
遍历TempDB2SparkJob.conf,把里面的配置信息作为入参,循环调用TempDB2SparkSubJob.sh
判断本计算对象是否需要stop
0 条评论
下一页