flink on yarn 任务提交流程
2022-07-27 14:53:32   0  举报             
     
         
 flink on yarn 任务提交处理流程
    作者其他创作
 大纲/内容
 flink  yarn per job  任务提交流程
  获取用户指定的入口类,并通过反射启动执行
  创建与yarn交互 的YarnClientApplication
    调用过程ClusterEntrypoint.runClusterEntrypoint()-->clusterEntrypoint.startCluster()-->startCluster()-->runCluster()
  构造ApplicationSubmissionContext
  通过SPI及启动方式(yarn-per-job)获取执行器的实现类对象-YarnJobClusterExecutor
  flink run
  创建YarnClusterDescriptor 执行deployJobCluster,开始部署yarn per-job cluster
  通过yarnclient 提交 application master 启动了applicaitonMaster(yarnClient.submitApplication(appContext))
  构造ContainerLaunchContext
  执行用户类的里的StreamExecutionEnvironment.execute方法
  获取PipelineExecutorFactory的实现类,执行StreamGraph
  applicaiton Master拉起jobmanager,入口类为YarnJobClusterEntrypoint
  入口类CliFrontend 
  获取配置信息(flink-conf.yamlspan style=\"font-size: inherit;\
  生成StreamGraph
     收藏 
     
 
 
 
 
  0 条评论
 下一页
 为你推荐
 查看更多