Flink架构分析之Standalone模式启动流程
概述
FLIP6 对Flink架构进行了改进,引入了Dispatcher
组件集成了所有任务共享的一些组件:SubmittedJobGraphStore
,LibraryCacheManager
等,为了保证高可用,存在多个Dispatcher
进行Master选举,同时Dispatcher
必须把JobGraphs
和提交job的相关jar包存储到持久化仓库中,保证failover后能恢复已经运行的任务。
本文基于flink1.7.2
进行分析,解析standalone模式的启动流程与架构,首先下载该版本的源代码发行包:flink-1.7.2-src 解压并编译
cd flink-1.7.2
mvn clean install -DskipTests
cd flink-dist
mvn clean install
Jobmanager
cd target/flink-1.7.2-bin/flink-1.7.2/bin
cat start-cluster.sh
这个脚本非常清晰,先启动jobmanager
然后启动taskmanager
。在此我们只关注启动jobmanager
部分,jobmanager的启动与HA配置有关,如果没有配置HA模式,那么仅仅是调用jobmanager.sh脚本在本机启动一个进程。
如果配置了HA模式,那么又会依据conf/master
文件的配置,如果所有的host配置都是localhost
或者127.0.0.1
则在本机启动多个jobmanager
进程,即伪分布式模式。否则就ssh到不同的host节点上启动jobmanager
进程。启动jobmanager
均是调用jobmanager.sh
脚本,接下来我们分析一下此脚本。
cat jobmanager.sh
此脚本会根据flink配置文件conf/flink-conf.yaml
中的配置设置jvm启动参数。并且把ENTRYPOINT
变量设置为standalonesession
然后调用flink-daemon.sh
脚本。
cat flink-daemon.sh
这个脚本把调用CLass类变量设置为org.apache.flink.container.entrypoint.StandaloneJobClusterEntryPoint
,然后执行以下命令在后台启动jobmanager
$JAVA_RUN $JVM_ARGS ${FLINK_ENV_JAVA_OPTS} "${log_setting[@]}" -classpath "`manglePathList "$FLINK_TM_CLASSPATH:$INTERNAL_HADOOP_CLASSPATHS"`" ${CLASS_TO_RUN} "${ARGS[@]}" > "$out" 200<&- 2>&1 < /dev/null &
所以,新架构中org.apache.flink.container.entrypoint.StandaloneJobClusterEntryPoint
代替了原来的org.apache.flink.runtime.jobmanager.JobManager
作为新的入口类,我们由此入手分析改进后的Standalone模式的架构:
新架构中,对session cluster
和single job cluster
这两种运行模式进行了代码重构,层次结构更加清晰:
ClusterEntrypoint
:作为所有集群入口类的抽象父类,实现了通用的业务逻辑,并提供了createSerializableExecutionGraphStore
和createDispatcherResourceManagerComponentFactory
两个抽象方法供子类实现。SessionClusterEntrypoint
:作为session cluster
集群的直接父类,实现了ClusterEntrypoint
的createSerializableExecutionGraphStore
方法,采用FileArchivedExecutionGraphStore
存储执行完成的任务。JobClusterEntrypoint
:作为single job cluster
集群的直接父类,实现了ClusterEntrypoint
的createSerializableExecutionGraphStore
方法,采用MemoryArchivedExecutionGraphStore
存储执行完成的任务。standalone
,yarn
,mesos
分别继承SessionClusterEntrypoint
和JobClusterEntrypoint
并重写了createDispatcherResourceManagerComponentFactory
方法实现了session cluster
和single job cluster
集群入口类。
DispatcherResourceManagerComponent
为了使结果更加清晰,更易于管理。新架构中用DispatcherResourceManagerComponent
封装了Dispatcher
,ResourceManager
,WebMonitorEndpoint
三个重要的对象.以后我们单独详细分析这三个类的功能。
Taskmanager
start-cluster.sh
脚本的最后一行是调用TMSlaves start
启动Taskmanager
,TMSlaves
是定义在bin/config.sh
中的函数:
调用taskmanager.sh
脚本:
ENTRYPOINT=taskexecutor
"${FLINK_BIN_DIR}"/flink-daemon.sh $STARTSTOP $ENTRYPOINT "${ARGS[@]}"
最终调用了bin/flink-daemon.sh
,并把启动入口类设置为org.apache.flink.runtime.taskexecutor.TaskManagerRunner
:
TaskManagerRunner
包装了TaskExecutor
类,TaskExecutor
是真正管理和执行Task
的类。以后我们会单独分析。
Flink架构分析之Standalone模式启动流程的更多相关文章
- Flink 源码解析 —— Standalone session 模式启动流程
Standalone session 模式启动流程 https://t.zsxq.com/EemAEIi 博客 1.Flink 从0到1学习 -- Apache Flink 介绍 2.Flink 从0 ...
- flink安装及standalone模式启动、idea中项目开发
安装 环境 Ubuntu 18 jdk8 flink-1.8.1 安装步骤 安装jdk(略) 下载flink-1.8.1-bin-scala_2.12.tgz,解压到指定目录 wget http:// ...
- 深入理解 JBoss 7/WildFly Standalone 模式启动过程
概述 JBoss 7/WildFly Standalone 模式启动过程大致例如以下: 启动脚本 standalone.sh 启动 JBoss Modules,JBoss Modules 启动 JBo ...
- Flink on Yarn模式启动流程分析
此文已由作者岳猛授权网易云社区发布. 欢迎访问网易云社区,了解更多网易技术产品运营经验. Flink On Yarn 架构 Paste_Image.png 前提条件首先需要配置YARN_CONF_DI ...
- Flink on Yarn模式启动流程源代码分析
此文已由作者岳猛授权网易云社区发布. 欢迎访问网易云社区,了解更多网易技术产品运营经验. Flink on yarn的启动流程可以参见前面的文章 Flink on Yarn启动流程,下面主要是从源码角 ...
- Spark环境搭建(七)-----------spark的Local和standalone模式启动
spark的启动方式有两种,一种单机模式(Local),另一种是多机器的集群模式(Standalone) Standalone 搭建: 准备:hadoop001,hadoop002两台安装spark的 ...
- springBoot高级:自动配置分析,事件监听,启动流程分析,监控,部署
知识点梳理 课堂讲义 02-SpringBoot自动配置-@Conditional使用 Condition是Spring4.0后引入的条件化配置接口,通过实现Condition接口可以完成有条件的加载 ...
- Flink 1.3.2 Standalone模式安装
一.依赖文件安装 1.1 JDK 参见博文:http://www.cnblogs.com/liugh/p/6623530.html 二.文件准备 2.1 文件名称 flink-1.3.2-bin-ha ...
- Flink架构分析之资源分配
Task Slot Flink中每个真正执行任务的TaskManager都是一个JVM进程,其在多线程环境中执行一个或者多个子任务.为了控制一个JVM同时能运行的任务数量,flink引入了ta ...
随机推荐
- IDEA使用心得整理
[演出模式] 我们可以使用[Presentation Mode],将IDEA弄到最大,可以让你只关注一个类里面的代码,进行毫无干扰的coding. 可以使用Alt+V快捷键,弹出View视图,然后选择 ...
- python第六课——判断结构
1.判断结构 格式三: ① if 条件表达式1: 语句块1 elif 条件表达式2: 语句块2 elif 条件表达式3: 语句块3 elif 条件表达式y: 语句块y else: 语句块z ② 执行流 ...
- 2251. [2010Beijing Wc]外星联络【后缀数组】
Description 小 P 在看过电影<超时空接触>(Contact)之后被深深的打动,决心致力于寻 找外星人的事业.于是,他每天晚上都爬在屋顶上试图用自己的收音机收听外星 人发来的信 ...
- shell基础--变量的数值计算
变量的数值计算 1.$((表达式)) (1).实验1 [root@~_~ day4]# cat test.sh #!/bin/bash a=6 b=2 echo "a-b=$(($a-$b) ...
- ZooKeeper学习之路 (九)利用ZooKeeper搭建Hadoop的HA集群
Hadoop HA 原理概述 为什么会有 hadoop HA 机制呢? HA:High Available,高可用 在Hadoop 2.0之前,在HDFS 集群中NameNode 存在单点故障 (SP ...
- Docker存储方式选型建议
转自:https://segmentfault.com/a/1190000007168476 第一部分 问题诊断 事情从一次实施项目说起,我们需要帮助客户将他们的应用容器化并在数人云平台上发布此应用. ...
- 初识Qt基于http协议网页浏览
1.新建一个Qt Gui应用,项目名称为http,基类选择为QMainWindow,类名设置为MainWindow. 2.在http.pro文件中的QT += core gui后添加\ networ ...
- jenkins持续集成python cases
1. 官网2.7jenkins.war下载 http://mirrors.jenkins.io/war-stable/2.73.2/jenkins.war jdk-x86 linux 32bit适用 ...
- P1736 创意吃鱼法
题目描述 回到家中的猫猫把三桶鱼全部转移到了她那长方形大池子中,然后开始思考:到底要以何种方法吃鱼呢(猫猫就是这么可爱,吃鱼也要想好吃法 ^_*).她发现,把大池子视为01矩阵(0表示对应位置无鱼,1 ...
- HDU 1251 统计难题(字典树入门模板题 很重要)
统计难题 Time Limit: 4000/2000 MS (Java/Others) Memory Limit: 131070/65535 K (Java/Others)Total Submi ...