Spark（1.6版本）系列：SparkStandalone部署之应用程序的两种部署方式（一）

1.4.2       应用程序的部署

和其他常见的分布式集群类似，Spark Standalone集群的部署也是采用典型的Master/Slave架构。其中，Master节点负责整个集群的资源管理与调度，Worker节点（也可以称Slave节点）在Master节点的调度下启动Executor，负责执行具体工作（包括应用程序以及应用程序提交的任务）。

从前面的分析中抽取出Spark Standalone模式部署的TaskScheduler与SchedulerBackend具体子类的实例构建信息，如表1-8所示：

表1-8 SparkStandalone模式部署具体子类的构建

下面以提交请求的行为为例，结合应用程序提交时所使用的不同部署模式，给出详细的框架及其描述，对应在框架中的其他请求与此类似，可以自行解析。

1.       以Client的部署模式提交应用程序

在Client的部署模式提交时，直接在提交点运行应用程序，即对应的驱动程序是在当前节点启动的。启动一个应用程序后，就涉及到各个相关的方面，包含应用运行的环境、应用元数据的清理、状态监听、DAG调度、任务调度等等。这些具体的内容，在后续的章节中都会分别给出有针对性的解析，故此处仅针对必要的信息，来加深对Spark Standalone集群部署方面的理解。

对应的部署与执行框架如图1-3所示：

图1-3 Client部署模式下的部署与执行框架

如图1-3所示，在驱动程序（DriverProgram）内部会构建一个SparkContext实例，前面章节已经分析过，在SparkContext实例的主要流程中，会构建出用于任务调度的TaskScheduler实例、用于DAG调度的DAGScheduler实例，以及作为TaskSchedulerImpl底层的一个可插拔的调度系统终端的SparkDeploySchedulerBackend实例。由于调度系统后续会以单独一章篇幅进行解析，因此这里仅仅给出简单的部署与交互过程，具体过程如下所示：

1）在SparkContext构建出SparkDeploySchedulerBackend实例后，然后调用该实例的start方法，关键代码如下所示：

其中，AppClient实例在调用方法start时，会构建一个RPC通信终端，即ClientEndpoint实例，实例化后再自动调用onStart()，这时候就会将封装的ApplicationDescription实例进一步封装到消息RegisterApplications的实例中，然后由该RPC通信终端将该信息发送到Master的RPC通信终端。

2）Master的RPC通信终端在收到RegisterApplications消息后，通过资源调度方法，最终会调用launchExecutor方法，在该方法中再向调度所分配到的Worker节点的RPC通信终端发送LaunchExecutor消息。

3）Worker的RPC通信终端在收到LaunchExecutor消息后，会实例化ExecutorRunner对象，然后启动一个线程，在线程中解析RegisterApplications消息封装的ApplicationDescription实例所携带的Command实例。也就是前面封装的CoarseGrainedExecutorBackend类，最后启动CoarseGrainedExecutorBackend类的进程。进程的入口就是CoarseGrainedExecutorBackend伴生对象的main函数。

4）在入口处，即CoarseGrainedExecutorBackend伴生对象的main函数中，会解析参数，然后调用run函数，在该run函数中会构建CoarseGrainedExecutorBackend实例，也就是构建一个RPC通信终端。Run方法中的关键代码如下所示：

其中，driverUrl是封装CoarseGrainedExecutorBackend到Command时设置的，可以回到前面SparkDeploySchedulerBackend实例的start方法，在构建Command之前，设置了一些参数，对应代码如下：

其中，第4、6行就是封装的与CoarseGrainedExecutorBackend进行通信的终端及其对应参数的选项名称，也就是前面的CoarseGrainedSchedulerBackend实例的driverEndpoint : DriverEndpoint成员，对应在Spark Standalone部署模式下，就是具体子类SparkDeploySchedulerBackend。

5）对应CoarseGrainedExecutorBackend的RPC通信终端，在实例化时自动调用onStart方法。在该方法中向driverUrl发送RegisterExecutor消息。这里的driverUrl就是上一步分析得到的驱动程序端的SparkDeploySchedulerBackend的RPC通信端口driverEndpoint。

6）SparkDeploySchedulerBackend实例收到RegisterExecutor消息时，表示当前有可用资源注册上来，此时即可开始作业的调度。具体的调度过程可以参考本书的调度章节。

说明：分布式消息间的调度是建立在消息事件的基础上的，可以通过列举所有的RPC通信终端（系统名+终端名），以及各个终端之间交互的信息（组件间的交互消息和应用调度相关的消息会在后续章节给出）这两个方面，来理清整个分布式集群中各个组件之间和内部的交互逻辑，进而把握整个调度机制。