Yarn三种调度策略

理想情况下&＃xff0c;我们应用对Yarn资源的请求应该立刻得到满足&＃xff0c;但现实情况资源往往是有限的&＃xff0c;特别是在一个很繁忙的集群&＃xff0c;一个应用资源的请求经常需要等待一段时间才能的到相应的资源。在Yarn中&＃xff0c;负责给应用分配资源的就Scheduler。其实调度本身就是一个难题&＃xff0c;很难找到一个完美的策略可以解决所有的应用场景。为此&＃xff0c;Yarn提供了多种调度器和可配置的策略供我们选择。
  在Yarn中有三种调度器可以选择&＃xff1a;FIFO Scheduler &＃xff0c;Capacity Scheduler&＃xff0c;FairScheduler。

1、FIFO Scheduler

  FIFO Scheduler把应用按提交的顺序排成一个队列&＃xff0c;这是一个先进先出队列&＃xff0c;在进行资源分配的时候&＃xff0c;先给队列中最头上的应用进行分配资源&＃xff0c;待最头上的应用需求满足后再给下一个分配&＃xff0c;以此类推。
  FIFO Scheduler是最简单也是最容易理解的调度器&＃xff0c;也不需要任何配置&＃xff0c;但它并不适用于共享集群。大的应用可能会占用所有集群资源&＃xff0c;这就导致其它应用被阻塞。在共享集群中&＃xff0c;更适合采用Capacity Scheduler或Fair Scheduler&＃xff0c;这两个调度器都允许大任务和小任务在提交的同时获得一定的系统资源。
  从图中可以看出&＃xff0c;在FIFO 调度器中&＃xff0c;小任务会被大任务阻塞。

2、Capacity Scheduler

  而对于Capacity调度器&＃xff0c;有一个专门的队列用来运行小任务&＃xff0c;但是为小任务专门设置一个队列会预先占用一定的集群资源&＃xff0c;这就导致大任务的执行时间会落后于使用FIFO调度器时的时间。

3、Fair Scheduler

  在Fair调度器中&＃xff0c;我们不需要预先占用一定的系统资源&＃xff0c;Fair调度器会为所有运行的job动态的调整系统资源。如下图所示&＃xff0c;当第一个大job提交时&＃xff0c;只有这一个job在运行&＃xff0c;此时它获得了所有集群资源&＃xff1b;当第二个小任务提交后&＃xff0c;Fair调度器会分配一半资源给这个小任务&＃xff0c;让这两个任务公平的共享集群资源。
  需要注意的是&＃xff0c;在下图Fair调度器中&＃xff0c;从第二个任务提交到获得资源会有一定的延迟&＃xff0c;因为它需要等待第一个任务释放占用的Container。小任务执行完成之后也会释放自己占用的资源&＃xff0c;大任务又获得了全部的系统资源。最终的效果就是Fair调度器即得到了高的资源利用率又能保证小任务及时完成。