我们有4个作业在3个节点上运行,每个节点有4个插槽,
在Flink 1.3.2上,作业按节点平均分配。升级到flink 1.5之后,每个作业都在单个节点上运行(如果没有剩余插槽,则转移到另一个节点上)
有没有办法恢复平均分配?作业负载不均,导致某些节点比其他节点更努力地工作。
我从flink邮件列表收到的答案:Re:在群集节点上进行Flink 1.5作业分配
嗨沙迦,
使用Flink 1.5,我们增加了资源弹性。这意味着Flink现在能够在诸如Yarn或Mesos的群集管理框架上分配新容器。由于这些更改(这也适用于独立模式),Flink不再需要一组固定的TaskManager,因为如果需要,它将启动新的容器(在独立模式下不起作用)。因此,系统很难做出关于将属于单个作业的插槽扩展到多个TM的决定。当您考虑到像您这样的工作可能会从这种策略中受益,而另一些工作可能会从同时安置其职位中受益时,情况就变得更加艰难。如果您想对多个作业进行调度,而这些作业由于系统是按顺序提交的,则系统不了解这些作业,这将变得更加复杂。因此,
干杯,直到
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句