在群集节点上进行Flink作业分配

沙查尔

我们有4个作业在3个节点上运行,每个节点有4个插槽,

在Flink 1.3.2上,作业按节点平均分配。升级到flink 1.5之后,每个作业都在单个节点上运行(如果没有剩余插槽,则转移到另一个节点上)

有没有办法恢复平均分配?作业负载不均,导致某些节点比其他节点更努力地工作。

沙查尔

我从flink邮件列表收到的答案:Re:在群集节点上进行Flink 1.5作业分配

嗨沙迦,

使用Flink 1.5,我们增加了资源弹性。这意味着Flink现在能够在诸如Yarn或Mesos的群集管理框架上分配新容器。由于这些更改(这也适用于独立模式),Flink不再需要一组固定的TaskManager,因为如果需要,它将启动新的容器(在独立模式下不起作用)。因此,系统很难做出关于将属于单个作业的插槽扩展到多个TM的决定。当您考虑到像您这样的工作可能会从这种策略中受益,而另一些工作可能会从同时安置其职位中受益时,情况就变得更加艰难。如果您想对多个作业进行调度,而这些作业由于系统是按顺序提交的,则系统不了解这些作业,这将变得更加复杂。因此,

干杯,直到

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

在AWS EMR任务节点上进行Flink

增加PBS群集上排队作业的已分配节点

如何在MPI群集中将单个节点的多个核心分配给单个作业/流程?

在Kubernetes上进行Flink:如何将作业提交到会话集群?

Flink作业群集与会话群集-部署和配置

如何将Flink作业提交到远程YARN群集?

RHadoop作业在单节点Ubuntu群集上失败

使用AWS EBS的快照在单独的群集上进行还原

在IE的子节点上进行:active工作

Infovis不在根节点上进行迭代

无法在重复节点上进行XSL转换

在Openstack上进行多节点安装

选择Java IDE进行作业分配

flink作业未在计算机之间分配

使用Flink Runner在梁上进行Tensorflow变换

在YARN群集中提交作业之前,Flink TaskManager不会启动

与群集中的节点相比,EMR Spark作业使用的执行者更少

Hadoop-使用XPath在XML节点上进行PIG循环

使用节点在服务器上进行图像优化

在laravel中的[App \ comment]上进行批量分配

为什么instanceof在Android上进行内存分配?

在C中分配的指针上进行malloc安全吗?

flink 1.12.1示例应用程序在单节点纱线群集上失败

在HEAP上进行数组分配(分别分配还是...连续分配?)

我想在Apache Flink中进行流作业以执行Kafka-> Flink-> HIVE

Jenkins节点是否可以优先进行构建作业

如何在HPC群集上将所有分配的节点与python一起使用

节点群集:如何为每个工作线程分配单独的服务器/端口?

如何在Cassandra群集中的不同节点之间分配数据