具有不同conda环境的Python任务和DAG

阿梅里奥·巴斯克斯·雷纳

假设我在AirFlow中的大多数DAG和任务都应该AirFlow服务器相同的机器运行Python代码

我可以让不同的DAG使用不同的conda环境吗?如果是这样,我该怎么办?例如,我可以为此使用Python运算符吗?还是会限制我使用与安装AirFlow相同的conda环境

更一般而言,理想情况下,我应该在哪里/如何为每个DAG或任务激活所需的conda环境

梅格迪普·雷(Meghdeep Ray)

运行Airflow Worker代码的Python是其环境将用于执行代码的Python。

您可以做的是不同的worker使用不同的命名队列用于不同的执行环境,以便仅特定计算机或计算机组将执行特定的DAG。

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

如果更改具有相同名称的环境变量,不同 dag 的气流任务是否会出现竞争条件?

运行基于相同任务定义但具有不同环境变量的多个 ECS 任务

具有单个任务的 Apache Airflow DAG

具有初始质心的Kmeans在Matlab和Python环境中给出不同的输出

Selenium Python脚本在Windows和Ubuntu环境中具有不同的行为

具有Python脚本,conda和集群的SnakeMake规则

有没有办法在相同的conda环境中安装python 3和python 2?

Conda环境和Jupyter Notebook,Python 3.9.2

Anaconda / conda / python / Windows:如何启动和激活conda环境?

具有不同的/ bin / sh的单独环境

具有不同环境的iPython(使用anaconda)

等待具有不同结果的多个任务

sbt编译具有不同选项的任务

管理具有不同输出的任务

Congfigure conda创建具有默认软件包的环境

具有针对不同环境和插槽的许多appSettings的Azure功能的ARM模板

货币在具有相同语言环境的 iOS 和 android 上格式不同

具有多个线程和不同视图控制器的一项任务

不同环境的Symfony服务具有不同的价值参数

对于向量不同元素具有不同任务的循环

bs4.FeatureNotFound:...具有MacOS和Conda / Python 3的lxml

如何更改现有conda虚拟环境的Python版本?

尽管有 conda 3.6 环境,但 Python 版本 2.7

使用不同间隔的任务运行 DAG

Conda环境和.BAT文件

具有多个python解释器的环境

python conda:创建了一个环境,但是没有使用conda的python

conda“基本”环境和“根”环境之间有什么区别?

Google表格公式可计算具有不同开始/结束日期,重叠和间隔的任务的实际总工时