气流在 1 分钟后终止了我的任务
Airflow kills my tasks after 1 minute
我有一个非常简单的 DAG,有两个任务,如下所示:
default_args = {
'owner': 'me',
'start_date': dt.datetime.today(),
'retries': 0,
'retry_delay': dt.timedelta(minutes=1)
}
dag = DAG(
'test DAG',
default_args=default_args,
schedule_interval=None
)
t0 = PythonOperator(
task_id="task 1",
python_callable=run_task_1,
op_args=[arg_1, args_2, args_3],
dag=dag,
execution_timeout=dt.timedelta(minutes=60)
)
t1 = PythonOperator(
task_id="task 2",
python_callable=run_task_2,
dag=dag,
execution_timeout=dt.timedelta(minutes=60)
)
t1.set_upstream(t0)
但是,当我 运行 它时,我在日志中看到以下内容:
[2017-10-17 16:18:35,519] {jobs.py:2083} INFO - Task exited with
return code -9
没有任何其他有用的错误日志。有人见过吗?我是否错误地定义了我的 DAG?任何帮助表示赞赏!
您使用的是哪个版本的气流?
从 1.8 开始,airflow 在动态 start_date、https://github.com/apache/incubator-airflow/blob/master/UPDATING.md#less-forgiving-scheduler-on-dynamic-start_date 上的调度器变得不那么宽容了。
试着给出一个具体的日期。
如果任务容器没有足够的内存来执行任务,它将失败,错误代码为 -9。
https://www.astronomer.io/guides/dag-best-practices/
我有一个非常简单的 DAG,有两个任务,如下所示:
default_args = {
'owner': 'me',
'start_date': dt.datetime.today(),
'retries': 0,
'retry_delay': dt.timedelta(minutes=1)
}
dag = DAG(
'test DAG',
default_args=default_args,
schedule_interval=None
)
t0 = PythonOperator(
task_id="task 1",
python_callable=run_task_1,
op_args=[arg_1, args_2, args_3],
dag=dag,
execution_timeout=dt.timedelta(minutes=60)
)
t1 = PythonOperator(
task_id="task 2",
python_callable=run_task_2,
dag=dag,
execution_timeout=dt.timedelta(minutes=60)
)
t1.set_upstream(t0)
但是,当我 运行 它时,我在日志中看到以下内容:
[2017-10-17 16:18:35,519] {jobs.py:2083} INFO - Task exited with return code -9
没有任何其他有用的错误日志。有人见过吗?我是否错误地定义了我的 DAG?任何帮助表示赞赏!
您使用的是哪个版本的气流?
从 1.8 开始,airflow 在动态 start_date、https://github.com/apache/incubator-airflow/blob/master/UPDATING.md#less-forgiving-scheduler-on-dynamic-start_date 上的调度器变得不那么宽容了。
试着给出一个具体的日期。
如果任务容器没有足够的内存来执行任务,它将失败,错误代码为 -9。 https://www.astronomer.io/guides/dag-best-practices/