分布式工作者的任务工作者资源
Dask worker resources for distributed workers
在分布式多处理worker中定义worker资源(http://distributed.readthedocs.io/en/latest/resources.html)时,是否为所有进程都定义了资源池?
例如,在工作主机上我是运行:
dask-worker --nprocs 8 --resources HOST=1
现在,如果我提交需要 resources={"HOST":1}
的任务,这是否保证该机器上只有一个进程会在特定时刻及时执行该任务?
资源关键字均匀地应用于所有进程。 所有 工作人员将获得一个 HOST
资源。一般来说,对于机构集群上的成熟部署,我建议避免使用 --nprocs
关键字,而是单独创建每个 dask-worker 进程;这更明确。
dask-worker scheduler-address:8786 --resources
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
在分布式多处理worker中定义worker资源(http://distributed.readthedocs.io/en/latest/resources.html)时,是否为所有进程都定义了资源池?
例如,在工作主机上我是运行:
dask-worker --nprocs 8 --resources HOST=1
现在,如果我提交需要 resources={"HOST":1}
的任务,这是否保证该机器上只有一个进程会在特定时刻及时执行该任务?
资源关键字均匀地应用于所有进程。 所有 工作人员将获得一个 HOST
资源。一般来说,对于机构集群上的成熟部署,我建议避免使用 --nprocs
关键字,而是单独创建每个 dask-worker 进程;这更明确。
dask-worker scheduler-address:8786 --resources
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786