DataflowRunner 管道错误 - 无法重命名
DataflowRunner pipeline error - Unable to rename
我的 DataFlow 作业从 GS 存储桶中读取一个 CSV 文件,查询另一项服务以获取额外数据并将其写入新的 CSV 文件并存储回存储桶,但它似乎在获取输入 CSV 文件之前掉落开始...
这是我得到的错误:
DataflowRuntimeException - 数据流管道失败。状态:失败,错误:
Unable to rename "gs://../../job.1582402027.233469/dax-tmp-2020-02-22_12_07_49-5033316469851820576-S04-0-1719661b275ca435/tmp-1719661b275ca2ea-shard--try-273280d77b2c5b79-endshard.avro" to "gs://../../temp/job.1582402027.233469/tmp-1719661b275ca2ea-00000-of-00001.avro".
知道这个错误的原因是什么吗?
here is a print screen
通常该错误是由于您在 DataFlow 作业中使用的服务帐户没有正确的 GCS(Google 云存储)权限。
您应该向服务帐户添加类似“roles/storage.objectAdmin”的角色,以允许与 GCS 进行交互。
我的 DataFlow 作业从 GS 存储桶中读取一个 CSV 文件,查询另一项服务以获取额外数据并将其写入新的 CSV 文件并存储回存储桶,但它似乎在获取输入 CSV 文件之前掉落开始...
这是我得到的错误:
DataflowRuntimeException - 数据流管道失败。状态:失败,错误:
Unable to rename "gs://../../job.1582402027.233469/dax-tmp-2020-02-22_12_07_49-5033316469851820576-S04-0-1719661b275ca435/tmp-1719661b275ca2ea-shard--try-273280d77b2c5b79-endshard.avro" to "gs://../../temp/job.1582402027.233469/tmp-1719661b275ca2ea-00000-of-00001.avro".
知道这个错误的原因是什么吗?
here is a print screen
通常该错误是由于您在 DataFlow 作业中使用的服务帐户没有正确的 GCS(Google 云存储)权限。
您应该向服务帐户添加类似“roles/storage.objectAdmin”的角色,以允许与 GCS 进行交互。