从 Yarn UI 中终止 Dataproc 作业不再有效——仅来自 Dataproc UI
Kill Dataproc job from Yarn UI no longer works -- only from Dataproc UI
我曾经能够通过 Yarn UI KILL 命令在 Dataproc 上终止 Spark 作业 运行,而不是通过 GCP Dataproc UI 命令(慢得多) .但是我不能再这样做了——只有 GCP UI 有效。
有什么变化还是我现在做错了什么?
我使用的是 Dataproc 版本 1.2(这在过去有效)。
为避免 YARN 安全漏洞,non-get API 现在默认禁用,但用户可以在创建集群时(谨慎)更改它,或者更新配置然后为 [=18= 重启 Hadoop 服务] 集群。另外,正如这个问题的标题中提到的,用户可以从 Dataproc UI 中终止作业,这是推荐的。
The yarn-site.xml yarn.resourcemanager.webapp.methods-allowed property now defaults to "GET,HEAD". This change restricts the HTTP methods that can be called on the YARN Resource Manager web UI (default port 8088) and REST APIs to GET and HEAD only, and disables job submission and modifications via the YARN REST API. You can override the default values and enable specific HTTP methods on port 8088 by setting the yarn.resourcemanager.webapp.methods-allowed property to one or more comma-separated HTTP method names when you create a cluster. An ALL value will allow all HTTP methods on the port.
Example: gcloud dataproc clusters create --properties='yarn:yarn.resourcemanager.webapp.methods-allowed=GET,POST,DELETE'
Recommendation: If you set this property to allow non-default HTTP methods, make sure to configure firewall rules and other security settings to restrict access to port 8088 (see Cluster Web Interfaces→Avoid Security Vulnerabilities).
在此 release notes 中查看更多详细信息。
我曾经能够通过 Yarn UI KILL 命令在 Dataproc 上终止 Spark 作业 运行,而不是通过 GCP Dataproc UI 命令(慢得多) .但是我不能再这样做了——只有 GCP UI 有效。
有什么变化还是我现在做错了什么?
我使用的是 Dataproc 版本 1.2(这在过去有效)。
为避免 YARN 安全漏洞,non-get API 现在默认禁用,但用户可以在创建集群时(谨慎)更改它,或者更新配置然后为 [=18= 重启 Hadoop 服务] 集群。另外,正如这个问题的标题中提到的,用户可以从 Dataproc UI 中终止作业,这是推荐的。
The yarn-site.xml yarn.resourcemanager.webapp.methods-allowed property now defaults to "GET,HEAD". This change restricts the HTTP methods that can be called on the YARN Resource Manager web UI (default port 8088) and REST APIs to GET and HEAD only, and disables job submission and modifications via the YARN REST API. You can override the default values and enable specific HTTP methods on port 8088 by setting the yarn.resourcemanager.webapp.methods-allowed property to one or more comma-separated HTTP method names when you create a cluster. An ALL value will allow all HTTP methods on the port. Example: gcloud dataproc clusters create --properties='yarn:yarn.resourcemanager.webapp.methods-allowed=GET,POST,DELETE' Recommendation: If you set this property to allow non-default HTTP methods, make sure to configure firewall rules and other security settings to restrict access to port 8088 (see Cluster Web Interfaces→Avoid Security Vulnerabilities).
在此 release notes 中查看更多详细信息。