spark master什么时候显示memory is in use和çores are in use?

When does spark master show that memory is in use and çores are in use?

我是 运行 YARN 上的火花。在 yarn UI at port 8088 可以清楚的看到有一个job 运行, 当我点击右边的 ApplicationMaster 时,显示这个job正在 spark 中进步。

然而,当我去 spark master 的端口 18080 时,我看到 "Memory in use" 是 0,"Cores in use" 是 0,"Applications: 0 Running" .

如何让 spark master 确认我是 运行 应用程序并使用核心和内存?工作进展明显,因为我可以看到正在写入磁盘的内容,但为什么 spark master 不是最新的?

Spark Master 是 Spark Standalone 的一个组件。 Yarn 和 Spark Standalone 都是集群管理器。你应该只使用其中一个。如果你向 Yarn 提交了一个应用程序,你将无法在 Spark Master 上看到它。在这种情况下,集群资源由 Yarn 而非 Spark Master 管理。