Databricks 如何在协作集群中管理 Spark Session?

How Databricks manages Spark Sessions in a colaborative cluster?

假设我们有几个人以协作的方式在 Databricks 集群上工作。 Spark 上下文和 Spark 会话在后台发生。

他们是否默认共享同一个 Spark 会话?

默认启用 Spark 会话隔离。用户可以通过将 spark.databricks.session.share 设置为 true

来禁用会话隔离

您可以在高级集群选项中的 Spark 配置中设置它: