Apache Spark EC2 脚本启动奴隶但没有主人
Apache Spark EC2 Script launching slaves but no master
在使用 Apache Spark EC2 脚本启动集群时,我发现了一些开始让我吃亏的错误。指定从站数量时:如果您输入的数字大于或等于您的限制,那么集群将以您的最大从站数量启动 - 但没有主站!这使您无法控制从站,因此无法控制集群。
我还没有找到使用 Apache Spark EC2 脚本启动主服务器的方法。我已经手动关闭了 1 个从机,为主机创建了 space;但是,当然后尝试重新启动脚本时,它只是说:
Searching for existing cluster my_cluster...
Found 0 master(s), 4 slaves
ERROR: There are already instances running in group my_cluster-master
or my_cluster-slaves
为了克服这个问题,我必须登录到 AWS 控制台并终止所有集群,然后重新启动。由于 Amazon 每小时收费,因此我需要为我的最大集群数量支付整整一小时的费用——完全免费。
有没有办法在奴隶已经存在的情况下启动主人?
发生这种情况是因为 spark-ec2 向 EC2 发出了 2 个单独的请求来分配实例,一个用于主服务器,一个用于从服务器。
正如您可能猜到的那样,它 allocates the master instance after the slaves 导致了您所看到的问题。
当从站已经存在时,无法启动主站。只支持反向操作——当主控已经存在时启动从属。
这种在从服务器之后启动主服务器的行为听起来像是一个错误。
如果您想报告它以便它得到修复,我建议在 EC2 组件下的 Apache JIRA for Spark 上创建一个问题。我去看看。
在使用 Apache Spark EC2 脚本启动集群时,我发现了一些开始让我吃亏的错误。指定从站数量时:如果您输入的数字大于或等于您的限制,那么集群将以您的最大从站数量启动 - 但没有主站!这使您无法控制从站,因此无法控制集群。
我还没有找到使用 Apache Spark EC2 脚本启动主服务器的方法。我已经手动关闭了 1 个从机,为主机创建了 space;但是,当然后尝试重新启动脚本时,它只是说:
Searching for existing cluster my_cluster...
Found 0 master(s), 4 slaves
ERROR: There are already instances running in group my_cluster-master
or my_cluster-slaves
为了克服这个问题,我必须登录到 AWS 控制台并终止所有集群,然后重新启动。由于 Amazon 每小时收费,因此我需要为我的最大集群数量支付整整一小时的费用——完全免费。
有没有办法在奴隶已经存在的情况下启动主人?
发生这种情况是因为 spark-ec2 向 EC2 发出了 2 个单独的请求来分配实例,一个用于主服务器,一个用于从服务器。
正如您可能猜到的那样,它 allocates the master instance after the slaves 导致了您所看到的问题。
当从站已经存在时,无法启动主站。只支持反向操作——当主控已经存在时启动从属。
这种在从服务器之后启动主服务器的行为听起来像是一个错误。
如果您想报告它以便它得到修复,我建议在 EC2 组件下的 Apache JIRA for Spark 上创建一个问题。我去看看。