为什么 mapreduce 尝试因 "Container preempted by scheduler" 而被终止?
Why are mapreduce attempts killed due to "Container preempted by scheduler"?
我刚刚注意到 Hadoop 上的许多 Pig 作业由于以下原因而被杀死:Container preempted by scheduler
谁能解释一下是什么原因造成的,我是否应该(并且能够)对此做些什么?
谢谢!
如果您的 Hadoop 集群被许多业务部门使用。然后管理员为他们决定队列,每个队列都有其优先级(这也由管理员决定)。如果在调度程序级别启用抢占,则优先级较高的应用程序不必等待,因为优先级较低的应用程序已占用可用容量。因此,在这种情况下,如果集群中不可用,较低权限的任务必须释放资源以让 运行 较高优先级的应用程序.
如果您启用了公平调度程序和多个不同的队列,则更高优先级的应用程序可以终止您的作业(以抢先方式)。
Hortonworks 有一个很好的解释和更多细节
你应该做些什么吗?取决于您的应用程序是否在其 SLA 范围内以及是否在预期范围内执行。一般好的做法是检查您的工作优先级和分配给它的队列。
我刚刚注意到 Hadoop 上的许多 Pig 作业由于以下原因而被杀死:Container preempted by scheduler
谁能解释一下是什么原因造成的,我是否应该(并且能够)对此做些什么?
谢谢!
如果您的 Hadoop 集群被许多业务部门使用。然后管理员为他们决定队列,每个队列都有其优先级(这也由管理员决定)。如果在调度程序级别启用抢占,则优先级较高的应用程序不必等待,因为优先级较低的应用程序已占用可用容量。因此,在这种情况下,如果集群中不可用,较低权限的任务必须释放资源以让 运行 较高优先级的应用程序.
如果您启用了公平调度程序和多个不同的队列,则更高优先级的应用程序可以终止您的作业(以抢先方式)。
Hortonworks 有一个很好的解释和更多细节
你应该做些什么吗?取决于您的应用程序是否在其 SLA 范围内以及是否在预期范围内执行。一般好的做法是检查您的工作优先级和分配给它的队列。