当数组的所有值都为零时，我们可以使用 softmax 激活吗？
Can we use softmax activation when all value of an array is zero?
我有一个 5 x 5 x 21 数组。最后一个维度代表通道。在少数通道中，只有一个像素值为1，其余值为0。对于其他通道，所有像素值都是0。我在训练深度神经网络时沿空间维度应用 softmax 激活。即使所有值都为零，也使用 softmax 是个好主意吗，即沿空间维度的所有像素值的总和不等于 1.
不知是否理解你的问题。
Softmax 应该应用于我们希望在训练网络中[几乎] one-hot 分布的地方。 softmax 的输出定义了分布（和等于 1），但是 softmax 的输入没有限制。如果将所有 0 传递给 softmax，您将获得均匀分布作为输出。
是否有意义取决于网络的目标
我有一个 5 x 5 x 21 数组。最后一个维度代表通道。在少数通道中，只有一个像素值为1，其余值为0。对于其他通道，所有像素值都是0。我在训练深度神经网络时沿空间维度应用 softmax 激活。即使所有值都为零，也使用 softmax 是个好主意吗，即沿空间维度的所有像素值的总和不等于 1.
不知是否理解你的问题。 Softmax 应该应用于我们希望在训练网络中[几乎] one-hot 分布的地方。 softmax 的输出定义了分布（和等于 1），但是 softmax 的输入没有限制。如果将所有 0 传递给 softmax，您将获得均匀分布作为输出。
是否有意义取决于网络的目标