神经网络术语：softmax 激活函数中的退火温度参数是什么？
Terms in neural networks: what is annealing temperature parameter in a softmax activation function?
我正在阅读 this paper 关于使用神经网络方法进行声音分离的内容。它使用术语 "annealing the temperature parameter in a softmax activation function"。这是什么意思？
"Annealing"，在这个意义上，类比温度降低的化学过程。
这里，softmax 中的 'temperature' 项也减少了，逐渐从 'soft' sigmoid 函数变为 'sharp' argmax
尝试为自己绘制不同温度下的 softmax 函数，您会看到不同之处...
我正在阅读 this paper 关于使用神经网络方法进行声音分离的内容。它使用术语 "annealing the temperature parameter in a softmax activation function"。这是什么意思？
"Annealing"，在这个意义上，类比温度降低的化学过程。
这里，softmax 中的 'temperature' 项也减少了，逐渐从 'soft' sigmoid 函数变为 'sharp' argmax
尝试为自己绘制不同温度下的 softmax 函数，您会看到不同之处...