关于ann中偏置节点的一个问题

A concern about the bias node in ann

好的,我了解了偏置节点。它水平移动传递函数曲线以使其更好地拟合数据。我看到的问题是偏置节点权重值的计算方式与任何其他权重一样。这是正确的吗?是否应该以其他方式计算偏差权重?而且不应该有另一个偏差值来上下移动传递函数吗?像这样:f(x1+x2...+b1)+b2。我不知道你会如何计算 b2。有什么想法吗?

对于您的第一个问题,像计算任何其他权重一样计算偏置节点权重值,即通过使用反向传播是最合理的训练方式并且效果很好。还有其他训练方法,但根据经验反向传播一种更好。

你第二个问题的答案是 f(x1+x2...+b1)+b2 没有意义。您的激活函数 (f) 有一个一维输入。 y 轴绘制输出。偏差不会改变函数曲线的形状。对于函数在 y 轴上的每个截距,您将在 X 轴上有一个唯一的截距。所以 X 轴截距足以描述曲线。就像y=mx+c就足以描述任何一行。

f(x1+x2...+b1)+b2 可以分解为 f(x'1+x'2...+b'1) 对于权重 x'1 , x '2... 和 b'1 可以在图形上合并函数的垂直力矩,这将成为您的新激活函数。