感知器中的每个训练示例的权重是否不同
Is weights are diffrent for each training Example in perceptrons
我是神经网络的新手。
我有 1K 个示例的训练数据集。每个示例包含 5 个特征。
最初,我提供了一些权重值。
那么,是否为与每个示例关联的权重存储了 1K 个值,或者所有 1K 个示例的权重值保持不变?
例如:
example1 => [f1,f2,f3,f4,f5] -> [w1e1,w2e1,w3e1,w4e1,w5e1]
example2 => [f1,f2,f3,f4,f5] -> [w1e2,w2e2,w3e2,w4e2,w5e2]
这里w1
表示第一个权重,e1
、e2
表示不同的例子。
or example1,example2,... -> [gw1,gw2,gw3,gw4,gw5]
这里的g表示全局,w1
表示特征一的权重等等。
从神经网络中的单个节点开始。它的输出是应用于输入线性组合的 sigmoid 函数,如下所示。
因此,对于 5 个特征,神经网络的每个节点将有 5 个权重 + 1 个偏差。在训练时,输入一批输入,计算神经网络末端的输出,计算相对于实际输出的误差,并根据误差反向传播梯度。简单来说,就是根据误差来调整权重。
因此,对于每个节点,您有 6 个权重,并且根据节点数(取决于层数和层大小),您可以计算权重数。所有权重每批更新一次(因为您正在进行批量训练)
我是神经网络的新手。 我有 1K 个示例的训练数据集。每个示例包含 5 个特征。
最初,我提供了一些权重值。
那么,是否为与每个示例关联的权重存储了 1K 个值,或者所有 1K 个示例的权重值保持不变?
例如:
example1 => [f1,f2,f3,f4,f5] -> [w1e1,w2e1,w3e1,w4e1,w5e1]
example2 => [f1,f2,f3,f4,f5] -> [w1e2,w2e2,w3e2,w4e2,w5e2]
这里w1
表示第一个权重,e1
、e2
表示不同的例子。
or example1,example2,... -> [gw1,gw2,gw3,gw4,gw5]
这里的g表示全局,w1
表示特征一的权重等等。
从神经网络中的单个节点开始。它的输出是应用于输入线性组合的 sigmoid 函数,如下所示。
因此,对于 5 个特征,神经网络的每个节点将有 5 个权重 + 1 个偏差。在训练时,输入一批输入,计算神经网络末端的输出,计算相对于实际输出的误差,并根据误差反向传播梯度。简单来说,就是根据误差来调整权重。
因此,对于每个节点,您有 6 个权重,并且根据节点数(取决于层数和层大小),您可以计算权重数。所有权重每批更新一次(因为您正在进行批量训练)