一次或单独计算所有权重？

Question

标题说明了一切。训练网络时，是一次计算所有权重还是单独计算？

Answer 1

你这是什么意思？ 当你训练一个网络时，你应该使用你所有的数据，并且通常使用梯度下降算法来更新你的权重。 您可以使用多线程技术从您的数据中并行计算一些结果，然后您的权重就是这些结果的平均值。

Answer 2

您可以任意选择。但是，请注意单独更新权重几乎等同于一次更新所有权重，假设您正在更新给定模型相同输入示例的权重。此外，单独更新权重需要您编写多个 for 循环，并且更新它们需要很长时间。您可以使用矢量化技术并一次更新它们非常快。