RMSProp 是否与在线(随机)学习兼容?
Is RMSProp compatible with online (stochastic) learning?
快速提问:
RMSProp 优化器是否与在线(随机,每次更新权重)学习兼容?我所能读到的是关于 RMSProp 与 mini-batch 或 full-batch 更新一起使用,但是 none 似乎 明确地 声明在线随机学习是不可能的。
非常简短的回答:是的。您可以将其与 SGD 一起使用。示例:http://www.erogol.com/comparison-sgd-vs-momentum-vs-rmsprop-vs-momentumrmsprop/
快速提问:
RMSProp 优化器是否与在线(随机,每次更新权重)学习兼容?我所能读到的是关于 RMSProp 与 mini-batch 或 full-batch 更新一起使用,但是 none 似乎 明确地 声明在线随机学习是不可能的。
非常简短的回答:是的。您可以将其与 SGD 一起使用。示例:http://www.erogol.com/comparison-sgd-vs-momentum-vs-rmsprop-vs-momentumrmsprop/