耐心在深度学习术语中意味着什么?
What does patience mean in Deep Learning Terminology?
我在 AugMix 上阅读了 Aakash Nain 的代码 https://github.com/AakashKumarNain/AugMix_TF2/blob/master/utils.py
并在 Class CTEarlyStopping 下找到 'patience' 一词。
这不是我第一次遇到这个词,但我对这些术语一窍不通。
寻找快速解释。
它不是深度学习中的术语。
在这种情况下,它只是确定提前停止之前等待的时间。
当你训练某些东西时,它从高损失开始,在训练过程中,损失越来越低(准确度越来越高)。
经过有限的 epoch 后,足够低的损失不会再低(准确率不会变高)。在这种情况下,似乎训练更多的 epochs 是没有用的,因为你的训练几乎完成了。
现在,patience 值告诉训练器,在损失停止减少后必须继续多少个 epoch。如果你不设置 patience 值,训练将持续你设置的所有 epochs,即使你的训练结果没有任何好转。这个值可以为您节省一些时间和精力(通过让 gpu 休息)。
我在 AugMix 上阅读了 Aakash Nain 的代码 https://github.com/AakashKumarNain/AugMix_TF2/blob/master/utils.py 并在 Class CTEarlyStopping 下找到 'patience' 一词。 这不是我第一次遇到这个词,但我对这些术语一窍不通。 寻找快速解释。
它不是深度学习中的术语。 在这种情况下,它只是确定提前停止之前等待的时间。
当你训练某些东西时,它从高损失开始,在训练过程中,损失越来越低(准确度越来越高)。
经过有限的 epoch 后,足够低的损失不会再低(准确率不会变高)。在这种情况下,似乎训练更多的 epochs 是没有用的,因为你的训练几乎完成了。
现在,patience 值告诉训练器,在损失停止减少后必须继续多少个 epoch。如果你不设置 patience 值,训练将持续你设置的所有 epochs,即使你的训练结果没有任何好转。这个值可以为您节省一些时间和精力(通过让 gpu 休息)。