在 Vowpal Wabbit 中使用 vw-hypersearch 进行多维超参数搜索
Multidimensional hyperparameter search with vw-hypersearch in Vowpal Wabbit
vw-hypersearch is the Vowpal Wabbit wrapper intended to optimize hyperparameters in vw models: regularization rates, learning rates and decays, minibatches, bootstrap sizes etc. In the tutorial 对于 vw-hypersearch 有以下示例：
vw-hypersearch 1e-10 5e-4 vw --l1 % train.dat
这里%表示要优化的参数，1e-10 5e-4是搜索区间的下限和上限。该库使用 golden section search 方法来最小化迭代次数。
但是如果我想搜索多个超参数怎么办？从 this github 问题讨论等来源，我得到一个提示，即大众可能没有实现多维搜索方法。因此，唯一的出路是编写自己的特定于任务的优化器。我说的对吗？
现在这可以通过位于存储库 /vowpal_wabbit/utl/ 的模块 vw-hyperopt.py 完成。
在这里查看我的拉取请求：https://github.com/JohnLangford/vowpal_wabbit/pull/867
在不久的将来，这将得到更好的记录。
vw-hypersearch is the Vowpal Wabbit wrapper intended to optimize hyperparameters in vw models: regularization rates, learning rates and decays, minibatches, bootstrap sizes etc. In the tutorial 对于 vw-hypersearch 有以下示例：
vw-hypersearch 1e-10 5e-4 vw --l1 % train.dat
这里%表示要优化的参数，1e-10 5e-4是搜索区间的下限和上限。该库使用 golden section search 方法来最小化迭代次数。
但是如果我想搜索多个超参数怎么办？从 this github 问题讨论等来源，我得到一个提示，即大众可能没有实现多维搜索方法。因此，唯一的出路是编写自己的特定于任务的优化器。我说的对吗？
现在这可以通过位于存储库 /vowpal_wabbit/utl/ 的模块 vw-hyperopt.py 完成。
在这里查看我的拉取请求：https://github.com/JohnLangford/vowpal_wabbit/pull/867
在不久的将来，这将得到更好的记录。