-
学会画图去看学习率是否符合
梯度下降算法收敛所需要的迭代次数根据模型的不同而不同,我们不能提前预知,我们可以绘制迭代次数和代价函数的值的图表来观测算法在何时趋于收敛。
-自动测试方法
也有一些自动测试是否收敛的方法,例如将代价函数的变化值与某个阀值(例如0.001,基本上的意思是趋向于0,几乎不会变化)进行比较,但通常看上面这样的图表更好。 -
总结
通常可以考虑尝试些学习率慢慢进行调试:
参考内容:
吴恩达机器学习笔记
学会画图去看学习率是否符合
梯度下降算法收敛所需要的迭代次数根据模型的不同而不同,我们不能提前预知,我们可以绘制迭代次数和代价函数的值的图表来观测算法在何时趋于收敛。
-自动测试方法
也有一些自动测试是否收敛的方法,例如将代价函数的变化值与某个阀值(例如0.001,基本上的意思是趋向于0,几乎不会变化)进行比较,但通常看上面这样的图表更好。
总结
通常可以考虑尝试些学习率慢慢进行调试:
参考内容:
吴恩达机器学习笔记
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/26819.html
如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!