向量链式法则
- 标量链式法则
- 拓展到向量
- 例1
- 例2
自动求导
自动求导计算一个函数在指定值上的导数
计算图 - 将代码分解成操作子
- 将计算表示成一个无环图
- 显式构造(Tensorflow/Theano/MXNet)
- 隐式构造(Pytorch/MXNet)
自动求导的两种模式 - 正向累积
- 反向累积(反向传递)
a.构造计算图
b.前向:执行图,存储中间结果
c.反向:从相反方向执行图,去除不需要的枝
向量链式法则
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/723759.html
如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!