CNN
损失函数
KL散度,交叉熵
B部分是训练集的真实实际值,是常数,C部分是训练结果,目的是要让这个损失最小化,与模型参数紧密相关,取出C(带负号),C非负
就是更精简的损失函数
熵
v
所谓M个空间,N个小球在其中的排列组合方式为熵
对应概率是,M次抽样,一共N种情况,每次抽样都意味着要确定M个空间里的其中一个空间是怎样的,也就是N个小球(情况)里占了多少个小球(分配到了多少个小球、情况),如果分配到的小球数量多,这个空间(抽样)里的情况(小球)数量多,即
点积矩阵计算,CPU、GPU、NPU
点积,先相乘再相加
车机需要
小规模可以用CPU,大规模用GPU,NPU