串联起深度学习的整体，以及其他领域-编程知识

串联起深度学习的整体，以及其他领域

1、从模型拟合（收敛）数据关系出发： $y=f(x)\Rightarrow y=net(x)$

2、f从简单的一层和两层连接开始，发展； $f$ 被表示成 $net$

3、如何判断收敛： $\sum_{i=1}^{N} (y-\widehat{y})^{2}\rightarrow 0$ ,即目标函数

4、如何界定任务： $x\rightarrow y$ ， $x$ 表示什么？ $y$ 表示什么？，例如y表示房价、经济增长率、工资收入、地心引力大小、引力波的幅度等等

5、如何定义模型 $f$ ,也就是如何定义网络 $net$ ，比如CNN、RNN、Transformer等等

6、如何收集数据： $\left \{ \left ( x_{1},y_{1}\right ),(x_{2},y_{2}) ,...\right \}$ ,样本数据，例如：人的需求指向

7、如何训练：

a、计算预测 $\widehat{y}=net(x)$ ，

b、计算损失 $loss=\sum_{i=1}^{N} (y-\widehat{y})^{2}$ ，

c、计算梯度 $\partial_{ (\mathbf{w},b)}\frac{1}{N}\sum_{i=1}^{N}loss(x^{(i)},y^{(i)},w,b)$ ，

d、更新参数 $(\mathbf{w},b)\rightarrow (\mathbf{w},b)-\eta\cdot \mathbf{g}$

8、梯度是什么？不同层的梯度？怎么计算梯度？

计算梯度：1）链式法则；2）自动微分

9、优化算法是什么？即 $\eta$ 的设定方式，固定的，还是变化的，怎么变化。有哪些？

10、小批量数据训练，批量指 $N$ 大小：

$loss=\sum_{i=1}^{N} (y-\widehat{y})^{2}\rightarrow \sum_{i=1}^{N} (y-net(x))^{2} \rightarrow \mathbf{g} \rightarrow \mathbf{w}$

11、前向传播：计算 $net(x)$

12、后向传播，计算梯度，更新参数

13、 $net$ 包括什么？1）、网络架构 2）、参数

14、参数初始化？方法

15、如何添加层？扩大net的规模？ $\textbf{ResNet}$ ，以 $\textbf{Net}$ 为对象，做 $\textbf{Res}$ 操作。

16、更新参数 $w$ 的方式： $\mathbf{g} \rightarrow \mathbf{w}$ ，梯度

17、模型有哪些？怎么发展的？如何设计

18、生成式人工智能？

19、概率

20、过拟合指什么？ $loss_{train}>loss_{validation}$

21、什么是泛化？ $y=net(x)$ ,实际中（或者条件发生变化的时候） $y$ 的结果好使不？

22、怎么判断泛化能力？取决于验证的数据集，看 $loss_{validation}$ 的大小

23、参数与模型之间的关系？模型 = 网络架构 + 参数

24、什么叫大模型？参数规模超过10，0000，0000，10亿或更大

25、大模型的挑战？收敛并有效，好用

26、现实中训练模型所面临的挑战？梯度消失、梯度爆炸、过拟合、欠拟合、数据分布 $\left \{ \left ( x,y \right ) \right \}$ 发生变化、计算量大（计算性能不够）

27、数据预处理，raw data: $\textbf{x{}'}\rightarrow \textbf{x}$

28、结果：想要的， $y$

29、串联其他领域的知识，例如：信息论领域的，对目标函数或代价函数的设定，数据生成的概率，特定的模式等等，

串联的方式有： $y=net(x)$ ；挑选 $net$ 的方式，依据 $loss=\sum_{i=1}^{N} (y-\widehat{y})^{2}$ ，设定预期方向（符合大多数人的预期方式）

30、串联数学， $y=f(x)$ ，真实的关系 $f$ ， $f\rightarrow net$ , 用 $\textup{\textbf{}net}$ 表示的 $\textbf{f}$

31、目标在时间的展开,序列数据： $\mathbf{x}=\left ( x1,x2,x3,... \right )$ , 对目标或对象的表示与处理

32、目标在空间的展开，图像数据：

$\mathbf{x}=\begin{bmatrix} x11& x12& x13\\ x21&x22 &x23 \\ x31&x32 &x33 \end{bmatrix}$

33、 $\textbf{net}$ 的变化： $\textbf{CNN}$ 、 $\textbf{RNN}$ 或其他

34、 $\textbf{net}$ 的展开： $net$ 内部构造，不同的层，块，参数

35、变与不变：

1）不变： $\textbf{y}=\textbf{net}(\textbf{x})$ ， $\textbf{loss}(\textbf{y},\widehat{\textbf{y}})$ ，（注意， $\textbf{loss}(\textbf{y},\widehat{\textbf{y}})$ 与 $\textbf{loss}(\textbf{y}-\widehat{\textbf{y}})$ 的区别）,

2）可变： $\textbf{\textbf{}x}$ , $\textbf{net}$ , $\textbf{y}$ , $\textbf{loss}$ 都可变。还有： $\textbf{g},\eta,\textbf{w}$ 等

3）过程： $\left ( x,y \right )_{B}\rightarrow net\left ( x \right )\rightarrow \widehat{y}\rightarrow l\rightarrow g\rightarrow w\rightarrow net\rightarrow y\widehat{}$

36、 $\textbf{net}$ 的形式1: 注意力汇聚函数

注意力机制下的神经网络 $\textbf{net}$ ，注意力汇聚函数模型（网络）,

$f\left ( x \right )=\sum_{i=1}^{n}\alpha \left ( x,x_{i} \right )y_{i}$

变化形式： $\textbf{q},\textbf{k},\textbf{v}$ 替换 $x,x_{i},y_{i}$ , 分别取名查询query，键key，值value，

$f\left ( \textbf{q},(\textbf{k}_{1},\textbf{v}_{1}) ,...(\textbf{k}_{m},\textbf{v}_{m})\right )=\sum_{i=1}^{m}\alpha \left ( \textbf{q},\textbf{k}_{i} \right )\textbf{v}_{i}$