生成式 AI - Diffusion 模型的数学原理(4)

来自 论文《 Denoising Diffusion Probabilistic Model》(DDPM)
论文链接: https://arxiv.org/abs/2006.11239
Hung-yi Lee 课件整理

一、 q ( x t ∣ x t − 1 ) q(x_{t} \mid x_{t-1} ) qxtxt1的计算

第一行的图示给出了 x t x_{t} xt x t − 1 x_{t-1} xt1的关系,这里的 β t \beta_{t} βt是事先准备好的值,从 β 1 \beta_{1} β1 β T \beta_{T} βT,这个值相当于超参数,是可以调整的。
噪声是从一个均值为0,方差为1的高斯分布中sample出来的。
实际上这里的 q ( x t ∣ x t − 1 ) q(x_{t} \mid x_{t-1} ) qxtxt1服从高斯分布,它的均值是它的均值是 1 − β t ∗ x t \sqrt{1-\beta_{t} } *x_{t} 1βt xt,方差是 β t \sqrt{\beta_{t} } βt
要怎么计算 q ( x t ∣ x 0 ) q(x_{t} \mid x_{0} ) qxtx0呢,我们想象中是图片下面表示的这样,是一步一步依次产生的。

实际上这个概率是可以直接计算出来的。

依照上面,我们把 x 1 x_{1} x1 x 2 x_{2} x2分别用图示表示出来,他们彼此的噪声的分布是相互独立的,没有关系的。

接下来我们把第一行的 x 1 x_{1} x1带入第二行的 x 1 x_{1} x1
这样得到 x 2 x_{2} x2 x 0 x_{0} x0的表达式,也就是第三行。

这样我们得到了 x 2 x_{2} x2的表示,后面两项的分布是一样的,只是系数不同,我们可以只采样一次,把系数合并就可以了,得到黄色噪声图前面的系数。

依此类推,整个过程可以全部合起来,得到 x t x_{t} xt的表示。
为了简化,我们把 α t \alpha _{t} αt写成 1 − β t 1-\beta _{t} 1βt, 把 α ˉ t \bar{ \alpha }_{t} αˉt写成 α 1 α 2 . . . α t \alpha _{1}\alpha _{2}...\alpha _{t} α1α2...αt, 这样就可以把红色方框里面的数值用方框下面的符号简化表达。

未完待续。。。。。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/475493.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2023我患上了AI焦虑

2023我患上了AI焦虑 来自:宝玉 原文链接:https://baoyu.io/blog/ai/i-am-suffering-from-ai-anxiety-in-2023 2023 年对我来说是神奇的一年,我意外的从一个程序员变成了一个 AI 资讯届的“网红”,到年底的时候我在 X 平台的阅读量…

[C++]二叉搜索树

一、定义 二叉搜索树又称二叉排序树,它或者是一棵空树,或者是具有以下性质的二叉树: 若它的左子树不为空,则左子树上所有节点的值都小于根节点的值若它的右子树不为空,则右子树上所有节点的值都大于根节点的值它的左右子树也分别…

简洁高效的短链接:优化互联网体验

title: 简洁高效的短链接:优化互联网体验 date: 2024/2/18 13:24:24 updated: 2024/2/18 13:24:24 tags: 短链接长网址缩短美观简洁分享优化点击率提升数据统计用户体验 在互联网时代,我们经常遇到需要分享长网址的情况。长网址不仅不美观,而…

前端技巧之svg精灵图svg-sprite-loader

首先说明精灵图的必要性,其可以让我们只需要向服务器请求一次图片资源,就能加载很多图片,即能够减轻http请求造成的服务器压力。 然后这里要说明的是这个插件是webpack上面的,所以在vue2中比较好用,如果在vue3中&…

春节专题|产业7问:区块链厂商的现在和未来——数字资产厂商

2023转瞬即逝,不同于加密领域沉寂一整年后在年末集中爆发,对于我国的区块链厂商而言,稳中求胜才是关键词,在平稳发展的基调下,产业洗牌也悄无声息的到来。 从产业总体而言,在经过了接近3年的快速发展后&…

TensorRT转换onnx的Transpose算子遇到的奇怪问题

近来把一个模型导出为onnx并用onnx simplifier化简后转换为TensorRT engine遇到非常奇怪的问题,在我们的网络中有多个检测头时,转换出来的engine的推理效果是正常的,当网络中只有一个检测头时,转换出来的engine的推理效果奇差&…

利用HTTP隧道在Linux系统上实现安全远程访问

在一个阳光明媚的下午,Linux小侠坐在电脑前,捋了捋他那一头乌黑亮丽的代码发,开始琢磨如何通过HTTP隧道实现安全远程访问。毕竟,在这个信息爆炸的时代,远程访问的安全性可是每个技术宅都绕不开的话题。 Linux小侠知道…

K8s进阶之路-有状态服务/守护进程/任务:

StatefulSet:专门针对有状态服务进行部署的一个控制器 (长连接) 实现:通过headless service网络固定、数据不能丢失、顺序得到保障, (配置:Headless Service: 对于 有状态 服务的DNS管理&#x…

泛域名SSL证书是什么?泛域名SSL证书价格多少钱?

SSL证书是一种数字证书产品,可保护网站数据传输安全及服务器身份可信。通常根据保护域名数量及域名类型的不同,SSL证书可以分为单域名SSL证书、多域名SSL证书、泛域名SSL证书、多域名和泛域名混合SSL证书。那么泛域名SSL证书是什么?泛域名SSL…

Unity求物体关于平面镜像对称后坐标以及旋转

前言:如题,我在已知一个平面L和物体A,我希望得到镜像后的物体B的位置和旋转。 效果: 推导: 首先我们需要知道物体的对称坐标A,我们现在能已知A坐标以及平面L的法线,如果我们能得到B的坐标&…

Maven - Plugins报错的正确解决之道

背景: 正确解决之道: 在自己本地Maven的安装目录中找到自己的仓库地址目录:直接搜索自己报错的插件文件,把它们删除,如图: 接着回到IDEA点击Maven刷新按钮重新加载即可:已解决 反例&#xff1…

第13章 基于Java Swing的图书管理系统

13.1 需求分析 在当今社会,随着信息技术的不断发展,信息管理系统已经进入到了人类社会的各个领域,人们对于信息技术的掌握也越来越迅速。在图书管理的过程中也引入图书管理体系,图书管理系统将大大节省人力、物力、时间、金钱等资…