摘要

基于分数的生成模型是与 DDPM 不同的一个分支。主要介绍宋飏老师提出的 NCSN (Noise Conditional Score Network)，模型主要基于分数匹配和朗之万动力学采样，以及训练时的加噪策略。

论文：Generative Modeling by Estimating Gradients of the Data Distribution

摘要

从 VAE 原理出发，从数学角度推导扩散模型的 ELBO 和优化目标的来龙去脉。用三种方式（原始数据、噪声和分数）改写优化目标 ELBO 的去噪匹配项，解释 DDPM 为什么要使用学习噪音的方式建模扩散模型。

摘要

IDDPM对原始DDPM做出了改进，提高了性能。引入了：

1. 参数化方差项，可学习
2. 噪声策略的改进
3. 均匀采样改进为重要性采样

论文：Improved Denoising Diffusion Probabilistic Models

有了自行车之后，我才发现我是如此热爱骑行。骑行它重新定义了自由，逛城市、去乡间，摆脱一周工作的疲惫，用车轮留住人生的风景，记载生命的轨迹。自此，所有美景尽收我眼底，都市乡村没有了距离，四海之内皆为兄弟。

摘要

2020 年 6 月，Jonathan Ho 等学者对之前的扩散概率模型进行了简化，并通过变分推断，将后验问题转为优化问题进行建模，提出了经典的去噪扩散概率模型（DDPM），将扩散概率模型的思想用于图像生成，目前所说的扩散模型，大多是基于该模型进行改进。

论文：Denoising Diffusion Probabilistic Models

为什么要搭建个人博客？

做学习笔记这件事情在我身上发生过很多次变化。最早追溯到大一开始用ipad进行无纸化学习，写下了几乎所有本科课程的笔记。大四时候读论文，为了让Windows端和Ipad端的Endnote论文笔记同步，开始用markdown记录一些随心所得。研究生之后接触到了神级的笔记软件Obsidian，加上用电脑敲代码的时间越来越多，经常随手就在Obsidian里记下了小知识点以及ideas。就这样，现在在我的本地电脑上已经形成了一个庞大的知识图谱体系，甚至于我有时能用Obsidian取代浏览器搜索一些遗忘的小知识点。

随着本地碎片化的知识体系越来越多，我生出了搭建个人博客的想法，权当有处地方记录我的读论文笔记。第一篇就记录一下搭建博客的经历和踩过的坑吧。