Skip to main content

R-S 积分

· 5 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

Reimann 积分​

将朴素的 积分思想 严格成积分，我们先给出以下一些定义：

定义

我们称 τ:=(x0,x1,⋯ ,xn)\tau:=(x_{0},x_{1},\cdots,x_{n}) 为区间 I:=[a,b]I:=[a,b] 的一个分割，若 a=x0<x1<⋯<xn=ba=x_{0}<x_{1}<\cdots<x_{n}=b，n∈N+n\in\mathbb{N}_{+}。

随机过程 - 基础知识

· 9 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

概率空间​

定义

把随机试验每一个可能的结果称为一个样本点 (sample point)，通常用 ω\omega 表示；所有可能的结果组成的集合称为样本空间 (sample space)，通常用 Ω\Omega 表示

info

先后掷两次硬币这个随机试验可能出现的结果是 (正,反)(正,反)(反,正)(反,反)(\text{正,反})(\text{正,反})(\text{反,正})(\text{反,反})，把这四个结果作为样本点构成样本空间

布朗运动与朗之万方程

· 2 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

随机过程与布朗运动​

定义：随机过程

设有概率空间 (Ω,F,P)(\Omega,\mathcal{F},P) 及参数集合 (指标集)T⊂RT\subset \mathbb{R}, 称随机变量族

X={X(t),t∈T}={X(t,ω),ω∈Ω,t∈T}X=\{X(t),t \in T\}=\left\{ X(t,\omega),\omega \in \Omega,t \in T \right\}

为一随机过程或随机函数

生成扩散模型 - 条件控制生成

· 3 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

从生成手段上看，条件控制生成有两种：事后修改 (Classifier-Guidance) 和事前训练 (Classifier-Free)。

利用已经训练好的生成模型，通过一个分类器来调控生成过程，这就是事后修改的方法，因为从头到位训练一个生成模型训练成本太大了。而对于大公司来说，不缺算力，所以一般采用的是在训练过程中加入训练信号，达到更好的训练生成效果，这就是 Classifier-Free 方案。

条件输入​

生成模型最关键的就是对于 p(xt−1∣xt)p(\boldsymbol{x}_{t-1}\mid \boldsymbol{x}_{t}) 的建模，而条件生成就是以条件 y\boldsymbol{y} 作为条件输入，而这时的条件概率分布就可以写为 p(xt−1∣xt,y)p(\boldsymbol{x}_{t-1}\mid \boldsymbol{x}_{t},\boldsymbol{y})。为了重用已经训练好的无条件生成模型 p(xt−1,xt)p(\boldsymbol{x}_{t-1},\boldsymbol{x}_{t})，我们利用贝叶斯定理：

生成扩散模型 - DDPM

· 9 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

DDPM 模型将一张图片解构为 TT 步，从原始的图片 x0x_{0} 开始，经过 TT 步 “ 分解 ” 得到随机杂乱的噪声 xtx_{t}，即：

=x0→x1→x2→⋯→xT−1→xT=z=\boldsymbol{x}_{0}\to \boldsymbol{x}_{1}\to \boldsymbol{x}_{2} \to \cdots \to \boldsymbol{x}_{T-1} \to \boldsymbol{x}_{T}=z

所以如果我们能够学会 xt→xt−1x_{t}\to x_{t-1} 步骤，则我们就可以从噪声恢复原始的图片。所以我们想要学习关系 xt−1=μ(xt)x_{t-1}=\mu(x_{t})，那我们从 xtx_{t} 出发，反复执行 xt−1=μ(xt)x_{t-1}=\mu(x_{t}) 就能从中恢复。

Banach Fixed point Theorem

· 5 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

两个例子​

落在地图上的地图

有命题：将一座公园的地图铺开在公园的地面上，则地面上恰好有唯一一点与地图上对应的点重合

设公园可以用有界的面闭区域 Ωˉ\bar{\Omega} 表示。设地图的比例是 λ\lambda (它当然介于 0 和 1 之间)。现在固定一个平面坐标系，把地图铺在区域 Ωˉ\bar{\Omega} 内（公园内），则从 Ωˉ\bar{\Omega} 内的点（物理公园中的地点）到地图上对应点的变换由下面的公式给出：

Legendre Transformations

· 5 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer
info

设函数 f:Rn→Rf:\mathbb{R}^n \to \mathbb{R}，定义函数 f∗:Rn→Rf^*:\mathbb{R}^n \to \mathbb{R} 则勒让德变换为：

f∗(s)=sup⁡x∈dom⁡f(sTx−f(x))f^*(s) = \sup_{x \in \operatorname{dom}f} \left( s^{\mathsf{T}}x-f(x)\right)

公式推导​

让我们暂时忘掉奇怪的符号，我们从一个单变量的函数 f(x)f(x) 开始。