Skip to main content

One post tagged with "Transformer"

View All Tags

从 SSM 到 Mamba

· 12 min read
PuQing
PuQing
AI, CVer, Pythoner, Half-stack Developer

什么是 SSM​

状态空间模型（State Space Models，SSM），与 线性系统入门-动态系统 中我们介绍过线性时不变系统就是一个东西。

{dx(t)dt=Ax(t)+Bu(t)∈RNy(t)=Cx(t)+Du(t)∈R\begin{cases} \displaystyle \frac{d \boldsymbol{x}(t)}{d t}=\boldsymbol{A} \boldsymbol{x}(t)+\boldsymbol{B} u(t) \in \mathbb{R}^{N} \\ y(t)=\boldsymbol{C} \boldsymbol{x}(t)+\boldsymbol{D} u(t) \in \mathbb{R} \end{cases}

其中每个矩阵是具有含义的，其中的 A\boldsymbol{A} 矩阵是状态矩阵（系统矩阵），它描述了系统状态是如何变化的，B\boldsymbol{B} 矩阵是输入矩阵描述了输入是如何影响到系统状态的。而 C\boldsymbol{C} 矩阵是输出矩阵，描述了当前状态是如何作用到输出量上的，D\boldsymbol{D} 矩阵是直接传递矩阵描述了输入是如何直接作用到输出量上的。