4 posts tagged with "贝叶斯定理"

本文主要依据与论文 [^1] 来写，虽然这篇论文主要是提出了 SMBO 方法，但是一般认为该方法是 BO 的标准实现。

Sequential Model-based Global Optimization​

作为一个优化方法，我们的目标是最优化其目标函数，并假设有函数：

例如在深度学习中，其 $\mathcal{X}$ 就是模型的参数，$\mathbb{R}$ 就是任务的损失函数；

BackGround​

在 朴素贝叶斯分类器 中我们就从贝叶斯概率学派下对分类任务做了阐述。这里重新回顾一下这个问题。

我们将输入定义为 $\mathbf{x}$，想要知道该输入 $\mathbf{x}$ 是什么类别，则我们通过计算下面的条件概率：

假设我们有个特定的输入 $x$，我们想要 $\text{Inference}$ 它的类别，我们可以通过 贝叶斯定理 中的后验概率最大的类作为 $x$ 类的输入。

其中的 $Y$ 即输入的类别。

条件概率​

条件概率一般记作 $P(A\mid B)$，意思是当 $B$ 事件发生时，$A$ 事件发生的概率，其定义为

其中 $P(A\cap B)$ 意思是 $A$ 和 $B$ 共同发生的概率，称为联合概率。也可以写作 $P(A,B)$ 或 $P(AB)$。