Skip to main content

3 posts tagged with "凸优化"

View All Tags

Legendre Transformations

· 5 min read
PuQing
AI, CVer, Pythoner, Half-stack Developer
info

设函数 f:RnRf:\mathbb{R}^n \to \mathbb{R},定义函数 f:RnRf^*:\mathbb{R}^n \to \mathbb{R} 则勒让德变换为:

f(s)=supxdomf(sTxf(x))f^*(s) = \sup_{x \in \operatorname{dom}f} \left( s^{\mathsf{T}}x-f(x)\right)

公式推导

让我们暂时忘掉奇怪的符号,我们从一个单变量的函数 f(x)f(x) 开始。

MM Algorithm

· 4 min read
PuQing
AI, CVer, Pythoner, Half-stack Developer
info

The MM algorithm is an iterative optimization method which exploits the convexity of a function in order to find its maxima or minima. The MM stands for “Majorize-Minimization” or “Minorize-Maximization”, depending on whether the desired optimization is a minimization or a maximization. Despite the name, MM itself is not an algorithm, but a description of how to construct an optimization algorithm.

MM 算法原理

MM 主要的思想是 非凸函数 太难优化了,我们就构造一个 “ 代理模型 ” ,通过迭代优化该函数达到优化的目的。

机器学习 - 凸优化

· 7 min read
PuQing
AI, CVer, Pythoner, Half-stack Developer
定义

凸优化问题 (OPT,convex optimization problem) 指定义在凸集中的凸函数最优化的问题。

数学概念

凸集

定义

假设 CC 是向量空间的集。若对于任意 x,yCx,y\in C 和任意的 θR\theta\in \mathbb{R},满足 0θ10\le \theta \le 1 时,θx+(1θ)yC\theta x+(1-\theta)y \in C 恒成立。则称 CC凸集[^1]