凸优化 - 简介

本课程适用于希望解决各种工程和科学应用中出现的非线性优化问题的学生。本课程从线性规划的基本理论开始，将介绍凸集和凸函数的概念以及相关术语，以解释解决非线性规划问题所需的各种定理。本课程将介绍用于解决此类问题的各种算法。这类问题出现在各种应用中，包括机器学习、电气工程中的优化问题等。它要求学生具备高中数学概念和微积分的预备知识。

在本课程中，学生将学习如何解决诸如 $min f\left ( x \right )$ 受某些约束条件的优化问题。

如果函数 $f\left ( x \right )$ 是线性函数且约束条件是线性的，则这些问题很容易解决。这被称为线性规划问题 (LPP)。但是，如果约束是非线性的，则很难解决上述问题。除非我们可以在图中绘制函数，然后尝试分析优化，这是一种方法，但如果函数维度超过三维，我们就无法绘制它。因此，出现了非线性规划或凸规划技术来解决此类问题。在本教程中，我们将重点学习这些技术，最后介绍一些解决此类问题的算法。首先，我们将引入凸集的概念，它是凸规划问题的基础。然后，通过介绍凸函数，我们将学习一些重要的定理来解决这些问题以及基于这些定理的一些算法。

术语

• 空间 $\mathbb{R}^n$ - 它是一个具有实数的 n 维向量，定义如下 - $\mathbb{R}^n=\left \{ \left ( x_1,x_2,...,x_n \right )^{\tau }:x_1,x_2,....,x_n \in \mathbb{R} \right \}$

• 空间 $\mathbb{R}^{mXn}$ - 它是所有 mXn 阶实值矩阵的集合。