2 凸优化
2。1凸优化简介
凸优化一般有数学优化、最小二乘和线性规划以及非线性优化。凸优化已经有了一套非常完善的算法,所以我们研究和使用起来也非常的方便。如果我们要解决某个问题的时候,将其转换成凸优化问题求解,那么很快便能够得到一套最优化解。论文网
在常见的优化问题中,假设目标函数为凸函数,约束一个变量取值于一个凸优化中,那么则称这个问题为凸优化问题,例如,设S为凸集,f(x)为S上凸函数,则问题inf(x)s。t属于S的一个凸优化。
非线性规划是上个世纪中期兴起的学科,由库恩和塔克发表的有关最优化条件的论文标志着非线性规划的诞生,令人惊奇的是,当时得出了二次规划的n次解法,因为之后的二三十年间发展迅速,这门学科在经济、军事、工程等领域得到了广泛应用,为最优化问题提供了强有力的工具。
我们在解决生活中的许多实际问题的时候,常常会用到数学模型,它可以帮助我们更快的找出一个最优的方法,通常是建立数学模型,然后对要解决的问题做定量分析,然后选定合适的目标变量及决策变量,建立两者函数关系,抽象化限制条件,进而得出满足的不等式和等式,一般称作约束条件。在寻找一元函数在设定区间的最优值点的时候,可以用一维最优化方法,具有非常强的实用价值,我们所熟知的黄金分割法还有切线法以及插值法都使用了最优化方法。
(1)黄金分割法:开始的时候是寻找一个设计列点,这个列点在区间中。然后依次分析比较其中的函数值,逐步的压缩所要寻查的空间,从而得到最优值点的近似值。
(2)切线法 又称作牛顿法。其中心思想是用一个函数里面的零点,作为新的猜测点,然后一步步迭代逼近最优点。
(3)插值法 又称作多项式逼近法。基本思想是用多项式(一般是用二项式或者三项式)去拟合目标函数[1]。
此外,还有斐波那契法、有理插值法、割线法、分批搜索法等。最优化方法还分约束最优化方法和无约束最优化方法。无约束最优化方法中又有梯度法、牛顿法、共轭梯度法、变尺度法。约束最优化方法中,常见的有拉格朗日乘子法、制约函数法、可行方向法、近似型算法。
2。2凸优化技术应用
凸优化作为近代数学中的一个重要组成部分,在近几十年得到了迅猛发展,越来越多的科研学者开始重视它,到目前为止已经应用到了各行各业。通过将非凸优化问题转化成凸优化问题是避免某些缺陷的行之有效的方法,可以保证得到最优解。
常见的凸集有直线和线段、锥以及范数球和范数锥。在解决凸函数的时候,可以检验一个函数凸与非凸,从一阶和二阶条件中判别。在凸优化问题中,有以下几个常见的凸优化问题标准格式可以供我们使用。
2。2。1凸优化模型
凸优化问题是一般如下表示: (2。1)
其中, ,。。。, 为凸函数。有三个附加要求:
(1)目标函数必须是凸的
(2)不等式约束函数必须为凸
(3)等式约束函数 必须为仿射
不难发现,凸优化问题可行集为凸,因为它是以下问题定义域:
(这是一个凸集)、m个(凸的)下水平集 以及p个超平面 的交集。(假设一般 ≠0:如果某些i有 =0且 =0,那么删去第i个等式约束:如果 =0,但 ≠0,那么第i个等式约束是矛盾的,问题不可行。)因此,如果是在一个凸优化问题中,那么我们就是在一个凸集上极小化一个凸的目标函数。