摘要:  本文主要研究了三种无约束最优化问题的实用算法:最速下降法、牛顿法、拟牛顿法中的BFGS算法。首先简要阐述了最速下降法的基本思想,通过该方法的MATLAB程序求解无约束最优化问题；然后通过牛顿法引出阻尼牛顿法,运用其MATLAB程序求解实际问题；最后简要阐述了拟牛顿法中的BFGS算法,运用MATLAB软件解决了无约束最优化问题。79215

毕业论文关键词： 无约束最优化； 最速下降法； 牛顿法； BFGS算法

Research on Algorithms of the Unconstrained Optimization Problem and Its Implementation in MATLAB

Abstract: This paper studies three kinds of practical algorithm about the unconstrai- 

ned optimization problem。They are the steepest descent method, the Newton method, and the BFGS algorithm of the quasi-Newton method。Firstly, the steepest descent method is briefly described。and it is used to solve an unconstrained optimization problem by its MATLAB program。Then, the damped Newton's method is leaded by the Newton's method and is used to solve a practical problem by its MATLAB program。 Finally, the BFGS algorithm of the quasi-Newton method is briefly descriz-

ed and is used to solve an unconstrained optimization problem by MATLAB software。

Keywords: Unconstrained Optimization; Steepest descent method; Newton method; BFGS Algorithm       

目    录

摘　要 1

引言 。。2

1。 最速下降法及其在MATLAB中的实现。。3

   1。1 最速下降法的基本思想。 。。3

   1。2 最速下降法的MATLAB程序。5

   1。3 最速下降法在实际中的应用 。6

2。 牛顿法及其在MATLAB中的实现。6

   2。1 牛顿法的基本思想。。 。。6

   2。2 阻尼牛顿法的MATLAB程序10

   2。3 阻尼牛顿法在实际中的应用。11       

3。 BFGS算法及其在MATLAB中的实现。。12

   3。1 BFGS算法的基本思想。 。。12

   3。2 BFGS算法的MATLAB程序。15

   3。3 BFGS算法在实际中的应用。。16 4。 结束语 。。16

参考文献 。。17

致谢18

无约束最优化问题的算法研究及其在MATLAB中的实现

引言 

人们一直在追求获得最优化,最优化就是讨论决策问题的最佳选择之特性，构造寻求最佳解的计算方法，研究这些计算方法的理论性质及实际计算表现。最优化计算方法是运筹学的一个重要组成部分,具有极强的实用性,而且很好的指引着现实生活。因此引起了众多研究者们对其进行着很深入的研究和深刻的探讨。它起源于第二次世界大战,是20世纪新兴的学科之一,目前已经有许多的分支。运筹学的理论和方法在国际、金融、经济、管理、工程等众多重要的领域有着广泛的应用[1]。现在它已经成为经济计划、系统工程、现代管理等领域的强大工具。进一步推动最优化计算方法的迅速发展并成为相关工程技术人员和管理人员的基础知识。论文网

    非线性规划问题一般要注意确定供选方案、提出追求目标、给出价值标准、寻求限制条件。处理非线性的优化问题并非易事,它没有一个像线性规划中单纯形法那样的通用算法,而是根据问题的不同特点给出不同的解法。用最优化解决实际问题一般包括两个基本步骤：一是优化建模；二是模型求解[2]。评价和比较这些算法,一般我们有两方面的准则,从实用计算的数值经验上看，可靠性强且效率高。从理论上能够证明一个算法是收敛的且具有好的收敛速度[3]。

本文主要分为三部分,第一部分主要阐述了最速下降法的基本思想,运用MATLAB程序求解无约束最优化的实际问题,第二部分是通过牛顿法引出阻尼牛顿法,再利用阻尼牛顿法解决实际问题,第三部分是首先简要阐述拟牛顿法中的BFGS算法,运用MATLAB软件研究无约束最优化问题,最后一部分是本篇论文的结束语。