所以研究比较局部搜索算法的性能，是一个很有实际意义的工作。 

1。2 局部搜索算法研究现状

1。3 最优化理论

最优化理论和算法是数学领域中一个重要的分支，它所研究的主要问题是什么样的 方案在众多方案中是最优的以及如何找出最优方案。这类问题在生活中是普遍存在的， 例如：在资源分配中，如何将有限的资源进行合理分配，使得分配方案既能满足各方面 要求，又能获得最好的经济效益；在工程设计参数选择中，设计怎样的参数才能使方案 既能满足设计的要求，又能使成本降到最低。最优化理论的提出正是为上述这类问题的 解决提供了理论依据和求解方法，它是一门实用性很强的学科。 

最优化理论和算法是一个很古老的课题，很长时间以来，对于最优化问题人们不断 地进行着研究和讨论。极值问题是早在十七世纪英国科学家牛顿提出微积分理论的时候 就提出的问题，后来，在 1791 年，法国著名数学家约瑟夫·拉格朗日又提出了一种寻找 变量受一个或多个条件所限制的多元函数的极值的方法，被人们称为拉格朗日乘数法。 1847 年，法国数学家柯西（Cauchy）在研究函数值在沿什么方向下降最快的问题的时 候，提出了一种最早的最优化方法——最速下降法。随着时间的推移和科学的发展，人 们对最优化问题的研究不断地深入，但是，所有科学的发展都收到历史条件的制约，直 到 20 世纪 30 年代，这个古老的课题都没有能够形成独立的有系统的学科[7]。从 20 世纪

40 年代开始，随着科学技术的飞速发展和生产水平的进一步提高，尤其是计算机在科学 研究领域的广泛应用，使得最优化问题的研究有了一种强力的求解工具。最优化理论和 算法也因此迅速的发展起来，并形成了一个新的学科。至今为止，最优化理论已经出现 了许多分支，例如，几何规划、线性规划、整数规划、非线性规划等。最优化理论和方 法在实际应用中的左右也越来越大。

简单的来说，我们在高数中遇到的函数极值问题，就是最简单的最简单的最优化问 题，我们又将其称之为经典极值问题。在一般的工程设计中，我们可以将一般的工程问 题转化为相应的数学模型。凡是追求目标最优化的数学问题都是优化问题。优化设计的 数学模型一般要有三个要素：第一是设计变量；第二是目标函数；第三是约束条件。设 计变量的确定需要满足这样一个原则：在保证设计基本要求的前提下，选取对设计目标 影响较大的参数作为设计变量，将那些对设计目标影响较小的参数根据实际情况进行赋 值，来尽量地减少设计变量的个数。目标函数就是用来评价和最求最优化方案的函数。 优化设计的最终目的就是要求出我们所选择的设计变量使目标函数达到最佳值。在设计论文网

空间中，设计点的个数是无限的，但是在实际的工程设计中对设计变量的取值我们都会 进行一些限制，这些限制我们将其称之为约束条件。 

1。4 本论文主要研究内容

本文所研究的局部搜索算法就是用来解决一些工程中的优化问题，不同的局部搜索 算法在解决不同的优化问时有着不同的表现，对不同的局部搜索算法在不同的函数优化 中的表现进行横向对比，通过分析对比这些算法在不同问题中的具体表现，得出这些算 法各自的特点以及其最适合应用的领域，使其能够在其最适合的领域中发挥最大效用。

本文主要做了以下工作：

（1）简单介绍了最速下降法、牛顿法、SR1 方法、BFGS 方法以及共轭梯度法的原 理以及实现方法。