主要内容

本地和全球最适条件

为什么解决不找到最小的最小

一般来说,解决返回一个局部最小值(或最佳)。结果可能是一个全球最低(或最佳),但是这个结果是没有保证的。

  • 一个当地的最小的函数是一个点函数值小于在附近的点,但可能大于一个遥远的时候。

  • 一个全球最小是一个点函数值小于其他可行点。

曲线有两个下降;较低的下降是全球最低的,越高下降是一个局部最小值

优化工具箱™解决通常找一个局部最小值。(这局部最小值可以是一个全局最小值。)他们发现最低的盆地的吸引力的起点。盆地的吸引力的更多信息,请参阅盆地的吸引力

以下是这个一般规则的例外情况。

  • 线性规划问题和正定二次规划问题是凸的,与凸可行的地区,所以他们只有一个盆地的吸引力。根据指定的选项,linprog忽略任何用户提供的起点,quadprog不需要一个,即使你有时速度一个最小化通过提供一个起点。

  • 全局优化工具箱功能,比如simulannealbnd尝试搜索多个盆地的吸引力。

寻找一个更小的最小值

如果你需要一个全球最低,你必须找到一个初始值为你解决在吸引全球最低的盆地。

你可以设置初始值搜索全球最低在这些方面:

  • 使用常规网格的初始点。

  • 用随机点来自一个均匀分布问题的坐标都是有界的。使用点来自正常,指数或其他随机分布如果一些组件是无界的。你知道全球最低的位置,你的随机分布越分散。例如,正态分布样本很少超过三个标准差远离他们的意思,但柯西分布密度1 / (π(1 +x2)))大大不同的样本。

  • 使用相同的初始点添加每个coordinate-bounded随机扰动,正常,指数,或其他。

  • 如果你有一个全局优化工具箱许可,使用GlobalSearch(全局优化工具箱)MultiStart(全局优化工具箱)解决者。这些解决方案自动生成随机点在允许范围内。

你越了解可能的初始点,更有针对性和成功你的搜索。

盆地的吸引力

如果一个目标函数f(x)光滑,向量——∇f(x)点的方向f(x)减少最快。最陡下降的方程,即

d d t x ( t ) = f ( x ( t ) ) ,

产生一个路径x(t)去一个局部最小值t增加。一般来说,初始值x(0)互相离得很近,给最陡下降路径趋向相同的最小值点。的盆地的吸引力最陡下降是初始值的设置,导致相同的局部最小值。

这个图显示了两个一维最小值。图中显示不同盆地的吸引力不同风格,并用箭头表示最陡下降的方向。和随后的数字,黑点代表局部最小值。每一个最陡下降路径,从一个点开始x(0)去,在盆地含有黑点x(0)

一维盆地

曲线下降。底部的凹陷是一个局部最小值,和该地区周围的每个当地最低的盆地是吸引力。

这个图展示了最陡下降路径可以在更多更复杂的维度。

吸引力的一个盆地,显示最陡下降路径从不同的起点

二维显示曲线指着最小的地区。每个曲线代表最陡下降流。

这个图展示了更复杂的路径和盆地的吸引力。

几盆的吸引力

吸引力的二维区域分成不同颜色的盆地,流径线在每个地区接近最低

约束可以打破一个盆地的吸引力成几块。例如,考虑最小化y主题:

y≥|x|

y≥5 - 4 (x2)2

这个图显示了两个盆地的吸引力最终点。

流行指向两个局部最小值。每个颜色的地区代表吸引力盆地之一。

代码生成图

最陡下降路径约束边界直线下降。从约束边界,最陡下降路径旅行沿着边界。最后一点是(0,0)或(11/4 11/4),取决于最初的x价值是高于或低于2。

相关的话题