主题
Search

最速下降法


一种用于寻找函数的最近局部最小值算法,它预设函数的梯度可以被计算。 最速下降法,也称为梯度下降法,从点 P_0 开始,并且根据需要多次从 P_i 移动到 P_(i+1),方法是沿着从 P_i 延伸到 -del f(P_i) 方向的线进行最小化,即局部下坡梯度

MethodofSteepestDescent

当应用于一维函数 f(x) 时,该方法采用迭代的形式

 x_i=x_(i-1)-epsilonf^'(x_(i-1))

从起始点 x_0 开始,对于一些小的 epsilon>0,直到达到不动点。 上述结果针对函数 f(x)=x^3-2x^2+2,其中 epsilon=0.1,以及起始点 x_0=2 和 0.01 分别进行了说明。

对于具有狭长山谷结构的函数,此方法有一个严重的缺点,即需要大量迭代。 在这种情况下,共轭梯度法是更优选的。


参见

共轭梯度法, 梯度, 局部最小值, 最小值

使用 Wolfram|Alpha 探索

参考文献

Arfken, G. "The Method of Steepest Descents." §7.4 in Mathematical Methods for Physicists, 3rd ed. Orlando, FL: Academic Press, pp. 428-436, 1985.Menzel, D. (Ed.). Fundamental Formulas of Physics, Vol. 2, 2nd ed. New York: Dover, p. 80, 1960.Morse, P. M. and Feshbach, H. "Asymptotic Series; Method of Steepest Descent." §4.6 in Methods of Theoretical Physics, Part I. New York: McGraw-Hill, pp. 434-443, 1953.Press, W. H.; Flannery, B. P.; Teukolsky, S. A.; and Vetterling, W. T. Numerical Recipes in FORTRAN: The Art of Scientific Computing, 2nd ed. Cambridge, England: Cambridge University Press, p. 414, 1992.Wolfram, S. A New Kind of Science. Champaign, IL: Wolfram Media, p. 985, 2002.

在 Wolfram|Alpha 上被引用

最速下降法

请引用为

Weisstein, Eric W. "Method of Steepest Descent." 来自 MathWorld--Wolfram Web 资源。 https://mathworld.net.cn/MethodofSteepestDescent.html

主题分类