最速下降法 优化算法大体上分为两类:1.确定性优化算法(利用目标函数的一阶、二阶导数等信息,沿着确定的寻优方向寻优)2.现代优化算法(受现实世界中事物的启发产生的算法,寻优方向依概率或特定机制产生)。最速下降法(梯度法)属于第一种。