梯度下降softmax回归

梯度下降法;梯度下降法又称最速下降法函数J(a)在某点ak梯度 是一个向量其方向是J(a)增长最快方向显然负梯度方向是J(a)减少最快方向 在梯度下降法中求某函数极大值时沿着梯度方向走可以最快达到极大

如题，机器学习_梯度下降算法实现。包括测试数据。

关于神经网络 梯度下降的公式推导，资料来自中文维基百科：反向传播算法。这里对其进行了图解。发现还是维基比较好，原来一开始看英文版的反向传播算法，最后公式纠结了老半天，估计是错的吧，但是中文版的公式却很

机器学习中经典的优化算法，让loss快速达到更小，本代码在minist数据集测试分类算法，取得很好的结果。

这是一个matlab对梯度下降的实现，模拟的是x^2+y^2最小值的取得

Two gradient descent methods

Python implementation of batch gradient descent

GradientDescentFlow---梯度下降流串行计算

利用梯度下降法求函数极小值，或稍作修改用梯度上升法求极大值，附带测试函数

m=100000x=np.random.normal(size=m)X=x.reshape(-1,1)y=4.0*x+3.0+np.random.normal(0,3,size=m)。。。