这是我个人以为目前最好的神经网络与机器学习入门资料。作者以MNIST为例详细介绍了神经网络中的基本概念,比如梯度下降优化方法,反向传播算法(backpropagation algorithm),以及各种神经网络训练过程中的小技巧,比如初始权重的选择方法,梯度下降方法的进一步改进,选取不同的代价函数,如何防止过拟合等等。 当然,神经网络只是深度学习的基础,深度学习不只是深度神经网络那么简单,教程的最后三分之一介绍深度学习。作者的文字深入浅出,介绍了深度神经网络训练的困难在什么地方,以及前辈工作者是如何克服这些困难的,然后引出了深度学习。 深度学习也只是机器学习的其中一个方法而已,更别说范围更广的人工智能,但是了解了神经网络,也就基本掌握了机器学习的思路,概括来说就是:从数据到参数,有了参数我们就可以对新的数据做统计推断。