AlexNet模型是Hinton的学生Alex Krizhevsky在2012年提出来的。AlexNet包含了几个比较新的技术点，也首次在CNN中成功应用了ReLU、Dropout和LRN等Trick。AlexNet主要使用的新技术点如下：（1）成功使用ReLU作为CNN的激活函数，并验证其效果在较深的网络超过了sigmoid，解决了sigmoid在网络较深时的梯度弥散问题。（2）训练时使用dropout随机忽略一部分神经元，以避免过拟合，主要是最后几个全连接层使用了dropout。（3）在CNN中使用重叠的最大池化，避免平均池化的模糊化效果。并且提出让步长比池化核的尺寸小，这样池化层