动手学深度学习PyTorch版—day02

目录 Day02 1.过拟合,欠拟合及解决 训练误差 泛化误差 过拟合 过拟合解决方案 欠拟合 2.梯度消失,梯度爆炸 考虑环境因素 协变量偏移 标签偏移 概念偏移 3.卷积神经网络基础 ALexNet VGG GoogLeNet 4.批量归一化,残差结构,密集连接 BN 对全连接层做批量归一化 对卷积层做批量归一化 预测时的批量归一化 Day02 过拟合、欠拟合及解决方案;梯度消失,梯度爆炸;注意力机制与Seq2seq;卷积神经网络基础 1.过拟合,欠拟合及解决 训练误差 指模型在训练集上表现出来的误差 泛化误差 指模型在任意测试集上表现出来的误差的期望,通常用测试集的误差来近似 过拟合