H.264/AVC采用17种预测模式和率失真优化模型来进行帧内模式的选择，复杂度很高。目前的快速帧内模式选择算法能有效减少模式选择的复杂度，但还存在很大的不足。提出了一种基于BP神经网络的快速帧内模式选择算法。该算法使用BP神经网络对大量视频序列预先训练的结果对宏块进行预判，得出当前宏块采用Intra16×16或Intra4×4模式，然后使用PanFeng的方法判断具体选择何种模式。实验结果表明，该算法在保证视频质量几乎不变（PSNR平均降低约0.01dB）的同时，可以有效减少计算复杂度，与JM86相比减少75%～83%，与PanFeng的方法相比减少30%～70%。