极限学习机与偏最小二乘法

由于神经网络具有拟合非线性的能力,所以可以用神经网络来处理内部模型的非线性特性,因此这种内部模型采用神经网络的非线性PLS方法得到了广泛的应用。传统的前馈神经网络在训练中采用梯度学习算法,网络中的参数需要迭代更新,不仅训练时间长,而且容易导致局部极小和过度训练等问题,另外其多隐层的结构也导致了样本训练速度慢,训练误差大"此外,Bartlett提出对于已达到最小训练误差的前馈神经网络,权值越小泛化特性越好,而传统的梯度学习算法仅仅考虑训练误差最小,忽视了权值大小对网络的影响,这些问题都将影响到模型的泛化特性。