Class13-循环神经网络进阶 1.1 引入 1.1.1 Recurrent Neural Network, RNN 用于处理带有‘时序性’的数据,数据中一个unit与其前后unit有关. RNN网络结构: 从上式可以看到:Ht−1H_{t-1}Ht−1​为t−1t-1t−1时刻的隐藏层输入,XtX_tXt​为t时刻的输入。 比较神经网络(NN)的公式:$HW+b ,我们可以看到之前时刻, 我们可以看到之前时刻,我们可以看到之前时刻H_{t-1}$增加的影响。 1.1.2 GRU(Gate Recurrent Unit的简称) GRU为循环神经网络的一种,增加门控制: 分析上式可发现: