DL基于Pytorch Day3 循环神经网络进阶

1.GRU RNN存在的问题:梯度较容易出现衰减或爆炸(BPTT) ⻔控循环神经网络:捕捉时间序列中时间步距离较大的依赖关系 RNN: GRU: • 重置⻔有助于捕捉时间序列里短期的依赖关系; • 更新⻔有助于捕捉时间序列里⻓期的依赖关系。 载入数据集 import os os.listdir('/home/kesci/input') Out[1]: ['d2lzh1981', 'houseprices2807', 'jaychou_lyrics4703', 'd2l_jay9460'] In [3]: import numpy as np import torch from torch