Task03 循环神经网络进阶(pytorch代码实现)

循环神经网络进阶 ⻔控循环神经网络(GRU) 当时间步数较大或者时间步较小时, 循环神经网络的梯度较容易出现衰减或爆炸。虽然裁剪梯度可以应对梯度爆炸,但无法解决梯度衰减的问题。通常由于这个原因,循环神经网络在实际中较难捕捉时间序列中时间步距离较大的依赖关系。 ⻔控循环神经网络(GRU):捕捉时间序列中时间步距离较大的依赖关系 CNN: GRU: • 重置⻔有助于捕捉时间序列里短期的依赖关系; • 更新⻔有助于捕捉时间序列里⻓期的依赖关系。 GRU pytorch简洁代码实现 import numpy as np import torch from torch import nn, opti