从ReLU到GELU,一文概览神经网络的激活函数(https://mp.weixin.qq.com/s/pA9JW75p9J5e5KHe3ifcBQ),除上述外,本文还提供了若干相应的支撑论文。