颜色分类leetcode Uncertainty-Aware Attention for Reliable Interpretation and Prediction, and DropMax: Adaptive Variational Softmax用于可靠解释和预测的不确定性注意。Jay Heo(KAIST,合著者),Hae Beom Lee(KAIST,合著者),Saehoon Kim(AITRICS),Juho Lee(牛津大学),Kwang Joon Kim(延世大学医学院),Eunho Yang(KAIST),和Sung Ju Hwang (KAIST)。更新(2018年11月4日)。
TensorFlow实现引入了时间序列数据的不确定性注意机制(在医疗保健中)。我们将注意力权重建模为具有输入相关噪声的高斯分布,该模型在对给定特征的贡献有信心时生成具有小方差的注意力,并将具有大方差的噪声注意力分配给每个输入的不确定性特征。抽象的注意机制在将深度学习模型聚焦于相关特征并解释它们方面都很有效。然而,注意力可能不可靠,因为产生注意力的网络通常以弱监督的方式进行。
暂无评论