第三节:从Transformer 到 BERT

目录1. Review ELMo and Transformer2. Bert2.1 Bert Structure2.2 Training Tips2.3 Applications3. Anti-Bert4. Recap 最近在家听贪心学院的NLP直播课。放到博客上作为NLP 课程的简单的梳理。 简介:在18年年底的时候,有一件事情轰动了整个NLP界,它就是大家所熟悉的BERT模型,它刷新了整个文本领域的排行榜,受到了全球的瞩目。之后,很多公司慢慢开始采用BERT作为各种应用场景的预训练模型来提高准确率。在本次讲座里,我们重点来讲解BERT模型以及它的内部机制。(其实核心是Transforme