BERT (预训练Transformer模型) - Shusen Wang - 深度學習 Deep Learning 公開課 - Cupoy

Transformer模型是目前机器翻译等NLP问题最好的解决办法，比RNN有大幅提高。Bidirectional Encoder Representations from Transformers (BERT) 是预训练Transformer最常用的方法，可以大幅提升Transformer的表现。