两份论文，一个故事。"Attention Is All You Need"为世界带来了Transformer，改变了序列建模的方式，而"Listen, Attend and Spell"（LAS）一年前对端到端语音识别做了同样的事情，用单个基于注意力的编码器-解码器替代了CTC-HMM管道。从语音工程师的角度来看，一起阅读这两份论文，清楚地表明现代ASR对注意力机制的依赖有多深，这些机制最初在字符和音素上进行了首次应用。

这份评论对齐了两种架构，将自注意力与LAS的金字塔BLSTM编码器和基于内容的注意力进行对比，并追踪了想法如何在NLP和语音社区之间流动，从而导向今天的Conformers、transducers和Whisper风格的seq2seq ASR。如果你想理解连接基础Transformers和你现在GPU上运行的语音基础模型的历史脉络，这份深入分析是一次坚实的基础课程。