Conformer 是悄悄接管端到端 ASR 的模型，其配方是將卷積模組固定到每個 Transformer 區塊上，事實證明這是那些看似簡單但行之有效的想法之一。 Transformers 擅長全球背景； CNN 擅長局部聲學模式； Conformer 不再讓您選擇並提供最先進的 LibriSpeech WER，無需語言模型即可達到 2.1%/4.3%。

這篇對古拉蒂等人的長篇評論。論文逐塊解壓了完整的架構：馬卡龍前饋三明治、卷積模組的門控和深度卷積，以及多頭自註意力如何與相對位置編碼交互。它還深入研究了參數效率的故事，包括 10M 參數的小型模型，其效率仍為 2.7%/6.3% WER。如果 Conformer 在您的生產堆疊中，或者您正在根據 Whisper 樣式的僅 Transformer 基準對其進行評估，則深入探討每個值得理解的設計決策。