Conformerはほぼ地味なアプローチでASR界を席巻しました：各Transformerブロックに畳み込みモジュールを統合することで、モデルはグローバルコンテキストとローカル音響特性の両方を一度にキャプチャします。その効果は非常に大きく、言語モデルなしでLibriSpeechで2.1%/4.3%のWERを達成し、今では大多数のプロダクション音声システムのデフォルトバックボーンとなっています。

Gulati et al.論文のこの短編レビューは本質を突きます：マカロン型フィードフォワード構造の外観、畳み込みモジュールが重要である理由、および1000万パラメータの小型バリアントが依然として競争力のある2.7%/6.3% WER値を提供する方法についてです。NeMo、ESPnet、またはベンチマークリーダーボードでConfomerを繰り返し見かけ、なぜこんなに注目されているのかを知りたいのであれば、これが最速で基本を理解する方法です。本格的な論文に飛び込む前に、さっと見る価値があります。