Conformer는 거의 단순한 작업을 통해 ASR 세계를 휩쓸었습니다: 각 Transformer 블록에 convolution 모듈을 붙여 모델이 전역 컨텍스트와 로컬 음향 세부 정보를 한 번에 포착할 수 있도록 했습니다. 그 효과는 엄청났으며, 언어 모델 없이 LibriSpeech에서 2.1%/4.3% WER을 달성했고, 이제 프로덕션 음성 시스템의 거대한 부분의 기본 백본입니다.

Gulati 등의 논문에 대한 이 단문 리뷰는 핵심을 다룹니다: macaron feed-forward 구조가 어떻게 보이는지, convolution 모듈이 왜 중요한지, 그리고 소형 10M 파라미터 변형이 어떻게 여전히 경쟁력 있는 2.7%/6.3% WER 숫자를 제공하는지입니다. NeMo, ESPnet, 또는 벤치마크 리더보드에서 Conformer를 계속 보고 있다면 모든 소동이 무엇인지 알기 원할 때 가장 빠른 방법입니다. 전체 논문을 자세히 읽기 전에 빠른 시청을 할 가치가 있습니다.