Apple의 iOS 16 받아쓰기는 완전히 기기에서 실행되며, 이 단일 설계 선택은 지연 시간, 개인정보 보호, 그리고 휴대폰에서 실행 가능한 ASR 아키텍처의 종류에 대한 연쇄적 영향을 미칩니다. 음성 연구원이 Apple이 내부에서 무엇을 하고 있는지를 설명하고 A15 Bionic의 신경 엔진이 서버로의 왕복 여행을 피할 수 있을 정도로 충분히 강력해진 이유를 설명합니다.

이 설명은 엔지니어들이 실제로 관심 있어하는 실무적인 질문들을 다룹니다: A15의 ARM 기반 실리콘이 신경 추론을 위한 Intel Xeon 부품과 어떻게 비교되는지, iOS에서 자신의 맞춤형 ASR 모델을 현실적으로 배포할 수 있는지 여부, 그리고 기기 내 음성 인식이 모델 크기, 양자화, 그리고 스트리밍 디코딩에 어떤 제약을 두는지입니다. 이것은 엣지 우선 음성 스택을 고려하거나 주요 플랫폼 공급업체들이 음성에 대한 클라이언트-서버 경계를 어떻게 조용히 재설정하고 있는지 궁금해하는 사람들을 위한 유용한 입문서입니다. 기기 내 또는 클라우드 ASR을 제품 결정으로 고려 중이라면 이를 확인해 보세요.