Whisper는 30초 청크로 학습되었으며, 2시간 팟캐스트를 입력하거나 라이브 캡션 파이프라인에 연결하려고 할 때 한계를 드러냅니다. 환각된 반복, 침묵 세그먼트 드리프트, 오디오 길이에 따라 급증하는 지연은 모두 동일한 기본 한계의 증상입니다 — 모델은 기본 상태에서 장형 또는 스트리밍을 위해 구축되지 않았습니다. Whisper 배포 시리즈의 Part 3은 두 문제를 모두 정면으로 다룹니다.

이 세그먼트는 장형 오디오 추론을 위한 실용적인 전략을 다룹니다: VAD 기반 청킹, 경계 아티팩트를 피하기 위한 겹침 및 스티칭, 컨텍스트 흐름을 유지하기 위해 이전 윈도우 텍스트를 디코더 프롬프트로 사용합니다. 스트리밍 측면에서는 미리보기가 있는 청크된 디코딩, 지연과 안정성 간의 트레이드오프 조정, 커뮤니티의 스트리밍 Whisper 포크(whisper-streaming 및 faster-whisper 같은)가 실제로 도움이 되는 곳과 여전히 사용자 정의 접착제가 필요한 곳을 다룹니다. 라이브 캡션, 회의 봇, 또는 Whisper 수용 필드보다 긴 오디오를 전사해야 하는 제품을 구축하는 경우, 이 시리즈 부분을 재생하십시오.