IBM Granite Speech 4.1 Plus 在 FA-Bench 帶時間戳的 ASR 項目並列第一

Research

IBM Granite Speech 4.1 Plus 在 FA-Bench 帶時間戳的 ASR 項目並列第一

IBM 的開放模型 Granite Speech 4.1 Plus 在 FA-Bench 上的詞級時間戳 F1 為 0.489,與 Google Chirp 2 的 0.486 相當。IBM 貢獻了適配器,FA-Bench 則在自己的 GPU 上重新執行了每一個測試單元。

IBM Granite Speech 4.1 Plus Ties for First on FA-Bench ASR with Timestamps

FA-Bench 排行榜 · github.com/olewave/fa-bench · arXiv 論文

IBM 的 Granite Speech 4.1 Plus 於 2026 年 11 月 5 日加入 FA-Bench 的帶詞級時間戳 ASR 排行榜。它在 20 ms 容差下的詞級時間戳 F1 為 0.489,95% 區間為 0.477 至 0.500。 Google Chirp 2 得分 0.486,區間為 0.475 至 0.498。兩個區間重疊,排名範圍都是 1 至 2,因此兩者在 17 個系統中並列第一。

Granite Speech 4.1 Plus 是採用 Apache License 2.0 的開放模型。你在自己的 GPU 上執行它,所以排行榜沒有列出它的價格。排行榜列出 Google Chirp 2 的價格為每音訊小時 $0.96。

2026 年 11 月 5 日 FA-Bench 帶詞級時間戳 ASR 排行榜。Granite Speech 4.1 Plus 得分 0.489,Google Chirp 2 得分 0.486,領先其他 15 個系統。
2026 年 11 月 5 日的 ASR 排行榜。點開可看完整尺寸圖片,或查看即時排行榜。

各自得分較高之處

各測試集的詞級時間戳 F1(20 ms)
僅限音訊。數值越高越好。
TIMIT 乾淨 Granite Speech 4.1 Plus,0.597 Google Chirp 2,0.488
TIMIT 加噪 Granite Speech 4.1 Plus,0.531 Google Chirp 2,0.497
Buckeye 乾淨 Granite Speech 4.1 Plus,0.450 Google Chirp 2,0.492
Buckeye 加噪 Granite Speech 4.1 Plus,0.379 Google Chirp 2,0.469
4 項平均 Granite Speech 4.1 Plus,0.489 Google Chirp 2,0.486

Granite Speech 在 TIMIT 朗讀語音上得分較高,乾淨音訊為 0.597 對 0.488,加入噪音後為 0.531 對 0.497。Chirp 2 在 Buckeye 對話語音上得分較高,乾淨音訊為 0.492 對 0.450,加入噪音後為 0.469 對 0.379。

所有數據
TIMIT 乾淨TIMIT 加噪Buckeye 乾淨Buckeye 加噪4 項平均
詞級時間戳 F1,Granite Speech 4.1 Plus0.5970.5310.4500.3790.489
詞級時間戳 F1,Google Chirp 20.4880.4970.4920.4690.486
詞邊界誤差,Granite Speech 4.1 Plus26.1 ms31.4 ms37.7 ms47.3 ms
詞邊界誤差,Google Chirp 232.7 ms32.6 ms26.9 ms28.1 ms

它如何登上排行榜

IBM 為 FA-Bench 的開源程式碼貢獻了 Granite Speech 的適配器。它以 pull request #23 提交,其中 Zvi Kons 的一次 commit 列出了 IBM 自己在乾淨音訊上的得分。FA-Bench 隨後在自己的 GPU 上重新執行全部 20 個測試單元,每個單元都與 IBM 的數據相差在 0.012 F1 以內。排行榜顯示的是 FA-Bench 自己的執行結果。

根據該 pull request,模型的時間戳訓練只用了 TIMIT 的訓練集,沒有用任何 Buckeye 音訊。因此 FA-Bench 的 TIMIT 與 Buckeye 測試集對它而言都是保留集。模型在 10 ms 網格上標出每個詞的結束位置,每個詞從前一個詞結束之處開始。

FA-Bench 如何評分

輸入音訊,輸出帶時間的詞。詞的起點與終點,各自落在語言學家人工標註邊界的 20 ms 以內時算作命中,聽錯的詞會讓兩者都失分。測試集為 TIMIT 核心測試集與 Buckeye 測試集,各有乾淨版本,以及加入混響、噪音、音樂與多人交談雜音的版本。

感謝 Zvi Kons 與 IBM Granite Speech 團隊的貢獻。你有 ASR 系統或對齊器嗎?歡迎提交附有適配器的 pull request。FA-Bench 會重新執行每個測試單元並公布結果。

Olewave 同時打造 FA-Bench 與 Olign,因此 Olign 以未排名的方式列在表格底部。