IBM Granite Speech 4.1 Plus 在带时间戳的 FA-Bench ASR 榜单上并列第一
IBM 的开源模型 Granite Speech 4.1 Plus 在 FA-Bench 上的词级时间戳 F1 为 0.489,与 Google Chirp 2 的 0.486 持平。IBM 贡献了适配器,FA-Bench 在自己的 GPU 上把每个测试单元重新跑了一遍。
FA-Bench 排行榜 · github.com/olewave/fa-bench · arXiv 论文
IBM 的 Granite Speech 4.1 Plus 于 2026 年 11 月 5 日加入 FA-Bench 带词级时间戳的 ASR 排行榜。它在 20 ms 容差下的词级时间戳 F1 为 0.489,95% 置信区间为 0.477 到 0.500。 Google Chirp 2 的得分为 0.486,区间为 0.475 到 0.498。两个区间有重叠,排名范围都是 1 到 2,所以两者在 17 个系统中并列第一。
Granite Speech 4.1 Plus 是一个开源模型,采用 Apache License 2.0 许可。你可以在自己的 GPU 上运行它,所以榜单上没有它的价格。榜单列出的 Google Chirp 2 价格为 每音频小时 $0.96。
各自在哪些测试集得分更高
Granite Speech 在 TIMIT 朗读语音上得分更高,干净音频为 0.597 对 0.488,加噪后为 0.531 对 0.497。Chirp 2 在 Buckeye 对话语音上得分更高,干净音频为 0.492 对 0.450,加噪后为 0.469 对 0.379。
全部数据
| TIMIT 干净 | TIMIT 加噪 | Buckeye 干净 | Buckeye 加噪 | 4 项平均 | |
|---|---|---|---|---|---|
| 词级时间戳 F1,Granite Speech 4.1 Plus | 0.597 | 0.531 | 0.450 | 0.379 | 0.489 |
| 词级时间戳 F1,Google Chirp 2 | 0.488 | 0.497 | 0.492 | 0.469 | 0.486 |
| 词边界误差,Granite Speech 4.1 Plus | 26.1 ms | 31.4 ms | 37.7 ms | 47.3 ms | |
| 词边界误差,Google Chirp 2 | 32.7 ms | 32.6 ms | 26.9 ms | 28.1 ms |
它如何登上榜单
IBM 为 FA-Bench 的开源代码贡献了 Granite Speech 的适配器。它以拉取请求 #23 的形式提交,其中有 Zvi Kons 的一次提交,列出了 IBM 自己在干净音频上的得分。随后 FA-Bench 在自己的 GPU 上把全部 20 个测试单元重新跑了一遍,每个单元与 IBM 的数字相差都在 0.012 F1 以内。榜单上展示的是 FA-Bench 自己的运行结果。
根据这个拉取请求,该模型的时间戳训练只用了 TIMIT 的训练集,没有用任何 Buckeye 音频。因此 FA-Bench 的 TIMIT 和 Buckeye 测试集对它来说都是未见过的数据。模型在 10 ms 的网格上标出每个词的结束位置,每个词都从前一个词结束的地方开始。
FA-Bench 如何评分
输入音频,输出带时间的词。一个词的起点和终点,只要落在语言学家手工标注边界的 20 ms 之内,就各算一次命中。听错的词会让两者都失分。测试集是 TIMIT 核心测试集和 Buckeye 测试集,每个都包含干净版本,以及加入混响、噪声、音乐和多人嘈杂声的版本。
感谢 Zvi Kons 和 IBM Granite Speech 团队的贡献。你有 ASR 系统或对齐器吗?欢迎提交带适配器的拉取请求。FA-Bench 会重新运行每个测试单元并公布结果。
Olewave 同时开发了 FA-Bench 和 Olign,所以 Olign 不参与排名,列在表格底部。