IBM Granite Speech 4.1 Plus 在带时间戳的 FA-Bench ASR 榜单上并列第一

Research

IBM Granite Speech 4.1 Plus 在带时间戳的 FA-Bench ASR 榜单上并列第一

IBM 的开源模型 Granite Speech 4.1 Plus 在 FA-Bench 上的词级时间戳 F1 为 0.489,与 Google Chirp 2 的 0.486 持平。IBM 贡献了适配器,FA-Bench 在自己的 GPU 上把每个测试单元重新跑了一遍。

IBM Granite Speech 4.1 Plus Ties for First on FA-Bench ASR with Timestamps

FA-Bench 排行榜 · github.com/olewave/fa-bench · arXiv 论文

IBM 的 Granite Speech 4.1 Plus 于 2026 年 11 月 5 日加入 FA-Bench 带词级时间戳的 ASR 排行榜。它在 20 ms 容差下的词级时间戳 F1 为 0.489,95% 置信区间为 0.477 到 0.500。 Google Chirp 2 的得分为 0.486,区间为 0.475 到 0.498。两个区间有重叠,排名范围都是 1 到 2,所以两者在 17 个系统中并列第一。

Granite Speech 4.1 Plus 是一个开源模型,采用 Apache License 2.0 许可。你可以在自己的 GPU 上运行它,所以榜单上没有它的价格。榜单列出的 Google Chirp 2 价格为 每音频小时 $0.96。

The FA-Bench board for ASR with word timestamps on November 5, 2026. Granite Speech 4.1 Plus scores 0.489 and Google Chirp 2 scores 0.486, ahead of 15 other systems.
2026 年 11 月 5 日的 ASR 榜单。点击可查看原尺寸图片,也可以查看实时榜单。

各自在哪些测试集得分更高

20 ms 容差下的词级时间戳 F1,按测试集划分
仅使用音频。越高越好。
TIMIT 干净 Granite Speech 4.1 Plus,0.597 Google Chirp 2,0.488
TIMIT 加噪 Granite Speech 4.1 Plus,0.531 Google Chirp 2,0.497
Buckeye 干净 Granite Speech 4.1 Plus,0.450 Google Chirp 2,0.492
Buckeye 加噪 Granite Speech 4.1 Plus,0.379 Google Chirp 2,0.469
4 项平均 Granite Speech 4.1 Plus,0.489 Google Chirp 2,0.486

Granite Speech 在 TIMIT 朗读语音上得分更高,干净音频为 0.597 对 0.488,加噪后为 0.531 对 0.497。Chirp 2 在 Buckeye 对话语音上得分更高,干净音频为 0.492 对 0.450,加噪后为 0.469 对 0.379。

全部数据
TIMIT 干净TIMIT 加噪Buckeye 干净Buckeye 加噪4 项平均
词级时间戳 F1,Granite Speech 4.1 Plus0.5970.5310.4500.3790.489
词级时间戳 F1,Google Chirp 20.4880.4970.4920.4690.486
词边界误差,Granite Speech 4.1 Plus26.1 ms31.4 ms37.7 ms47.3 ms
词边界误差,Google Chirp 232.7 ms32.6 ms26.9 ms28.1 ms

它如何登上榜单

IBM 为 FA-Bench 的开源代码贡献了 Granite Speech 的适配器。它以拉取请求 #23 的形式提交,其中有 Zvi Kons 的一次提交,列出了 IBM 自己在干净音频上的得分。随后 FA-Bench 在自己的 GPU 上把全部 20 个测试单元重新跑了一遍,每个单元与 IBM 的数字相差都在 0.012 F1 以内。榜单上展示的是 FA-Bench 自己的运行结果。

根据这个拉取请求,该模型的时间戳训练只用了 TIMIT 的训练集,没有用任何 Buckeye 音频。因此 FA-Bench 的 TIMIT 和 Buckeye 测试集对它来说都是未见过的数据。模型在 10 ms 的网格上标出每个词的结束位置,每个词都从前一个词结束的地方开始。

FA-Bench 如何评分

输入音频,输出带时间的词。一个词的起点和终点,只要落在语言学家手工标注边界的 20 ms 之内,就各算一次命中。听错的词会让两者都失分。测试集是 TIMIT 核心测试集和 Buckeye 测试集,每个都包含干净版本,以及加入混响、噪声、音乐和多人嘈杂声的版本。

感谢 Zvi Kons 和 IBM Granite Speech 团队的贡献。你有 ASR 系统或对齐器吗?欢迎提交带适配器的拉取请求。FA-Bench 会重新运行每个测试单元并公布结果。

Olewave 同时开发了 FA-Bench 和 Olign,所以 Olign 不参与排名,列在表格底部。