Gradium TTS 上线 Baseten,首音延迟快于人类语音
AI 总结
Baseten 在博客中宣布,面向实时语音智能体的文本转语音模型 Gradium TTS 已作为专用部署上线其模型库。该模型采用 Kyutai 提出的 Delayed Streams Modeling 架构,把文本与音频对齐到同一个 80 毫秒时钟、并让音频流落后文本若干解码步,因此在上游 LLM 尚未生成完整句子时就能开始发声。Baseten 引用的 Coval 基准(2026 年 5 月 4 日数据)显示其首音延迟(TTFA)中位数为 155 毫秒、四分位距仅 2 毫秒;Baseten 还称借助 kernel fusion、CUDA Graphs 与自有权重分发网络,可将冷启动缩短 2–3 倍。
深度见解
对语音智能体开发者而言,低于人类对话反应速度的首音延迟意味着模型可以留出时间做推理或检索,而不打断对话节奏。