Deepgram 推动语音 AI 端侧离线运行
AI 总结
Deepgram 员工技术项目经理 Nick Mann 在 Dell「AI Leadership Symposium」期间接受 theCUBE 采访时表示，公司希望让语音模型原生运行在笔记本电脑上，并最终实现断网（air-gapped）环境下的本地推理。他提到 Deepgram 今年早些时候已将 Flux 模型扩展到 10 种语言，其 45 名研究人员持续需要大量算力与数据，且相当一部分客户选择自行托管模型；与 Fortanix 的合作则为受监管行业提供私有的本地语音 AI。Mann 表示 Dell 既为 Deepgram 提供基础设施，也在其客户解决方案中心创新实验室中运行 Deepgram 模型，并称已有小企业用紧凑型 Nvidia GB10 系统运行交互式语音应答等工作负载。
深度见解
端侧、断网环境下的语音 AI 关系到隐私与延迟，也决定语音模型厂商能否进入教育、应急等对数据出域敏感的场景。