DeepSeek开源DeepInfer推理框架
AI 总结
DeepSeek于10月20日宣布开源DeepInfer,这是用于其大模型高吞吐、低延迟线上推理的框架。随附技术报告称,DeepSeek V4.1 Flash通过单一集群每日可服务155万亿tokens,按谷价计算收入为每卡每小时38美元。吞吐与收入数据均为厂商说法,供应的报告未提供独立验证。
深度见解
DeepInfer公开了DeepSeek称用于生产推理服务的核心基础设施,而报告中的集群数据展示了该框架所宣称的运营规模。
这篇来源是多条新闻的汇总(《【数智周报】MiniMax港股破发;DeepSeek开源推理框架DeepInfer并披露收入账…》),本条内容请在原文中查看。