曦望登上央视《对话》:启望S3推理GPU与256卡超节点亮相
AI 总结
据品玩报道,10月17日央视财经《对话》节目探访杭州“新八骏”之一的国产GPU企业曦望Sunrise,节目现场展示了新一代原生推理GPU启望S3以及搭载该芯片的256卡超节点。曦望联席CEO王湛表示,公司在2024年底将“All-in推理”写入战略,目标是持续降低单位Token成本;他判断智能体需要反复规划、检索和调用工具,Token消耗将大幅增加,推理算力需求增长才刚刚开始。据厂商介绍,启望S3精简了训练相关模块,是国内首个以LPDDR6替代HBM的方案,并称相较上一代S2推理性能提升约5倍、单位Token推理成本下降约90%。
深度见解
上述性能与降本数据均为厂商在电视节目中的说法,尚无独立测评验证,5倍性能提升和90%成本下降仍待核实。
央视《对话》聚焦杭州“新八骏”曦望,探寻降低单位Token成本路径
10月20日 “AI的下一场仗,不是比谁更聪明,是比谁更能稳定、便宜地交付智能。”
10月17日,央视财经《对话》走进杭州“新八骏”,探访国产GPU企业曦望Sunrise。节目现场,曦望新一代原生推理GPU启望S3、256卡超节点亮相。Token成本背后的产业经济账,成为本次对话核心议题。
智能体(Agent)在今年爆发,“未来十年,我们将正式进入人机共生时代。”曦望Sunrise 联席CEO王湛说,需要持续降低单位Token成本,让更多企业用得起、用得稳、跑得快。“曦望要做AI产业的'损益优化师'。”
Agent加速普及,用户开始为Token算账
“未来每个人可能拥有2至3个Agent,Agent总量有望超过人类。”王湛判断。与普通问答不同,Agent需要反复规划、检索和调用工具,Token消耗大幅增加,推理算力需求的增长才刚刚开始。