fal 提前发布推理加速器 EAGLE-4
fal 表示与 Fireworks AI 合作提前发布了 EAGLE-4,并称在 EAGLE-1 到 EAGLE-3 之后,这是其迄今为止最快的推理版本。该公司称,在四块 NVIDIA B300、TP4、单请求、温度 0 的配置下,以 BF16 精度配合 TokenSpeed 在阿里 Qwen 的 Qwen3.8-27B 上达到 961.6 tokens/s。fal 还提供了讲解 EAGLE-4 原理及其对创作流程意义的技术博客链接和 GitHub 仓库;上述性能数字来自 fal 自身,尚未经过独立验证。
fal 将 EAGLE-4 定位为其迄今最快的推理版本,并把在 Qwen 模型上的吞吐数据与创作流程联系起来,为从业者提供了一个厂商口径的推理速度参考。
We are excited to work together with @FireworksAI_HQ on the early-launch of EAGLE-4. Check out our technical blog to understand how EAGLE-4 works and why it matters for creative workflows: https://blog.fal.ai/eagle-4-technical-deepdive/
Eagle: EAGLE-4 is here. From EAGLE-1 to EAGLE-3, we’ve kept making inference faster. EAGLE-4 is our fastest yet. 961.6 tokens/s on @Alibaba_Qwen’s Qwen3.8-27B with TokenSpeed (BF16, 4× @NVIDIA B300, TP4, one request, T=0). Github: https://github.com/eagle-hq/EAGLE-4
#fal#Fireworks AI#EAGLE-4#Qwen3.8-27B#Alibaba Qwen#NVIDIA B300#TokenSpeed