月之暗面发布开放权重 Kimi K3 模型
AI 总结
月之暗面发布的 Kimi K3 模型卡显示,该模型采用总参数 2.8T、激活参数 104B 的 MoE 架构,支持原生视觉能力和 1,048,576 token 上下文。模型使用 Kimi Delta Attention 与 Attention Residuals,完整权重依据 Kimi K3 License 发布,API 则提供 OpenAI 和 Anthropic 兼容接口。月之暗面还公布了基准结果及相较 Kimi K2 约 2.5 倍的扩展效率,但现有报告未独立验证这些厂商声明。
深度见解
Kimi K3 将开放权重、原生多模态、智能体编程、长上下文和 API 可用性结合在同一款超大规模模型中,对 AI 从业者具有较高关注价值。
moonshotai/Kimi-K3 Image-Text-to-Text • 2.8T • Updated 1 day ago • 735k • • 12k
tags:
- compressed-tensors
- conversational license: other license_name: "kimi-k3" library_name: transformers pipeline_tag: image-text-to-text new_version: moonshotai/Kimi-K3.1-Pro

部分来源内容未展示,可前往原文继续阅读。
#Moonshot AI#Kimi K3#Kimi Delta Attention#Attention Residuals#Kimi Code CLI#Kimi K3 License#MoonViT-V2