腾讯发布 WeMM-Video-35B-A3B FP8版
腾讯的 Hugging Face 模型仓库上线了 WeMM-Video-35B-A3B 的 FP8 Block128 Safetensors 版本,模型 ID 为 tencent/WeMM-Video-35BA3B-FP8。该检查点基于量化后的 35B-A3B 模型,采用 Apache-2.0 许可,权重文件共 36.09 GiB。腾讯称该中英双语模型可接收文本、图像、音频和视频,并报告了其在 NVIDIA L20 和 H20 上的加载与生成测试。
此次发布提供了采用 Apache-2.0 许可的 FP8 构建版本,以及通过 Transformers 和补丁版 vLLM 运行腾讯音视频多模态模型的明确流程。
tencent/WeMM-Video-35BA3B-FP8 Video-Text-to-Text • 36B • Updated about 6 hours ago • 5
license: apache-2.0 language:
- en
- zh pipeline_tag: video-text-to-text library_name: transformers base_model: tencent/WeMM-Video-35BA3B base_model_relation: quantized tags:
- wemm
- multimodal
- video
- audio
- quantized
- fp8
- moe
WeMM-Video-35B-A3B · FP8 Block128
Overview
This repository contains the FP8 Block128 Safetensors variant of WeMM-Video-35B-A3B. WeMM-Video is a Chinese–English bilingual family for joint audio-visual understanding and reasoning. It accepts text, images, audio, and video and generates text responses.
#Tencent#WeMM-Video-35B-A3B#Transformers#vLLM#NVIDIA L20#NVIDIA H20#Safetensors