腾讯发布 WeMM-Video-9B NVFP4 权重
AI 总结
腾讯发布了 WeMM-Video-9B 的 NVFP4 W4A16 Safetensors 量化版本,权重文件总大小为 13.07 GiB。据腾讯的 Hugging Face 仓库介绍,该检查点支持文本、图像、音频和视频输入,可生成中英文回复,部署需使用经修补的 vLLM 0.31.0、ModelOpt Mixed Precision 和 Marlin。
深度见解
这一版本为腾讯的 9B 全模态模型增加了低精度部署选项,同时保留对音频、视觉和文本联合输入的支持。
tencent/WeMM-Video-9B-NVFP4 Video-Text-to-Text • 10B • Updated about 4 hours ago • 5
license: apache-2.0 language:
- en
- zh pipeline_tag: video-text-to-text base_model: tencent/WeMM-Video-9B base_model_relation: quantized tags:
- wemm
- multimodal
- video
- audio
- quantized
- nvfp4
WeMM-Video-9B · NVFP4 W4A16
Overview
This repository contains the NVFP4 W4A16 Safetensors variant of WeMM-Video-9B. WeMM-Video is a Chinese–English bilingual family for joint audio-visual understanding and reasoning. It accepts text, images, audio, and video and generates text responses.
#Tencent#WeMM-Video-9B-NVFP4#WeMM-Video#vLLM#ModelOpt#Marlin