英伟达与AI4Bharat发布2.8万亿Indic预训练语料
AI 总结
英伟达与IIT Madras的AI4Bharat实验室联合推出Nemotron-pretraining-Indic-v1，这是一个约2.8万亿token的印度语言预训练语料，覆盖印度宪法列出的22种语言，包含2,601.0亿原生文字token与224.6亿罗马化token（按Gemma-4分词器统计），共34种语言—文字组合。语料以Nemotron-CC-v2的15个子集为源文档，通过NeMo Data Designer驱动文档级翻译、MQM式质量评估（阈值75/100）与定向修复流程生成，每条记录都可追溯到源文档；双方同时开放这条GPU加速的数据生成流水线，供开发者复现或改用自有素材。Nemotron 3.5 Super VL的持续预训练在1000亿token预算中加入了100亿Indic token，技术报告称五项Indic知识与推理基准提升4.98至9.82个百分点，但该对比同时包含合成与自然Indic数据。
深度见解
印度语言技术长期受训练数据不足制约，这一开放语料与可复用的生成流程降低了为22种语言构建模型的门槛。