NVIDIA 与 AI4Bharat 发布 2.8 万亿 Indic 令牌及开放流水线
为什么值得读 此次发布通过提供大规模、可审计的合成语料库及用于创建它的可重用工具,解决了印度语言中关键的数据稀缺问题。
NVIDIA 与 AI4Bharat 发布包含 2.8 万亿令牌的 Indic 预训练语料库及面向 22 种语言的开放 GPU 加速数据生成流水线,涵盖 97% 印度人口使用的语言,旨在解决数据稀缺问题。
为什么值得读 此次发布通过提供大规模、可审计的合成语料库及用于创建它的可重用工具,解决了印度语言中关键的数据稀缺问题。
NVIDIA 与 AI4Bharat 发布包含 2.8 万亿令牌的 Indic 预训练语料库及面向 22 种语言的开放 GPU 加速数据生成流水线,涵盖 97% 印度人口使用的语言,旨在解决数据稀缺问题。
为什么值得读 这项工作解决了多模态编码高质量训练数据的关键缺失,通过分解式评分标准合成,提供了可与专有系统相媲美的开放模型。
PrismaCoder-9B 和 35B 模型利用新颖的基于评分标准的数据管道,在开放多模态代码智能基准测试中领先。
为什么值得读 Holo4提供统一的多接口自动化模型,在开源训练轨迹的同时,以更低成本与前沿模型竞争。
Hcompany推出Holo4系列智能体模型,支持GUI、代码、MCP和API接口,适用于通用计算机操作任务。该系列包含27B密集模型和35B-A3B混合专家模型,并开源训练轨迹,以更低成本与前沿模型竞争。
为什么值得读 建设者需要这种规模的数据来训练跨视频、音频和图像模态的竞争性多模态模型,而无需依赖专有数据。
研究人员发布了 LAION-BVD,这是一个包含8000万个视频的开放数据集,总时长达1000万小时,数据源自 CommonCrawl。该数据集旨在支持视频、音频和图像等多模态的预训练任务,无需依赖专有数据即可训练具有竞争力的多模态模型。
Cloudflare 以 Rust 开发的 Infire 推理引擎采用分离式 Prefill/Decode 架构,在 H100 满载下比 vLLM 0.10 高出 20% 吞吐量;伴随推出的 Unweight 可无损压缩模型权重 15–22%。
vLLM v0.20.0:752 commits、320 贡献者。默认 CUDA 13.0、PyTorch 2.11、Transformers v5、Python 3.14、FlashAttention 4 默认、TurboQuant 2-bit KV cache 4 倍容量。