Skip to content
AI-Daily-Builder

2026-10-07 — views

Nemotron 模型在 IOI 和 IMO 中实现金牌表现

为什么值得读 这表明,结合迭代推理循环的专用微调可以将开放权重模型推向精英竞技水平,而无需外部工具。

NVIDIA 通过微调 Nemotron 模型,在国际信息学奥林匹克竞赛(IOI)和国际数学奥林匹克竞赛(IMO)中均取得金牌水平成绩。

Nemotron 实现双项金牌级成绩

NVIDIA 研究人员证明,Nemotron 模型系列可以在两项截然不同的高难度竞赛中实现金牌水平的表现:国际信息学奥林匹克竞赛(IOI)和国际数学奥林匹克竞赛(IMO)。2026 年 10 月 7 日发布的成果凸显了 Nemotron 3 作为基础模型的适应性,通过监督微调(SFT)、强化学习(RL)和反馈驱动的推理,能够构建世界级专用模型。

IOI 2026 表现

在 IOI 2026 中,团队使用了 Nemotron-3-Ultra-CC,该模型拥有 5500 亿总参数和 550 亿活跃参数。该模型经过监督微调,并配合一种名为 GenCorrect 的技术,这是一种迭代式的生成-评估-优化策略。系统取得了 600 分中的 535.4 分,超过了 361.12 的金牌阈值以及 498.27 的最高人类得分。这一结果来自在相同时间、互联网访问和提交限制下进行的实时前瞻性运行,尽管它仍属于非官方基准。早期使用较小的 Nemotron-3-Nano-CC 模型的实验表明,SFT 和 RL 显著提高了分数,GenCorrect 也将 Nano 模型的分数推升至金牌阈值以上。

IMO 2026 表现

IMO 2026 项目专注于严谨的自然语言证明。从 Nemotron 3 Ultra 出发,团队使用 SFT 和 RL 训练了专用模型。SFT 语料库包含 15,818 个独特证明问题中的 414,890 个经过质量过滤的示例,教导模型构建论证、识别漏洞并判断完整性。RL 检查点是在 9,597 个接近模型能力边界的证明问题上训练的。最终系统将这些检查点与通用模型结合,以生成、评分、批评和优化候选证明。该系统完全使用自然语言运行,无需形式化证明器或外部工具,在 42 分中获得了 30 分,超过了 29 分的官方金牌阈值,并在六道题中的四道题上获得满分。这些证明由 IMO 官方评分员进行评分。

可复用的专业化配方

作者概述了专业化的四步配方:从强大的基础模型开始,策划特定领域的问题和推理轨迹,应用 SFT 和 RL 等后训练方法,并将模型与生成、评估和改进答案的推理循环配对。这种方法证明,适应特定任务并不需要为每个挑战构建新的基础模型。相反,Nemotron 可以针对特定任务进行专业化。

实务笔记

开发人员应探索 Hugging Face 上的 Nemotron Labs IMO 2026 集合和 NeMo-Skills 仓库,以访问训练数据集、检查点和可复现的推理管道。通过实施具有专用检查点的类似生成-验证-优化循环,工程师有可能在其他需要严谨推理的复杂领域复制这些高性能结果。


来源

标签

请喝咖啡