Skip to content
AI-Daily-Builder

2026-10-07 — views

Nemotron 模型在 IOI 和 IMO 中奪得金牌表現

為什麼值得讀 這證明了結合迭代推理迴圈的專業微調,能在無需外部工具的情況下,將開放權重模型推升至精英競賽等級。

NVIDIA 透過微調 Nemotron 模型,使其在國際資訊學奧林匹亞競賽(IOI)與國際數學奧林匹亞競賽(IMO)中均達到金牌水準的表現。

Nemotron 達成雙項金牌水準成果

NVIDIA 研究人員展示了 Nemotron 模型系列能在兩項截然不同且高難度的競賽中達到金牌水準的表現:國際資訊學奧林匹亞競賽(IOI)與國際數學奧林匹亞競賽(IMO)。該結果於 2026 年 10 月 7 日發表,突顯了 Nemotron 3 作為基礎,透過監督式微調(SFT)、強化學習(RL)及反饋驅動的推理,建構世界級專業模型的適應性。

IOI 2026 表現

針對 IOI 2026,團隊使用了 Nemotron-3-Ultra-CC,這是一款擁有 550 億總參數和 55 億活躍參數的模型。該模型經過監督式微調,並搭配稱為 GenCorrect 的技術,這是一種迭代式的生成-評估-修正策略。系統取得了 600 分中的 535.4 分,超越了 361.12 的金牌門檻以及 498.27 的最高人類分數。此結果來自於在與人類參賽者相同的時間、網路存取及提交限制下進行的即時前瞻性測試,儘管它仍屬於非官方基準。早期使用較小的 Nemotron-3-Nano-CC 模型的實驗顯示,SFT 和 RL 顯著提升了分數,而 GenCorrect 也成功將 Nano 模型推過金牌門檻。

IMO 2026 表現

IMO 2026 專案專注於嚴謹的自然語言證明。從 Nemotron 3 Ultra 開始,團隊使用 SFT 和 RL 訓練專家模型。SFT 語料庫包含 414,890 個經過品質篩選的範例,涵蓋 15,818 個獨特的證明問題,教導模型建構論點、識別缺口並判斷完整性。RL 檢查點則是在 9,597 個接近模型能力邊界的證明問題上訓練而成。最終系統將這些檢查點與通用模型結合,以生成、評分、批評並修正候選證明。該系統完全以自然語言運作,不使用形式化證明器或外部工具,最終得分為 42 分中的 30 分,超過了 29 分的官方金牌門檻,並在六題中的四題獲得滿分。這些證明由官方 IMO 評分員進行評分。

可重複使用的專業化配方

作者概述了四部分的專業化配方:從強大的基礎模型開始,策劃領域特定的問題和推理軌跡,應用 SFT 和 RL 等訓練後方法,並將模型與生成、評估及改進答案的推理迴圈相結合。這種方法證明了適應性並不需要為每個挑戰建構新的基礎模型。相反地,Nemotron 可以針對特定任務進行專業化。

實戰筆記

開發者應探索 Hugging Face 上的 Nemotron Labs IMO 2026 集合和 NeMo-Skills 儲存庫,以存取訓練數據集、檢查點和可重現的推理管線。透過實施類似具有專業檢查點的生成-驗證-修正迴圈,工程師可能會在其他需要嚴謹推理的複雜領域中複製這些高表現成果。


來源

標籤

請喝咖啡