標籤 · #reinforcement-learning

統一訓練演算法取代分階段基礎模型流程

為什麼值得讀開發者可透過以單一統一訓練器取代複雜的多階段流程，簡化訓練基礎設施。

研究顯示基礎模型訓練階段可透過單一似然演算法整合，簡化多階段流程並提升效能與持續學習能力。

為什麼值得讀本研究解決了多模態程式設計高品質訓練數據的關鍵缺口，透過分解式評量標準合成，提供能與專有系統匹敵的開放模型。

PrismaCoder-9B 與 35B 模型利用基於新穎評量標準的數據管線，在開放多模態程式碼智慧基準測試中領先。

為什麼值得讀這證明了結合迭代推理迴圈的專業微調，能在無需外部工具的情況下，將開放權重模型推升至精英競賽等級。

NVIDIA 透過微調 Nemotron 模型，使其在國際資訊學奧林匹亞競賽（IOI）與國際數學奧林匹亞競賽（IMO）中均達到金牌水準的表現。

為什麼值得讀開發人員可在不進行昂貴微調或參數更新的情況下，提升模型對齊度與獎勵分數，同時保留原始模型的能力。

新推出的MISVO方法透過預邏輯向量引導凍結語言模型，利用局部KL幾何在獎勵優化與生成品質間取得平衡，無需更新參數即可提升模型對齊效果。

為什麼值得讀將測試生成與程式碼修復分離，可防止錯誤共識與虛假信心，顯著提升代理可靠性。

ExecCritic 使用獨立的測試與修復代理及強化學習，提升 SWE-bench Verified 上的成功率。

為什麼值得讀工程師可在測試階段提升 LLM 的推理能力，而無需依賴昂貴或無法取得的真實標籤。

TTPO 利用多數決偽標籤，在無真實標籤資料的情況下，於競賽級數學基準測試中達到與監督學習相當的效能。