标签 · #reinforcement-learning

统一训练算法取代分阶段基础模型流水线

为什么值得读开发者可通过用单一统一训练器取代复杂的多阶段流水线来简化训练基础设施。

研究人员证明，基础模型的训练阶段可在单一基于似然度的算法下统一，从而简化训练基础设施。

为什么值得读这项工作解决了多模态编码高质量训练数据的关键缺失，通过分解式评分标准合成，提供了可与专有系统相媲美的开放模型。

PrismaCoder-9B 和 35B 模型利用新颖的基于评分标准的数据管道，在开放多模态代码智能基准测试中领先。

为什么值得读这表明，结合迭代推理循环的专用微调可以将开放权重模型推向精英竞技水平，而无需外部工具。

NVIDIA 通过微调 Nemotron 模型，在国际信息学奥林匹克竞赛（IOI）和国际数学奥林匹克竞赛（IMO）中均取得金牌水平成绩。

为什么值得读开发者无需昂贵的微调或参数更新即可提升模型对齐度和奖励分数，同时保留原始模型能力。

新型MISVO方法通过预logit向量引导冻结的语言模型，利用局部KL几何结构在奖励优化与生成质量之间取得平衡。

为什么值得读将测试生成与代码修复分离，可防止错误一致性和虚假自信，显著提升代理的可靠性。

ExecCritic利用强化学习分离测试和修复代理，显著提升了在SWE-bench Verified上的成功率。通过解耦测试生成与代码修复，避免了错误一致性和虚假自信，从而提高了代理的可靠性。

为什么值得读工程师可以在测试时提升大语言模型的推理能力，而无需依赖昂贵或不可用的真实标签。

TTPO利用多数投票伪标签，在无需真实标签数据的情况下，于竞赛级数学基准测试中实现了与有监督学习相当的性能。