2026-08-28 — views
SWE-Prime 以更少的軌跡提升模型效能
為什麼值得讀 開發者應關注此議題，因為雜訊監督可能促使模型模仿不理想的問題解決行為。
新方法 SWE-Prime 透過過濾訓練數據，提升大型語言模型解決現實軟體問題的能力。此方法採用多粒度、兩階段選擇策略，在軌跡與片段層級逐步篩選，確保僅貢獻正向解的片段用於損失計算，同時保留完整上下文，避免引入雜訊監督並鼓勵模仿不良行為。
監督式微調的挑戰
先前的研究專注於構建大規模代理軌跡數據集，並對成功的軌跡進行監督式微調。然而，任務成功並不保證高質量的監督。成功的軌跡仍可能包含無效、冗餘或具風險的步驟。直接將此類軌跡用於 SFT 會引入雜訊監督，並鼓勵模型模仿不良的問題解決行為。
介紹 SWE-Prime
為解決這些問題，研究人員提出 SWE-Prime，一種多粒度、兩階段的 SFT 數據選擇方法，可逐步在軌跡和片段層級過濾訓練數據。第一階段基於過程質量、結果質量和數據代表性進行軌跡級篩選。此步驟選擇高質量且具有代表性的成功軌跡子集。
第二階段執行片段級選擇，將連續步驟分組為語義片段。每個片段根據其對最終解的貢獻度、可學性以及潛在風險進行評估。在 SFT 期間，所有片段保留在序列中以保存上下文，而僅選取的片段用於損失計算。
實驗結果
在 SWE-Bench Pro 和 SWE-Bench Verified 上的實驗顯示，使用 SWE-Prime 選擇的 10% 軌跡子集進行訓練，優於使用完整已解決數據集進行訓練。此方法分別帶來高達 12.2% 和 24.2% 的相對性能提升。
實戰筆記
開發者應實施多階段數據選擇，在微調前過濾無效步驟。他們必須確保僅使用對解有正面貢獻的片段進行損失計算，同時保留完整上下文。