2026-08-28 — views
SWE-Prime：少ない軌跡でモデル性能を向上させる
読む理由 開発者は注意すべきです。ノイズの多い教師付けは、モデルに望ましくない問題解決行動を模倣させる可能性があります。
新しい手法 SWE-Prime は、大規模言語モデルが現実世界のソフトウェア問題を解決する能力を向上させるために、トレーニングデータをフィルタリングします。
教師付け微調整の課題
以前の研究では、大規模エージェント軌跡データセットの構築と成功した軌跡に対する教師付け微調整に焦点が当てられていました。しかし、タスクの成功は高品質な教師付けを保証するものではありません。成功した軌跡には依然として非効率的、冗長、またはリスクのあるステップが含まれている可能性があります。そのような軌跡を直接 SFT に使用すると、ノイズの多い教師付けを導入し、モデルに望ましくない問題解決行動を模倣させる可能性があります。
SWE-Prime の紹介
これらの課題に対処するために、研究者らは多粒度で 2 段階の SFT データ選択手法である SWE-Prime を提案しました。この手法は、軌跡レベルとセグメントレベルで順次トレーニングデータをフィルタリングします。最初の段階では、プロセス品質、結果品質、データの代表性に基づいて軌跡レベルのスクリーニングを行います。このステップにより、高品質で代表的な成功した軌跡のサブセットが選択されます。
第二段階では、連続するステップを意味的なセグメントにグループ化し、セグメントレベルの選択を行います。各セグメントは、最終的な解決策への貢献度、学習可能性、および潜在的なリスクに基づいて評価されます。SFT 中は、すべてのセグメントがシーケンスに残り文脈を保持しますが、損失計算には選択されたセグメントのみが寄与します。
実験結果
SWE-Bench Pro および SWE-Bench Verified での実験では、SWE-Prime が選択した軌跡の 10% サブセットでトレーニングする場合、完全な解決済みデータセットでトレーニングする場合よりも優れています。このアプローチは、それぞれ最大 12.2% および 24.2% の相対的な性能向上をもたらします。
実装ノート
開発者は、微調整前に非効率的なステップをフィルタリングするために多段階のデータ選択を実装すべきです。損失計算には解決策に正しく貢献するセグメントのみを使用し、完全な文脈を保持する必要があります。