2026-08-28 — views
SWE-Prime 가 더 적은 궤적을 사용하여 모델 성능 향상
읽어야 하는 이유 개발자들은 소음 있는 지도 학습이 모델을 바람직하지 않은 문제 해결 행동을 모방하도록 유도할 수 있으므로 관심을 가져야 합니다.
새로운 방법 SWE-Prime 는 대규모 언어 모델이 실제 세계 소프트웨어 문제를 해결하는 능력을 개선하기 위해 훈련 데이터를 필터링합니다. 소음 있는 지도 학습은 모델이 바람직하지 않은 문제 해결 행동을 모방하도록 유도할 수 있어 개발자는 이를 주의해야 합니다.
지도 학습의 도전
선행 연구는 대규모 에이전트 궤적 데이터셋을 구축하고 성공적인 궤적에 대해 지도 학습을 수행하는 데 중점을 두었습니다. 그러나 작업 성공이 고품질 지도를 보장하지는 않습니다. 성공적인 궤적에도 비효율적이거나 중복되거나 위험한 단계가 포함될 수 있습니다. 이러한 궤적을 직접 SFT 에 사용하면 소음 있는 지도를 도입하고 모델을 바람직하지 않은 문제 해결 행동을 모방하도록 유도할 수 있습니다.
SWE-Prime 소개
이러한 문제를 해결하기 위해 연구자들은 궤적과 섹먼트 수준에서 점진적으로 훈련 데이터를 필터링하는 다중 입자, 2 단계 SFT 데이터 선택 방법인 SWE-Prime 를 제안합니다. 첫 번째 단계는 프로세스 품질, 결과 품질 및 데이터 대표성에 기반하여 궤적 수준의 선별을 수행합니다. 이 단계는 고품질이고 대표적인 성공 궤적 하위 집합을 선택합니다.
두 번째 단계는 연속 단계를 의미론적 섹먼트로 그룹화하여 섹먼트 수준의 선택을 수행합니다. 각 섹먼트는 최종 솔루션에 대한 기여도, 학습 가능성 및 잠재적 위험에 따라 평가됩니다. SFT 동안 모든 섹먼트가 시퀀스에 남아 컨텍스트를 유지하는 반면, 선택된 섹먼트만 손실 계산에 기여합니다.
실험 결과
SWE-Bench Pro 와 SWE-Bench Verified 에서 수행한 실험에서 SWE-Prime 가 선별한 10% 궤적 하위 집합으로 훈련하는 것이 전체 해결 데이터셋으로 훈련하는 것보다 우수함을 보여줍니다. 이 방법은 각각 최대 12.2% 및 24.2% 의 상대적 성능 향상을 제공합니다.
실무자 노트
개발자는 미세 조정 전에 비효율적인 단계를 필터링하기 위해 다중 단계 데이터 선택을 구현해야 합니다. 그들은 완전한 컨텍스트를 유지하면서 솔루션에 긍정적으로 기여하는 섹먼트만 손실 계산에 사용되도록 보장해야 합니다.