2026-10-02 — views
AutoSynthData：為企業代理生成訓練數據
為什麼值得讀 此系統透過針對特定能力缺口，自動化高品質合成數據的創建，為複雜環境中代理的微調提供可擴展的解決方案。
ServiceNow 研究人員推出 AutoSynthData 管線，將模型失敗轉換為企業代理的已驗證訓練任務，透過針對特定能力缺口自動化高品質合成數據創建，提供複雜環境中微調代理的可擴展解決方案。
解決企業代理的弱點
企業需要能在其特定環境中有效運作的代理，這些環境由獨特的系統、規則和數據狀態所塑造。模型可能擁有廣泛的能力，卻在特定的工作流程、工具組合或約束條件下遇到困難。主要的挑戰在於如何將這些觀察到的弱點轉換為有效的訓練數據。單一的失敗提供的見解有限，但訓練模型需要許多新的任務，這些任務必須在不同情境下練習相同的能力。這些任務必須能在環境中完成、類似真實的使用者請求，並包含可靠的驗證成功方法。
AutoSynthData 管線
在 ServiceNow CoreAI，研究人員開發了 AutoSynthData，將能力缺口轉換為訓練數據。該系統利用目標模型的失敗和更強大教師模型的 successes 來確定模型接下來應該學習什麼。然後，它生成並驗證新的任務，以練習這些特定能力。隨著模型的改進，課程自動轉向它仍然感到困難的領域。該管線使用 EnterpriseOps Gym 進行說明，並利用釋出的數據集來展示該過程。
定義有用的代理任務
代理環境定義了代理運作的世界，包括可觀察狀態、可修改狀態、工具、API 和狀態轉換。任務在該環境中實例化，由系統規範、使用者提示和驗證器組成。系統規範定義了約束條件，包括指令、政策和初始化狀態。使用者提示指定了使用者的目標和約束條件。為了對訓練有用，任務必須滿足三個屬性：可行性，確保存在有效的軌跡；真實性，確保提示類似於合理的用戶請求；以及難度，確保任務暴露代理當前的弱點。
驗證與課程生成
驗證器確定軌跡是否成功完成任務。它必須與提示和規範一致，在拒絕無效軌跡時具有健全性，並在接受所有有效解決方案時具有完整性。AutoSynthData 首先使用診斷任務在環境中評估目標模型，以識別失敗中的模式。更強大的教師有助於描述可解決的任務和成功行為。這些發現被提煉成經過清理的能力規範卡片。生成器使用這些卡片創建具有不同提示、狀態和解決路徑的新任務，而不接收原始提示或驗證器細節。
擴展與實現
該系統分兩個階段生成任務：目標階段和乘法階段。目標階段從能力規範創建核心訓練樣本，其中工作人員並行生成獨立任務。每個候選者在被接受之前都要經過驗證、執行、求解器評估和修復。乘法階段通過創建已接受樣本的新穎變體來擴展數據集。每個變體都有自己的用戶請求、環境狀態和參考軌跡。乘法樣本不能作為另一個乘法樣本的種子，將擴展錨定在經過篩選的目標集上。實現細節將生成控制與特定環境的執行分開。共享控制器協調質量和覆蓋範圍，而適配器處理執行和驗證。高品質的合成數據需要嚴格的檢查，以確保任務可執行、解決方案有效，且驗證器能區分成功與失敗。
實戰筆記
開發人員應為每個生成的任務實施嚴格的驗證循環，以確保可行性和正確性，然後再將其添加到訓練數據集中。監控課程隨模型改進的變化對於保持訓練信號的相關性並避免冗餘數據生成至關重要。