2026-10-02 — views
AutoSynthData: エンタープライズエージェント向けのトレーニングデータ生成
読む理由 このシステムは、特定の能力ギャップを対象とすることで高品質な合成データの作成を自動化し、複雑な環境におけるエージェントのファインチューニングのためのスケーラブルなソリューションを提供します。
ServiceNow研究者がAutoSynthDataを発表。モデルの失敗を検証可能なトレーニングタスクに変換し、エンタープライズエージェントの学習を効率化するパイプライン。
エンタープライズエージェントの弱点への対応
エンタープライズでは、独自のシステム、ルール、データ状態によって形成される特定の環境内で効果的に機能するエージェントが必要です。モデルに広範な能力があっても、特定のワークフロー、ツールの組み合わせ、または制約に対して苦戦することがあります。主な課題は、これらの観察された弱点を効果的なトレーニングデータに変換することです。個々の失敗からは限られた洞察しか得られませんが、モデルをトレーニングするには、異なる状況で同じ能力を exercised する多数の新しいタスクが必要です。これらのタスクは環境内で完了可能であり、現実的なユーザーリクエストに類似し、成功を検証する信頼性の高い方法を含んでいる必要があります。
AutoSynthData パイプライン
ServiceNow CoreAI の研究者たちは、能力ギャップをトレーニングデータに変換するために AutoSynthData を開発しました。このシステムは、ターゲットモデルの失敗とより強力な教師モデルの成功を活用して、モデルが次に何を学ぶべきかを決定します。その後、それらの特定の能力を exercised する新しいタスクを生成し、検証します。モデルが改善するにつれて、カリキュラムは自動的にまだ困難な領域へとシフトします。このパイプラインは、リリースされたデータセットを活用してプロセスを示す EnterpriseOps Gym を使用して図解されています。
有用なエージェントタスクの定義
エージェント環境は、観測可能な状態、変更可能な状態、ツール、API、状態遷移を含む、エージェントが操作する世界を定義します。タスクはこの環境内でインスタンス化され、システム仕様、ユーザープロンプト、および検証器で構成されます。システム仕様は、指示、ポリシー、初期化状態を含む制約を定義します。ユーザープロンプトはユーザーの目標と制約を指定します。タスクがトレーニングに有用であるためには、3つの特性を満たす必要があります。すなわち、妥当な軌道が存在することを保証する「実現可能性」、プロンプトが妥当なユーザーリクエストに類似していることを保証する「現実性」、そしてタスクがエージェントの現在の弱点を露呈させることを保証する「難易度」です。
検証とカリキュラム生成
検証器は、軌道がタスクを正常に完了したかどうかを判定します。検証器はプロンプトと仕様に整合性があり、無効な軌道を拒否する際に健全であり、すべての有効な解決策を受け入れる際に完全である必要があります。AutoSynthData は、まず環境内で診断タスクを使用してターゲットモデルを評価し、失敗のパターンを特定することから始まります。より強力な教師モデルは、解決可能なタスクと成功した行動を特徴づけるのに役立ちます。これらの知見は、サニタイズされた能力仕様カードに凝縮されます。ジェネレーターは、元のプロンプトや検証器の詳細を受け取ることなく、これらのカードを使用して、異なるプロンプト、状態、解決パスを持つ新しいタスクを作成します。
スケーリングと実装
システムは2つのフェーズでタスクを生成します。ターゲットフェーズと乗算フェーズです。ターゲットフェーズでは、能力仕様からコアトレーニングサンプルを作成し、ワーカーが並列で独立したタスクを生成します。各候補者は、承認される前に検証、実行、ソルバー評価、および修復の対象となります。乗算フェーズでは、承認されたサンプルの新しい変種を作成することでデータセットを拡張します。各変種には独自のユーザーリクエスト、環境状態、参照軌道があります。乗算されたサンプルは他の乗算サンプルの種にはならないため、拡張は審査済みのターゲットセットに固定されます。実装の詳細では、生成制御と環境固有の実装が分離されています。共有コントローラーが品質とカバー率を調整し、アダプターが実行と検証を担当します。高品質な合成データを作成するには、タスクが実行可能であり、解決策が機能し、検証器が成功と失敗を区別できることを保証するために厳格なチェックが必要です。
実装ノート
開発者は、生成されたすべてのタスクに対して、トレーニングデータセットに追加する前に実現可能性と正確性を確保するための厳格な検証ループを実装する必要があります。モデルが改善するにつれてカリキュラムのシフトを監視することは、トレーニングシグナルの関連性を維持し、冗長なデータ生成を避けるために不可欠です。