2026-10-02 — views
AutoSynthData：为企业智能体生成训练数据
为什么值得读 该系统通过针对特定的能力缺口，自动化创建高质量合成数据，为复杂环境中的智能体微调提供了可扩展的解决方案。
ServiceNow研究人员推出AutoSynthData，将模型失败转化为经过验证的训练任务。该系统针对能力缺口自动生成高质量合成数据，为复杂环境中的智能体微调提供可扩展方案。
解决企业智能体的弱点
企业需要在其特定环境中有效运行的智能体，这些环境由独特的系统、规则和数据状态塑造。模型可能具备广泛的能力，但在特定的工作流、工具组合或约束条件下却表现不佳。主要挑战在于将这些观察到的弱点转化为有效的训练数据。单个失败提供的见解有限，但训练模型需要许多新的任务，这些任务要在不同情境下锻炼相同的能力。这些任务必须能够在环境中完成，类似于真实的用户请求，并包含一种可靠的成功验证方法。
AutoSynthData 流程
在 ServiceNow CoreAI，研究人员开发了 AutoSynthData，将能力缺口转化为训练数据。该系统利用目标模型的失败和更强教师的成功来确定模型下一步应该学习什么。然后，它生成并验证那些锻炼特定能力的新任务。随着模型的改进，课程自动转向它仍然感到困难的领域。该流程使用 EnterpriseOps Gym 进行说明，利用发布的数据集来展示这一过程。
定义有用的智能体任务
智能体环境定义了智能体运行的世界，包括可观察状态、可修改状态、工具、API 和状态转换。任务在此环境中实例化，由系统规范、用户提示和验证器组成。系统规范定义约束，包括指令、策略和初始状态。用户提示指定用户的目标和约束。为了使任务对训练有用，它必须满足三个属性：可行性，确保存在有效的轨迹；真实性，确保提示类似于合理的用户请求；以及难度，确保任务暴露出智能体当前的弱点。
验证与课程生成
验证器确定轨迹是否成功完成任务。它必须与提示和规范一致，在拒绝无效轨迹时具有可靠性，并在接受所有有效解决方案时具有完整性。AutoSynthData 首先使用诊断任务在环境中评估目标模型，以识别失败的模式。更强的教师有助于描述可解决的任务和成功行为。这些发现被提炼成经过清理的能力规范卡片。生成器使用这些卡片创建具有不同提示、状态和解决方案路径的新任务，而无需获取原始提示或验证器细节。
扩展与实现
该系统分两个阶段生成任务：目标阶段和倍增阶段。目标阶段从能力规范创建核心训练样本，其中工作人员并行生成独立任务。每个候选项在接收之前都要经过验证、执行、求解器评估和修复。倍增阶段通过创建已接受样本的新变体来扩展数据集。每个变体都有自己的用户请求、环境状态和参考轨迹。倍增样本不能成为另一个倍增样本的种子，将扩展锚定在经过审查的目标集上。实现细节将生成控制与环境特定的执行分开。共享控制器协调质量和覆盖率，而适配器处理执行和验证。高质量的合成数据需要严格的检查，以确保任务可执行、解决方案有效，并且验证器能够区分成功与失败。
实务笔记
开发人员应为每个生成的任务实施严格的验证循环，以确保在将其添加到训练数据集之前具备可行性和正确性。监控模型改进过程中课程的转变对于保持训练信号的相关性并避免冗余数据生成至关重要。