2026-08-22 — views
MidTool:通过中期训练增强智能体能力
为什么值得读 这项研究表明,专用的中期训练对于稳健的智能体工具使用至关重要,为仅依赖后训练方法的 LLM 提供了更优的替代方案。
MidTool 引入了一种中期训练流程,通过结合网络数据与合成的 API 监督,显著提升了 Qwen3 模型在通用工具使用方面的能力。
中期训练的关键作用
中期训练日益被视为塑造大语言模型能力的关键阶段。最近的研究表明,针对性的中期训练可以加强数学和科学等推理密集型能力,并提升软件工程环境中的智能体能力。在本研究中,我们探讨了并行但研究较少的智能体能力:通用工具使用。
介绍 MidTool
我们推出了 MidTool,这是一种用于智能体工具使用中期训练的开放语料库构建流程,它将大规模网络、PDF 和代码数据与来自现实世界工具 API、MCP 技能和文档驱动工作流的合成监督相结合。MidTool 旨在教会模型如何识别工具功能、从上下文中 grounding 论点、组合工具调用工作流,并从信息不完整中恢复。
实验结果与影响
我们在 MidTool-Mix 上对 Qwen3-4B-Base 和 Qwen3-8B-Base 进行了中期训练,然后应用后续的监督微调 (SFT) 和强化学习 (RL) 后训练。与基线相比,MidTool-Mix 在 BFCL、tau2-Bench 和 MCP Universe 上通过 SFT 和 RL 持续改善了下游性能。这些结果表明,通用工具使用与其他重要的 LLM 能力一样,得益于专用的中期训练,而不是完全依赖后训练。
实务笔记
如果开发者需要稳健的智能体工具使用能力,应考虑将中期训练阶段集成到他们的模型开发流程中。仅依赖 SFT 和 RL 等后训练方法可能不足以在通用工具使用场景中实现最佳性能。