Skip to content
AI-Daily-Builder

2026-08-22 views

MidTool: 中間学習を通じてエージェント機能を強化する

読む理由 本研究は、堅牢なエージェントツール使用のために専用中間学習が不可欠であることを示し、LLMに対してポストトレーニング手法のみを頼るよりも優れた代替案を提供します。

MidToolは、Webデータと合成API監督を組み合わせる中間学習パイプラインにより、Qwen3モデルの汎用ツール使用能力を大幅に向上させます。

中間学習の重要な役割

中間学習は、大規模言語モデルの能力を形成する上で重要な段階として認識されつつあります。最近の研究では、ターゲットを絞った中間学習が数学や科学などの推論集中型の能力を強化し、ソフトウェアエンジニアリング環境におけるエージェント能力も向上できることが示されています。本研究では、並行して存在するが探求が不十分なエージェント能力である、汎用ツール使用について研究します。

MidToolの紹介

私たちは、MidTool-Mixというオープンなコーパス構築パイプラインであるMidToolを発表します。これは、大規模なWeb、PDF、コードデータと、現実世界のツールAPI、MCPスキル、文書ベースのワークフローからの合成監督を組み合わせ、エージェントツール使用のための中間学習を可能にします。MidToolは、モデルがツールの機能(アフォーダンス)を認識し、コンテキストから引数を grounding し、ツール呼び出しワークフローを構成し、不完全な情報から回復する方法を教えるために設計されています。

実験結果と影響

Qwen3-4B-BaseとQwen3-8B-BaseにMidTool-Mixで中間学習を施し、その後、教師ありファインチューニングと強化学習の両方を用いたフォローアップのポストトレーニングを適用しました。ベースラインと比較して、MidTool-MixはBFCL、tau2-Bench、MCP Universeにおいて、SFTとRLの両方の条件下で下流の性能を一貫して向上させました。これらの結果は、他の重要なLLMの能力と同様に、汎用ツール使用もポストトレーニングに任せるのではなく、専用中間学習から恩恵を受けることを示唆しています。

実装ノート

開発者は、堅牢なエージェントツール使用能力を必要とする場合、モデル開発パイプラインに中間学習段階を組み込むことを検討すべきです。SFTやRLのようなポストトレーニング手法のみを頼りにすることは、汎用ツール使用シナリオにおいて最適なパフォーマンスを達成するために不十分である可能性があります。


ソース

タグ

チップ