arXiv 2605.16941·2026-06-06 👁️ — 回閲覧

Roll Out and Roll Back：拡散 LLM に自らの誤りを撤回させ、6 倍速いデコードを実現する

Fanqin Zeng, Feng Hong, Geng Yu, Huangjie Zheng, Xiaofeng Cao, Ya Zhang, Bo Han, Yanfeng Wang, Jiangchao Yao

新しい arXiv 論文が WINO を提案する。これは拡散言語モデル向けの学習不要なデコード手法で、一度に多数のトークンを下書きし、その後で信頼できないものを検証して再マスクする。GSM8K で去ノイズ化ステップが最大 6.1 倍削減される一方、精度はむしろ 73.24% から 75.82% へ上昇したと報告しており、任意のファインチューニング版はさらに先へ進める。

arxiv.org/abs/2605.16941 ↗

この論文がしていること

拡散大規模言語モデル（dLLM）は、多くの人が知る自己回帰モデルとは異なる方法でテキストを生成する。トークンを一つずつ生成するのではなく、完全にマスクされた系列から始め、数ラウンドにわたって「去ノイズ化」し、多くの位置を並列に埋めていく。約束されるのは速度だ。1 ステップで多くのトークンを自信を持って明らかにできれば、左から右へのモデルよりはるかに少ないステップで完了する。

問題は、著者が指摘するミスマッチにある。学習中、dLLM はランダムに破損した状態からトークンを再構成することを学ぶが、どのトークンが易しくどれが難しいかという概念は持たない。しかし高速推論が求めるのはその逆だ。自信のある易しいトークンを先に明らかにし、曖昧なものは後に回す。並列性を強く押し進めすぎると、モデルは後で「後悔する」トークンに賭けてしまい、品質が低下する。保守的すぎると、速度の優位を失う。

この論文『Roll Out and Roll Back: Diffusion LLMs are Their Own Efficiency Teachers』（arXiv、2026 年 5 月 16 日投稿、カテゴリ cs.CL）は、WINO というデコード方式を提案する。これは Wide-In, Narrow-Out の略だ。発想は名前のとおりで、入力側で「広く」構え、単一ステップで多数のトークンを積極的に下書きし（「roll out」）、次に出力側を「狭め」、各下書きを周囲の文脈全体に照らして検証し、信頼できなさそうなものを再マスクする（「roll back」）。決定的なのは、これにより並列生成が撤回可能になる点だ——あるステップで賭けたトークンは恒久的ではなく、次のステップで取り消せる。基本手法は学習不要なので、既存の拡散モデル上で再学習なしに動作する。第二の変種 WINO+ は、追加学習を通じて、検証済みの去ノイズ化系列をモデルの重みへ折り込み直し、その利得を固定する。

なぜ重要か

要点は、品質を犠牲にせずに積極的な並列デコードの速度を得られるということだ。GSM8K 数学ベンチマークで、著者は精度が 73.24% から 75.82% へ向上する一方、去ノイズ化ステップを 6.10 倍削減したと報告する。学習済みの WINO+ 変種は 76.58% に達し、ステップは 6.83 倍削減される。Flickr30K のキャプション生成タスクでは、WINO+ はステップ 16.22 倍削減を報告し、キャプションスコアも改善している。

精度が下がるのではなく上がる点こそ興味深い。これは、モデルが以前は撤回できない早期の賭けによって足を引っ張られていたことを示唆する。悪い推測を取り消させることは、速いだけでなく、より正確でもあるのだ。この種のモデルにとって、これは「速度」と「品質」を競合ではなく協調として捉え直すものだ。

実務者向けの注記

自己回帰サービングの代替として拡散 LLM を評価しているなら、WINO の学習不要という性質が実務上の切り口になる——これはモデルの差し替えではなくデコード時の変更なので、原理的には、すでに運用している dLLM の上に重ねられる。ステップ数の削減（「関数評価回数」）は、これらのモデルにおける遅延とコストのきれいな代理指標だが、報告された倍率はベンチマーク固有のものとして扱うべきだ。数学の文章題と画像キャプションはトークンの難易度分布が大きく異なり、あなた自身のワークロードはその中間のどこにでも着地しうる。6 倍という数字を信じる前に、実際のプロンプト構成で測り直し、テール遅延に注意せよ。検証と再マスクのループはステップごとのオーバーヘッドを増やし、多くの下書きが生き残ったときにのみ報われるからだ。また、これらは依然として拡散 LLM であり、自己回帰トランスフォーマーよりも小さく実戦経験の浅いエコシステムなので、ツール、量子化、サービングの成熟度は依然として現実的な検討事項である。

あまり検討されていない観点がある。「roll back」機構は本質的に組み込みの自己検証シグナルであり、この論文への世間の注目のほとんどはスループットに関するものだ。しかし、生成の途中で自らの低信頼トークンを印付けして取り消せるモデルは、出力全体にわたって無償できめ細かな信頼トレースも生み出している。そのトレースは速度をはるかに超えて転用しうる——モデルがあやうく取り消しかけたトークンだけを選択的に人手レビューするため、高不確実性のスパンで回答を控えるため、あるいは下流の学習のための報酬シグナルとして。効率という枠組みは、結局のところ、撤回可能なデコードの最も面白くない使い道になるかもしれない。