タグ · #amd

Nvidia・AMD・CoreWeave が揃って Tensormesh に出資 —— KV キャッシュ再利用が推論の基本要素に

読む理由 3 つのライバル —— Nvidia・AMD・CoreWeave —— が揃って出資するのが合図だ：KV キャッシュ再利用（既に計算したものを再計算しない）が、勝者総取りの製品ではなく、基盤的で中立な推論スタック層として扱われている。推論時代の経済学が一つのラウンドに凝縮。

Tensormesh が Nvidia・AMD・CoreWeave から 2000 万ドルを調達（5/27）、Tensormesh Inference を提供開始 —— 製品化した KV キャッシュ再利用で遅延と GPU コストを最大 10 倍削減と主張。

読む理由誰もが GPU を見る。だが AI クラスタには依然それを養うホスト CPU が要り、AMD は誰より先に 256 コアのサーバ部品を最先端ノードに載せた。本当のレバーは電力の壁の下での効率——そして傍らを走る静かなアリゾナ国内生産の物語だ。

AMD が EPYC「Venice」の TSMC 2nm 量産を発表（5/21）——256 コア／512 スレッドで、業界初の同ノード量産 HPC 製品。Turin 比 70% 超の向上。