Nvidia、AMD、CoreWeave 同時投資 Tensormesh——KV 快取重用成為推論原語
為什麼值得讀 三家對手——Nvidia、AMD、CoreWeave——同時投資就是訊號:KV 快取重用(別重算已算過的)正被視為基礎、中立的推論堆疊層,而非贏者全拿的產品。推論時代的經濟學,濃縮於一輪募資。
Tensormesh 獲 Nvidia、AMD、CoreWeave 投資 2000 萬美元(5/27),並推出 Tensormesh Inference——產品化的 KV 快取重用,宣稱延遲與 GPU 成本最高降 10 倍。