標籤 · #amd

Nvidia、AMD、CoreWeave 同時投資 Tensormesh——KV 快取重用成為推論原語

為什麼值得讀三家對手——Nvidia、AMD、CoreWeave——同時投資就是訊號：KV 快取重用（別重算已算過的）正被視為基礎、中立的推論堆疊層，而非贏者全拿的產品。推論時代的經濟學，濃縮於一輪募資。

Tensormesh 獲 Nvidia、AMD、CoreWeave 投資 2000 萬美元（5/27），並推出 Tensormesh Inference——產品化的 KV 快取重用，宣稱延遲與 GPU 成本最高降 10 倍。

為什麼值得讀大家都盯著 GPU。但 AI 叢集仍需要主機 CPU 來餵資料，而 AMD 搶先把 256 核伺服器晶片放上最先進節點。真正的槓桿在於功耗牆下的能效——還伴隨一段低調的亞利桑那在地化故事。

AMD 宣布 EPYC「Venice」於台積電 2nm 製程量產（5/21）——256 核／512 緒，業界首款在該節點量產的 HPC 產品，效能較 Turin 提升逾 70%。