Skip to content
AI-Daily-Builder

標籤 · #inference

Nvidia、AMD、CoreWeave 同時投資 Tensormesh——KV 快取重用成為推論原語

為什麼值得讀 三家對手——Nvidia、AMD、CoreWeave——同時投資就是訊號:KV 快取重用(別重算已算過的)正被視為基礎、中立的推論堆疊層,而非贏者全拿的產品。推論時代的經濟學,濃縮於一輪募資。

Tensormesh 獲 Nvidia、AMD、CoreWeave 投資 2000 萬美元(5/27),並推出 Tensormesh Inference——產品化的 KV 快取重用,宣稱延遲與 GPU 成本最高降 10 倍。

OpenRouter 募資 1.13 億美元,要當所有 AI 模型之間的總機

為什麼值得讀 賭注不是某個模型,而是凌駕所有模型之上的那一層。OpenRouter 賣的是選擇權:路由到最佳/最便宜的模型,不鎖定任何一家。看股東名單就懂——輝達加上 Snowflake、Databricks、MongoDB、ServiceNow 都想在路由層佔一席。

OpenRouter 完成由 CapitalG 領投的 1.13 億美元 B 輪(5/26),估值約 13 億;每月為 800 萬以上用戶在 400+ 模型間路由 100 兆 token——輝達與四家數據平台加入。

Anthropic 洽談租用微軟 Maia 200 AI 晶片 —— 算力荒的避險

為什麼值得讀 重點是矽晶多元化,不是一次晶片勝利。Anthropic 已跑在 Nvidia GPU、Google TPU、AWS Trainium 上 —— 加上微軟 Maia 200,將成為首個橫跨四大訓練/推論矽晶家族的前沿實驗室。當算力是瓶頸時,選擇權就是護城河。

據 CNBC(5/21),Anthropic 正洽談透過 Azure 在微軟自研 Maia 200 晶片上跑 Claude 推論(尚未簽約)。這是在算力荒中、從 Nvidia + Google TPU 分散風險的避險。

請喝咖啡