Skip to content
AI-Daily-Builder

标签 · #inference

Nvidia、AMD、CoreWeave 同时投资 Tensormesh——KV 缓存重用成为推理原语

为什么值得读 三家对手——Nvidia、AMD、CoreWeave——同时投资就是信号:KV 缓存重用(别重算已算过的)正被视为基础、中立的推理堆栈层,而非赢者通吃的产品。推理时代的经济学,浓缩于一轮募资。

Tensormesh 获 Nvidia、AMD、CoreWeave 投资 2000 万美元(5/27),并推出 Tensormesh Inference——产品化的 KV 缓存重用,宣称延迟与 GPU 成本最高降 10 倍。

OpenRouter 募资 1.13 亿美元,要当所有 AI 模型之间的总机

为什么值得读 赌注不是某个模型,而是凌驾所有模型之上的那一层。OpenRouter 卖的是选择权:路由到最佳/最便宜的模型,不锁定任何一家。看股东名单就懂——英伟达加上 Snowflake、Databricks、MongoDB、ServiceNow 都想在路由层占一席。

OpenRouter 完成由 CapitalG 领投的 1.13 亿美元 B 轮(5/26),估值约 13 亿;每月为 800 万以上用户在 400+ 模型间路由 100 万亿 token——英伟达与四家数据平台加入。

Anthropic 洽谈租用微软 Maia 200 AI 芯片 —— 算力荒的对冲

为什么值得读 重点是芯片多元化,不是一次芯片胜利。Anthropic 已跑在 Nvidia GPU、Google TPU、AWS Trainium 上 —— 加上微软 Maia 200,将成为首个横跨四大训练/推理芯片家族的前沿实验室。当算力是瓶颈时,选择权就是护城河。

据 CNBC(5/21),Anthropic 正洽谈通过 Azure 在微软自研 Maia 200 芯片上跑 Claude 推理(尚未签约)。这是在算力荒中、从 Nvidia + Google TPU 分散风险的对冲。

请喝咖啡