태그 · #amd

Nvidia·AMD·CoreWeave가 함께 Tensormesh에 투자 —— KV 캐시 재사용이 추론 원시 요소로

읽어야 하는 이유 세 라이벌 —— Nvidia·AMD·CoreWeave —— 가 함께 투자하는 것이 신호다: KV 캐시 재사용(이미 계산한 걸 재계산하지 않기)이 승자독식 제품이 아니라 기반적·중립적 추론 스택 계층으로 다뤄지고 있다. 추론 시대의 경제학이 한 라운드에 응축.

Tensormesh가 Nvidia·AMD·CoreWeave로부터 2000만 달러 조달(5/27), Tensormesh Inference 출시 —— 제품화된 KV 캐시 재사용으로 지연·GPU 비용 최대 10배 절감 주장.

28 MAY 3 分鐘 실전 노트 tensormesh inference kv-cache nvidia

AMD의 256코어 EPYC "Venice", TSMC 2nm에서 양산하는 첫 HPC 칩

읽어야 하는 이유 모두가 GPU를 본다. 하지만 AI 클러스터는 여전히 그것을 먹일 호스트 CPU가 필요하고, AMD는 누구보다 먼저 256코어 서버 칩을 최첨단 노드에 올렸다. 진짜 지렛대는 전력 벽 아래의 효율 — 그리고 그 옆을 달리는 조용한 애리조나 자국 생산 이야기다.

AMD가 EPYC "Venice"의 TSMC 2nm 양산을 발표(5/21) — 256코어/512스레드로, 업계 최초의 해당 노드 양산 HPC 제품. Turin 대비 70% 이상 향상.

24 MAY 3 分鐘 실전 노트 amd epyc venice tsmc