标签 · #vllm

vLLM v0.20.0：DeepSeek V4、PyTorch 2.11、FlashAttention 4

vLLM v0.20.0：752 commits、320 贡献者。默认 CUDA 13.0、PyTorch 2.11、Transformers v5、Python 3.14、FlashAttention 4 默认、TurboQuant 2-bit KV cache 4 倍容量。