vLLM把TRTLLM MoE、Mamba/Qwen3.5缓存和MTP处理等补丁集中落地进一步前移到平台层

vLLM升级0.17.1:MoE后端、Mamba缓存和MTP处理一起修,推理框架继续做细底层兼容

vLLM升级0.17.1:MoE后端、Mamba缓存和MTP处理一起修,推理框架继续做细底层兼容

AI资讯
AI导航 101 次阅读