Mistral AI·· 2026-01-22AI 评分43
堆也会骗人:Mistral AI 排查 vLLM 内存泄漏
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 排查 vLLM 内存泄漏,发现堆内存保持稳定,泄漏发生在堆之外。问题出现在启用图编译、使用 NIXL 的预填充与解码分离部署中,涉及 Mistral Medium 3.1,且仅在解码侧观察到。Heaptrack 未捕获泄漏,但测试前后的峰值 RSS 差异揭示了堆分析工具的观测盲区。
来源:Mistral AI · mistral.ai