跳到正文
原文
Mistral AI·· 2026-01-22AI 评分43

堆也会骗人:Mistral AI 排查 vLLM 内存泄漏

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 排查 vLLM 内存泄漏,发现堆内存保持稳定,泄漏发生在堆之外。问题出现在启用图编译、使用 NIXL 的预填充与解码分离部署中,涉及 Mistral Medium 3.1,且仅在解码侧观察到。Heaptrack 未捕获泄漏,但测试前后的峰值 RSS 差异揭示了堆分析工具的观测盲区。

来源:Mistral AI · mistral.ai