跳到正文
原文
Hugging Face Blog·· 6 天前AI 评分47

用 LFM2.5-VL-DSpark 加速视觉语言模型

Accelerating vision-language models with LFM2.5-VL-DSpark

AI 导读

LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B,端侧解码最高提速 3.13x,且不改变输出质量。草稿模型增加约 280M 参数,增幅为 8.9%,端侧端到端最高提速 2.62x。模型已开放权重,支持 llama.cpp、MLX-VLM 和 SGLang。

来源:Hugging Face Blog · huggingface.co