Hugging Face Blog·· 6 天前AI 评分47
用 LFM2.5-VL-DSpark 加速视觉语言模型
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B,端侧解码最高提速 3.13x,且不改变输出质量。草稿模型增加约 280M 参数,增幅为 8.9%,端侧端到端最高提速 2.62x。模型已开放权重,支持 llama.cpp、MLX-VLM 和 SGLang。
来源:Hugging Face Blog · huggingface.co