用 LFM2.5-VL-DSpark 加速视觉语言模型
LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B,端侧解码最高提速 3.13x,且不改变输出质量。草稿模型增加约 280M 参数,增幅为 8.9%,端侧端到端最高提速 2.62x。模型已开放权重,支持 llama.cpp、MLX-VLM 和 SGLang。
LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B,端侧解码最高提速 3.13x,且不改变输出质量。草稿模型增加约 280M 参数,增幅为 8.9%,端侧端到端最高提速 2.62x。模型已开放权重,支持 llama.cpp、MLX-VLM 和 SGLang。
Liquid AI 发布适配 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型,实测 H100 上最高加速 3.18x,M4 Max 上最高加速 2.87x。
Google DeepMind 发布手语转文本模型 SL2T,为 Pixel 11 的 Gboard 和 Live Transcribe 提供 ASL 转英文输入功能。
推荐理由:将手语输入接入手机日常输入场景,让无障碍交互不再只依赖英文打字,同时通过仅上传身体坐标减少原始视频传输。
Google DeepMind 推出 Gemini Robotics 2 系列模型,支持全身控制、精细操作及多机器人协作。Gemini Robotics ER 2 负责规划持续数分钟、涉及数百次决策的任务;Gemini Robotics On-Device 2 支持本地运行,通常用少于 200 个示例、数小时适配新的双臂机器人形态。
推荐理由:从上半身桌面操作扩展到全身协调与多机器人协作,这次更新提供了观察机器人如何承接更长任务链的具体样例。
Google Research 为冻结权重的 Gemini Nano v3 加装多 token 预测(MTP)头,相关加速方案已部署至 Pixel 9 和 10 系列。
Google DeepMind 发布实验性开放模型 DiffusionGemma,以 Apache 2.0 许可提供权重,在专用 GPU 上实现最高 4x 的文本生成速度。
推荐理由:本地低并发与高并发云端的收益差异交代清楚,能帮助开发者结合输出质量取舍判断文本扩散是否适合自己的工作负载。
Google DeepMind 发布 Gemma 4 12B,采用统一的无编码器架构,将视觉与音频输入直接接入 LLM 主干,面向笔记本本地多模态智能体应用。官方称其标准基准表现接近 26B MoE 模型,总内存占用不到后者一半,可在配备 16GB 显存或统一内存的设备上运行,并配备 Multi-Token Prediction(MTP)草稿模型以降低延迟。
推荐理由:无独立编码器的音视频处理路径与本地内存要求,为评估多模态智能体从大模型迁移到笔记本的资源取舍提供了具体参照。
Google DeepMind 发布 Gemma 4 开放模型系列,采用 Apache 2.0 许可,提供 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,面向高级推理与智能体工作流。
推荐理由:不同尺寸对应的硬件要求、上下文窗口与模态差异,为开发者在端侧离线运行和工作站部署之间选型提供了具体依据。
Mistral AI 发布 Voxtral Transcribe 2,包括批量转写模型 Voxtral Mini Transcribe V2 和实时模型 Voxtral Realtime,均支持 13 种语言。
推荐理由:批量版的错误率与定价、实时版的延迟与开放权重条件,为语音工作流在成本、响应速度和部署方式之间的取舍提供了具体参照。
Mistral 发布 Mistral 3 系列,包括 3B、8B、14B 的 Ministral 3,以及激活参数为 41B、总参数为 675B 的混合专家模型 Mistral Large 3,均采用 Apache 2.0 许可证。
推荐理由:从端侧稠密模型到大型混合专家模型均采用宽松许可证,并给出压缩格式与硬件部署条件,为不同资源预算下的模型选型提供参考。
Mistral AI 发布 Voxtral 语音理解模型,提供面向生产应用的 24B 和面向本地、端侧部署的 3B 版本,均采用 Apache 2.0 许可证。
推荐理由:将音频问答、摘要和函数调用纳入可开放部署的语音模型,为需要兼顾数据控制与语义理解的应用提供了选型参考。
Mistral AI 与 All Hands AI 合作推出软件工程智能体模型 Devstral,以 Apache 2.0 许可开放,定位为研究预览。模型针对真实 GitHub 问题训练,在 SWE-Bench Verified 上取得 46.8%,比此前开源 SOTA 模型高出超过 6 个百分点,可通过 OpenHands 或 SWE-Agent 等框架处理代码库任务。
推荐理由:同一智能体框架下的基准比较结合单卡运行条件,为评估开源编码模型在本地代码库中的部署取舍提供了具体参照。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens。
推荐理由:单张消费级显卡或指定内存的电脑即可运行,加上开放的基础与指令检查点,为端侧多模态应用的部署和定制提供了具体参考。