用 LFM2.5-VL-DSpark 加速视觉语言模型
LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B，端侧解码最高提速 3.13x，且不改变输出质量。草稿模型增加约 280M 参数，增幅为 8.9%，端侧端到端最高提速 2.62x。模型已开放权重，支持 llama.cpp、MLX-VLM 和 SGLang。
#端侧
#端侧
今日 0 条Hugging Face BlogAI 评分4747 Microsoft ResearchAI 评分5252 Microsoft Research 研究机器人推理卸载，比较机载与边缘、云端计算
Microsoft Research 对移动操作机器人工作负载的研究显示，将推理从机载 GPU 卸载至边缘或云端 GPU，可改善任务表现与电池续航。测试中，部分显存足够的 GPU 相比 A100 在建图与规划上减速最高达 383%，较轻量 GPU 的障碍物及时检测表现下降 30%，较小 GPU 上 VLA 模型的减速使准确率下降 50%。
NVIDIA BlogAI 评分5454 NVIDIA Isaac ROS 5.0 增强智能体工作流与开源机器人开发支持
NVIDIA 在 ROSCon 发布免费开源的 Isaac ROS 5.0，新增智能体开发工作流，并支持 ROS Lyrical 和 Ubuntu 24.04。
Hugging Face BlogAI 评分5555 oMLX 创建者兼维护者 Jun Kim 加入 Hugging Face，支持 MLX 社区
oMLX 创建者兼维护者 Jun Kim 加入 Hugging Face，将继续领导项目并为 MLX 社区贡献力量。oMLX 将从业余项目转为获得资金支持、持续维护的项目，保持 Apache 2.0 许可证，团队希望借此提高稳定性并加快开发。Hugging Face 的一项具体重点是简化 transformers 模型定义到参考 MLX 实现的转换，让不同引擎复用这些实现并专注于各自的特色功能。
Hugging Face BlogAI 评分5656 Transformers 新增高效运行 llama.cpp GGUF 量化模型的支持
Hugging Face 为 Transformers 新增高效运行 GGUF 量化模型的支持，通过复用 ggml 内核并优化 generate，初期面向 Apple Silicon 本地推理。
Hugging Face BlogAI 评分4949 Hugging Face 推出 @huggingface/kernels：面向本地 AI 的 200+ WebGPU 内核
Hugging Face 发布 @huggingface/kernels，可从 Hub 加载并运行优化的 WebGPU 内核，首批提供 207 个。内核采用 Apache-2.0 许可，附带版本化接口、正确性测试与基准用例。同步推出的 Fleet 可在浏览器中测试 GPU 性能与正确性，经用户同意收集结果以改进内核。
Hugging Face BlogAI 评分5252 LFM2.5-DSpark 将推理速度提升至最高约 3.2x
Liquid AI 发布适配 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型，实测 H100 上最高加速 3.18x，M4 Max 上最高加速 2.87x。
Google DeepMind精选AI 评分7575 Google DeepMind 将 SL2T 手语翻译模型带入 Pixel 11 输入场景
Google DeepMind 发布手语转文本模型 SL2T，为 Pixel 11 的 Gboard 和 Live Transcribe 提供 ASL 转英文输入功能。
推荐理由：将手语输入接入手机日常输入场景，让无障碍交互不再只依赖英文打字，同时通过仅上传身体坐标减少原始视频传输。
Berkeley AI ResearchAI 评分5151 从 CUDA 到 MLX：K-Search 如何将内核优化经验迁移到 Apple Silicon
IBM Research 基于 Berkeley Sky Lab 的 K-Search 扩展 MLX 后端，以结构化 CUDA-to-MLX 翻译层将内核优化知识迁移到 Apple Silicon。
Google DeepMind精选AI 评分7474 Gemini Robotics 2 为机器人带来全身智能控制与多机器人协作
Google DeepMind 推出 Gemini Robotics 2 系列模型，支持全身控制、精细操作及多机器人协作。Gemini Robotics ER 2 负责规划持续数分钟、涉及数百次决策的任务；Gemini Robotics On-Device 2 支持本地运行，通常用少于 200 个示例、数小时适配新的双臂机器人形态。
推荐理由：从上半身桌面操作扩展到全身协调与多机器人协作，这次更新提供了观察机器人如何承接更长任务链的具体样例。
Google ResearchAI 评分5151 Google Research 解读如何用冻结主干的多 token 预测加速 Pixel 上的 Gemini Nano
Google Research 为冻结权重的 Gemini Nano v3 加装多 token 预测（MTP）头，相关加速方案已部署至 Pixel 9 和 10 系列。
Google DeepMind精选AI 评分7777 Google DeepMind 发布 DiffusionGemma，文本生成速度最高提升至 4x
Google DeepMind 发布实验性开放模型 DiffusionGemma，以 Apache 2.0 许可提供权重，在专用 GPU 上实现最高 4x 的文本生成速度。
推荐理由：本地低并发与高并发云端的收益差异交代清楚，能帮助开发者结合输出质量取舍判断文本扩散是否适合自己的工作负载。
Google DeepMind精选AI 评分7979 Google DeepMind 发布 Gemma 4 12B：统一、无编码器的多模态模型
Google DeepMind 发布 Gemma 4 12B，采用统一的无编码器架构，将视觉与音频输入直接接入 LLM 主干，面向笔记本本地多模态智能体应用。官方称其标准基准表现接近 26B MoE 模型，总内存占用不到后者一半，可在配备 16GB 显存或统一内存的设备上运行，并配备 Multi-Token Prediction（MTP）草稿模型以降低延迟。
推荐理由：无独立编码器的音视频处理路径与本地内存要求，为评估多模态智能体从大模型迁移到笔记本的资源取舍提供了具体参照。
Google Research精选AI 评分7070 Google Research 探索用手机摄像头被动监测心脏健康
Google Research 在 Nature 发表 PHRM 研究，利用面部解锁后的 8 秒前置摄像头视频，通过深度学习估算心率并汇总每日静息心率。在真实生活验证中，经置信度筛选后的心率平均绝对百分比误差为 6.09%，每日静息心率相对 Fitbit Charge 6 的平均绝对误差为 4.39 bpm，但较深肤色组的心率测量成功率较低。
推荐理由：研究将真实生活场景中的误差与不同肤色的测量成功率分开呈现，为评估手机健康监测的准确性与覆盖差异提供了参考。
Google ResearchAI 评分4747 Google 通过零信任聚合实现隐私分析
Google 将新密码学聚合协议与可信执行环境结合，用于隐私分析，确保仅获取匿名化的群体聚合结果。设备只需发送一次消息，无须为多轮交互持续在线，个人原始数据不会在任何服务器内存中暴露或重建。该方案已集成至 Google 的机密联邦分析系统，并通过硬件证明验证协议按预期执行。
Google DeepMind精选AI 评分8787 Google DeepMind 推出 Gemma 4，以 Apache 2.0 许可开放四种尺寸模型
Google DeepMind 发布 Gemma 4 开放模型系列，采用 Apache 2.0 许可，提供 E2B、E4B、26B MoE 和 31B Dense 四种尺寸，面向高级推理与智能体工作流。
推荐理由：不同尺寸对应的硬件要求、上下文窗口与模态差异，为开发者在端侧离线运行和工作站部署之间选型提供了具体依据。
Mistral AI精选AI 评分7575 Mistral AI 发布 Voxtral Transcribe 2，覆盖批量与低延迟实时语音转写
Mistral AI 发布 Voxtral Transcribe 2，包括批量转写模型 Voxtral Mini Transcribe V2 和实时模型 Voxtral Realtime，均支持 13 种语言。
推荐理由：批量版的错误率与定价、实时版的延迟与开放权重条件，为语音工作流在成本、响应速度和部署方式之间的取舍提供了具体参照。
Mistral AI精选AI 评分8080 Mistral 发布 Mistral 3，涵盖 Large 3 与 3B、8B、14B 小模型
Mistral 发布 Mistral 3 系列，包括 3B、8B、14B 的 Ministral 3，以及激活参数为 41B、总参数为 675B 的混合专家模型 Mistral Large 3，均采用 Apache 2.0 许可证。
推荐理由：从端侧稠密模型到大型混合专家模型均采用宽松许可证，并给出压缩格式与硬件部署条件，为不同资源预算下的模型选型提供参考。
Mistral AI精选AI 评分7979 Mistral AI 发布 Voxtral 语音理解模型，提供 24B 与 3B 两种规格
Mistral AI 发布 Voxtral 语音理解模型，提供面向生产应用的 24B 和面向本地、端侧部署的 3B 版本，均采用 Apache 2.0 许可证。
推荐理由：将音频问答、摘要和函数调用纳入可开放部署的语音模型，为需要兼顾数据控制与语义理解的应用提供了选型参考。
Mistral AI精选AI 评分7575 Mistral AI 发布开源编码智能体模型 Devstral，SWE-Bench Verified 得分 46.8%
Mistral AI 与 All Hands AI 合作推出软件工程智能体模型 Devstral，以 Apache 2.0 许可开放，定位为研究预览。模型针对真实 GitHub 问题训练，在 SWE-Bench Verified 上取得 46.8%，比此前开源 SOTA 模型高出超过 6 个百分点，可通过 OpenHands 或 SWE-Agent 等框架处理代码库任务。
推荐理由：同一智能体框架下的基准比较结合单卡运行条件，为评估开源编码模型在本地代码库中的部署取舍提供了具体参照。
Mistral AI精选AI 评分7474 Mistral AI 发布 Mistral Small 3.1，增强多模态理解并支持 128k token 上下文
Mistral AI 发布 Mistral Small 3.1，在 Mistral Small 3 基础上提升文本性能与多模态理解，上下文窗口扩展至 128k tokens。
推荐理由：单张消费级显卡或指定内存的电脑即可运行，加上开放的基础与指令检查点，为端侧多模态应用的部署和定制提供了具体参考。