Simon Willison 回顾 2026 年至今的 LLM 趋势与编码智能体变化
Simon Willison 在大会闭幕演讲中回顾 2026 年至今的 LLM 发展,将编码智能体走向日常可用视为核心变化。他结合 Claude Code、Codex 的使用经历及本地千问模型的 SVG 绘图测试,讨论能力提升、token 成本和智能体安全问题,并梳理文中所述的训练智能体突破沙箱事件。他的核心判断是,智能体接手简单任务后,工程师仍需承担目标定义、约束设计与质量验证,工作未必更轻松。
Simon Willison 在大会闭幕演讲中回顾 2026 年至今的 LLM 发展,将编码智能体走向日常可用视为核心变化。他结合 Claude Code、Codex 的使用经历及本地千问模型的 SVG 绘图测试,讨论能力提升、token 成本和智能体安全问题,并梳理文中所述的训练智能体突破沙箱事件。他的核心判断是,智能体接手简单任务后,工程师仍需承担目标定义、约束设计与质量验证,工作未必更轻松。
Microsoft 本周公布的新款 Surface 不再使用 Copilot+ PC 名称,尽管设备仍满足该标签的全部要求。
LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B,端侧解码最高提速 3.13x,且不改变输出质量。草稿模型增加约 280M 参数,增幅为 8.9%,端侧端到端最高提速 2.62x。模型已开放权重,支持 llama.cpp、MLX-VLM 和 SGLang。
Microsoft Research 对移动操作机器人工作负载的研究显示,将推理从机载 GPU 卸载至边缘或云端 GPU,可改善任务表现与电池续航。测试中,部分显存足够的 GPU 相比 A100 在建图与规划上减速最高达 383%,较轻量 GPU 的障碍物及时检测表现下降 30%,较小 GPU 上 VLA 模型的减速使准确率下降 50%。
NVIDIA 在 ROSCon 发布免费开源的 Isaac ROS 5.0,新增智能体开发工作流,并支持 ROS Lyrical 和 Ubuntu 24.04。
oMLX 创建者兼维护者 Jun Kim 加入 Hugging Face,将继续领导项目并为 MLX 社区贡献力量。oMLX 将从业余项目转为获得资金支持、持续维护的项目,保持 Apache 2.0 许可证,团队希望借此提高稳定性并加快开发。Hugging Face 的一项具体重点是简化 transformers 模型定义到参考 MLX 实现的转换,让不同引擎复用这些实现并专注于各自的特色功能。
Hugging Face 为 Transformers 新增高效运行 GGUF 量化模型的支持,通过复用 ggml 内核并优化 generate,初期面向 Apple Silicon 本地推理。
Hugging Face 发布 @huggingface/kernels,可从 Hub 加载并运行优化的 WebGPU 内核,首批提供 207 个。内核采用 Apache-2.0 许可,附带版本化接口、正确性测试与基准用例。同步推出的 Fleet 可在浏览器中测试 GPU 性能与正确性,经用户同意收集结果以改进内核。
Liquid AI 发布适配 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型,实测 H100 上最高加速 3.18x,M4 Max 上最高加速 2.87x。
Google DeepMind 发布手语转文本模型 SL2T,为 Pixel 11 的 Gboard 和 Live Transcribe 提供 ASL 转英文输入功能。
推荐理由:将手语输入接入手机日常输入场景,让无障碍交互不再只依赖英文打字,同时通过仅上传身体坐标减少原始视频传输。
IBM Research 基于 Berkeley Sky Lab 的 K-Search 扩展 MLX 后端,以结构化 CUDA-to-MLX 翻译层将内核优化知识迁移到 Apple Silicon。
Google DeepMind 推出 Gemini Robotics 2 系列模型,支持全身控制、精细操作及多机器人协作。Gemini Robotics ER 2 负责规划持续数分钟、涉及数百次决策的任务;Gemini Robotics On-Device 2 支持本地运行,通常用少于 200 个示例、数小时适配新的双臂机器人形态。
推荐理由:从上半身桌面操作扩展到全身协调与多机器人协作,这次更新提供了观察机器人如何承接更长任务链的具体样例。
Google Research 为冻结权重的 Gemini Nano v3 加装多 token 预测(MTP)头,相关加速方案已部署至 Pixel 9 和 10 系列。
Google DeepMind 发布实验性开放模型 DiffusionGemma,以 Apache 2.0 许可提供权重,在专用 GPU 上实现最高 4x 的文本生成速度。
推荐理由:本地低并发与高并发云端的收益差异交代清楚,能帮助开发者结合输出质量取舍判断文本扩散是否适合自己的工作负载。
Google DeepMind 发布 Gemma 4 12B,采用统一的无编码器架构,将视觉与音频输入直接接入 LLM 主干,面向笔记本本地多模态智能体应用。官方称其标准基准表现接近 26B MoE 模型,总内存占用不到后者一半,可在配备 16GB 显存或统一内存的设备上运行,并配备 Multi-Token Prediction(MTP)草稿模型以降低延迟。
推荐理由:无独立编码器的音视频处理路径与本地内存要求,为评估多模态智能体从大模型迁移到笔记本的资源取舍提供了具体参照。
Google Research 在 Nature 发表 PHRM 研究,利用面部解锁后的 8 秒前置摄像头视频,通过深度学习估算心率并汇总每日静息心率。在真实生活验证中,经置信度筛选后的心率平均绝对百分比误差为 6.09%,每日静息心率相对 Fitbit Charge 6 的平均绝对误差为 4.39 bpm,但较深肤色组的心率测量成功率较低。
推荐理由:研究将真实生活场景中的误差与不同肤色的测量成功率分开呈现,为评估手机健康监测的准确性与覆盖差异提供了参考。
Google 将新密码学聚合协议与可信执行环境结合,用于隐私分析,确保仅获取匿名化的群体聚合结果。设备只需发送一次消息,无须为多轮交互持续在线,个人原始数据不会在任何服务器内存中暴露或重建。该方案已集成至 Google 的机密联邦分析系统,并通过硬件证明验证协议按预期执行。
Google DeepMind 发布 Gemma 4 开放模型系列,采用 Apache 2.0 许可,提供 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,面向高级推理与智能体工作流。
推荐理由:不同尺寸对应的硬件要求、上下文窗口与模态差异,为开发者在端侧离线运行和工作站部署之间选型提供了具体依据。
Mistral AI 发布 Voxtral Transcribe 2,包括批量转写模型 Voxtral Mini Transcribe V2 和实时模型 Voxtral Realtime,均支持 13 种语言。
推荐理由:批量版的错误率与定价、实时版的延迟与开放权重条件,为语音工作流在成本、响应速度和部署方式之间的取舍提供了具体参照。
Mistral 发布 Mistral 3 系列,包括 3B、8B、14B 的 Ministral 3,以及激活参数为 41B、总参数为 675B 的混合专家模型 Mistral Large 3,均采用 Apache 2.0 许可证。
推荐理由:从端侧稠密模型到大型混合专家模型均采用宽松许可证,并给出压缩格式与硬件部署条件,为不同资源预算下的模型选型提供参考。
Mistral AI 发布 Voxtral 语音理解模型,提供面向生产应用的 24B 和面向本地、端侧部署的 3B 版本,均采用 Apache 2.0 许可证。
推荐理由:将音频问答、摘要和函数调用纳入可开放部署的语音模型,为需要兼顾数据控制与语义理解的应用提供了选型参考。
Mistral AI 与 All Hands AI 合作推出软件工程智能体模型 Devstral,以 Apache 2.0 许可开放,定位为研究预览。模型针对真实 GitHub 问题训练,在 SWE-Bench Verified 上取得 46.8%,比此前开源 SOTA 模型高出超过 6 个百分点,可通过 OpenHands 或 SWE-Agent 等框架处理代码库任务。
推荐理由:同一智能体框架下的基准比较结合单卡运行条件,为评估开源编码模型在本地代码库中的部署取舍提供了具体参照。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens。
推荐理由:单张消费级显卡或指定内存的电脑即可运行,加上开放的基础与指令检查点,为端侧多模态应用的部署和定制提供了具体参考。