解读 Runway WorldPrompt:实时交互世界如何生成与控制
Runway 的 GWM Worlds 2 研究预览通过 WorldPrompt 指定生成世界、首帧和带时间戳的事件,并支持实时输入动作提示词。团队在采访中解释,其音视频模型经过格式微调、自回归后训练和知识蒸馏,实现连续 720p、24 fps 视频与 48,000 Hz 音频生成。
Runway 的 GWM Worlds 2 研究预览通过 WorldPrompt 指定生成世界、首帧和带时间戳的事件,并支持实时输入动作提示词。团队在采访中解释,其音视频模型经过格式微调、自回归后训练和知识蒸馏,实现连续 720p、24 fps 视频与 48,000 Hz 音频生成。
LFM2.5-VL-DSpark 通过推测解码加速 LFM2.5-VL-3B,端侧解码最高提速 3.13x,且不改变输出质量。草稿模型增加约 280M 参数,增幅为 8.9%,端侧端到端最高提速 2.62x。模型已开放权重,支持 llama.cpp、MLX-VLM 和 SGLang。
小米发布原生全模态 MiMo-V2.6-Pro 和 Flash,其中 Pro 以 46 分登顶 Artificial Analysis Intelligence Index 开放权重模型榜。
推荐理由:模型权重之外,公开的强化学习环境与训练配方提供了更具体的技术参照,有助于理解后训练投入与能力提升之间的关系。
Google DeepMind 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking,分别面向高性价比语音对话与复杂多步推理任务。
推荐理由:两款模型分别侧重规模成本与复杂任务,并将后台工具执行与持续对话结合,为语音智能体的模型选型提供了具体比较维度。
NeoMME 推出 260M 和 800M 多语言多模态编码器,以单一双向 Transformer 处理文本和图像,全部检查点按 Apache 2.0 许可开放。
Google DeepMind 推出 Gemini Omni 1.1 Flash,新增场景延长、首尾帧插值、360p 预览及最高 4K 放大输出等视频创作能力。
推荐理由:低分辨率预览与高分辨率输出被纳入同一视频工作流,为开发者在创意迭代成本和最终成片质量之间提供了具体取舍路径。
Google DeepMind 发布手语转文本模型 SL2T,为 Pixel 11 的 Gboard 和 Live Transcribe 提供 ASL 转英文输入功能。
推荐理由:将手语输入接入手机日常输入场景,让无障碍交互不再只依赖英文打字,同时通过仅上传身体坐标减少原始视频传输。
Microsoft Research 介绍胸部 X 光研究模型 CARE-X,结合报告生成、分类与定位辅助头及 DAPO 强化学习,在 ReXVQA 上达到 94% 总体准确率。
Meta 今天发布 Muse Glimmer,这是从 Muse 蒸馏而来的 30B 多模态模型,采用 Apache 2.0 许可证,面向本地智能体应用。模型支持图像、无音频视频理解及多模态工具调用,可选用基于 DFlash 的推测解码模块,以额外内存开销换取生成加速。
推荐理由:从量化部署到推测解码的具体示例,为评估本地多模态智能体的部署路径及速度与显存之间的取舍提供了工程参考。
Mistral AI 发布 3B 多模态安全分类器 Shieldstral,以 Apache 2.0 开放权重,支持推理时用自然语言指定审核策略,无需重新训练。
推荐理由:将审核策略从固定类别改为推理时输入的自然语言问题,为不同产品调整安全边界提供了无需重新训练的部署路径。
Google DeepMind 发布 Gemini Robotics ER 2,通过连续视频理解、任务编排和多机器人协作增强具身推理能力,并由底层 VLA 模型执行动作。
推荐理由:将连续视频中的进度判断与底层控制接口编排结合,为机器人边执行边纠错、而非每一步停下重新规划提供了具体实现参考。
Google DeepMind 推出 Gemini Robotics 2 系列模型,支持全身控制、精细操作及多机器人协作。Gemini Robotics ER 2 负责规划持续数分钟、涉及数百次决策的任务;Gemini Robotics On-Device 2 支持本地运行,通常用少于 200 个示例、数小时适配新的双臂机器人形态。
推荐理由:从上半身桌面操作扩展到全身协调与多机器人协作,这次更新提供了观察机器人如何承接更长任务链的具体样例。
Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber,分别面向复杂智能体任务、高吞吐工作流和漏洞发现与修复。
推荐理由:同一系列按复杂任务、高吞吐和漏洞修复划分用途,并给出成本与访问边界,为生产智能体的模型选型提供了具体比较依据。
DharmaOCR 在专为葡萄牙语设计的基准测试中得分 0.925,优于 Mistral OCR4 的 0.798 和 Unlimited-OCR 的 0.7587。其训练结合巴西葡萄牙语文档的监督微调与 DPO,分别强化领域能力和输出稳定性;团队三个月前已开源其中一个模型。
Thinking Machines Lab 开放多模态模型 Inkling,并新增同架构的 Inkling-Small,原生接收图像、文本和音频输入。Inkling 总参数为 975B、激活参数为 41B,支持 1M 上下文窗口;Inkling-Small 总参数为 276B、激活参数为 12B,提供 MXFP8 和 NVFP4 权重。
推荐理由:不同精度版本的显存需求与部署配置并列呈现,为比较完整模型和小型版本的硬件门槛提供了具体依据。
Mistral AI 发布机器人导航模型 Robostral Navigate,规模为 8B,仅凭单个 RGB 摄像头和自然语言指令即可执行导航任务,无需 LiDAR 或深度传感器。
Google DeepMind 发布 Nano Banana 2 Lite,并向开发者开放 Gemini Omni Flash,分别用于快速图像生成和视频生成、对话式编辑。
推荐理由:文中明确区分图像模型的速度、成本与质量定位,并列出视频模型的输入处理限制,为多媒体工作流选型提供具体依据。
Mistral 发布文档理解模型 Mistral OCR 4,在提取文本的同时返回边界框、块类型及逐页、逐词置信度,支持 10 个语言组的 170 种语言。官方报告其在人类盲评中的平均胜率为 72%,OlmOCRBench 得分为 85.20,同时说明自动基准存在标注与格式匹配局限,竞品分数来自内部复现。
推荐理由:边界框、块类型和置信度让文档提取结果能同时用于定位引用与安排人工核验,为检索和智能体流程提供更明确的输入结构。
Google DeepMind 发布 Gemma 4 12B,采用统一的无编码器架构,将视觉与音频输入直接接入 LLM 主干,面向笔记本本地多模态智能体应用。官方称其标准基准表现接近 26B MoE 模型,总内存占用不到后者一半,可在配备 16GB 显存或统一内存的设备上运行,并配备 Multi-Token Prediction(MTP)草稿模型以降低延迟。
推荐理由:无独立编码器的音视频处理路径与本地内存要求,为评估多模态智能体从大模型迁移到笔记本的资源取舍提供了具体参照。
Google DeepMind 发布 Gemini Omni 系列首款模型 Gemini Omni Flash,支持结合图像、音频、视频和文本生成视频,并通过多轮对话编辑。
推荐理由:多模态参考输入与多轮对话编辑把视频生成延伸到持续修改的工作流,音频输入和输出模态的开放边界也有明确说明。
Google DeepMind 发布 Gemini 3.5 模型系列,率先开放 3.5 Flash,面向复杂、长流程的智能体与编码任务。官方称其在 Terminal-Bench 2.1(76.2%)、GDPval-AA(1656 Elo)和 MCP Atlas(83.6%)等基准上超过 Gemini 3.1 Pro,输出 token 速度为其他前沿模型的 4 倍。
推荐理由:官方将智能体与编码基准表现同输出速度、成本放在一起比较,为评估长流程任务中的性能与延迟取舍提供了具体参照。
Google DeepMind 发布 Gemini Robotics-ER 1.6,增强机器人空间推理、多视角理解和任务完成检测,并新增仪表读数能力。官方称其相关能力较 Gemini Robotics-ER 1.5 和 Gemini 3.0 Flash 改善,仪表读数结合视觉推理、图像放大、点位标注与代码执行,可处理压力表、液位计等设施巡检场景。
推荐理由:多视角任务完成判断与仪表读数案例,把具身推理的改进落到机器人重试决策和设施巡检这两个具体应用环节。
Google DeepMind 发布 Gemma 4 开放模型系列,采用 Apache 2.0 许可,提供 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,面向高级推理与智能体工作流。
推荐理由:不同尺寸对应的硬件要求、上下文窗口与模态差异,为开发者在端侧离线运行和工作站部署之间选型提供了具体依据。
Mistral 发布 Mistral Small 4,以 Apache 2.0 许可开放,将推理、多模态和智能体编码能力整合进单一模型。该模型采用 MoE 架构,总参数为 119B,每个 token 激活 6B 参数(计入嵌入与输出层为 8B),支持 256k 上下文窗口、文本与图像输入,并可通过 reasoning_effort 调节推理强度。
推荐理由:将可调推理、图像输入与编码能力放进同一开放模型,为需要兼顾多类任务与部署效率的团队提供了减少模型切换的选型思路。
Mistral AI 发布 Mistral OCR 3,官方称其在表单、扫描文档、复杂表格和手写内容上的整体胜率较 Mistral OCR 2 达到 74%。模型支持提取文本与嵌入图像,输出带 HTML 表格结构的 Markdown,价格为 $2 per 1,000 pages,Batch-API 提供 50% 折扣后为 $1 per 1,000 pages。
推荐理由:对文档处理流程而言,表格结构保留、批量价格与向后兼容信息提供了具体依据,可用于评估升级成本和接入方式。
Mistral AI 发布 Devstral 2(123B)与 Devstral Small 2(24B)编码模型,并推出支持端到端代码自动化的开源助手 Mistral Vibe CLI。
推荐理由:两种规模模型的基准成绩、许可差异与硬件要求提供了具体选型依据,可用于权衡编码智能体的性能需求和本地部署条件。
Mistral 发布 Mistral 3 系列,包括 3B、8B、14B 的 Ministral 3,以及激活参数为 41B、总参数为 675B 的混合专家模型 Mistral Large 3,均采用 Apache 2.0 许可证。
推荐理由:从端侧稠密模型到大型混合专家模型均采用宽松许可证,并给出压缩格式与硬件部署条件,为不同资源预算下的模型选型提供参考。
Mistral AI 发布 Mistral Medium 3,面向编码、多模态理解等企业场景,支持混合部署、本地部署及 in-VPC 部署。官方称其各项基准表现达到或超过 Claude Sonnet 3.7 的 90%,价格为 $0.4 input / $2 output per M token,并可在至少 4 个 GPU 的自托管环境中部署。
推荐理由:将基准表现、API 价格与自托管条件放在一起比较,为企业在模型能力、使用成本和部署方式之间取舍提供了具体参考。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens。
推荐理由:单张消费级显卡或指定内存的电脑即可运行,加上开放的基础与指令检查点,为端侧多模态应用的部署和定制提供了具体参考。