跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

最新精选

第 21–31 条 · 共 31 条
6月23日周二
  1. Mistral AI68

    Mistral 发布 OCR 4:支持 170 种语言,新增边界框、块分类与置信度

    Mistral 发布文档理解模型 Mistral OCR 4,在提取文本的同时返回边界框、块类型及逐页、逐词置信度,支持 10 个语言组的 170 种语言。官方报告其在人类盲评中的平均胜率为 72%,OlmOCRBench 得分为 85.20,同时说明自动基准存在标注与格式匹配局限,竞品分数来自内部复现。

    推荐理由:边界框、块类型和置信度让文档提取结果能同时用于定位引用与安排人工核验,为检索和智能体流程提供更明确的输入结构。

5月28日周四
  1. Mistral AI80

    Mistral 将 Le Chat 升级为 Vibe,统一办公与编码智能体

    Mistral 将 Le Chat 升级为 Vibe,以同一智能体和许可覆盖办公与编码,迁移原有对话、设置和订阅。Work Mode 支持跨企业工具的多步任务、定时执行和可复用技能;Code Mode 支持在隔离沙箱中并行运行远程编码会话并提交拉取请求,同时新增 VS Code 扩展,CLI 可通过 /teleport 在终端与云端间迁移会话并保留历史和审批记录。

    推荐理由:办公与编码被纳入同一智能体和许可体系,结合可编辑计划、会话权限及终端与云端迁移,为跨工具任务的人工管控提供了具体参考。

5月6日周三
  1. Google DeepMind74

    AlphaEvolve 如何将 Gemini 驱动的编码智能体应用扩展至科研、基础设施与商业领域

    Google DeepMind 回顾 AlphaEvolve 过去一年的应用进展,这款由 Gemini 驱动的编码智能体已从试点走向核心基础设施,并拓展至多个商业领域。

    推荐理由:跨领域案例把算法优化落到了错误率、可行解比例和存储写入量等具体指标上,为识别编码智能体在科研与工程中的应用空间提供参照。

4月27日周一
  1. Mistral AI64

    Mistral AI 发布企业 AI 编排层 Workflows 公开预览版

    Mistral AI 发布 Workflows 公开预览版,作为 Studio 内的企业 AI 编排层,提供持久执行、可观测性、容错和人工审批能力。开发者用 Python 编写流程,可发布到 Le Chat 供业务团队触发,并在 Studio 中追踪审计;货物放行、文档合规检查和客服分流已有生产应用。

    推荐理由:通过暂停审批、故障续跑和执行追踪的业务案例,具体呈现企业把 AI 流程从原型搬到生产时需要补齐的编排能力。

12月17日周三
  1. Mistral AI66

    Mistral AI 发布 Mistral OCR 3,提升手写、扫描件与复杂表格识别能力

    Mistral AI 发布 Mistral OCR 3,官方称其在表单、扫描文档、复杂表格和手写内容上的整体胜率较 Mistral OCR 2 达到 74%。模型支持提取文本与嵌入图像,输出带 HTML 表格结构的 Markdown,价格为 $2 per 1,000 pages,Batch-API 提供 50% 折扣后为 $1 per 1,000 pages。

    推荐理由:对文档处理流程而言,表格结构保留、批量价格与向后兼容信息提供了具体依据,可用于评估升级成本和接入方式。

12月9日周二
12月3日周三
  1. Mistral AI80

    Mistral 发布 Mistral 3,涵盖 Large 3 与 3B、8B、14B 小模型

    Mistral 发布 Mistral 3 系列,包括 3B、8B、14B 的 Ministral 3,以及激活参数为 41B、总参数为 675B 的混合专家模型 Mistral Large 3,均采用 Apache 2.0 许可证。

    推荐理由:从端侧稠密模型到大型混合专家模型均采用宽松许可证,并给出压缩格式与硬件部署条件,为不同资源预算下的模型选型提供参考。

7月11日周五
6月10日周二
5月7日周三
  1. Mistral AI71

    Mistral AI 发布 Mistral Medium 3,主打性能、成本与企业部署的平衡

    Mistral AI 发布 Mistral Medium 3,面向编码、多模态理解等企业场景,支持混合部署、本地部署及 in-VPC 部署。官方称其各项基准表现达到或超过 Claude Sonnet 3.7 的 90%,价格为 $0.4 input / $2 output per M token,并可在至少 4 个 GPU 的自托管环境中部署。

    推荐理由:将基准表现、API 价格与自托管条件放在一起比较,为企业在模型能力、使用成本和部署方式之间取舍提供了具体参考。

3月7日周五
  1. Mistral AI76

    Mistral 发布文档理解模型 Mistral OCR,API 定价为 1000 pages / $

    Mistral 发布 Mistral OCR 文档理解模型,可从图片和 PDF 中按顺序提取交错的文字与图像,处理表格、公式及复杂布局。其已成为 Le Chat 的默认文档理解模型,API mistral-ocr-latest 今日在 la Plateforme 开放,定价为 1000 pages / $,批量推理时每美元可处理的页数约翻倍。

    推荐理由:对需要处理复杂文档的检索系统,按顺序提取交错的文字与图像比单纯转录文本更有参考价值,也更贴近多模态资料的接入需求。