跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

最新精选

第 1–12 条 · 共 12 条
今天9月30日周三
  1. AWS Machine Learning Blog69

    GPT-6.1 Sol 在 Amazon Bedrock 正式可用,将接近 Astra 的智能带入日常工作

    GPT-6.1 Sol 现已在 Amazon Bedrock 正式可用,作为 GPT-6 Sol 的重大升级,增强了智能体编码、计算机使用和专业工作中的推理能力。

    推荐理由:文中将推理质量与完成任务所需的交互次数联系起来,为评估智能体成本提供了比单看模型 token 单价更完整的比较视角。

  2. The Decoder83

    OpenAI 推出常驻智能体 Dots,与 Meta Muse 竞争

    OpenAI 在 DevDay 2026 推出常驻智能体 Dots,运行于 GPT-6 Astra,可在独立云端电脑上持续处理工作任务。Dots 可连接超过 4,000 个应用,并在 ChatGPT、Slack 和 Microsoft Teams 间保留上下文;主动后台研究仅使用只读工具,执行操作则受用户规则和审批约束。

    推荐理由:独立云端电脑与只读后台研究的区分,提供了理解常驻智能体权限边界的具体参照,也厘清了主动发现任务与执行操作的差别。

  3. AWS Machine Learning Blog61

    如何用 Amazon Quick 与 Amazon Bedrock AgentCore 构建 AI 合同智能平台

    AWS 展示了用 Amazon Quick 与 Amazon Bedrock AgentCore 构建合同智能平台的架构,通过结构化提取支持跨合同汇总,并保留原文检索能力。

    推荐理由:将跨文档汇总交给结构化数据库、单文档查找留给检索,为大量非结构化文档同时支持统计与问答提供了可迁移的架构方法。

9月26日周六
9月17日周四
9月15日周二
  1. NVIDIA Blog72

    费城儿童医院如何利用 NVIDIA 开源 AI 为儿童心脏建模与规划治疗

    费城儿童医院利用基于 MONAI 的开源 AI 工具,将儿童心脏建模从熟练研究人员耗时 4 小时的工作缩短至数秒,用于个体化术前规划。团队通过 MONAI Label 和 NVIDIA 的 Auto3DSeg 实现训练分割网络,复杂室间隔缺损的术前建模已成为常规实践,医院预计今年完成约 200 例建模。

    推荐理由:从人工建模到术前器械仿真的实践路径,展示了儿童医院如何借助共享开源基础设施推进小规模、异质患者群体的个体化诊疗。

9月12日周六
9月10日周四
9月8日周二
  1. Mistral AI60

    Mistral 完成 €3 billion D 轮融资,推动主权开放权重 AI 迈向技术前沿

    Mistral 宣布完成 €3 billion D 轮融资,投后估值超过 €21 billion,由三星电子领投,Scaleup Europe Fund 与现有投资者 PSG Equity 联合领投。

    推荐理由:融资用途将前沿研究、训练算力与基础设施扩张联系起来,呈现了主权开放权重路线在模型能力之外对部署控制权的投入。

8月20日周四
  1. Mistral AI67

    Mistral Agentic Search 提供多步文档检索,提高搜索准确率与效率

    Mistral 推出 Agentic Search,通过多步检索与文档导航帮助 AI 系统查找、阅读和核验复杂文档中的信息。它基于现有索引提供 search、open、navigate、read 和 grep 五种工具,可通过 Mistral Search Toolkit 集成,也已内置于 Studio 和 Vibe 的 Libraries,支持云端和本地部署。

    推荐理由:通过区分单次检索、循环搜索和文档导航的评测结果,材料展示了复杂文档问答中准确率提升与检索开销下降之间的关系。

8月4日周二
  1. Microsoft Research69

    微软研究院 Orchard:以可复用环境支持规模化 AI 智能体训练的开源框架

    微软研究院推出开源框架 Orchard,通过可复用的 Orchard Env 环境服务,支持软件工程、网页导航和个人助理智能体的训练与评估。该服务基于 Kubernetes,可直接在 Codex、OpenClaw、ZeroClaw 等实际部署框架内训练智能体,并配套开放训练流程、数据和评估方法。

    推荐理由:将运行环境独立为可复用服务,并在实际部署框架内训练智能体,为减少跨任务基础设施重复建设和训练部署差异提供了具体路径。