Palisade Research 发布 AI 研究员访谈视频，警告超级智能“正如听起来那样危险”
Palisade Research 发布 AI 研究员访谈视频，多名受访者警告超级智能可能导致人类灭绝。受访者包括 OpenAI、Google 和 Anthropic 的现任及前员工，但未提出统一的应对方案。完整视频及按主题汇编的片段已在 frominside.ai 上线，涵盖风险是否属于炒作、研究员为何继续参与相关工作等问题。
#安全/对齐
#安全/对齐
今日 1 条The Verge · AIAI 评分4444
Simon WillisonAI 评分3838 引述 OpenAI 智能体安全人员 @joedaroo：如何应对 AI 能力突跃
OpenAI 智能体安全人员 @joedaroo 表示，模型能力提升之快、变化之突然超出预期，给安全准备带来极大挑战。安全建设不仅需要加固系统，也要融入公司文化，并让人员随之调整。他呼吁各组织检查人员、系统与流程的韧性，以及事件响应和沟通准备。
OpenAI NewsAI 评分3131 OpenAI 关于有效第三方评估的优先事项与原则
OpenAI 阐明前沿模型及其防护措施的第三方 AI 安全评估优先事项与原则。评估强调严谨性、安全性和独立性。
NVIDIA BlogAI 评分3737 为什么规模化部署物理 AI 需要每一层的安全保障：NVIDIA Halos 的全栈方案
NVIDIA 将物理 AI 的规模化部署安全落实到硬件、软件、AI 行为及运行环境，并以 Halos 提供全栈支持。动态环境、模型更新及复杂场景要求安全验证贯穿设计、部署与验证，而非仅在部署前检查。Halos 覆盖自动驾驶与机器人，结合仿真、真实世界验证和可重复检查，为第三方系统级认证做准备。
OpenAI NewsAI 评分2828 OpenAI 为 AI 下一阶段发展构建标准
OpenAI 概述了构建全球共享 AI 标准的路径，呼吁协调评估、报告与治理工作，以提升 AI 安全性。其重点是推动这些领域的协同，建立共同遵循的标准。