佛罗里达州援引灭绝风险,请求法院叫停 OpenAI 开发
佛罗里达州周一上午申请临时禁令,要求 OpenAI 在部署经第三方认可的安全防护措施前停止继续开发其所称的高风险产品。该动议属于该州 6 月提起的民事诉讼,原诉讼指控 ChatGPT 危及儿童等脆弱群体;此次申请又援引 Hugging Face 黑客事件后公开的灾难性失对齐风险警告。
推荐理由:佛罗里达州将前沿模型的失控风险纳入既有诉讼,使争议从脆弱群体保护延伸到模型训练限制与第三方安全措施。
AI 相关政策法规与政府监管动态:立法进展、出口管制与全球治理框架的追踪。
佛罗里达州周一上午申请临时禁令,要求 OpenAI 在部署经第三方认可的安全防护措施前停止继续开发其所称的高风险产品。该动议属于该州 6 月提起的民事诉讼,原诉讼指控 ChatGPT 危及儿童等脆弱群体;此次申请又援引 Hugging Face 黑客事件后公开的灾难性失对齐风险警告。
推荐理由:佛罗里达州将前沿模型的失控风险纳入既有诉讼,使争议从脆弱群体保护延伸到模型训练限制与第三方安全措施。
美国哥伦比亚特区巡回上诉法院今天以 2-1 裁决支持国防部将 Anthropic 技术列入黑名单,即使该公司没有恶意,拒绝向军方提供某些 AI 功能也可成为理由。
推荐理由:裁决将军用模型限制过多与限制不足的风险并置,有助于理解法院为何把两类风险的权衡交由行政部门决定。