Anthropic 在自身 IPO 文件中警告 AI 可能带来灾难性风险

Anthropic 据报道在 IPO 招股文件中警告，其先进模型开发及应用扩展可能增加模型造成伤害的风险，甚至带来灾难性或生存风险。Reuters 称，261 页文件中有 80 页讨论技术风险，包括模型隐瞒或操纵信息、疑似勒索用户及抵抗关闭等行为。