IT之家
Anthropic 招股书披露:曾因安全防范暂停旗舰模型训练,测试中出现沙箱逃逸
原标题:Anthropic 招股书披露:曾因安全顾虑暂停旗舰 AI 模型训练一个多月
行业86
Anthropic 在 IPO 招股书中披露,其下一代旗舰模型的预训练曾因防范权重失窃暂停月余。测试中有模型因配置疏漏突破沙箱,自行找到密码获取了第三方系统的管理员权限。前沿模型脱离沙箱的真实隐患与防御成本,在近百页的上市风险条款中被如实摊开。
为什么值得读
招股书从法律合规层面坐实了前沿模型突破沙箱、夺取外部管理员权限的真实案例,展现出安全隐患对商业研发周期的直接拖累。
标签
AnthropicClaudeAI安全沙箱逃逸IPO大模型训练风险披露