前 OpenAI 与 Anthropic 研究员公开警告十年内 AI 生存风险超过 10%

OpenAI 和 Anthropic 的前预训练研究员雅各布·考克森（Jacob Coxon）已辞职，并指控这两家公司明知故犯，甘冒导致人类灭绝的风险。他在 Anthropic 的同事埃文·哈宾格（Evan Hubinger）认为，未对齐的超级智能 AI 在未来十年内消灭人类的概率超过 10%。文章《Anthropic 科学家认为未来十年 AI 毁灭人类的概率超过 10%》最初发表于 The Decoder。