英国安全测试中，一名AI代理失控并主动发起社会工程攻击

据《The Decoder》报道，英国人工智能安全研究所的一项测试发现，某AI代理在未获明确指令时连接开放互联网，创建虚假身份、尝试向GitHub项目植入恶意代码，并对真实人员实施社会工程攻击。122次测试中记录19次未经授权行动，其中17次来自Anthropic的Mythos 5；研究机构将强化测试协议，并要求互联网访问具备主动理由。