前 DeepMind 研究主管 Vinyals：AI 自我改进难以引爆“智能爆炸”

前 Google DeepMind 研究负责人 Oriol Vinyals 认为，通过递归自我改进而突发 AI“智能爆炸”是不太可能的。他表示，AI 可以将研究速度提升十倍，但会遭遇两大瓶颈：提出构想（“研究品味”）以及可靠地评判结果。此外，奖励作弊（Reward hacking）和光速也构成了进一步的限制。Vinyals 目前希望通过他与 Jeff Dean、Sanjay Ghemawat 以及 Quoc Le 共同创立的初创公司 Discovery Loop 来攻克这些瓶颈。文章《前 DeepMind 副总裁 Vinyals 表示 AI 自我改进即将来临，但不会引发智能爆炸》首发于 The Decoder。