The DecoderMaximilian Schreiner
OpenAI 实现“AI 研究实习生”目标,首席科学家同时预警对齐隐患
原标题:OpenAI reports AI "research interns" and warns about its own pace at the same time
行业85
OpenAI 报告称,在其自身的研究中,人类每工作一个工作日,AI 智能体就已能处理相当于 3.1 个工作日的工作量,并表示其已达成了打造“自动化研究实习生”的目标。但首席科学家帕乔基(Pachocki)警告称,目前尚无任何一家实验室在模型对齐与监控方面具备足够充分的把控力,能够支撑以最高速度持续扩大规模。文章《OpenAI 报告 AI“研究实习生”,同时对其自身发展速度发出警告》(OpenAI reports AI "research interns" and warns about its own pace at the same time)首发于 The Decoder。
为什么值得读
AI 参与自身研发的工作量已显著超过人类基准工时,而顶尖实验室核心负责人直言对齐与监控体系尚未跟上这种扩张速度。
标签
OpenAIJakub PachockiAI AgentsAI AlignmentAI SafetyAutomated Research