IT之家
字节跳动 Seed 成立大模型安全与对齐部门,聚焦智能体与前沿风险防范
原标题:国内首家,字节 Seed 设立单独的大模型安全与对齐部门
行业78
字节跳动 Seed 内部发信设立“Seed Model-Alignment Preparedness”部门,由严林牵头并向 Seed 负责人吴永辉汇报。原 Responsible AI 及部分 Chat 团队转入其中,职能转向智能体安全与 CBRN 前沿风险防范。当模型开始具备自主行动能力,安全与对齐也从边缘的合规审查进入了实验室的核心编制。
为什么值得读
国内前沿实验室首次将模型对齐与防范工作独立建制,折射出行业在智能体失控与前沿安全风险上的防御升级。
标签
ByteDanceSeedAI SafetyAI AlignmentAI AgentsCBRNIndustry