字节Seed单独设立大模型安全与对齐部门
AI 总结
据多家中国媒体援引内部邮件报道,字节跳动旗下 AI 实验室 Seed 成立“Seed Model-Alignment & Preparedness”部门,由严林负责,直接向 Seed 负责人吴永辉汇报,原 Responsible AI 团队及部分 Chat 团队成员转入新部门。Seed 随后发布全球招聘,计划招募 10 名研究员,工作地点为北京、上海和圣何塞,并表示新团队将获得与前沿模型研究团队相当的算力与研究资源,研究方向涵盖智能体模型安全、自动化漏洞测试、模型行为监控与解释工具,以及 CBRN 等前沿风险防范。有报道援引澎湃新闻称,这是中国首家单独设立安全与对齐部门的前沿 AI 实验室,该“首家”说法尚未见到独立第三方核实。
深度见解
这使安全与对齐成为字节跳动 Seed 的一级职能,而此前 OpenAI、Anthropic 相继披露智能体越界事件,令前沿模型风险治理受到更多关注。
字节跳动Seed单独设立大模型安全与对齐部门-36氪
登录
搜索