字节跳动Seed近日发出内部邮件,宣布将成立“Seed Model-Alignment&Preparedness”部门,由严林负责,汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。
该部门的设立旨在加强安全与对齐方向的投入,对齐的核心是让模型的行为与人类意图和安全约束保持一致,从而提升Agent Model(智能体模型)安全能力,以及防范CBRN(化学、生物、放射、核)等前沿能力风险。
字节跳动Seed近日发出内部邮件,宣布将成立“Seed Model-Alignment&Preparedness”部门,由严林负责,汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。
该部门的设立旨在加强安全与对齐方向的投入,对齐的核心是让模型的行为与人类意图和安全约束保持一致,从而提升Agent Model(智能体模型)安全能力,以及防范CBRN(化学、生物、放射、核)等前沿能力风险。
上一篇资讯
Anthropic与NTT DATA洽谈日本大阪首座数据中心
Anthropic 正在把它的第一座海外算力堡垒,安在日本的关西。据《日经亚洲》当地时间今日报道,Anthropic 与 NTT DATA 围绕前者首座日本本土数据中心的谈判,已经走到最后阶段。双方预计在本财年内签下最终协议,而这座设施最早要到2028年才能部分点亮投运——对一向...
下一篇资讯
京东工业与DUKA杜克发布接入AI大模型的工具新品
10月12日至16日,第26届中国国际工业博览会在上海国家会展中心开展。京东工业携手生态伙伴、工具赛道的本土新锐品牌 DUKA杜克正式推出两款接入 AI 大模型的工具新品--时间气象站与 MOODB 温湿度计,把“传统工具 + AI”的想象落到了实处。 工具行业发展三十年,从手动...