字节跳动Seed近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。
该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升Agent Model（智能体模型）安全能力，以及防范CBRN（化学、生物、放射、核）等前沿能力风险。
上一篇资讯
千问将发布Personal Agent千问Go
10月13日，财闻获悉，千问即将升级发布Personal Agent“千问Go！”。升级后的千问可执行汽车保养、运动预约和购物比价等任务，还可自主查询操作各类授权平台，比较方案、电话联系服务方，完成目标任务等。 资料显示，千问是全球首个能为用户办事的个人AI助理。自去年上线以来，...
下一篇资讯
Anthropic预警AI自我复制或仅剩数月
AI的“自我复制”还停留在科幻片里吗？Anthropic周一（10月12日）给出的答案，让业界重新审视这个时间表：其实验显示， 小模型距离在商用物联网设备上自我复制，可能只剩几个月 。更难得的是，这家头部AI公司选择主动公开自家实验结果，在风险到来之前拉响警报——这种“抢跑式”安...
