Token导航 LogoToken导航TokenDH.com

扎克伯格加入AI安全论战:每家公司都有能力确保AI安全,不能先要求别人“放缓研发”

更新时间 2026-09-16来源 澎湃新闻正文 1198字阅读约 4分钟

扎克伯格认为,比起倡导AI(人工智能)减速,引入第三方评估机构才是行业最佳实践。

当地时间9月15日,科技巨头Meta的CEO马克·扎克伯格(Mark Zuckerberg)在X平台上发文表态,加入近期围绕AI安全的热烈讨论。他表示,每一家AI实验室都有责任和动力,来确保模型安全训练以所需要的速度推进,同时也有能力采取行动。

扎克伯格解释道,用户不会愿意使用与自身意愿不一致、无法按照要求完成任务的AI Agent(智能体),这也给予AI实验室进行调整的内在动力:“我的看法是,信任和对齐(指让模型去符合用户的意图)正迅速成为区分不同Agent和模型的最重要能力。任何不重视对齐的实验室最终都会落后。”

同时,如果AI模型造成伤害,实验室将面临重大的法律责任。因此,扎克伯格指出,Meta曾推迟数月发布Muse模型,将重点放在安全和安保工作上。他强调:“我们并没有要求其他公司先这么做,然后自己再行动;我们只是把这作为日常工作的一部分。”

扎克伯格的上述言论似乎是在暗讽Anthropic的CEO达里奥·阿莫迪(Dario Amodei)。此前,阿莫迪发表一篇千字长文,呼吁行业放缓提升前沿模型能力的速度、为安全研究和风险治理争取更多时间,得到了OpenAI CEO山姆·奥特曼(Sam Altman)和SpaceX的CEO马斯克的附和。

不过,扎克伯格还是赞同了阿莫迪关于“引入第三方评估”的观点。他写道:“引入独立评估机构和顾问是行业最佳实践。Meta超级智能实验室(MSL)已经在多个领域做到这点,帮助产出更好的成果。其他实验室也完全可以这么做。总体而言,如果能够形成一个规模更大、更加多元化的评估机构生态,将会有所帮助。”

最后,扎克伯格总结道:“将绝大多数算力用于服务用户,而不是竞相推进递归自我改进(RSI),是确保我们安全发展这项技术的最佳方式之一......我认为,为所有人构建一个积极未来的关键,是维持正确的权力平衡。”

有趣的是,和扎克伯格一度“水火不容”的马斯克回复了这条帖文,简单地写道:“酷。”

可以看出,和阿莫迪的观点相比,扎克伯格的论述更偏向于英伟达CEO黄仁勋。近日,黄仁勋态度坚定地否认“AI末日论”。在他看来,AI行业“不需要任何新的法律,也不需要新的监管”,AI安全本质上是一个工程问题,而不是法律问题。

而在15日当天的活动上,阿莫迪和奥特曼也分别阐述了自己的立场。阿莫迪重申了“放缓前沿AI模型开发”的核心理念:“我认为这是引领行业前进的方式,树立榜样,表明每个人都可以做得更好。”

奥特曼则强调,在AI前沿开发中,安全性和监控应该优先于功能性。不过,他也承认,人们的担心不无道理:由于竞争压力,AI公司可能无法做到这一点。

此外,据OpenAI方面透露,OpenAI正在与Anthropic和谷歌DeepMind实验室合作,共同采取措施以解决AI安全问题,三家公司的合作已持续数周。

文章标签AI资讯
资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多