帕霍茨基
凤凰网科技讯 北京时间11月23日,据彭博社报道,OpenAI首席科学家雅库布·帕霍茨基(Jakub Pachocki)提议,AI公司应同意限制开发越来越强大的模型,直到研究人员找到更好的方法来理解和监控这些模型的行为。
帕霍茨基在周日发表的一篇文章中呼吁建立全行业标准,为AI开发设定门槛。各家公司应同意,在满足特定安全要求之前,不得突破这些门槛。
“我进一步提议,基于困惑度和其他指标设定共同限制。开发者承诺,在我们理解和监测AI行为的能力达到某个具体里程碑之前,不会越过这些限制。”帕霍茨基写道。
困惑度指标用于衡量AI模型预测下一个文本内容的能力。帕霍茨基没有具体说明初始限制应该是多少,也没有说明它可能何时生效。
帕霍茨基警告称,AI最早可能在2027年就开始加速自身的发展进程,其发展速度可能超过研究人员提升对这项技术进行监控和理解能力的速度。
奥特曼支持限制AI开发
OpenAI CEO萨姆·奥特曼(Sam Altman)支持这一提议,称帕霍茨基的文章是“OpenAI一段时间以来发表的最重要的内容”。他在X发文表示,各家公司就共同限制达成一致,将有助于确保“安全与可控”。
这项提议出台之际,美国正准备在民主党于中期选举中取得压倒性胜利后,重新展开有关AI监管的辩论。民主党在众议院、参议院和州长选举中的获胜,可能促使国会加强对科技公司的审查,并重新推动制定AI安全规则。
一些议员还在讨论成立一个专门的参议院委员会,以协调AI政策。美国总统特朗普一直反对对AI开发施加广泛限制,这可能使他与即将上任的民主党国会在如何监管这项技术的问题上发生冲突。(作者/箫雨)







