Token导航 LogoToken导航

AI 资讯 · IT之家

OpenAI首席科学家称AI或2027年加速自我发展

更新 2026-11-23IT之家正文 1203字阅读约 4分钟2 张图片

IT之家 11 月 23 日消息,当地时间于 11 月 22 日,OpenAI 首席科学家雅库布 · 帕霍茨基(Jakub Pachocki)发文,提议 AI 企业应建立行业统一标准,对先进 AI 模型的开发设置共同限制,在研究人员具备更可靠的模型行为理解和监控能力之前,不应突破约定的发展门槛。

他认为,传统 AI 能力评测基准会随着技术进步迅速过时,而困惑度(Perplexity)可以作为衡量模型预训练进展的参考指标(困惑度用于衡量 AI 模型预测下一个文本 Token 的能力,数值越低,代表模型的预测能力越强)。

帕霍茨基还公布了 OpenAI 内部使用的部分模型评测数据:GPT-3.5 的对数困惑度约为 0.99,GPT-4 约为 0.91。当这一指标低于 0.8 时,OpenAI 观察到了模型在网络安全和数学领域出现新的能力;当指标达到约 0.76 时,模型开始在部分开放数学问题上取得突破性成果。

图片

帕霍茨基预计,当对数困惑度进入 0.68 至 0.7 区间时,模型可能出现更多变革性能力,但目前无法确定这些能力具体是什么。

他还警告,AI 最早可能在 2027 年推动预训练技术出现一轮快速进展,而研究人员在模型对齐和行为监控方面的进展,可能无法同步跟上。

按照帕霍茨基的设想,各家 AI 企业应共同建立模型评测、透明度和安全红队测试标准,并在模型首次投入使用前完成相应评估。他建议,以困惑度等可跨企业追踪的指标设定首个开发门槛,企业承诺在达到明确的安全监控里程碑之前不突破限制,例如开发出比现有思维链监控工具更先进的监测机制。

不过,帕霍茨基也承认,困惑度并非完美指标。不同企业使用的训练数据和评测数据集存在差异,导致各家模型的数值难以直接比较;困惑度也无法直接对应具体任务能力,更无法完整反映思维链推理等预训练之外的技术进步。因此,建立跨企业通用评测标准仍面临技术挑战。

OpenAI CEO 萨姆 · 奥尔特曼也公开支持这一提议。他称帕霍茨基的文章是 OpenAI 一段时间以来发表的最重要内容之一,并表示希望 AI 行业能够就共同限制达成一致,以帮助确保技术发展的安全性和可控性。

图片

美国国内的 AI 监管讨论也正在升温。据美联社 11 月 22 日报道,民主党议员正在讨论下一届国会的 AI 监管方案。科罗拉多州民主党参议员约翰 · 希肯卢珀(John Hickenlooper)提议成立专门的参议院 AI 特别委员会,以协调不同领域的 AI 政策;马里兰州参议员克里斯 · 范霍伦(Chris Van Hollen)表示支持这一想法。

美联社报道称,民主党计划在 2027 年 1 月取得国会多数地位后,将 AI 列为优先议题,讨论内容包括数据中心监管、安全标准、加强技术监控和研究,以及要求 AI 企业接受第三方评估等。美国总统特朗普则一直反对对 AI 开发施加广泛限制,这可能使白宫与新一届民主党主导的国会在 AI 监管问题上产生分歧。

参考资料:

  • https://openai.com/index/perplexity-and-intelligence/
文章标签OpenAI

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。