OpenAI CEO 萨姆·奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。他表示，随着 AI 能力快速提升，技术的潜在收益与风险都变得更加直接显现——AI 可能更像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命。
两条主线：失控风险与权力集中
奥尔特曼将 AI 可能带来的严重问题概括为两个方向。其一，是失去对未来的控制：AI 进展太快，人们无法跟上，也无法在需要时干预。他直言，行业不能因为 AI 利益太大就接受过多技术风险，也不能因企业竞争而仓促决策；"OpenAI 过去曾单方面放缓，未来也会如此"，不应训练无法极强论证可受人类控制的模型，无论把灾难风险估为 10%、1% 还是 0.1%，都不可接受。他特别提到递归自我改进（AI 参与 AI 开发的过程），认为若开发进一步自动化，技术进步速度可能快速提升，须保持高度谨慎。
其二，是老生常谈的权力集中：不应让最强模型和相关权力集中在少数人手中，避免某个人、公司或国家用 AI 把自己的世界观强加给所有人。奥尔特曼强调，必须拒绝这种逻辑，即便它对自己有利。OpenAI 试图在盲目乐观与末日论之间走中间道路，遵循三条原则：人类应继续处于 AI 决策核心；科学进步与经济增长的收益应服务于人民；技术必须赋能个人，让更多人利用技术实现自身目标。
数学已到国际竞赛水平，治理须走民主进程
奥尔特曼还谈到 AI 在数学研究上的进展：OpenAI 模型从三年前只能处理小学算术，到两年前高中竞赛金牌水平，如今已达国际数学竞赛水平。他举例，几周前一个内部模型解出了千禧年大奖难题之一的纳维 - 斯托克斯方程。但他强调，解题不为数学本身，而是赋能人们发现新知识、改善医疗，且公司不能替代民主进程——若 AI 要"民主"，最重要决定不能仅由旧金山实验室做出，必须通过民主进程、由对人民负责的政府塑造，这在国际层面需要合作。
他主张建立互补的国内外前沿 AI 标准机制，衡量能力、评估风险、验证保障措施，并在系统更自主时保留有意义的人类监督；还需准确快速的事件报告与共享漏洞的安全渠道。演讲结尾，奥尔特曼称世界正处于十字路口：一条路通向权力集中、决策不透明，另一条路通向 AI 为人民服务、由人民通过民主制度决定其发展，"这才是值得建设的未来"。
