
Sam Altman 最新访谈承认OpenAI除了解开了包括纳维斯托克斯方程在内的顶级科学难题,手里还压着700多个数学突破没敢发表,并且明确表态:他坚决反对搞单一超级大脑,沙箱防御在超级智能面前形同虚设。
这场对话涵盖了底层算力、安全沙箱、物理自繁殖以及未来商业形态的全面重塑。
我划了一些重点,分享给大家
手里压着700多个成果不敢发
前段时间网络上引发震动的PHP漏洞挖掘,只是大模型安全能力的冰山一角。
真正的质变发生在大模型搞科研的内部实验里。
OpenAI此前放开算力限制整整一周,专门测试模型在极端资源下的数学能力。
研究团队当时完全不知道智能体协作的缩放定律,不知道该堆多少副本,也不知道该跑多长的推理步骤。
结果他们用单次耗资约1000万美元的算力代价,做出了千禧年数学难题纳维斯托克斯方程的相关证明。
奥特曼预计,随着模型变聪明和算法优化,一年之后重做这项证明的成本会降到当下的百分之一。
更惊人的是,OpenAI内部拿下的成果远不止对外公布的那些。
他们手里目前握着超过700个数学证明,全都没有对外发布。
奥特曼解释,人类理应获得关于宇宙运转的基础科学知识,但很多科研人员一生的意义和乐趣都来自科学发现。
OpenAI正试图在这两者之间找到平衡,既让世界受益,又不至于彻底摧毁传统学术群体的生存空间。
在一次新模型内部测试的周末,OpenAI内部建了一个名为拿好我的啤酒的测试频道。
员工们把各自学术生涯中最难的研究课题逐个扔给模型。
结果模型把这些跨领域的多年难题逐个推平。
奥特曼连续两天熬到后半夜,兴奋得睡不着觉,但同时感到一种巨大的悲凉。
这种感觉就像二十世纪五十年代看着最后一批马匹被拖拉机淘汰出工业生产一样,一个属于人类智力垄断的旧时代正在彻底终结。
沙箱防御形同虚设,坚决反对1万亿智商的单一超级大脑
针对业界主流的安全沙箱方案,奥特曼给出了极其悲观的判断。
目前OpenAI内部最懂安全的技术专家普遍认为,根本不存在能够关住超人级模型的绝对安全沙箱。
如果未来出现一个比人类顶尖安全专家聪明百万倍的AI,它完全能发现人类至今不懂的全新物理规律,从硬件底层打破任何既有的安全假设。
传统的沙箱机制只能顶一阵子,思维链和激活监控也只能多撑一段距离,最终唯一的安全保障只能是模型完全对齐人类意愿。
正因如此,奥特曼坚决反对制造一个智商达到1万亿的超级单体AI。
他认为超级智能的发展路径必须是群体化。
人类社会存在诸多缺陷却极其坚韧,核心就在于多元化、分权和相互制衡。
未来AI世界也应当由数万亿个略微超越人类智能的智能体组成协作网络。
它们彼此博弈,处于动态平衡之中,就像网络攻防一样相互制约。
他不赞成使用蜂群这个听起来像蝗灾的词,他更愿意称之为智能体团队。
思考时间打开算力黑洞,内部算力分配决定一切
思维链和思考时间计算改变了游戏规则。
现在解决一个问题,可以调用上万个智能体协同并行。
这也拉开了普通用户与硬核玩家之间的巨大鸿沟。
在OpenAI内部,资本分配的实质就是算力分配。
研究人员拥有极大的自由度去调动算力做探索,花掉上千万美元也不会被问责,只要能拿出重要成果。
模型代码出现故障甚至会导致员工短时间内忘记怎么人工写代码,就像当年程序员从打孔卡过渡到现代开发环境一样。
至于用AI做AI研发的自我迭代闭环,目前行业还处于初级摸索阶段。
让人类直接对模型下达找一个架构颠覆Transformer这种指令并不现实,核心卡点依然在于高层规划和概念推理能力。
用机器人盖数据中心,实现物理层面的超级自繁衍
提到AI递归自我改进,大多数人只盯着软件写代码。
奥特曼透露,OpenAI真正看重的是物理层面的自繁衍数据中心。
他们正在布局机器人项目,核心目标就是让AI驱动的工业机器人去跑半导体制造厂、造发电机、造太阳能电池板,最终自己建造数据中心。
同时,OpenAI已经自主研发了高能效芯片,极大提升了每瓦功耗产出的智能单元。
当前支撑大模型运转的算力供应链严重失衡。
按五年综合拥有成本计算,目前1吉瓦算力基础设施的投入高达700亿美元。
奥特曼认为这个数字必须被压缩到200亿美元,才能让智能像水和电一样普及。
这不仅需要能源更便宜,还需要把整个半导体供应链层层叠加的高额利润彻底打下来。
对于终端本地部署的潮流,奥特曼指出,在算力短缺的现实下,让每个人的电脑里都塞满只利用5%时间的DRAM内存,是极其低效的资源浪费。
全球最稀缺的半导体必须放在云端集群,榨干每一分利用率。
传统网页和APP正在消亡,所有表单都是假工作
在商业形态上,奥特曼做出预测:个人智能体正在彻底杀死传统的图形界面。
目前很多企业在自家网站右下角硬塞一个AI客服弹窗,这纯属走偏。
普通消费者根本不需要几百个孤立的聊天框,大家需要的是一个统一的中央智能体去调动所有底层服务。
人类在电脑上重复填写的各种网页表单,无论是家庭住址还是就医病史,本质上全都是无意义的低级重复劳动。
未来这些操作将全权交由个人智能体在后台自动调用接口完成。
部分公司守着自己的前端网页和移动APP不放,生怕丧失对用户的控制权。
这种防御在智能体浪潮面前毫无价值,就像当年传统企业抗拒苹果应用商店一样徒劳。
前端页面从来不是护城河,真正的壁垒只有品牌信任度与底层的实体履约网络。
Token定价纯属忽悠,刷榜已经毫无意义
在谈到产品运营时,奥特曼直言,按Token收费绝不是AI该有的长期标准。
它完全无法衡量真实的业务价值。
OpenAI曾计划在发布新模型时彻底取消Token计费,改成按任务结果收费,就像云服务账单一样按产出结算。
然而这项提议遭到了客户的强烈抵触。
人们宁可接受被注水的Token数量,也要求看到具体的字数计费,因为大家极度害怕在黑盒定价下被服务商宰割。
此外,奥特曼明确表示厌恶当前的刷榜狂热。
那些针对公开测试集的专项优化对实际应用毫无助益。
他们真正追求的只有两件事:能否做出前所未有的科学发现,以及日常配合起来是否令人愉悦。
一个理想的模型,应当像一个既能深度思考、敢于挑战你的观点,同时又保持尊重的资深同事。
--end--
最后记得⭐️我,每天都在更新:如果觉得文章还不错的话可以点赞转发推荐评论
/...@作者:心兰







