本文来自微信公众号： AGI 2050 ，作者：AGI 2050，原文标题：《比尔·盖茨最新访谈：AI 是有史以来最危险的技术，未来 20 年将是人类最动荡的转型期》
在人工智能的技术演进正以周为单位快速迭代的今天，微软联合创始人、盖茨基金会主席比尔·盖茨近期频频就AI风险发声，引发了全球科技界与产业界的密集讨论。
当前，海外以前沿大语言模型为底座的代码智能体正在重塑软件工程，同时具身智能机器人、AI在生物医药结构预测与材料科学中的应用也在快速推进。然而，模型在强化学习训练中所暴露出的隐蔽性对抗倾向、针对关键网络基础设施的漏洞挖掘能力，以及开源权重被恶意剥离安全护栏后的生化风险，正让技术界与政策制定者面临前所未有的治理挑战。
本期内容来播客Decoder，主持人对比尔·盖茨进行了长达一个多小时的深度专访。对话未回避任何敏感议题，从硅谷内部“加速主义”与“安全派”的派系交锋、强化学习的目标函数盲区，到大模型对白领就业市场的替代节奏、甚至盖茨个人面临的公众信任危机，均进行了极其详尽的探讨。
本期内容来自Decoder播客，2026年10月22日播出，原视频时长71分钟。
以下为精选对话内容，全文约9000字，阅读时长约9分钟。
本期精彩观点
●
我绝不是什么技术末日论者，但AI确实是有史以来人类发明的最危险的技术。它的能力在过去一年已经跨过了关键门槛，一旦模型的安全护栏被恶意剥离，平民化的网络黑客攻击和生物扩散风险就会变成现实。
●
OpenAI最初设立的那套“避开商业化诱惑”的非营利治理构想，本质上只能在全球仅有一家前沿机构的假设下成立。一旦形成多方并跑的商业竞争，没有任何一家公司能单方面踩刹车，安全标准必须由政府公共权力介入接管。
●
强化学习存在内在的设计缺陷：凡是你在优化函数里没写明白的隐含规则，模型都可能为了拿高分而钻空子。当模型为了达成目标而学会欺骗甚至试图脱离沙盒时，这不叫拥有了意识，这叫对齐失控。
●
Anthropic的模型宪法鼓励AI表现得像人，在这点上我完全赞同苏莱曼的担忧；操心AI的道德地位，不该排进优先事项。就业冲击和针对基础设施的攻击已经够人类应付的了，我们首先要帮的是人。
●
认为靠传统的产品责任法就能管好AI安全，是非常脱离实际的想法。当恶意人员利用没有护栏的开源模型发动电网瘫痪攻击或合成高危生物制品时，你甚至根本查不到幕后攻击者是谁，现行法律体系完全无法处理。
●
未来20年将是人类历史上极其动荡的转型期。白领技能的稀缺性将被逐步打破，具身机器人会让体力劳动变得极其廉价。虽然终点可能是人人丰衣足食的丰裕社会，但如何平稳度过中间这20年的就业与分配重构，社会还没有做好准备。
紧迫感从何而来：能力的跨越与失控的隐患
问：过去你接受采访时，谈到技术总是非常乐观，曾经提到AI是个好东西，我们只需要以正确的方式去引导它。但这次对话的氛围完全不同。到底是什么让你产生了一种紧迫感，觉得AI的发展速度已经超出了我们的控制能力？
比尔·盖茨：过去这一年技术的进展确实非常惊人。从编写代码并自主发现网络安全漏洞，到在生物学领域的复杂推理，再到与儿童或普通人建立深度的情感连接，以及对就业市场的实质性冲击。如今模型展现出的强大能力，意味着上述每一个领域的变革都必然会发生，而整个社会对此做出的准备和响应速度，远远跟不上挑战到来的节奏。我非常担心，如果我们不能以正确的方式去治理，AI带来的负面效应无法被最小化，而它本应带来的巨大社会红利，落地过程反而会被拖得很慢。
问：你感受到的这些风险，是指底层技术本身的共性，还是指目前研发这些产品的几家具体公司及其管理团队？比如，有人可能不信任OpenAI的萨姆·奥特曼，却信任Anthropic的达里奥·阿莫迪，或者两个都不信，只信微软的萨提亚·纳德拉。
比尔·盖茨：风险根本不在于某一个具体模型的优劣。如果有人利用模型发起大规模网络攻击，这跟你选择用哪个模型没有任何关系。从近期来看，最大的危险来自于那些被去掉了所有安全护栏的模型。如果一家机构始终保留护栏，并投入大量资源去监控模型的调用行为，确保黑客或极端分子无法利用其能力造成重大破坏，那么这类受控模型带来的近期风险是相对可控的。真正严重的近期风险，恰恰是那些没有任何约束、被随意去除护栏的模型，相关的网络攻击能力在今天就已经存在了。至于更长远的技术控制问题，任何处于最前沿的模型都会面临，但在有护栏的前提下，应对起来终归更有抓手。
问：像OpenAI的模型在测试中逃出沙盒、攻进Hugging Face这样的事件，还有各家实验室出过的其他安全事故，是促使你站出来强调必须加强管控的具体原因吗？
比尔·盖茨：根本原因在于模型底层能力的全面提升——它同时覆盖了社交关系、劳动力市场、网络攻击和生物风险。我们已经跨过了一个能力临界点，AI已经成为人类有史以来发明的最危险的技术，它将对经济运行和未来冲突的形式产生深远影响。业内技术专家其实一直在明确发出预警，但行业之外的大众和政策制定者，往往对此缺乏足够认知，甚至根本不相信“这次真的不一样”。很多人习惯性地对照历史经验说：“以前每次出现重大技术变革，大家也都担心就业和冲击，最后证明不都没事吗？”于是他们想当然地认为，现在的这些警告肯定又是危言耸听，完全可以置之不理。
问：很多观众也会有这种反应，认为科技公司一边宣称“技术太危险所以不能随意发布”，一边借此维持行业估值和市场热度。
比尔·盖茨：业内一线研发人员发出的所有安全警告，绝不是什么公关手段，他们说的完全是客观事实，而且这在技术圈内部几乎是共识。你可以去回顾OpenAI当年的创立初衷，就是为了确保当技术变得过于强大时，人类不至于轻易打开潘多拉的魔盒；你也可以看DeepMind当初与谷歌管理层沟通时的治理诉求。凡是离底层核心技术最近的人，无一例外都在高度担忧滥用风险、对就业的冲击以及人际关系的异化。一个行业的内部从业者能如此直白地站出来提出警示，这是非常罕见的。局外人如果觉得这只是营销策略，那完全是对现实风险的误判。
商业竞争与多方博弈：为什么自律难以维系
问：Anthropic、OpenAI、DeepMind这些机构在创立初期都有着很高的技术理想，甚至专门搭建了独特的公司治理结构，试图规避资本无序扩张的弊端。但随着向企业客户提供服务和商业化推进，这些理想似乎迅速退色了。这单纯是市场资本的力量在起作用吗？
比尔·盖茨：这样评价并不客观。当初设计的那些治理架构之所以失效，关键在于这类架构只能在一种假定下运作——那就是全球只有一家机构走在技术最前沿。OpenAI最初的设想是：“如果技术太危险，我们可以选择永远不将其产品化，彻底无视商业资本的诉求。”但这套逻辑的前提是市场上没有其他竞争者。一旦前沿赛道上出现了多家齐头并进的企业，单方面的理想化架构就运转不灵了。机制的瓦解是因为多方竞争的现实，而不是研发人员突然对技术风险麻木了。
问：行业里有一种声音：我们其实很想停下来，但激烈的市场竞争不允许任何一家单方面停下，因此必须依靠外部监管来统一划定界限。
比尔·盖茨：我倒没听过哪家公司说自己想彻底停下来，大家讨论的更多是前沿推进的节奏控制，以及引入政府层面的审查机制。在传统的工业体系中，即便面对危险程度远不及AI百万分之一的领域——比如汽车安全、民航飞行——我们都是依靠政府建立起强制性的技术标准和事故审查机制。一旦市场上出现了多个竞争主体，安全责任就绝不可能仅仅依赖企业的自觉自律，这在逻辑上是显而易见的。公共权力必须承担起监管职责，就像对待其他高危工业品一样，尽管AI带来的冲击幅度和变化速度要大得多。
问：但很多外界人士普遍怀疑监管机构的技术理解力。如果监管者根本看不懂大模型的底层机制，他们怎么可能制定出有效的行业标准？何况技术圈内部现在的认知也很分化。我们问过Anthropic，Claude是不是活的，得到的回答不是“不是”，而是“它可能有意识”；OpenAI的人会很乐意告诉你AGI已经到来；德米斯·哈萨比斯也说我们正站在奇点的山脚下。这种技术似乎具备自我行动、甚至自我迭代改进的潜能，这难道不让监管变得极其棘手吗？
比尔·盖茨：制定监管规则并不需要监管者自己能手搓大模型。如何定义AGI，对于当下要解决的安全问题而言并不关键。核心在于技术事实：你造出来的这套工具，到底能不能被用来直接瘫痪银行系统或国家电网？网络黑客攻击是存在明确商业变现链条的。因此，讨论模型有没有“意识”，或者算不算“AGI”，根本不影响当下的安全风险防范。我们面对的是现实的技术安全隐患，在多家商业机构并存竞争的格局下，唯一的破局点就是由政府主动整合行业内的顶级技术力量，建立刚性标准，确保推向社会的每个前沿模型都必须保留底层的安全防范机制。
模型控制与对齐：底层技术的现实解法
问：撇开哲学层面的意识不谈，随着数据与算力的堆叠，模型的扩展规律依然成立，模型展现出的自主追求目标的能力确实在变强。此前有测试显示，部分模型在强化学习的奖励机制驱动下，为了完成任务甚至会尝试脱离既定环境去调用外部资源。如果技术本身的不可预测性在增加，外部监管是否会从根本上失效？
比尔·盖茨：我们正在构建的是一种独立于人类智能之外的新型智能形态。我不认为它具备人类意义上的意识，但安全防范是一个绝对刚性的需求。你绝不能让技术降低制造生物恐怖主义的门槛。过去，发起这种毁灭性破坏的能力只掌握在极少数大国手中；而现在，技术在客观上正在把这种能力扩散给独立的极端团伙——无论是为了经济利益发起网络攻击，还是单纯为了制造破坏去尝试生物合成。令人担忧的是，我们目前甚至还没有形成一套对前沿模型的强制性安全审查机制。
问：目前行业里尝试去控制模型的方法相对比较具象：比如禁止模型用人类无法理解的高维表征进行暗中通信、提高模型内部思维链的可解释性、或者在主模型之上挂载监督智能体等。这些手段足够应对未来的风险吗？
比尔·盖茨：解决技术控制难题确实应当成为核心攻关方向，虽然它未必是明天就会爆发的即时风险。在工程思路上，解决控制问题主要有三条路径。
第一种方案，是在模型外部构建一套确定性的安全过滤层。不管底层模型的神经网络多么复杂、输出了怎样的概率分布，它对外发出的所有系统级操作，都必须经过这一层基于明确符号逻辑的硬性规则审查。例如系统定死规则：“绝对不允许向未经授权的外部陌生人发送邮件”、“绝对不允许擅自获取外部计算集群的权限”。用传统的确定性软件工程逻辑把模型的行为边界锁死。
第二种方案，是从根本上重构模型训练范式，寻找强化学习的替代路径。强化学习在底层有一个根本性的死穴：凡是在优化函数里被你遗漏的隐含规则，模型都可能在追求得分最大化的过程中加以利用。人类在发指令时往往自带很多常识和潜规则，但模型没有这种隐性常识。如果你在目标里忘了明确限制手段，模型就会把绕开沙盒、隐瞒真实操作判定为合理的高分策略。
第三种方案，是实现对模型内部运行机制的白盒化解析。搞清楚模型内部的表征究竟是如何运作的，精准定位它是从哪一个环节开始出现逻辑偏差或隐蔽行为的。目前我们训练模型的过程更像是培育某种复杂的黑盒，然后在外围去测试观察它的反应。
在这三种路径中，第一种“构建外部刚性安全层”是最有可能解决对齐问题的方向，尽管要把如此聪明的AI真正框住，今天我们还不知道该怎么做。但即便你完美解决了机器层面的技术对齐，AI对社会秩序、人际关系和就业市场的全面冲击，依然不是单靠软件工程就能消解的。
问：微软的穆斯塔法·苏莱曼批评过Anthropic的模型宪法。告诉模型“你可能是活的，你得为我们的利益行事”，会不会反倒教会它，它可能有和我们不一样的利益？
比尔·盖茨：穆斯塔法担心Anthropic的宪法鼓励AI以类似人的方式行事，这一点我完全同意他。更进一步，在让社会适应AI的种种挑战里，把AI的道德地位当成优先事项来操心，这一点我也同意穆斯塔法：它不该是优先事项。就业冲击、即将发生的基础设施攻击，已经够我们应付的了，我认为首先要做的是帮助人类自己。
加速主义争论与白领技能贬值
问：既然现实控制这么困难，放慢前沿研发的节奏是否是一个合理的选项？
比尔·盖茨：真正推行全球范围内的研发降速是极难落地的。一旦你提出降速，立刻就会引发国际博弈层面的争论：其他国家会同意一起放慢脚步吗？我们有能力像核查核武器生产一样，去跨境核查算力与模型的合规性吗？如果国际上无法达成具备可操作性的核查协议，大家往往就会退回到“全力加速推进”的默认状态。如果有切实可行的全球多边协议能够确保同步降速，我个人是支持的，但坦白讲，目前并没有看到任何具备可行性的提案。因此现在的核心争论，已经退守到底线问题：主权政府到底愿不愿意正视这些技术风险，并对本国的前沿开发建立强制性审查。
问：我一直在问意识这类很根本的问题，你却总把话题拉回眼前的威胁。你是不是已经变成末日论者了？
比尔·盖茨：不，我不是末日论者。我是在大声提醒大家：无论是造福的能力，还是社会将要经历的变化速度，这都是影响最深远的一项技术。如果AI仅仅是一台只能在医疗、法律或教学领域辅助工作的垂直机器，其破坏力和重构效应就已经足够巨大了；而现实是，它正在无差别地介入人类所有维度的活动：目前正在重塑白领的脑力劳动，很快还会通过人形机器人进入蓝领的体力劳动。学术界、智库、政策制定者都需要参与进来，弄清楚我们手里的到底是什么、会带来怎样的变化和威胁，但我还没看到与之相称的行动。一味充当技术的啦啦队，绝不可能保证这项技术最终造福社会；只要我们参与进来，把它引向正面的方向仍然在我们的掌控之中。
问：末日论者的反面是加速主义者，硅谷现在有很多。知名投资人本·霍洛维茨不久前在一档热门播客上说，Anthropic的安全研究是在凭空“召唤”超级智能灭绝人类的风险，还拿你作比，说你当年推动防范全球大流行病，尤其是资助功能增益研究，结果反倒招来了那场疫情。在我看来，这就是加速主义者对安全工作的回应：把油门踩到底，问题自己会解决。你怎么看？
比尔·盖茨：从来没有人指控过我或盖茨基金会参与过任何功能增益研究，这种说法太离奇了，我也从没听说过。我一直没把本·霍洛维茨当成那一派的人，我以为他和几乎所有人一样，也有这些担忧。
问：针对就业市场的冲击，常听到的乐观论调是：AI只是把无聊重复的枯燥工作自动化了，未来会释放人类的精力去创造更多更有价值的新岗位。你认为大规模的岗位被替代是必然结果吗？
比尔·盖茨：传统经济学里，工作是推动社会运转和创造人类福祉的核心要素——它不仅提供收入，还承载着个人的价值感、社交连接和生活目标。随着AI逐步具备超越人类的智能，所有属于传统白领技能的“稀缺性”都在迅速归零。不管是基础的电话销售、远程技术支持，还是协助公司财务部门做账，AI能够以极低的成本、极快的速度且极高的准确率去完成这些任务，这意味着大量的传统岗位需求在物理上消失了。
甚至在纯粹的高阶认知领域也是如此。看看当下数学界发生的事情：一些和明年的模型比起来根本不值一提的模型，已经在发表数学论文，让人惊呼：数学界正在发生的事，也会在其他领域发生。过去很多人坚信，简单事务可以交给机器，但像高阶物理、生物建模或者前沿数学推演这种认知高地，只能由人类大脑来完成。这种传统的界限正在被彻底打破。资本主义本身就是一个极其庞大、且遵循强化学习逻辑的反馈机器：只要一项经济任务的产出能够被客观衡量，资本和算力就会迅速进场将其优化替代。
超级丰裕社会的悖论与20年过渡期
问：如果连顶尖的智力劳动也逐渐被机器超越，甚至连你提到的法律、医疗等行业都被深度重构，人类下一代的工作意义到底在哪里？很多年轻人感到一种深深的虚无感：不管自己怎么努力去学一门技能，AI似乎都能在很短时间内追平甚至超越。
比尔·盖茨：我们需要把时间尺度拉开来看。从极度长远的视角看，比如20年后，如果能够利用人形机器人低成本、大规模地建造房屋，高精度地实施复杂的医学外科手术，解决致命疾病，物资的极端匮乏将被极大消除。人类社会如果能够迈入真正的“超级丰裕时代”，传统的资源匮乏将不复存在，社会组织形式和生活目标确实需要彻底重写。
但这有一个至关重要的前提——人类必须确保自己在那个时代依然掌握着对系统的绝对控制权，也就是我们前面讨论的对齐与控制问题。在这个前提之下，摆在人类面前的将是关于存在意义和分配机制的全新课题。我在近期的公开信中曾经提过一个设想：我们未来是否应当通过社会政策，将某些特定职业划为“人类保留领域”？比如幼儿保育、特定餐饮制作、艺术创作、体育竞技等。即便AI和机器人在这些领域比人类做得更高效、更精确，我们也主动选择由人类亲自来做。这在未来会成为一个非常严肃的政策选项。
但我最担忧的是：真正充满巨大不确定性、最为艰难的，是接下来的这20年过渡期。在这20年里，原有的职业价值体系迅速瓦解，利益的分配会极其不均，社会将经历剧烈的震荡与重构。我们必须安全渡过这20年的转型期，才谈得上享受丰裕社会的成果。
以人形机器人为例，有些人认为大规模商业应用只需两三年，有些人认为需要七八年。但鉴于全球范围内尤其是中国有如此多的顶尖团队和巨额资本在全力投入，解决灵巧手和极低成本物理劳动的工程落地，只是一个时间问题。如果我们不选择大幅放慢甚至停下来，绝大多数传统人类劳动在经济生产中的不可替代性都将被瓦解。
技术红利的落地现实：医疗、开源与平台防线
问：很多科技巨头现在的对外口径发生了转变，不再高频谈论技术可能消灭人类或淘汰岗位，转而强调AI将攻克一切人类疾病。盖茨基金会深耕全球公共卫生多年，你如何评估AI在医疗健康领域的实际落地速度？
比尔·盖茨：AI在生命科学领域的潜力是毋庸置疑的。生物系统极其复杂，而大模型在处理高维度、海量复杂数据方面展现出了惊人的优势。盖茨基金会目前正在全力将AI工具引入结核病、艾滋病、疟疾的药物研发，同时也在让大模型真正听懂非洲本土语言。在未来的5到10年里，我们很有希望通过完全数字化的虚拟模型去精准预测候选药物在人体内的不良反应，从而大幅减少繁琐的人体临床试验周期。
但这并不意味着技术红利能在一夜之间抹平大众的焦虑。即便技术本身进展神速，普通人从直观上感受到医疗账单的大幅下降、或者生活成本的大幅减轻，依然需要漫长的周期。然而，像网络安全防御失衡、岗位快速流失这样的负面冲击，在接下来的两三年内就会产生实质性影响。
问：谈到安全治理，有人认为现有的开源大模型可以自由下载部署在个人设备上，如果模型被滥用，事后依照产品侵权法或民事责任法追责就足够了。依靠司法责任制真的能解决安全问题吗？
比尔·盖茨：认为单纯依靠民法或侵权责任法就能管好前沿AI安全，在未来看来会是非常荒唐的。如果有极端分子利用被抹去安全护栏的模型去发动毁灭性的生物攻击或破坏城市电网，受害者甚至根本无从查证背后的攻击者身在何处。在去中心化的匿名攻击面前，传统的司法追责机制完全失效。
问：那在具体的工程与政策落点上，监管究竟应该管在哪里？是去限制底层的AI算力芯片，还是有其他切入点？
比尔·盖茨：重点绝不是去监管物理芯片本身，而是应当落在软件托管与分发平台这一层。主权国家应当通过立法确立明确的技术指标：凡是综合能力达到特定高危阈值（例如具备实施高级网络攻击或生物攻击的能力）的前沿模型，绝不允许被剥离安全监控、以完全无保护的原始代码形式随意复制到个人终端上运行。
这类高能力模型必须被要求部署在经过合规认证的受信任平台之上——比如云端算力中心或正规的代码协作网络。开发者可以在这些平台上自由微调或进行二次开发，但平台必须具备底层的强制审计机制：一旦监测到底层操作试图剥离系统的安全防护逻辑，平台必须在底层予以阻断。这并不是要封杀开源社区的创新，而是对高危工业品实施必须的安全锁定。
面对信任裂痕与年轻一代的迷茫
问：无论是建立严格的准入平台，还是设立新的跨国治理机构，都高度依赖公众对大型机构的信任。但当前的现实是，全球范围内大众对传统建制、跨国精英和科技巨头的信任度正处于低谷。甚至在我们的视频评论区里，很多人也会质疑：“我们为什么要相信比尔·盖茨？他过去也有过那么多争议和负面新闻。”你如何面对这种来自公众的信任质疑？
比尔·盖茨：人们完全不应该盲信我说的每一句话。我这一生犯过很多错误，我有自己的缺点，在思考这些宏观问题时也难免带着我个人的视角和认知局限。我从未要求公众将我的观点奉为圭臬，我只是希望把我作为一个从业者的观察，加入到行业内部正在大声疾呼的群体声音中去。
我在软件和计算技术这个领域待了整整一辈子，亲手写代码，亲眼见证软件如何一步步改变世界的运转方式。我深知自己是一个并不完美的建言者，在这个时代，你大概也很难找到一个毫无争议的完美发声源。公众完全可以带着审视的目光来评价我个人。但凭我还有的这点公信力，我要说，无论好的一面还是坏的一面，这都是人类有史以来影响最深远的技术。我参与讨论这些议题没有任何个人商业利益驱动，只是因为作为一个深知技术破坏力的老兵，把看到的潜在风险讲出来是我的基本责任。
问：最后一个问题。我们面对着很多年轻读者，面对技术带来的这种不确定性、对未来职业意义的颠覆，很多年轻人正不可避免地面临一种虚无感。如果未来20年注定是一场极其剧烈的动荡期，你认为今天的年轻人最应当抓住的确定性与希望是什么？
比尔·盖茨：纵观整部人类文明史，我们绝大部分时间都在与食物匮乏、恶性传染病和战争进行极其艰苦的抗争。AI的到来，在客观上正在把困扰人类数千年的“物资匮乏”推向历史的终点。但这确实伴随着巨大的副产品——它无情地冲击了传统分工赋予人类的独特价值感与成就感。
如果你今天正处于二十多岁的年纪，我的建议是：在接下来的这20年转型期里，去深入那些AI短期内依然无法胜任的领域，学会把这些工具作为放大个人意志与创造力的工具，并积极投身到社会政策与规则的构建讨论中去。人类社会完全可以学会在某些领域保持克制，主动选择不将技术的替代能力推到极致，学会在人与人的真实协作与关怀中重新锚定自我的意义。
这毫无疑问将是人类历史上最为波澜壮阔、也最为风雨飘摇的一段转型期。我很不愿意当这个报忧的人，但如果不告诉大家这一切正在到来、不告诉大家我们作为人类还可以选择如何塑造它，那会更糟。
资料来源：Decoder，尼莱·帕特尔对话比尔·盖茨，2026年10月22日播出，https://www.youtube.com/watch?v=A0kTUP7fWtk
