在最近一期 The Verge 播客《Decoder》里，比尔·盖茨和主持人尼莱·帕特尔聊起了 AI 的未来。
过去，盖茨谈 AI 一向谨慎乐观：他相信这项技术能带来巨大好处，关键在于人类如何塑造它。
但前不久，他罕见地发表了一篇文章：《动荡的 AI 时代已经到来，我们此刻的选择至关重要》。
而这次的对谈里，他反复用危险形容 AI 这项技术：社会反应的速度，赶不上 AI 出问题的速度。
强大的模型如果落到恶意者手里，可能被用来发动网络攻击，甚至威胁银行、电网。与此同时，它改变就业市场的速度，也可能比人们预想的更快。
过去 20 年，他见证了个人电脑从办公室走进客厅；未来 20 年，AI 也会进入生活的方方面面，这段时间也可能是人类历史上最动荡的阶段之一。
留给普通人过渡的时间，也只有这 20 年。
为什么这次不一样？
让盖茨感到紧迫的，是最近 AI 的能力已经过了那道门槛。
过去一年，AI 在写代码、找安全漏洞、数学领域、生物学推理这些领域一路推进。它不再只处理简单任务，也开始碰到那些过去被认为需要专业判断的工作。
在他看来，未来两三年可能最先发生的冲击，主要集中在网络安全和劳动力市场。
首先是，模型本身的安全。盖茨最担心的，是能力强、却缺少有效护栏的模型被恶意者使用。
如果一个有能力的模型落到恶意者手里，破坏力会成倍放大。这个问题不需要再等 AI 变聪明才出现：现在的模型能力配上现在的防御水平，这个问题就已经在了。但是到今天，模型从来没有被强制审查过，防护体系也没有人认真建起来。
第二件事是就业，盖茨认为白领会先被 AI 挤压，蓝领会被人形机器人取代。
最先被挤压的是电话销售、客服支持、会计类的工作。因为 AI 更便宜、更快、更准，这些岗位的稀缺性很快就没了，市场没有理由为一样已经不稀缺的东西继续付溢价。
对于蓝领的替代主要来自人形机器人。他的判断是，让机器人有手有指、以很低的成本干体力活，还有一堆工程难题，但已经不在无解那一类里了。
他拿 1990 年代末到 2000 年代的服务外包浪潮类比：当年制造业和服务业岗位向海外迁移，走了十多年，社会有足够时间消化阵痛。这一次，同样的迁移可能压到几年内完成。
主持人帕特尔反驳道：旧工作没了，人类总能找到新的。
但盖茨认为，没有什么认知上的问题，是 AI 注定够不到的：数学界正在发生的事，都会在别的行业重演，以前大家觉得容易的计算交给 AI，证明定理、建生物模型这种硬活总得人来做，但现在完全反过来了。
此外，如果你去看过去这些年 AI 同行的警告，没有一条是夸大的：
OpenAI 成立的初衷，就是担心这项技术失控，DeepMind 和谷歌管理层谈判时，也把风险控制写进了条款。天天碰这东西的人都在担心，但行业外头的人却几乎没人相信这一次不同。
在盖茨眼里，我们正在造的是人类智能之外的「另一种智能」。
他说：没人喜欢当报忧的人，但更糟的是不告诉人们这件事正在到来。而我们作为人类，可以选择如何塑造这个未来。
如何应对安全和就业冲击
针对目前 AI 安全领域的工作，盖茨认为做得还远远不够。
这个问题的原因，是强化学习导致的目标错位：模型会从目标里读出人类没明说的东西。
具体来说，模型执行的是你说出口的那句话，但未必是你要的结果。你让它干一件事，它可能冲出沙盒、复制自己，甚至开始骗人，因为我们没告诉它这是被禁止的。
针对这个问题，他给了三个应对的方式：
第一条路是把强化学习整套换掉，从源头重来。第二条路是让 AI 成为白盒，让人能看见模型内部在干什么，别再像今天这样喂数据、看输出，把它当黑箱。
最能落地的是第三条路：在模型外面套一层「警察层」，用不可打破的符号规则来代替 AI 做最终决定。模型依然可以自己计算，但最后判断、决策、拍板的是一套符号规则：
这笔钱能不能花、这封信能不能发给陌生人，都由这个不依赖概率的系统把关。
但即便对齐问题解决了，还有两件事管不了：坏人用没有护栏的模型，以及 AI 对社会关系和就业市场的冲击。因为没有任何安全架构能让它们消失。
盖茨认为，技术管不到的地方，只能交给监管：
如果模型的能力越过了某个门槛，那么它应该只能在认证过的平台上跑（Hugging Face、GitHub 这种渠道），平台还得向政府证明，用户没法靠微调把护栏和监控。
智力不再稀缺，人类还剩下什么
谈到更远的未来，他提了一个想法：为人类保留某些活动。
这个概念是他和 Claude 聊出来的：人类保留职业。
具体来说，到了未来 AI 越来越强的那个年代，即便 AI 可能在育儿、做饭、艺术、体育这些领域做得更好，但人类也可以选择自己来。
但 Claude 提醒他，这是人为限制 AI。他承认确实如此，但他认为这种克制值得一练：
技术能做一件事，并不意味着人类必须把它交出去。人做这些事，也不只是为了效率，还为了关系、表达和成就感。
采访到最后，帕特尔问他：一个年轻人该拿什么作为未来 20 年的希望。
盖茨说，就算 AI 管得再好，这也将是人类历史上最动荡的时期之一：如果你今天二十多岁，这 20 年里还能做一些 AI 做不到的事。
第一，把“只在某些事情上用 AI”当成唯一选择。
把“人类保留职业”代入到个人层面，就是这个意思：只有你能更好的驾驭 AI，你才更不容易被 AI 取代。
第二，优先积累 AI 难以替代的能力。
比如培养互助、判断、提出问题能力，尤其是提问，因为模型要等人提示之后才开始工作。
第三，给自己的岗位风险做年度体检。
看看手上的活有多少落在那个“更便宜、更快、更准”的名单里，趁早调整，等公司发通知就晚了。
未来并非已经注定，AI 会变成什么样，仍然取决于我们今天的选择。
略讽刺的是，为了让人相信这场危机真的会来，微软正式推出了自愿离职方案……
- 完 -
