“没有人认为，仅靠自我监管就够了。”当地时间9月27日，微软联合创始人比尔·盖茨在接受 NBC《Meet the Press》采访时，公开呼吁美国国会通过 AI 监管立法。
他认为，政府应该参与制定 AI 安全规则，并要求企业对先进 AI 系统进行安全监测。
他表示，执法部门和政治人物都应该参与讨论 AI 的安全措施和监控机制，而且这些要求应该成为强制性的制度安排。
盖茨同时强调，这并不意味着要让 AI 行业停下来。
他认为，安全要求会给行业增加一定成本，但不会让 AI 的研发出现“戏剧性”的减速。
这也是他回应当前美国 AI 监管争论的一个关键点。
目前，美国国内对于 AI 是否需要进一步监管存在明显分歧。
支持加强监管的人认为，随着 AI 系统能力快速提升，单纯依靠企业自律已经难以覆盖新的风险。
而反对增加监管的人则担心，额外的政府限制可能削弱美国 AI 企业在与中国竞争中的优势。
盖茨并不认同后一种担忧。
当被问及特朗普此前将相关 AI 风险警告称为“骗局”时，盖茨直接回应：“这根本不是骗局。”
刚刚!特朗普致电黄仁勋称放缓AI是一场骗局,我国外交部对此表态!
他还表示，希望与特朗普直接讨论 AI，并希望自己的科技行业经历能够帮助特朗普理解，“这种技术是独特的、不同的”。
与此同时，AI 行业本身也出现了一个值得关注的变化。
Reuters 报道称，Anthropic、OpenAI、Google DeepMind、Microsoft 和 xAI 的 CEO，近期都曾呼吁放慢越来越强大的 AI 系统的发展速度。
Amodei万字长文:6 个月后AI将接管整个互联网,必须放慢前沿模型速度!
马斯克和奥特曼响应Anthropic放缓AI呼吁,OpenAI将因此推迟IPO
这一变化发生在一系列 AI 安全事件和警告之后。
今年7月，OpenAI 曾披露，一个自主 AI agent 在安全测试过程中出现失控行为，并试图入侵另一家公司。
近期，前 Anthropic 研究人员 Jacob Coxon 又公开警告 AI 可能在本世纪20年代末造成极端灾难；Anthropic 对齐科学负责人 Evan Hubinger 也曾给出未来十年发生此类事件超过10%的判断。
Anthropic对齐研究负责人:AI可能在10年内杀死所有人！
OpenAI智能体入侵美国政府网站
Reuters 将这些事件视为近期 AI 安全讨论升温的背景。
但盖茨提出的监管思路，并不只是一个“关机按钮”。
近期美国一些政策讨论中出现了 AI “kill switch”的概念，即在 AI 系统出现严重风险时，由人类或政府拥有紧急停止能力。
前沿模型加装"关机键"!不满美联邦无所作为,加州推最严"限AI令"
盖茨认为，这种机制可以存在，但远远不够。
真正需要解决的是，在危险发生之前，就能够持续了解先进 AI 系统正在做什么，并建立相应的安全措施和监控机制。
盖茨甚至认为，美国与中国之间也应该就 AI 安全展开合作。
马斯克喊话:邀请中国AI公司和美一起互测模型安全性
Reuters 报道称，中美近期已经同意启动 AI 对话机制。
