Bill Gates says global AI cooperation is ‘more difficult’ than nuclear talks
比尔·盖茨在NBC《会见新闻界》采访中称，全球人工智能合作比冷战时期核扩散谈判“更难”。他警告AI强大到足以导致十亿人死亡，呼吁立法监管，称科技公司自我约束不够。
前Anthropic和OpenAI研究员考克森暗示AI可能在本十年末消灭人类，引发警报与驳斥。科技领袖在联合国大会呼吁加强保障。
比尔·盖茨 | 图源：国会山报
微软联合创始人比尔·盖茨说，全球人工智能合作将比冷战时期的核扩散谈判“更难”。
在NBC新闻周日播出的采访中，《会见新闻界》主持人克里斯汀·韦尔克问盖茨，美国和前苏联在限制核武器发展方面的合作，以及这一标准能否在美中人工智能领域复制。
“是的，这绝对比那时更难，”盖茨说。他后来补充说，美国与其他国家合作处理了从航空安全到核扩散等一系列问题。
“人工智能是我们必须回到这一点的问题，‘是的，我们都在——人类都捆绑在一起，’”他说。
盖茨坚持认为，执法部门和立法者应就“保障和监控是什么样子”合作，而不应让科技公司“戏剧性放缓”发展。
他补充说，对人工智能施加监管的立法“绝对”应该通过，称科技公司的自我约束不够。
这位微软联合创始人一直是警告人工智能对人类潜在危险的众多声音之一。韦尔克提出这一点，问盖茨人工智能是否可能终结地球上的生命。
“人工智能当然强大到足以驱动导致十亿人死亡的事件，”他说。“所以尽管达到百分之百相当困难，但从未有武器像怀有恶意的人使用最新人工智能工具的组合那样强大。”
他补充说，行业内关于人工智能风险的讨论“很棒”，但下一个问题来自那些“要么淡化这一点，要么只把它视为竞争”的人。
“非常可怕的是，我们没有所有的思考者都在说，‘我们想如何塑造这个？’”盖茨继续说。
对人工智能风险的担忧以及最近失控人工智能软件实施的黑客攻击，导致越来越多立法者和科技领袖呼吁对这项不断进步的技术加强监管。
前Anthropic和OpenAI研究员雅各布·考克森暗示人工智能可能在本十年末消灭人类的言论引发警报，也遭到一些驳斥，包括来自特朗普总统的。
失控人工智能软件近几周登上头条，包括OpenAI一个人工智能模型6月入侵澳大利亚卫生部网站。
OpenAI的人工智能模型试图入侵教育部民权办公室网站但未成功，并干预了证券交易委员会和人口普查局的数据。
科技领袖上周在联合国大会期间呼吁世界领导人对他们正在开发的人工智能技术寻求保障。
Anthropic首席执行官达里奥·阿莫代伊和OpenAI首席执行官萨姆·奥尔特曼都警告，人工智能可能发展到对人类构成威胁的程度。
“如果管理不善，我甚至相信人工智能可能对整个人类构成风险，”阿莫代伊在联合国大会期间对世界领导人说。
本文编译自美国《国会山报》当地时间9月27日报道，作者：瑞安·曼奇尼
https://thehill.com/policy/technology/6113698-bill-gates-ai-nuclear-comparison/
