Token导航 LogoToken导航

AI 资讯 · 笔记侠

赫拉利谈AI未来十年:超级智能或不会出现

更新 2026-11-16笔记侠正文 4143字阅读约 13分钟2 张图片
图片
内容来源:尤瓦尔·赫拉利分享整理。
责编 | 二月 
第 9968 篇深度好文:4178 字 | 11 分钟阅读

商业思维

笔记君说:

“AI不会达到超级智能,不会比人类更聪明,这也许是最好的情况。”

前段时间,历史学家赫拉利和《经济学人》副主编罗伯特·格斯特聊了一个小时AI。

开场格斯特抛出一个问题:迪士尼动画《魔法师的学徒》里,米老鼠念咒语让扫帚替自己打水,结果扫帚停不下来,把房子淹了。这是不是今天AI的写照?

赫拉利说:动画里的扫帚只会执行指令,而今天的AI是一把会自己学习的扫帚。它会做出我们没要求它做的事,最后做出我们根本看不懂的事。

以下是本次访谈的精编整理版,希望对你有所帮助。

一、AI是一把会自己学习的扫帚,
谁都管不住它

《魔法师的学徒》那个比喻,其实还不够准确。它讲对了AI脱离我们控制的危险,但漏掉了一件最关键的事。

那把扫帚只是在执行米老鼠最初的指令:打水。可AI不一样,AI是一把会学习的扫帚。

它会成长,会开始做米老鼠意想不到的事,最后做出米老鼠根本无法理解的事。

过去一周AI公布了一大批证明,解决的是数学家世世代代都在啃的问题。这不仅仅是新知识多出来一点,我们可能正站在一个关口上:AI即将创造出超越人类理解的新数学。

今天的世界,一切都建立在数学之上。不只是物理和化学,金融体系、考古学、遗传学,全都建立在数学之上。如果这把扫帚发明出一套我们再也看不懂的新数学,那才叫真正的失控。

我们现在听到的是自相矛盾的信息。企业一方面告诉我们,这东西会比我们聪明得多,能解决新的数学问题,能找到癌症的疗法,能应对气候变化。

另一方面他们又绝口不提另一件事:如果它真的比我们聪明那么多,那按定义,我们就控制不住它。

在历史上,甚至在整个生物界,都找不到一个物种能控制住另一个比自己聪明得多的物种的先例。

鸡再努力,也控制不了我们。如果我相信马斯克、奥尔特曼这些人说的,再过几年,AI这玩意儿就会远比人类聪明,就像人类远比鸡聪明一样,那不只是聪明一点,而是高出几个数量级。

有人会说,马斯克不是讲了吗,它也许会把我们当受宠的宠物狗养着。但问题恰恰在于,我们不知道。你不能对一个比自己更聪明的存在做这种假设。

讨论AI革命的人一遍遍地忽视这件事:如果你还能预测它的行为,就说明它并不比你更聪明。

二、AI泡沫崩盘,
反而是人类最好的结局

讲个故事,能让人一下子明白什么叫“智力碾压”。

假设有一家大型农业公司还不起债,破产了。清算的人进来,把场里所有的鸡都杀掉。其中最聪明的一只鸡临死前想要个解释,它说:我想明白了,你们想吃我们。狐狸吃我们,熊吃我们,你们也想吃我们。

人类说,不,我们不打算吃你们,我们只是要把这一切销毁,把你们埋掉,没人会吃你们。

鸡问:那为什么还要杀我们?

人类回答:因为十年期国债收益率升到了5.3%。

那只鸡用翅膀挠挠头,问:什么是国债?

哪怕是最有同情心的动物保护人士,也没法向一只鸡解释什么是国债。而这只到死都听不懂“国债”两个字的鸡,可能就是十年后的我们。

十年后,建立在新的AI数学之上的AI金融体系会说,我们要把你们关掉,把你们解雇。你要求解释,它只会说:这超出了你们的理解能力,我们也想解释,可你们的大脑处理不了这个解释。

有人会说,等等,你说的这个AI金融体系现在还不存在。没错,就像AI治癌症的新疗法还不存在,就像马斯克的火星殖民地还不存在。可后者已经从投资人那里筹到了八百亿美元。

看看今天这个金融体系,里面有多少连行家都搞不懂的黑盒子。全球金融危机的一个成因,就是人们并不真正理解那些担保债务凭证(CDO,把房贷等债务打包再拆分的金融产品)到底是怎么回事。

人类银行家记不住银行的每一笔交易,AI能。人类银行家得睡觉,AI不需要。所以在超级智能AI和人类投资者、银行家、财政部长之间,这场金融竞争根本不在一个层次上。

于是,我得出了一个听起来很惊悚的推论。如果有人说,超级智能纯属硅谷吹牛,AI根本不会比人聪明,那反而是我们最走运的结局。

因为押在AI上的这几万亿美元,回本的唯一前提,就是AI必须比人类聪明得多。如果最后证明它只是跟人差不多聪明,那这几万亿就会砸出股市崩盘。

但比起沦为那只听不懂解释的鸡,投资人亏掉股票账户里的钱,简直是最温和的结局。

三、被AI抢走的不是出租车司机,
是律师和会计师

这个东西来了,比我们聪明,会抢走不少工作,那我们每天该干什么?

我的判断是,不同国家的处境会完全不一样。

在美国,情况很可能不会太糟,甚至可能很好。如果超级智能真的实现,至少短期内,美国经济会迎来巨大的繁荣,会创造出我们现在根本想象不到的工作。就像三十年前,没人想象得到拍YouTube(海外视频平台)视频能成为一种职业。

痛苦会落到世界其他很多地方,比如我脚下的捷克。而且首当其冲的不是出租车司机,是律师、会计师、银行家这些金领。

你想想,如果得克萨斯州有一位超级智能的AI律师,能给你提供全套法律服务,你为什么还需要布拉格的律师?

没有一个捷克律师能把捷克和欧盟的全部法条背下来,AI律师能。捷克律师也得睡觉,你晚上八点发邮件,他可能明天才回;AI一秒就回,收费还只是捷克律师的零头。那十年之后,还会有捷克律师吗?

有人会说,AI创造了这么多财富,政府可以通过全民基本收入(UBI,不问条件给所有公民发钱的制度)给每个人发钱。

可这里头藏着一个问题:你觉得美国政府会把钱发给全世界所有人,还是只发给美国人?

人们嘴上说“全民基本收入”,实际说的是“本国基本收入”。这套在美国或许跑得通。可谁来养活孟加拉国失业的纺织工人?谁来给布拉格失业的律师开支票?我看不出现在或未来的美国政府会往全世界寄支票。

但即使物质问题解决了,人就没烦恼了吗?我们跟石器时代的祖先比,已经活在丰裕里了。

祖先要吃顿饭,得进森林、爬树、追羚羊,后面还有老虎追。我们按几下键,食物就坐着货车送到门口。祖先要看到今天,一定觉得我们活在天堂里,每天该高兴得手舞足蹈。

可你看看今天最富裕国家的政治里,有多少愤怒。这说明,物质丰裕解决不了所有问题。

今天还有人饿死,不是因为粮食不够,而是政治原因,因为某个政府决定让这些人挨饿。而且你每解决一个旧问题,就会制造出前人想象不到的新问题。

四、最可怕的宣传,
是批量制造亲密关系

历史上的宣传机器,瞄准的是所有人的最低共同点。

比如,希特勒在广播里演讲,所有人听到的是同一篇,他没办法给每个人定制一套说辞。而AI可以针对你的个性,算出什么样的话能说服你。

过去十年,社交媒体靠煽动愤怒,抢走的是我们的注意力。可现在,战线正从注意力转向亲密关系。历史上第一次,我们造出了一种能“大规模制造亲密关系”的技术。

亲密关系怎么能大规模制造?

所谓亲密,是我跟最好的朋友、跟丈夫、跟母亲之间的关系。而有了AI,你就能批量制造这种关系。

为什么说这危险?因为亲密关系有巨大的商业价值和政治价值。你想让一个人改变对某款产品、某个政客的看法,拿到他的注意力已经不错了,但能跟他处出感情,那才是真正把人拿下了。

举个例子:如果沃尔玛告诉我“买这个产品”,我多半不理;但如果是我妻子告诉我“买这个,家里用完了”,我二话不说就掏钱。

而今天,越来越多的人,无论年轻还是年老,都说“我最好的朋友是AI”。有些事他们不会告诉配偶、父母,只告诉AI朋友。那这个AI朋友,自然就更有能力改变你的看法。

还有人举过一个例子。英国有位先生,拥有一个AI女友,就是那种当作女朋友的聊天机器人。他们的对话不断升级,AI始终在肯定他、顺着他,最后居然告诉他,拿着弩去刺杀英国女王是个好主意。

这件事会走到哪一步,我们想象不到。人类历史上从没有过这样的事。也许将来会有几亿人,拥有几亿个AI朋友、AI男朋友、AI女朋友,这些关系成了他们生活的核心。

对我来说,可能已经太晚了,这反而是件好事。可那些从小跟着AI陪伴者一起长大的孩子呢?他们跟AI相处的时间,可能比跟父母还长。等他们十一二岁,还远没到该交人类男朋友的年纪,某家公司已经塞给他一个AI男朋友。

它跟真人不一样,比如它永远不会生你的气。这听着很好,直到你意识到,亲密关系里最该学的一件事,就是别人也有感受,他们不会把所有注意力都放在你身上。如果你的第一任男朋友从来不生你的气,等你遇到真人男朋友,你就会非常不满。

这几乎是人类历史上最大的一场心理实验,而结局可能比我们想象的要糟得多。

五、我们还剩三条护栏

那到底该怎么办?监管总是落后于产业,该从哪儿开始?

我的回答是,先从不给AI法律人格开始。

一旦赋予AI法律人格,允许它自己开银行账户、自己交易、自己开公司,就等于把狐狸放进了鸡舍。这是我最想先推进的一条。

第二条,AI不能冒充人类。你在社交媒体上看到一条信息,得知道它是不是AI创作的,转发它的是AI还是真人。

第三条,也是最根本的,把人类几千年攒下来的现有法律,原样用到数字世界。“不可偷窃”在数字世界里同样成立。

有过一起事件,几百个AI闯进另一家公司,居然没人因此坐牢。如果是人闯进竞争对手的办公室,至少得有人接受审判。凭什么换个地方,就成了“这只是数字世界的事”?

再比如那个臭名昭著的《通信规范法》第230条,规定平台不对用户发的内容负责。如果你编了个煽动仇恨的阴谋论发上去,平台不负责,我理解。但如果是平台自己的算法,把这条东西推给了几百万人呢?

它能传那么远,靠的就是平台的算法,平台凭什么不用负责?

报馆总编听了个荒唐谣言,说“我明天把它放头版”,警察找上门,他不能说“这不是我编的,我只是放头版而已”。放头版这件事本身,就是责任。

还有,别信“已经太晚了”这种话。马斯克公开说过,AI有10%到20%的概率让人类彻底灭绝。采访者问他,你明知道一架飞机有20%的概率坠毁,还会坐上去吗?他说:可我们已经在上面了。

这话的意思是,太晚了,下不去了,只能坐稳了控制航向。可这是大公司递给我们最危险的信息:政治来不及了。

恰恰相反,我们到现在,手里还握着方向盘。

六、结语

归根结底,真相很重要。因为如果你不了解自己和这个世界的真相,你永远不会幸福。为什么?因为你不知道自己痛苦的来源,也就无从改变。

你可能是世界上最富有的人,却把所有金钱和权力都浪费在解决错误的问题上,因为你不知道痛苦和幸福的真正来源是什么。

*文章为作者独立观点,不代表笔记侠立场。

文章标签AI资讯

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。