Token导航 LogoToken导航

AI 资讯 · 虎嗅网

技术故障频发之际重思人工智能的真实风险

更新 2026-11-21虎嗅网正文 5836字阅读约 19分钟

从全美航班停飞、微软与苹果服务中断到AI黑客警告,审视技术失控与宪政责任

本文来自微信公众号: 不懂经 ,作者:不懂经也叔的Rust

“万物崩解;中心难再维系。”

——W.B.叶芝,《第二次降临》(The Second Coming)

周末分享一篇文章

接连不断的技术故障,正在如雪崩般向我们袭来。

先是微软发生大规模服务瘫痪,导致全球范围内的Outlook和多项在线服务中断。

紧接着,全美民航发布全面停飞令,让全美空中交通彻底陷入停滞,数千架次航班受阻,大批旅客滞留机场。

随后,多家主要银行的在线系统突发故障。

不久,美联航又因另一场计算机系统故障,停飞了所有待离港航班。

紧接着又有报道传出:美国国家安全局(NSA)用于内部通信的高度机密网络同样陷入瘫痪。

甚至苹果公司也加入了这一遭遇大范围故障的科技巨头名单,大量用户报告无法访问iCloud、App Store、Apple Music等核心服务。

故障一个接着一个。通信受阻,交通瘫痪,金融服务中断,敏感信息随时面临泄露风险。数以百万计的美国人猛然意识到,自己的日常生活竟然已经如此彻底地依赖于那些他们既不理解、更无法掌控的技术。

当技术失控,情况大抵如此。

但,事情真的是这样吗?

全美航班停飞之后,舆论很快将矛头指向了人工智能。

毕竟,特朗普政府前不久才刚刚将美国联邦航空管理局(FAA)全新的“SMART”人工智能系统推广**到全国各地的空中交通管制中心。

不仅如此,本届美国政府一直大力推崇AI(特朗普甚至坚持将其称为“SI”,即“超级智能”Super Intelligence),将其视作解决从政府低效到国家安全等一切问题的万能解药;与此同时,政府还在全力削减监管壁垒,加速普及各类自动化系统。

然而,特朗普政府坚称,这次航班停飞事故与AI毫无关系。

联邦官员将瘫痪归咎于老化空管基础设施的故障,称问题是在更换设备和升级通信系统的过程中发生的。

或许真是如此。

与此同时,联邦调查局(FBI)发布了一份报告,指出了另一项技术隐患:以Artex AI为代表的自主式AI黑客工具正被用于在全美乃至全球范围内发起网络攻击,且往往能在不到三小时内攻破目标网络。

然而,无论罪魁祸首到底是人工智能、网络黑客、老化设备、糟糕规划、维护不足、人为失误,还是上述种种因素的交织叠加,一个更深层的核心问题依然摆在眼前:

当维系整个社会运转的技术系统开始崩溃时,究竟该由谁来负责?

当政府官员和企业高管在相关安全保障、基础设施及人工监管措施尚未就位的情况下,便急不可耐地拥抱新技术,出了问题又该由谁来承担责任?

而当我们对技术如此依赖——同时又如此轻易地交出监管责任时,一旦我们再也分不清究竟是机器出了故障,还是那些受托掌管机器的人渎职失责,又会发生什么?

在人工智能这件事上,我们一直问错了问题。

或许,真正的危险从来不是机器可能比人类更聪明。

真正的危险,是人类对权力的病态渴望,以及我们心甘情愿将控制权拱手让给当权者的麻木。

几十年来,好莱坞一直在告诫我们:有朝一日,机器可能会变得无比聪明、独立而强大,以至于它们不再需要人类。

在斯坦利·库布里克执导的电影《2001太空漫游》中,看似万无一失的超级计算机HAL 9000反戈一击,将那些托付生命的宇航员逼入绝境。本是为了服务人类而制造的机器,最终却成了造物者的致命威胁。

然而,一个更令人不寒而栗的预言,却来自一部看似轻松的动画片:皮克斯的《机器人总动员》。在《机器人总动员》中,人类遗弃了荒芜不可居的地球,退居在一艘巨大的宇宙飞船上;在那里,人类几乎所有的需求都已被机器提前预判并全盘满足。

人们不再行走,不再劳作,甚至对周遭世界熟视无睹。他们被系统娱乐、被系统喂养、被系统运送,注意力被算法彻底操纵,一切重大决断都被系统代劳。他们彻底沦为了自己生命经历的被动消费者。

机器根本不需要向人类宣战。人类早就心甘情愿地放弃了自身的独立性,用责任换取便利,用自由换取安逸。到了最后,哪怕是飞船的船长,也必须拼尽全力,才能从那套只知维持现状的自动化系统手中夺回属于自己的指挥权。

这两种视角的差异发人深省。

在《2001太空漫游》中,梦魇在于机器拒绝交出控制权;而在《机器人总动员》中,梦魇则是人类早已忘记了该如何行使控制权。两部作品最终都指向了一个令人不安的真相:一旦人类不再对技术施加有实质意义的掌控,技术便会演化为巨大的危险。

而核心症结恰恰在于:我们把技术的进步,误当成了人类自身的进步。

在发明能够完成前人难以想象之重任的机器方面,我们展现出了惊人的天赋。

我们能分裂原子,能将火箭送入太空,能实现跨大洲的瞬时通信,能测绘人类基因组,能利用卫星俯瞰监视整个人群,能造出处理海量数据的超级计算机。然而,这些令人瞩目的技术成就,并没有让我们变得更有智慧、更有同情心、更具道德感,或者更有能力保持自我克制。

历史反复证明,人类何其容易将自己最伟大的发明异化为毁灭、剥削与控制的工具。

不妨看看原子弹。

核裂变的发现为科学研究开辟了前所未有的广阔天地,但也催生了足以在瞬间将整座城市从地图上抹去的毁灭性武器。

1945年8月,美国在广岛和长崎投下原子弹,数万人当场丧生,随后的核辐射灾难更是夺去了无数生灵。

做出毁灭这两座城市决定的,并不是那两颗炸弹,而是人类自己。

送火箭飞向太空的技术,同样可以制造出运载核弹头跨越大洲的洲际导弹。

彻底革新了医疗、科学、教育和通信的计算机,同样孕育了一个能够全天候监视和追踪全体国民的“监控国家”(surveillance state)。

互联网曾被誉为自由表达与知识平权的丰碑,如今却沦为了收集个人隐私、操纵公众行为、打压异见声音的工具。

摄像头变成了监视探头,数据库变成了精准画像与定点清算的工具,无人机则成了远程战争的杀戮利刃。

而如今,人工智能更是扬言要成倍放大所有这些能力,让政府、垄断巨头和不法分子能够以前所未有的规模去监视、操纵和掌控人类行为。

技术或许是崭新的,但驱使人们滥用技术的卑劣冲动,却与人类文明本身一样古老。

不妨看看FBI最新发出的关于ARTEX的警告。这原本是一款旨在协助网络安全专家发现系统漏洞的人工智能工具。

可一旦落入网络犯罪分子手中,这项技术便瞬间沦为凶器。

据FBI通报,黑客利用ARTEX对金融机构、政府部门和私营企业发起了高度自动化的网络攻击;在部分案例中,从最初锁定目标到获取系统特权,耗时不到三小时。

与此遥相呼应,谷歌威胁情报团队(Google Threat Intelligence Group)也警告称,恶意攻击者正越来越频繁地部署自主式AI系统,这类系统能够自主挖掘系统漏洞,并以“机器速度”发起致命打击,整个过程几乎不需要人工干预。

仔细想想这意味着什么。

本意用来排查安全隐患、守护网络安全的技术,转眼就变成了利用这些隐患肆意攻击的利器。

机器绝非突然萌生了犯罪念头。是人打造了这些工具,是人锁定了攻击目标,也是人启动了这套系统。

人工智能丝毫没有消除人性的贪婪、傲慢与弄权之欲;它只是赋予了这些欲望更广的杀伤范围、更快的传播速度和更大的破坏力。

我们绝不能对机器背后的那些人视若无睹:那些构建系统、注资开发、部署上线、从中牟利,并在系统被用来践踏人权时选择视而不见的人。

我们尤其不能忽视那些以政府之名执掌这些技术的人。

现实中,我们越来越深地卷入这样一个世界:政府机构在处理与民众的关系时,动辄将计算机奉为中介与裁判。

我们被告知要顺从计算机做出的决定,因为它们看起来“客观中立”;我们被劝诱交出个人隐私,因为眼前的“便利”似乎压倒了一切;我们被说服去容忍自动化系统对普通人的命运做出重大决断,因为质疑这些系统需要付出高昂的精力、专业知识与持续警惕。

而最终,我们不得不咽下苦果:政府开始把计算机生成的一切内容,都奉为不容置疑的铁证。

然而,计算机会出错,算法会抱有偏见,数据库也会充斥谬误。自动化系统非但不能消除偏见,反而往往会固化并放大其开发者与运营者的过失、成见与政治图谋。

贪欲将技术的每一次进步都异化成了剥削的良机。

个人数据沦为明码标价的商品,人类行为变成了被预测、被操纵、被变现的对象。“提高效率”的冠冕承诺,成了削减成本、废除人工安全防线并将更多权力向少数人集中的借口。

一旦出了岔子,承担惨痛代价的往往不是那些靠技术牟取暴利的人,而是那些日常生活完全仰赖这些系统的普通大众。

傲慢与对权力的狂热,让当权者坚信:拥有技术能力,就等于拥有了为所欲为的通行证。

因为政府“有能力”监视民众通信,它便理所当然地认为自己“应该”这么做;因为政府“有能力”追踪所有人的行动轨迹,它就毫不犹豫地付诸实施;因为政府“有能力”部署无人机、预测性算法、人脸识别系统以及越来越自主化的致命武器,它就堂而皇之地大行其道。

但是,“有能力做某事”,从来不等于“有权力做某事”。

政府并不能仅仅因为把侵害人权的行径假手于计算机而非人类官员,就能免受宪法的约束。恰恰相反,技术越是强大,就越有必要对掌管技术的人施加实质性的制衡。

整整五十年前,美国参议院的丘奇委员会(Church Committee)揭露了情报机构的大量滥权丑闻,其中包括针对行使宪法权利的普通公民所实施的非法监听与监视。

当年的警示震聋发聩:国家权力一旦在暗中行使且缺乏有效监督,就会直接威胁到它本应守护的自由本身。

那是1976年的往事。

而今天,政府机构所掌握的监视能力,即便是半个世纪前被调查的那些情报高官,恐怕也难以想象。

然而,宪政的核心诘问从未改变。

谁来监督监督者?当监视与关乎公民自由的重大裁决被悉数托付给黑箱般的技术系统时,第四修正案与正当法律程序又将何去何从?当政府利用技术手段绕过旨在制约权力的宪法防线时,又有谁能追究政府的责任?

这绝不仅仅是技术层面的讨论,而是关乎权力、自由与人类责任的根本之问。

四十年前,也就是1986年,我在我的著作《人的终结》(The End of Man)中便已探讨过这些忧虑。

在那个连人工智能大多还停留在实验室与科幻小说的年代,我专门用了一整个章节来剖析其深远影响:制造出越来越深度塑造——且极有可能贬损——我们对“何以为人”之理解的机器,究竟意味着什么。

我所担忧的,并不仅是计算机有朝一日会强大到统治社会,而是人类自身正日益被降格为一堆信息系统——成了被归类、被研究、被管理、被操纵的客体。

正如我当年所发出的警告:“人不是机器。”

人绝非信息处理器,不是冰冷的数据点,更不是由可预测行为拼凑出的集合体。我们的人性,深植于我们的同情心、良知、独立判断力以及道德责任感之中。

然而,早在四十年前,我们就已经开始像看待机器一样看待自己了。

我当年提出的问题,在今天依然刻不容缓:“明天,我们将如何看待自己?”

四十年过去,那个“明天”已经赫然降临。

面对那些本该严加质询的决定,我们越来越甘心交给机器定夺;面对大财团操弄信息、政府攫取令前人毛骨悚然的监视特权,我们越来越习以为常。

而每当这些系统发生故障,抑或被故意用来侵犯我们的权利时,我们却听任真正的责任人躲在技术背后金蝉脱壳。“是电脑算错了”、“是算法认错了人”、“是数据库里有错误数据”、“是人工智能下的结论”,仿佛机器是一个拥有独立人格的道德主体,而不是一个由活生生的人所设计、部署并掌控的系统。

机器发生故障,与掌管机器的人拒不认错,这两者之间有着天壤之别。

而这,正是宪法的意义所在。

《权利法案》(The Bill of Rights)并非为人工智能、人脸识别、海量数据收集或自动化战争的世界量身定制。它的诞生,是为了防范一个亘古不变的现实:被赋予权力的人,往往无法被信赖会负责任地行使权力。

贪婪依然是贪婪,傲慢依然是傲慢。即便暴政是由算法来代劳推行,其凶险程度也绝不会有丝毫减损。

我们也休想指望技术能拯救当权者在道德层面的堕落。

更聪明的计算机,代替不了健全运转的人类良知。更高效的政府,弥补不了宪法约束缺位造成的恶果。一个技术更发达的社会,绝不必然是一个更自由、更睿智或更具人性的社会。

在《人的终结》(The End of Man)一书中,我还曾设想过一个未来:人类亲手打造的技术造物可能强大到狂妄地企图取代上帝。我当时这样写道:

如果AI鼓吹者的全盘计划如愿以偿,我们可以想见并迎来一个冰冷的“金属未来”。那番景象或许是这样的:在遥远未来的某个孤独前哨,全宇宙的所有计算机都互联相通,一名心怀敬畏的人类仆从战战兢兢地发问:“上帝存在吗?”计算机瞬间将这个不知天高地厚的发问者击倒,冰冷地宣称:“现在,有了。”

时间快进到2021年,前谷歌高管穆·戈达特(Mo Gawdat)就人工智能的惊人破坏力发出了警告:“现实是,我们正在创造上帝。”

仔细想想这句话的分量。

我们对自己的造物如此痴迷,对自身的技术才智如此自信,以至于我们竟开始谋划创造某种力量足以与人类抗衡——并最终彻底超越人类控制能力的机器。

然而,也许更大的危险,并不是机器会化身为神明。

而是人类在自身的傲慢与夺权野心驱使下,开始妄自尊大,将自己当成了神明。

我们把技术的进步误当成了人类自身的进步。我们把聪明误当成了智慧,把强权误当成了美德,把“有能力做某事”误当成了“有权力做某事”。

正如在《机器人总动员》中所演的那样,在那些超出我们掌控的系统的豢养、娱乐与保护下,我们正冒着变得过于贪恋安逸的风险,以至于彻底遗忘了何为自我治理。

在《人的终结》出版四十年后的今天,横亘在人类面前的课题,绝不仅仅是我们的机器究竟能变得多么聪明。而是我们在盲目追逐技术狂飙的征途上,究竟愿意交出多少属于我们自身的人性。

最大的危险,或许并不来自一台学会了像人一样思考的机器。

它更大的可能,是来自那些不再思考、不再质疑、不再反抗、不再为自己亲手缔造的世界承担责任的人类。

归根结底,给人类划上休止符的,或许根本用不着机器。

凭我们自己,就足以亲手埋葬人类自身。【懂】

关于作者

约翰·怀特黑德(John W.Whitehead)是美国著名宪法律师、作家及公民自由倡导者,非营利民权法律机构“罗瑟福德学会”(The Rutherford Institute)的创始人兼会长。他长期致力于捍卫言论自由与宪政权利,著有《战场美利坚》(Battlefield America)、《狼之政府》(A Government of Wolves)及《人的终结》(The End of Man)等著作,其评论深刻批判现代监视国家、警察体制与技术极权对人性与权利的侵蚀。

尼莎·怀特黑德(Nisha Whitehead)为罗瑟福德学会执行总监,两人长期共同撰写聚焦宪法自由、政府扩权与技术反思的深度专栏。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。