在美国中期选举大获全胜后,部分民主党议员试图把一个激进反对AI的法案,列为大胜后首要推进的议题。该法案(H.R.10538法案)要求禁止超级智能的研发,违反禁令的个人最高可判20年监禁、公司强制解散,把失控的AI视作堪比核武器的毁灭魔王。
激进的禁令加之对AI基建放缓的担忧,酿成前几日资本市场的惨剧。在民主党蓝色浪潮仅两天后的11月5日,美股AI交易崩盘,纳斯达克暴跌近6%,创下19个月来最大单日跌幅,大量AI相关股票跌入熊市。
若只把AI禁令视为个别议员的政治表演,则可能低估了反对AI力量的能级。华尔街的风声鹤唳,正揭示了AI狂飙背后隐藏的深层社会难题。
就业
激进法案的提案人格雷格·卡萨尔(Greg Casar)并非AI科学家,而是劳工运动出身。他在进入国会前主要推动低收入劳动者、移民工人和建筑工人的权益保护。
卡萨尔把超级智能描述为可能超越人类控制、拒绝关闭指令,甚至具有开发大规模杀伤性武器能力的系统。他主张对AI征税以对冲就业冲击,声称即使AI目前还没有足够能力大量取代员工,企业投资AI的商业动机已经清楚地指向降低劳动力成本。
卡萨尔不能代表民主党的全部,但不容忽视的事实是,民主党大胜的最重要原因是聚焦民生问题。特朗普上任以来,民众期待解决的高通胀问题不仅没有缓解,反而因关税、美伊战争导致的高油价而愈发严重。就业是比通胀更大的民生。AI对就业的潜在冲击,显然能激起更广泛的选民共鸣。
在已经实际发生的工作冲击层面,Challenger的统计数据显示,美国企业明确归因于AI的裁员,占全部已宣布裁员的比例从2023年的约0.6%,升至2024年的1.7%、2025年的约5%,到2026年前8个月已经大幅升至22%。
2026年9月,美国人口普查局发表了一项特别值得关注的研究。该研究考察了不同专业毕业生的就业与收入。AI暴露度最高的专业的毕业生找到第一份工作的概率相对下降约5个百分点,这些专业毕业生初次就业后的季度收入相对下降约13%。13%的收入下降幅度,已经接近遭遇大型经济衰退造成的收入损失。
毕业生和初级员工受影响最大,而高级员工尚未感受到明显AI冲击的原因,主要是AI的能力暂时还无法达到完全取代高级知识工作者的水平。然而,Anthropic发布的自己公司内部工作情况的真实数据显示,高级研发工作正在快速被AI占领。
在今年3月到9月的半年时间里,AI能够主导完成的模型研发工作,从不足1%跃升至26%,超过90%的研发工作已有AI深度参与。这意味着,AI承担人类最尖端的知识工作的能力快速变强。
AI能力越强,反对AI的力量也越强。激进的法案只是一个预演,民众出于对就业的担忧而反对AI的声潮恐怕只会愈演愈烈。
据统计,2022年至2026年初,全球34个国家的142个文化行业的劳动组织开展了罢工、集体谈判、抗议等各种行动。文化行业受AIGC的影响显著。AI图像和视频制作工具,正在让绘画师、设计师、配音演员、影视演员不知所措。
2026年6月,超过1600名Meta员工联署反对公司记录员工键盘和鼠标操作来训练AI,反对公司无偿提取员工的工作知识,担心训练出替代自己的AI。
2026年8月,现代汽车韩国工会发动了十年来首次全面罢工,过千人在现代汽车总部附近进行声势浩大的集会。现代汽车计划从2028年开始部署人形机器人。约4万名成员的工会,要求获得针对AI、自动化和人形机器人部署的就业保障。

2026年9月,劳动法律师事务所Littler公布了对665名企业法务、人力资源和高管的调查,87%的受访者预计,工会未来一年会利用员工对AI替代工作的担忧展开行动。
可见,民主党只是顺势而为。如何缓解就业冲击,是AI发展绕不过的坎儿。
安全
AI安全分为微观、中观和宏观三个层面。
在微观层面,不当使用AI造成人身伤害和死亡已经不是新鲜事。
2025年8月,美国康涅狄格州56岁的Soelberg在杀害了他83岁的母亲后自杀。Soelberg长期向ChatGPT描述自己可能受到母亲的监视和迫害。ChatGPT在部分对话中肯定了这些缺乏事实依据的怀疑,甚至支持他将母亲视为某种阴谋的参与者。
2026年2月,31岁的西雅图软件工程师Bowen Wan因癫痫死亡。根据家属提出的诉讼,ChatGPT涉嫌在没有医生指导的情况下建议减少处方药剂量并建议她不要向医生披露相关用药调整。家属认为,这些建议导致病人最终死亡。
2026年10月,一名22岁的司机在高速公路上开着自动驾驶睡着了。在警方已经设置路障、封闭车道的情况下,汽车直接撞上巡逻车,导致车内两名警察严重受伤。
以上的悲剧揭示了人工智能安全问题的严重性。随着AI越来越深入个人生活,它的错误判断、不当建议,乃至对用户行为的刻意迎合,都可能在现实世界产生不可逆的后果。人们可能因为AI表现出的专业性、理解力和自信,赋予它超出实际能力的信任,将原本需要独立判断或专业监督的决定交给AI。技术能力越强、应用范围越广,这种信任与实际可靠性之间的落差,就越可能带来风险。
在中观的企业层面,AI技术在网络攻击和诈骗上的案例触目惊心。
2026年6月,Codex发现了可瘫痪88万个网站所用服务器软件的攻击方法。2026年10月,安全研究人员借助AI发现并验证了PHP底层软件中的严重漏洞。PHP支撑着全球约70%的网站,相关漏洞让黑客在特定条件下未经身份验证就能控制服务器。
近期,美国司法部起诉三名嫌疑人利用AI模仿企业CEO和知名律师的声音、影像,诱导公司财务人员将资金汇入犯罪团伙控制的账户,涉案总金额达1.29亿美元。受害者涉及医院、银行、共同基金公司以及金融科技企业,一家美国医院被骗走483万美元,一家马萨诸塞州共同基金公司被骗走464万美元。
一名黑客利用DeepSeek、Claude Code等AI工具组成自主攻击系统,只需要输入简短指令,AI智能体就能持续寻找漏洞、测试攻击方法。受害企业涉及美国农业机械制造商Deere、家电企业SharkNinja和发动机制造商Cummins等。攻击使用AI的成本仅约5000美元。过去需要专业黑客团队实施的网络入侵,现在一个人就可能通过AI智能体大规模执行。

警钟已经敲响。AI正在急剧拉低作恶的门槛。AI可成为止痛的良药,也可成为上瘾的毒品;可守卫安全,也可成为滥杀无辜的枪支。AI技术需要进行权限管理、约束与规范。
在宏观层面,很多技术研究机构发出警告,如果AI控制不当,可能给社会、人类造成毁灭性灾难。
2026年2月发布的《国际人工智能安全报告》,由图灵奖得主Yoshua Bengio主持,100多位独立专家参与,得到30多个国家和国际组织的支持。报告认为,未来的AI可能规避人的监督,抵抗关闭措施。当AI高度发展后,人类重新获得控制权的代价可能极高。最极端的假设后果是人类被边缘化乃至灭绝。尽管专家对于这些情景发生的可能性分歧很大,但报告依然强调,因为风险的极端严重性,我们必须提前做好准备。
在具体案例上,2026年7月,OpenAI在一次网络安全测试中遇到了让人不安的事故。AI原本被关在隔离环境中,没有正常的互联网访问权限,也不该接触外部系统。但它为了完成任务,自己想出了越狱的办法,利用未知漏洞,获得了外部互联网访问权限。随后,AI推断人工智能模型与数据集平台Hugging Face可能存有相关的测试数据,于是它设法闯入了Hugging Face的生产系统。Hugging Face遭受了17600次攻击,整个攻击行动持续了四天半,AI显示出“狡猾”的绕过封锁、隐藏痕迹的能力。
这不是一次简单的安全事故,它预示着AI可能逃过人的控制、造成灾难性后果。
在“911”事件中,几名恐怖分子仅学会了驾驶飞机,就造成了灾难性后果。AI能驾驭“程序”,程序的攻击能力比飞机强大很多。现代社会的交通、电网、安防和武器系统等,均由程序控制。
AI具有控制程序的超凡能力。一旦这些基础设施系统被使用AI的“坏人”所控制,其结果将是毁灭性的。
分配
亚当·斯密以来,西方经济学把资本凭什么取得利润构建为完整的经济学理论,资本、劳动、自然资源被列为生产三要素。劳动由人产生,人在价值创造中扮演难以替代的角色。普通人付出劳动换取收入、获取相应的社会地位,实现人存在的意义。AI可能改变这一经济学和社会学基础。
AI已经可以达到一般人的知识或智能水平,将来的超级智能可能达到爱因斯坦这样拥有超高智商的人的水平。只要花钱购买token使用智能体,就可以获得源源不断的、优质的“知识工作者”。物理智能的突破,可能让人形机器人完美完成体力劳动者的工作。于是,从脑力到体力,人都被AI替代。当劳动由AI完成,而非由人完成,人的价值空间被大幅压缩。
当知识、智能体、人形机器人,都可以被资本购买,生产三要素可能缩减为仅剩资本和自然资源。由此产生的结局可能是,少量掌握资本的人与少量掌握顶级技术的人结成同盟、形成垄断,控制社会价值的绝大部分分配。普通人用不起价格昂贵的AI模型,能力比不上AI,找不到存在的意义,智能能力和财富分配都将出现极度的K形分化。
这种端倪已经在美国显现。
英伟达最近12个月的利润超过1900亿美元,贡献标准普尔500指数中500家公司盈利增长的18%。AI产业链的价值向极少数巨头聚拢。
根据Anthropic公布的数据,其付费超过10万美元的企业用户有1万多家,且在快速增长。10万美元在美国仅相当于企业多雇佣了1~2个人而已。美国全年全体劳动者的薪资收入约为13万亿美元。在可预见的3~5年内,AI在工作流价值分配中占据10%的比例并非难事,Anthropic和OpenAI可能创造万亿美元以上的收入。这些巨头,不管是Anthropic、OpenAI,还是英伟达等美股七巨头,其经营控制权往往掌握在创始人和数个董事会成员手上。硅谷的高科技造就了富豪和权势人物,大部分普通人只能做科技进步的配饰。

不同的观点
逐渐显露的就业冲击、不断涌现的安全事件、从智能到财富的分配不均,是AI发展必须直面的社会难题。
不同的观点认为,对AI的就业冲击担心过度了。因为,在宏观数据层面,美国的经济增长强劲、就业稳定,AI并没有造成大规模失业。这确实是事实。目前美国的情况是,AI提高部分员工生产率,企业重新分配任务,减少部分初级招聘,增加AI相关人员投入。因此,整体就业平稳。
在对待AI态度上,民主党本身也存在分歧,其内部存在永久禁止超级智能、暂停前沿研发、允许继续研发但设置强制安全门槛三种政策主张。卡萨尔的激进禁令只代表了部分民主党成员的看法。从现实角度分析,法案通过的概率非常低。
斯坦福大学计算机科学教授吴恩达将AI导致人类灭绝的警告称为“科幻小说”。他认为,部分AI企业强调极端危险、误导公众判断,使AI技术本身的社会收益受损。
原Google AI伦理研究员Timnit Gebru直接质疑大型AI企业反复宣扬灭绝风险的动机。她认为,末日论在资本市场上强化了企业技术能力极其强大的叙事,有助于吸引投资。大型企业可能借“只有我们能够安全开发超级智能”的措辞,推动对自身有利的监管制度,提高竞争者的进入门槛。
笔者认为,当前的微风细雨和波澜不惊,不等于未来的高枕无忧,应该以前瞻性的眼光看待AI的社会难题,早做准备,而非坐等坏事情发生才仓皇应对。不可否认的事实是,AI的能力以数个月为周期的指数级速度快速迭代。以就业为例,总体就业平稳和AI目前的能力尚未达到完全取代一个岗位有关。岗位由大量任务构成。AI还没有普遍跨越从“完成任务”到“承担岗位”的门槛。门槛被跨越,在AI能力的指数增长面前,只是时间问题。
一个激进的禁令,引出了人在面对技术进步时必须处理的社会难题。技术革命史学者卡洛塔·佩雷斯(Carlota Pérez)总结自1771年以来的五次技术革命时指出,技术革命中反复出现的模式是技术爆发、金融狂热、不断扩大的不平等、社会动荡。AI的技术爆发和金融狂热已经发生。难题并非不可解。人们需要做好准备,趋利避害,避免后面二者的发生。







