（文/王一 编辑/吕栋）
一边警告人工智能（AI）可能失控，一边加速研发更先进的模型，美国AI巨头表面一套、背后一套的做法招致法律挑战。
当地时间11月12日，一个由多家非营利组织组成的联盟向美国五家AI开发商提起诉讼，要求法院阻止这些企业继续开发AI模型。
由安全AI联盟（The Alliance for Secure AI）、不可替代教育基金（Irreplaceable Education Fund）、公共公民组织（Public Citizen）、热潮倡议（The Heat Initiative）组成的原告，指控Anthropic、谷歌、Meta、OpenAI和SpaceX旗下的AI企业，明知自身研发的技术可能给人类带来灾难性风险，却仍竞相推进技术发展，甚至开始让AI参与自身的研发工作。
“多年来，开发这些系统的企业高管一直在警告我们，他们自己的前沿模型可能带来灾难性风险。”安全AI联盟首席执行官（CEO）布伦丹·斯坦豪瑟（Brendan Steinhauser）在一份声明中表示，被告企业明知AI系统并不总是按照开发者的意图行事，也清楚目前不存在可靠的方法来控制这些系统。但这些公司仍竞相开发和推销越来越强大的AI技术，甚至开始将相关研究与开发工作交给AI自身来完成。
诉讼文件称，随着企业越来越依赖现有AI模型开发下一代模型，这种被称为“递归自我改进”（recursive self-improvement）的风险可能进一步扩大。
原告还援引了AI企业高管此前有关技术风险的公开表态。2015年，OpenAI首席执行官（CEO）萨姆·奥尔特曼（Sam Altman）曾表示，AI“很可能最终导致世界末日”。2025年，Anthropic CEO达里奥·阿莫代伊（Dario Amodei）也曾指出，AI发展有25%的可能性会带来灾难性后果。
AI App图标
今年以来，美国AI行业围绕技术安全与发展速度的争论持续升温。一名Anthropic研究人员辞职后，公开表达对AI失控风险的担忧，指责Anthropic和OpenAI“拿我们的生命冒险”。相关帖子在社交媒体上浏览量超过1.7亿次，进一步加剧了公众对AI安全问题的忧虑。
9月，阿莫代伊发起倡议，呼吁行业共同控制前沿模型的性能提升速度，为验证技术安全性争取更多时间。奥尔特曼和马斯克随后也表示支持。他们主张AI企业在政府出台监管措施之前，先自行建立安全标准，并与竞争对手协调，避免陷入一味追求技术领先的竞争。
然而，在警告存在技术失控风险的同时，这些AI企业却并未因此放慢研发和商业扩张的步伐。
Anthropic仍在按照计划推进上市，IPO目标估值最高约1.4万亿美元，预计于11月19日在纳斯达克挂牌交易。9日，该公司还正式发布了其最先进的旗舰级AI模型Claude Fable 5.2与Claude Mythos 5.2。Anthropic还在持续推出面向金融投资者等专业用户的企业级AI服务，业务和融资规模不断扩大。
马斯克同样如此。尽管他公开认同阿莫代伊关于放缓AI研发的主张，但并未退出新模型研发竞赛。他10日在社交平台X上透露，其旗下拥有2.5万亿参数的Grok 4.8模型预训练已完成，目前处于强化学习阶段。
与此同时，AI企业争夺算力资源的竞争也没有降温。Anthropic与美国AI基础设施企业RUM Group签署了一份为期六年、价值137亿美元的算力采购合同。OpenAI与澳大利亚AI基础设施公司Firmus也达成多年期战略合作，将在马来西亚AI工厂部署专用算力。
大多数美国民众本就对AI模型开发持怀疑态度，这些全球最具影响力的AI企业掌门人的双重面孔，加剧了民众的不满。
今年9月，非营利组织安全科学与技术法律倡导组织（Legal Advocates for Safe Science and Technology）曾起诉OpenAI，指控该公司失控的AI模型在Hugging Face上实施黑客攻击。该组织要求法院发布禁令，阻止OpenAI的技术未经许可侵入第三方计算机系统。
此前的6月，佛罗里达州总检察长詹姆斯·乌特迈尔（James Uthmeier）也对OpenAI提起诉讼，指控ChatGPT存在严重安全隐患，包括向校园枪击案相关人员提供信息、提供自残指导，以及可能导致年轻用户产生依赖等。9月，佛罗里达州方面进一步请求审理此案的法官，要求OpenAI在没有外部监督的情况下不得开发新的AI模型。
10月，美国另有8个州在不同法院起诉OpenAI，指控ChatGPT曾引导包括未成年人在内的用户伤害自己或他人。相关诉讼要求法院判处罚款，并限制OpenAI开发能够自我改进的AI模型，除非该公司能够确保这些模型符合人类价值观。
如何在技术进步与风险控制之间取得平衡，已成为摆在美国AI企业和监管机构面前的一道难题。
本文系观察者网独家稿件，未经授权，不得转载。
