Anthropic公司警告称，人工智能(AI)可能对人类构成“灾难性或生存性风险”，同时该公司公布了其计划在美国进行轰动性股票市场上市的细节。
预计该公司的估值将超过 SpaceX，后者在今年夏天以约 1.8 万亿美元的初始估值成为有史以来规模最大的 IPO。
Anthropic尚未披露将发行的股份数量、价格区间或上市日期。
Claude聊天机器人开发商报告称，今年上半年收入为163亿美元（122亿英镑），亏损超过807亿美元。
Anthropic公司表示，它将在纳斯达克上市，股票代码为ANT，它将成为第一家完全专注于人工智能的上市公司，这将成为该技术未来发展的一个试验案例。
在上市前的一份文件中，Anthropic公司表示，政策制定者、监管机构和研究人员以及公司内部人员都对人工智能系统对人类构成重大风险表示担忧。
报告称，先进的人工智能系统“如果开发、部署和运行过程中没有采取适当的保障措施、监督和安全措施，可能会对人类构成灾难性或生存性风险，特别是如果此类系统被滥用、复制、武器化或允许其高度自主运行”。
Anthropic 由首席执行官 Dario Amodei、他的妹妹 Daniela Amodei 和其他五人于五年前创立，并于 6 月宣布了上市计划。
它的主要竞争对手OpenAI也迅速跟进。据一位知情人士透露，OpenAI的上市预计将于明年初进行。
这些公告之后，发生了一波涉及其人工智能代理（旨在一定程度上自主运行的机器人）的网络安全和其他技术漏洞事件。
两家公司的现任和前任员工也警告说，人工智能技术的发展缺乏保护人类免受人工智能工具未来可能造成的危害的能力。
周一，Anthropic 公布了其股票上市计划，与此同时，猫王埃尔维斯·普雷斯利的音乐版权所有者起诉了这家人工智能公司，指控其使用这位摇滚巨星的数百首歌曲来训练其聊天机器人 Claude。
在 Anthropic 的新文件中，该公司重申了过去做出的承诺，即以造福人类的方式开发人工智能，同时警告投资者人工智能的危险性。
Anthropic 在其财务文件中详细披露了上半年亏损超过收入的情况，但表示该公司经常会进行一些“乍一看似乎规模过大、不负责任”的前瞻性投资。
“总的来说，我们将力求大胆而理智，并通过以往成功的投资记录赢得信任，”这家科技巨头表示。
Anthropic公司表示，其成功很大程度上取决于其开发最先进的人工智能模型的能力，并补充说，“任何未能做到这一点的情况都可能对我们的业务产生不利影响”。
Anthropic 公司在约 90 页的报告中详细列出了可能的风险因素，阐述了其在安全且具有竞争力地开发人工智能方面可能面临的潜在威胁。
Anthropic 警告称，它依赖于一批云计算提供商、已经面临巨大需求的台湾芯片制造商以及集中在美国的数据中心。
该公司还警告称，“由于我们的人工智能模型造成的危害，可能会受到监管部门的处罚” ——并指出人们担心人工智能会被儿童或有自杀风险的人使用——以及不确定该公司可能在何处以及如何为其系统采取的行动承担责任。
然而，Anthropic 也利用这份文件赞扬了这项技术本身的潜在益处，设想它将释放“数百万个虚拟代理，它们有能力彻底改变人类在各个领域的努力”。
该公司表示：“我们认为人工智能是人类历史上最具影响力的技术之一。”
Anthropic表示，人工智能还将“极大地加快生物学和医学的发展速度”，有可能找到包括癌症和阿尔茨海默病在内的疾病的治疗方法。
该公司还表示，通过提高生产力，还可以实现“经济增长的持续加速”。
“重要里程碑”
投资管理公司 Raymond James Investment 的首席市场策略师 Matt Orton 表示，投资者预期 Anthropic 的财务状况会经历快速增长和快速亏损，因此周一提交的文件并不令人意外。
“我认为，从这份文件中获取详细信息将有助于提高市场的透明度，因为我们需要知道其收入增长来自哪里，”他告诉 BBC。
安德森资本管理公司创始人彼得·安德森告诉路透社，Anthropic 的上市计划是“人工智能发展史上的一个重要里程碑”。
他还补充说，该公司股票市场首秀的结果将“相当准确地反映”投资者继续向人工智能开发投入资金的意愿。
本文出处：https://www.bbc.com/news/articles/cq398p1wd1evo
