本文来自微信公众号： 不懂经 ，作者：不懂经也叔的Rust
最近看到一件很有意思的事，说硅谷一些年轻的AI研究员，原本不抽烟的，现在纷纷抽起烟来。为什么，因为他们判断，再过几年，AI就能够治愈癌症了。
可能很多人会觉得很扯，但考虑到这是硅谷，也就见怪不怪了。
最近社保的话题很火。让我想起之前发的一篇文章，想再分享一下。翻出来一看，发现都快两年了。
这大概是ChatGPT-4o发布的时候，现在它已经下架了。AI给人的感觉太强了，一个美国妇女，带着哭腔发了一条推文，让她妈不要再为未来存钱了，因为她们现在所设想的未来已经不存在了，一切都将不一样了。
她用了一个很形象的说法，就像诊断出一种无法治愈的癌症。有意思的是，两年后，另外一批人认为，AI要根除癌症了。
因为AI，硅谷人对未来的设想和安排真的是让人眼界大开。
有人在建造地堡和生物防务所。有人已经不打算再存钱了，而且要花光自己的退休积蓄，因为，“我很难想象一个世界，我所有的钱都静静地躺在那个账户里，一直等到我60岁，而到那时，世界的样子会如此不同。”
还有人不再注重智商和学习了，而是转向打造外表和外形，因为在AI面前，聪明已经没有意义了，你最好变得酷一点或者辣一点。
当时商业内幕杂志采访了一票人，总结了这些在科技前沿的人，对待AI未来的种种态度和安排，对普通人来说可能尺度有点大，但谁又能说得准呢？
至于社保，一个人应该有交或不交的自由和权利。就像抽烟，明知有害健康，但一个人愿意在自己的认知条件下，拿自己的身体去下注，那也是值得尊重的。
Bracing for all-powerful AI,techies are getting hot,spending their retirement savings,and building bunkers.
作者：Rob Price
亨利（Henry）是一位长相年轻的人工智能研究员。他认为，未来几年内，人工智能有大约50%的可能性变得无比强大和复杂，从而对全人类的生存构成威胁。在他的日常工作中，他正努力阻止这一切发生。他在湾区一个专注于安全的人工智能小型研究实验室工作。
他非常严肃地对待这项使命：他发誓不谈恋爱，以全身心投入这项事业，并将自己收入的三分之一捐赠给AI安全领域的非营利组织。业余时间里，他也在为任务失败的可能性做准备，建造DIY的生物防护所，以保护自己和家人免受AI引发的世界末日的影响。
在办公室的视频通话中，亨利告诉我，建造一个能够抵御由先进AI创造或协助创造的致命病原体的生物防护所非常容易。首先，你买一个现成的正压帐篷，就是那种通常用作植物生长室的帐篷。然后，在进气口前堆叠多个专业级的HEPA过滤器。最后，在里面塞满尽可能多的耐储存食品、水和物资。
亨利的生物防护所会“相当便宜”，他告诉我，“可能不到10000美元，包括我准备放进去的三年份食物。”他要求我使用化名，因为“末日准备者”（prepper）这个身份在社会上带有污名，特别是考虑到如果他的恐惧没有成真，人类最终安然无恙的话。
在将对AI最深的恐惧和希望付诸行动这方面，亨利远非个例。对于硅谷的某类人来说，AI不仅仅是下一个热门的技术浪潮，它还注定将很快从根本上改变我们的社会。对他们而言，几乎没有时间在Slack频道和晚宴上闲聊通用人工智能AGI的未来可能性了。
彻底变革的时刻就是现在。理性主义者（Rationalists）——一个与硅谷关系密切的哲学流派，致力于提升人类的理性和道德——越来越担心所谓的AI风险。而在另一边，初创公司的拥护者们对这项技术的预测则变得愈发热情洋溢。
一些人相信，我们正处在一个超级富足时代的黎明，在这个时代，几乎所有的智力劳动都可以被自动化，从而开启一波前所未有的人类繁荣浪潮。他们正在接受一种他们称之为“从聪明到性感”（smart-to-hot）的生活方式转变。
另一些人则在为经济灾难做准备，并据此进行重大的投资和职业变动。还有一些人认为AI将不可避免地挣脱人类的控制，并获得杀死所有有机生命的能力。他们正在花掉自己的退休储蓄，举办“诡异的狂欢派对”，以及建造生存地堡。
“我们中的许多人回首未来两年，会发现那本是我们能有所作为的时刻，”亨利说。“很多人回首往事时会想，‘当我还有机会的时候，为什么我没有辞掉工作，去尝试做一些真正重要的事情呢？’”
2024年，当阿普尔瓦·斯里尼瓦桑（Apoorva Srinivasan）结束一段长期关系后，她意识到，由于AI的发展，她对男性的要求有了一些微妙的变化。
斯里尼瓦桑是洛杉矶的一位生物医学研究数据科学家。她告诉我，过去她总是被某一类聪明的男性吸引，更看重才智而非传统的外貌魅力。
现在她认为，由于生成式AI正在取代越来越多人的智力劳动，纯粹的智力对她来说已经不如魅力、社交能力和外貌吸引力重要了。或者正如她最近在一个半病毒式推文中开玩笑说的那样：“如果你聪明，那就转型变得又酷又性感吧。”
我为这篇报道采访的许多人都持有类似观点：因为AI将很快取代大部分的脑力活动，所以社交生活将变得对人类社会更为重要，而拥有出众的外貌将在其中变得对个人发展至关重要。头脑的时代结束了，美貌和肌肉的时代来临了。
“我一直都很喜欢健身，”佛罗里达州的科技企业家索伦·拉尔森（Soren Larson）说，“而且我相当认为，当AI能做所有脑力活的时候，性感、风趣、幽默将成为稀缺特质。”
随着AI逐渐取代更多的脑力活动，一些人认为，外表性感将对在社会中获得成功变得愈发重要。
AI顾问贾森·刘（Jason Liu）告诉我，他“已经完成了那个转型”。几年前，一场使他手部衰弱的重复性劳损损伤让他作为软件工程师的职业生涯陷入停滞。他重塑了自己的生活，投身于柔术和陶瓷等休闲爱好，并开创了作为顾问的第二职业，试图优化授权和社交的自由时间，而不是拼命工作。“我个人不想因为我的智力而被评价，”他说。“我觉得，正是这种智力在身体上伤害了我，并导致我失业。”
当我们通电话时，他正在巴黎的街头漫步，这是他漫长国际旅行的一部分。“真正拥抱休闲，差不多就是我思考AGI的方式，”他说。
我遇到的其他人则不是因为对AI的希望，而是因为恐惧，正在重塑他们的社交生活。
“如果我们都将被一颗原子弹摧毁，”C.S.刘易斯（C.S.Lewis）在1948年写道，“那么当那颗炸弹来临时，让它发现我们正在做着明智而有人性的事情——祈祷、工作、教书、阅读、听音乐、给孩子们洗澡、打网球、和朋友们一边喝着啤酒玩着飞镖聊天，而不是像受惊的羊一样挤在一起，满脑子只想着炸弹。”
在我与那些关心AI影响的人的交谈中，有好几个人明确引用了刘易斯的这句话，并且许多人在如何珍惜当下时光方面表达了类似的情感。
“从某些方面来说，这真的很解脱，”艾拉（Aella）——一位在旧金山湾区的恋物研究者和性工作者，在X（前身为推特）上拥有大量忠实粉丝，在谈到她对AI发展的担忧时告诉我。
“我喜欢举办诡异的狂欢派对，然后我想——好吧，反正我们都要死了。我们还能搞出什么更诡异、更激烈、更疯狂的派对呢？现在就做吧。”
当我们坐在光之港——一个位于伯克利（Berkeley），由一家俗气的旧旅馆改造而成的理性主义运动知识分子园区——的人造草坪上时，她谈到了她对AI可能如何毁灭人类的恐惧。“我无法一次性面对这一切，”她说。“我只能用眼角的余光瞥见那个庞然大物，然后在可以的时候为之悲伤，但我没有足够的情感能力去真正吸收它。”
因此，她更加活在当下。她正在逐渐花光自己的积蓄。她减少了锻炼。她尝试了她本会避免的“硬性毒品”[译注：指成瘾性强、危害大的毒品]。尽管担心有痴呆风险，她还是服用了更多的安眠药。她正在冷冻大量的卵子；“我只是想尽可能多地弄一些，为了好玩。”
在旧金山的德洛丽丝公园（Dolores Park），风险投资家维沙尔·梅尼（Vishal Maini）也告诉了我类似的事情，尽管可能没有那么极端。“我认为，围绕这件事抱有一点‘遗愿清单’的心态是合理的，”他说。“在我们拥有的时间里，做对你来说重要的事情。”
我们一边喝着花草茶，梅尼一边向我阐述了他对未来几年的心智模型。他不确定我们是正在走向一个人类能力被AI极大增强的未来，还是一个人类被这项技术“淘汰”的更黑暗的未来。
在这种不确定性中，他提倡“原始未来主义”（paleo-futurism）：在一个充斥着极具吸引力、无限个性化的数字内容的世界里，有意识地优先考虑人际互动。“当我们进入AI伴侣和多巴胺日益丰富的数字体验时代时，我们面临这样一个选择，”他说。“你是要一路走进元宇宙，还是留在现实世界？”
对霍莉·埃尔莫尔来说，对AI的担忧更深刻地影响了她的生活：这促成了她离婚的决定。在旧金山米申区的一家咖啡店里，她告诉我，她和她的丈夫都深切地意识到不受约束的AI发展的风险，但在如何遏制它方面有不同的方法。
埃尔莫尔是反AI抗议团体“暂停AI”的执行董事，她认为，坚定地组织群众对抗像OpenAI这样的大型实验室是唯一可行的前进道路，而她说她的前夫罗尼·费尔南德斯对此“不支持”。
“我们有很多问题，我可能本不该进入那段婚姻，但事情变得非常清楚，如果我们还在一起，我就无法继续做‘暂停AI’的工作，”她说。“我对此有非常强烈的道德信念，它很好地整理了我生活中的优先事项。老实说，我喜欢那样生活。”
“我确实认为，试图利用羞辱和宣扬‘圈内圈外’（in-group out-group）思维来实现政策目标的做法，历史记录相当糟糕，”光之港的经理费尔南德斯在电子邮件中写道。“这些分歧导致了我们双方的怨恨，并最终促成了我们的离婚。”
虽然他认为将AI扩张的实验室塑造成“政治敌人”很可能会适得其反，但他强调，“在几十年内，比人类更聪明的AI很有可能会杀死几乎所有人，或者导致更糟糕的后果。”
对于另一些人来说，他们对AI的梦想和最深的恐惧已经改变了他们对待金钱的方式。2020年的某个时候，当时28岁的丹尼尔·科科塔伊洛（Daniel Kokotajlo）停止为退休储蓄。
这位AI研究员越来越担心AI可能对人类构成的生存威胁。他从2022年起在OpenAI工作，直到2024年因担心公司处理AI安全问题的方式而辞职，他现在仍在继续从事这方面的工作。
今年早些时候，他发表了一篇广为流传的在线文章《AI 2027》，探讨了AI的快速发展可能如何导致多种“失控”情况，从2020年代末因AI军备竞赛引发的世界大战，到2035年因AI在全球释放致命化学喷雾导致人类灭绝。
他推断，在这些威胁面前，既然未来几年都越来越不确定，为什么还要费心为几十年后储蓄呢？“我有一笔可观的钱，特别是来自股权的，但我计划把它花光，”他在伯克利的一家咖啡店告诉我。“我计划每年拥有的钱都比上一年少。”他说他知道还有很多AI研究员也在做同样的事情。
在德瓦克什·帕特尔（Dwarkesh Patel）的热门科技播客最近的一期节目中，OpenAI的竞争对手Anthropic的研究员特伦顿·布里肯（Trenton Bricken）也分享说，他也已经停止为退休存钱了，因为他相信AGI正在迅速临近。
“我很难想象一个世界，我所有的钱都静静地躺在那个账户里，一直等到我60岁，而到那时，世界的样子会如此不同，”他说。
科技行业的其他人则对他们的金钱采取了截然不同的态度。在一些对未来最看涨的人当中，普遍存在一种恐惧，认为只剩下几年时间来尽可能多地赚钱，“在音乐停止之前”，也就是当人类的智力劳动变得基本过时的时候。
“我们只有几年的时间来争取在财务上成功，”中西部一位以笔名“红手机”（Redphone）写作的加密货币作者说。“如果你做不到，你的血脉可能会被贬为这些控制AI的技术霸主统治下的某种农民阶级。”
哈龙·乔杜里（Haroon Choudery）是Facebook的前数据完整性分析师，现在经营着一家名为Autoblocks的AI初创公司，他也有类似的担忧。他5岁时从巴基斯坦移民到美国；他的父亲是出租车司机，母亲则是在家工作的家庭主妇。
他将未来几年视为为自己和孩子创造代际财富的最后机会。“从向上流动的角度来看，机会将感觉稀缺得多，所以人们的社会经济地位将普遍固化，”他告诉我。
AI对冲基金AlphaFund的高管梅西·布兰斯科姆（Massey Branscomb）用更直白的方式向我阐述了这个概念：“如果你没有将自己定位为这些关键公司的核心成员，”他指的是像OpenAI和Anthropic这样的顶级AI实验室，“而你过着一种——这个词很讽刺，叫‘工薪仔’（wagie）的生活，那么你可能就会被裁掉，然后情况会变得更糟。这些工作是不会再回来的。”
其他人则不那么确定AI会很快颠覆全球经济。作为范德比尔特大学（Vanderbilt University）的哲学助理教授，大卫·索斯塔德（David Thorstad）可以被视为一个“工薪仔”。但他告诉我他并不太担心。
虽然由于AI的不确定性他增加了储蓄额，但他敦促对任何宏大的预测持谨慎态度。“我认为有很多社区，”他说，“特别是在湾区，那里有很多非常聪明、志同道合的人一起生活、工作，阅读类似的论坛和播客，当他们完全沉浸在一种关于AI的极端世界观中时，往往很难从中摆脱出来。”
然后还有一些人，他们不只是在为AI驱动的金融末日做准备；他们是在为AI驱动的末日中的末日做准备。
乌尔里克·霍恩（Ulrik Horn）一直对“社会问题”感兴趣，这让他在2008年从宾夕法尼亚大学毕业后投身于可再生能源领域。但近年来，这位常驻斯德哥尔摩的企业家开始担心另一种问题：生物安全。
霍恩担心“镜像生命”（mirror life），这是一个新兴的生物学研究领域，涉及创造自然界生命的镜像形式。具体来说，他担心AI可能会帮助加速该领域的研究，并可能导致毁灭性的生物武器。他相信，AI发展出这种能力还需要五到十年。
在为研究生物威胁防护筹集了慈善资金后，他创立了Fonix——一家制造带有高级空气过滤器的现成生物防护所的初创公司。花39000美元，你就可以买一个可以在灾难来临时，在家中搭建的防护所。他说，他已经收到了少量预订单，预计2026年发货。
亨利说，在AI赢得与人类的战争后，“也许它们会照顾幸存者，把人类放进某种人类动物园。”
霍恩并不是唯一一个将所谓的AI威胁视为商机的人。威奇塔州立大学的商业分析助理教授罗斯·格鲁策马赫，正在创办一家“弹性”（resiliency）咨询公司，帮助企业和个人为因AI和其他生存风险导致的重大冲击做好准备。他还在怀俄明州购买了土地，计划在那里建造自己的安全设施。
詹姆斯·诺里斯（James Norris）是一位长期担心各种人类威胁的企业家，他最近搬到了他所说的位于东南亚一个未公开地点的“生存避难所”，并且也在为他人提供咨询服务和建立避难所的帮助。
诺里斯还告诉我，由于他相信AI将对世界造成严重破坏，他已经发誓不要孩子。
尽管有他个人的恐惧，前OpenAI研究员科科塔伊洛对任何试图在今天就为糟糕的AI结局做激进准备的尝试都持严重怀疑态度。“我认为更有可能的情况是，要么我们都死了，要么我们都好好的，”他说。
“我想如果我花几个星期，我可以准备一个应急包，建一个生物防护所之类的，然后在未来极小一部分的可能性中，它能救我的家人。但对我来说，做好我的本职工作比做那些事更重要。”
在我第一次和年轻的AI安全研究员亨利聊天几周后，我通过电子邮件跟进。他改变了主意，不再试图建造一个DIY的生物防护所了。他断定自己之前的想法格局太小了。
相反，他现在正试图在加州买地，在那里他可以建造更永久的防御结构，以保护更多的朋友和家人。“我主要考虑的场景是，失调的超级智能AI接管了世界，”他说。
他希望为一个不久的将来做好准备：一个全能的AI对人类发动战争，但“AI还保留着一点点同情心。”他总结道，一旦AI赢得了那场战争，“也许它们会照顾幸存者，把人类放进某种人类动物园。而我宁愿住在人类动物园里，也不愿被生物武器杀死。”【懂】
