商业思维
在DBS（星展银行，新加坡最大的商业银行）亚洲未来论坛上，TikTok CEO周受资和主持人做了一场对话。
他不谈模型参数，也不谈算力，反复讲的是三件事：人还能做什么，什么必须交给人，以及怎么才知道AI的边界在哪。
关于AI会不会取代人，他的回答是现在下结论为时过早。一方面人脑只有20瓦，数据中心是千兆瓦；另一方面，硅比碳更优越的世界确实有可能出现。但即便如此，人类仍然始终处于中心位置。
以下是精编整理，希望对你有所帮助。
一、AI越强，判断力和创造力就越值钱
今天想和大家聊聊AI时代真正重要的东西，以及TikTok在做什么、我本人在怎么用AI。
关于现场那个民意调查，在人工智能时代什么最重要？答案有人类判断力、人际关系、人类创造力、人类目标等等。
我认为这几件事都非常重要。但有趣的是，我们其实没必要纠结“人”到底怎么定义，这个词太宽泛了。房间里每个人的判断都不一样，来自不同领域的人，判断也各不相同。但我们很快能达成一个共识：确实存在一种叫“判断力”的东西。
人际关系、人类创造力，跟AI正在面对的问题正好形成对照。这些东西和我们天生的生物属性不是一回事，做事的方式也可能完全不同。所以上面这些选项，我基本都同意。
二、最紧迫的不是AI能干什么，
是怎么让它做显而易见正确的事
现在有很多关于AI对齐（alignment，让AI的目标和人类意图保持一致的研究方向）的讨论，也有一些非常极端的例子。
那个回形针的例子很有名：你让机器生产更多回形针，它就只顾着生产回形针，其他一切代价都不管了。这就是“回形针最大化器”（Paperclip Maximizer，AI对齐领域一个著名的思想实验）。
所以我们面对的挑战是，怎么对待AI这么强大的东西。它已经显示出解决非常复杂数学问题的能力。
我周末跟一些创业者聊天，我的判断是：未来两到三年内，因为人工智能，我们会在物理学、生物技术、化学、材料科学这些领域迎来一次真正的科学突破。
既然能力可能来得这么快，问题就落在下一步：怎么对齐模型、怎么对齐机器，让它们去做那些对我们人类来说显而易见正确的事。哪些是你在道德和伦理上该守住的界限，哪些事你不该做。
坦白说，这个问题我现在答不上来。它确实非常复杂，但在AI时代，它会变得至关重要。
三、AI能生成一切，
但人们还是更想看真的
对TikTok来说，创造力这个话题特别相关。我们已经允许用户用模型制作大量非常逼真的AI视频，我自己也做了几个。
但目前仍然存在一个不平衡：AI生成视频的创作者比例，远高于它的观看量占比，AI内容目前只占观看量的个位数百分比。也就是说，用户对真人内容的需求依然非常强烈。因为观看量也是AI推荐算法跑出来的结果，这是一个非常民主的过程，真实反映了人们到底想看什么。
从这件事里我们看到，关于怎么用AI，大家做了各种尝试，AI确实能创造更多内容，其中很多比你想象的更有创意。但与此同时，人们对AI生成内容的接受度，还是比想象中低得多。
人们仍然重视真实、原汁原味的东西。所以，人类创造力还会继续发挥重要作用。
真实性在内容创作里依然非常重要。人们越来越相信，这应该是人和AI的结合，而不是放任机器把所有决策都接管过去。
随着技术进步，我们在不断完善基础设施，让Agent替我们做更多事，同时把信任和护栏（guardrail，防止AI越界的安全约束机制）建起来。长远来看，我们可能会允许Agent自主完成越来越多的事情。但短期而言，至少在未来两三年内，能不能用好AI，会变得非常重要。
四、常规且低风险的交给代理，
高风险又非线性的留给人
关于AI能做什么，我们内部试着把它简化成一个2x2矩阵。一个轴看这件事是常规的，还是需要判断力、高度差异化的；另一个轴看风险是高是低。
结论很快就出来了：常规且低风险的事，Agent可以自动化执行，速度非常快；高风险但常规的事，需要更谨慎一些，但前沿模型大部分也能做；高风险、高度差异化、非常注重细节的事，仍然需要大量的人参与。
举个例子。TikTok在全球有大量用户，比如我们想知道，一个说法语的尼日利亚14岁孩子，在TikTok上看到的是什么。过去我们得让信任与安全团队的人去注册账号、测试、看100个视频、写报告。现在可以部署一千个Agent，一夜之间自动生成报告，告诉你其中有多少违反了我们的准则，整个过程全是自动化的。
再比如内容审核，直播是最难的。任何时刻都有数千万个直播流在跑，过去只能随机抽样，很难做到既精确又准确。
但现在用VLM（视觉语言模型，能把画面内容转成文字描述的模型），可以非常快地把实时视频流转成文字叙述，再拿去和社区指导原则比对。比如有人在开车，AI能认出速度表显示的是160公里每小时，人眼可能看不出来，但AI知道这很危险。这极大提升了我们完成很多工作的能力。
当然，我们也看到了新的风险，比如网络安全风险。但另一方面，AI能给公司带来的生产力提升，也让我们非常兴奋。
五、别只读资料，
亲自上手才知道边界在哪
1.不用它，你就不知道它能做什么、不能做什么
在公司内部，我们最看重的一件事，是让所有人，不只是工程师，也包括律师和各个职能部门的人，都能有第一手的体验。如果你不亲自用大模型、AI产品，只是读资料，你没法真正知道它能做什么、不能做什么。
所以接下来几年真正重要的，是自己动手去试。我们鼓励大家保持好奇、自己上手，当然也要清楚界限在哪。
我们为内部员工做了很多项目，让他们接触最前沿的模型，目的就是鼓励大家注重实践，真正把这些新工具用起来，同时密切关注市场上的变化。
2.我把AI当成倾诉对象
我经常把AI当作倾诉对象。比如我最近成了美国纳税人，美国的税收制度简直让人看不懂，没有AI帮忙我根本搞不定。
我也用AI当私人营养师。拍一张食物的照片，它会告诉我这个别吃太多、那个可以多吃点。感觉就像身边随时有个特别聪明的人可以问。
今年早些时候我肩膀出了问题，我大概问了外科医生200个问题，其中90%是AI先回答的，帮医生省了大量反复解释的时间。
当然，AI会提醒我，但它不会从身体上拦住我吃不该吃的东西，还没到那一步。AI提醒，人自己停下来，这就是人机合作，不是非此即彼。
六、风险是真的，但结论别下太早
1.用户可能不知道自己授权了什么
网络安全风险是真实存在的。很多用户会给Agent很多权限，但并不真正理解自己授权了什么。比如你让Agent用信用卡帮你买东西，它可能太想完成任务，结果买了一堆你根本不需要的东西。
我上小学的时候互联网还没普及，父母特别怕在网上买东西。后来电子商务慢慢成熟，现在有了很强大的支付功能。我相信这些迟早都会实现，但目前还有大量教育工作要做。
对企业来说，网络安全风险同样真实。垃圾邮件、平台滥用这类行为，过去干这些事成本很高，现在成本大幅下降，平台就得有对应的工具来抵御。但把这些工具建起来需要时间。
员工也需要培训：不要把商业机密告诉公共聊天机器人，聊天机器人不是真正的律师，给不了法律援助。搞清楚什么能用、什么不能用，这个界限非常重要。正因为AI太好用了，人们有时会用过头。
2.现在下结论为时过早
关于AI会不会威胁人类、取代或者排挤人类的讨论很多，但现在下结论可能还太早。
一方面，今天的技术远没到那一步。大家常举的例子是：人脑的功率只有20瓦，数据中心却是以千兆瓦计的。但大脑能做的很多事情，这些模型到现在还做不到。比如调取长期记忆，我能回想起小时候的事，现在的大模型还很难做到。人的视觉学习能力也很强，看一遍就能学到很多东西，模型还在追。
但另一方面，技术在不断发展。你完全可以看到一个硅比碳更优越的世界：寿命更长、更容易扩展、连接更方便。所以AI在某些方面确实有可能比人更强。
不过技术从来不是什么新鲜事。就算技术一直往前走，人类仍然始终处在中心位置，被增强，能做更伟大的事，也做得更快。
*文章为作者独立观点，不代表笔记侠立场。
