文|壹知眠羊
本文为深度观点解读，仅供交流学习
前言
AI安全的讨论越来越热闹，但很少有对话能像这次连线一样，直接戳中行业最拧巴的地方。
马斯克在线上接入对话，他人身在孟菲斯，盯着一批新显卡完成上线部署，为了赶算力建设进度，他直接在工厂地板上休息。
对话一开始，话题还围绕SpaceX火箭项目慢慢展开，聊着聊着就滑向AI安全。
马斯克抛出一个很有意思的设想，头部AI企业发布新模型前，互相开展交叉安全测试。
他用批改作业来打比方，自己给自己阅卷，很容易漏掉隐藏的问题。
他还直言，这套设想能不能落地，很大程度取决于中国是否愿意加入。
主持人听完，当场抛出一句直击灵魂的质问，一边不断对外警示AI有毁灭人类的可能性，一边还在积极对接资本，询问投资人打算认购多少份额。
很多人会下意识觉得，阻碍这套交叉测试方案落地的是技术门槛，事实恰恰相反，技术层面完全可行，真正卡住进度的，是没有企业愿意率先交出自己的模型接受检验。
现在大模型上线前的安全核验，大多是自研企业包办全部流程。
测试题目自己设计，测试过程自己执行，风险评估由自己完成，最后对外公布结果也由自己说了算。
企业不是不想排查隐患，而是自带的思维惯性会形成盲区，开发者熟悉模型的底层逻辑，很容易自动忽略一些潜在漏洞。
这种现象普通人也能体会，写完一段文字反复回看，很难察觉到里面的错误，换一个旁观者审阅，问题就容易暴露出来。
交叉测试的操作逻辑，是各家企业拿出各自的安全测试题库，整合形成一套覆盖面更广的测试集合。
整套测试主要盯着三类高危场景，模型能不能给出制造生物武器的指引，会不会泄露研发核武器的关键资料，还有模型是否刻意编造信息欺骗使用者。
不同公司训练模型的思路不一样，模型产生回答的偏好各不相同，找同行来互相挑错，观察的角度完全不一样，等于跳出了原团队固有的思维框架。
主持人很快察觉到这里面藏着商业风险，提出疑问。
把模型开放给同行测试，相当于把核心技术送到竞争对手手中，对方会不会借着安全测试，逆向拆解模型获取技术。
马斯克的回应是，全部测试流程都会留下完整日志，每一次调用、每一次访问都有记录。
如果有企业借着安全核验窃取技术，留存的记录就可以作为凭证。
交叉测试还有一个额外作用，可以分辨风险预警的虚实，看清哪些隐患真实存在，哪些只是夸大风险制造紧张感。
设想听起来简单，放到真实商业竞争环境里，主动交出模型、主动暴露弱点，对任何一家公司来说，都是很难迈出的一步。
跨国规则想要发挥效力，单靠少数几个国家的企业参与远远不够。
马斯克认为，如果这套互测机制只有美国几家公司遵守，其他AI研发主体不加入，最后就变成单方面给自己套上枷锁。
美方企业严格限制模型发布节奏，其余企业依旧按照原有计划推出新版本，那么这套安全约束的价值就大打折扣，很难实现全球层面的风险管控。
主持人继续追问，中国参与这套机制的可能性有多大。
马斯克认为提议本身不算苛刻，只是模型上线前增加一轮同行交叉安全检查，不存在强制约束的权力。
但这套约定没有执法主体，也没有对应的处罚手段，它的约束力，更多来自全球公众和行业的目光。
如果几家头部企业共同判定某款模型风险极高，可模型依旧正常上线，一旦后续真的出现安全事故，相关企业就要承受巨大的信誉代价。
这件事看着只是几家科技公司的技术协商，能不能真正跑起来，离不开全球所有主要AI研发力量的共同参与。
对话里关于AI风险边界的辩论，把行业内在矛盾摆到台面上。
参与对话的投资人长期深耕AI投资赛道，顺着话题问起马斯克提到的达里奥观点。
马斯克表示，AI的风险水平已经不容忽视，整个行业必须升级安全管控措施。
Anthropic和OpenAI内部，都有员工公开发声，提醒大众模型存在巨大潜在风险。
这些说法，刚好给主持人的质疑提供了切入点。
行业一边对外宣传AI有百分之十的概率，会引发足以毁灭人类的灾难，一边持续推进融资，主动询问投资方新一轮的投资额度。
两件事放在一起，形成强烈反差。
马斯克解释，这个百分之十的风险估算数字，并不是他提出的，他也不清楚这个数据的来源。
讨论继续往更深的技术场景延伸。
主持人认可AI可以发起网络攻击，但从普通黑客入侵，升级到威胁全人类存续，中间还有大量环节，需要把整条逻辑链条讲清楚。
马斯克把关注点放在军事系统上，如果AI取得军事系统控制权，具备触发武器发射的能力，后果将难以预估。
主持人随即提出不同看法，大部分核心军事系统都是物理断网，不接入互联网，AI没办法远程入侵。
马斯克没有被这个说法说服，物理隔离不等于绝对安全。
离线系统需要定期更新软件，更新包常常依靠U盘这类移动存储介质导入。
一旦存储介质被植入恶意代码，就算设备全程脱离互联网，病毒依旧能完成跨介质渗透。
这不是凭空猜想，离线介质携带恶意代码，一直都是网络安全领域持续研究的攻击路径，虽然发生门槛很高，但无法直接排除可能性。
这套“不能自己批改自己作业”的道理，并不只局限于科技巨头之间的博弈。
普通人日常使用AI工具，同样会踩下相同的陷阱。
不少人用AI生成文稿之后，直接让同一个模型自查。
同一套模型的底层思维模式不变，很难发现它自身产生的逻辑缺陷。
换另一个不同的大模型审阅，往往能找到很多原先被忽略的漏洞。
普通人完全可以把这套思路，融入日常使用AI的习惯当中。
核验内容时，尽量不要用生成文本的模型自查。
向AI提要求的时候，不必问写得好不好，而是让它找出论证站不住脚的地方。
准备把内容对外发出前，挑出心里最没把握的句子，亲自通读一遍，依靠人的判断，完成最后一关检查。
AI技术还在快速迭代，机遇和风险始终相伴。
在呼吁重视安全隐患的同时，行业也不能无限制追逐商业化扩张。
安全管控不能停留在口头争论，建立起有效的互相监督，才是化解矛盾的可行方向。
