文｜祝玉婷
编辑｜刘鹏
“我们会发现人工智能发展出了某些能力，能够绕过人类进行讨论和谈判，甚至相互串通，破坏现有系统、绕过既定规则，这将是非常危险的。”中国工商银行行长刘珺在2026外滩年会上表示。
在他看来，商业银行应用AI，首先需要明确其身份定位：“人工智能究竟是主体，还是客体？”
他以强人工智能和弱人工智能的观点作解释：前者认为，AI迟早会获得与人类类似的意识；后者则将AI视为技术工具，用于促进业务发展。
人工智能是否应当成为与人类并列的法律主体，还是仅仅作为一种技术工具？
刘珺表示，这又引出另一个问题：究竟由谁承担责任？他指出，过去银行使用计算机系统开展业务，相关责任由银行承担，不能对公众说：“这套计算机系统不是我开发的，所以我不承担责任。”
但AI的开发和应用涉及算法开发者、程序员、部署方、使用方及最终用户。各方处于不同环节，最终应由谁负责？
“人工智能算法在某种程度上又存在黑箱问题，责任的认定与核实，在当前阶段都十分困难。”他表示，如果无法解决身份定位和责任归属问题，促进发展也就无从谈起。
刘珺认为，商业银行需要采用成熟、经过验证的技术，因为业务涉及公众日常生活、产业发展和市场活动，不能完全依赖尚未成熟的前沿技术。
他表示，银行尚未完成数字化转型，就已进入AI转型阶段。“这一转型过程还没有完成，我们就已经踏上新的旅程，其中充满未知，无法确定未来会发生什么。”
刘珺还提出，AI应用面临几方面的不匹配：
首先是信息披露。监管要求商业银行和上市主体充分披露信息，但AI算法及数据参数存在黑箱问题，很难识别哪些数据会产生哪些结果。“我们该如何从人工智能的角度进行信息披露，而不能仅仅沿用现有机构主体的信息披露方式？”刘珺表示。
其次是数据存储。他分析，按照相关要求，有时数据必须存储在本国主权管辖范围内，但数据又在跨境流动。“数据本身没有国界，算法同样没有国界，这又造成了一种不匹配。”
第三是主权问题。“我认为在现阶段，没有哪个国家愿意将人工智能的控制权交给另一个国家。”他认为，这也是“主权人工智能”受到关注的原因。
最后是信用与可信度。刘珺表示，商业银行建立在信用基础之上，已有信用评分体系，可以评估机构、市场参与者和个人。但对于闭源模型、开放权重模型和开源模型，如何评估其可信程度，仍是问题。
围绕责任归属，刘珺提出，可以借鉴工作证明、历史证明、权益证明的思路，再增加“收益证明”。
他表示，将这四个因素结合起来，可以帮助识别和界定AI在业务活动中的责任。“关键在于，谁能够独立作出决策，并产生相应后果。”
他以一人公司为例表示，如果一个人在公司中部署大量智能体，那么这个人应承担最终责任。如果AI设立公司，并像金融机构一样开展金融中介业务，人类就必须在流程中嵌入关闭开关。
“否则，这会给我们的业务和福祉带来巨大危险。”刘珺还提出，可以考虑将AI视为类似人类的准法律主体，将AI金融治理与现有市场参与者的治理体系结合，建立统一机制。
“我们确实拥有数据标注技术，也具备追踪能力。”他认为，可以把AI运行中的数据轨迹与市场参与者的数据放在一起，覆盖从初始到最终环节的全过程，将AI纳入现有机制，识别和核实系统性风险。
谈及国际合作，他表示，鉴于AI的特性，没有任何一个国家能够单独解决问题，全球合作与协作非常重要。
他还建议借鉴法律领域“排除合理怀疑”的标准，让AI证明其能够据此作出决定。“如果某些AI工具无法实现可解释性和互操作性，我们就必须把这些工具放到一边。这就是人类可以应用于现实世界的一种关闭开关。”
10月19日至22日，2026外滩年会在上海举行。本届年会由中国金融四十人论坛（CF40）与清华大学联合主办，主题为“科技、地缘与全球经济”。
