北京师范大学 潘子珩
近日，央视记者调查发现，短视频平台上出现了一批由AI生成的“交警”“僧人”带货账号。“交警”站在事故车旁讲解如何自救，随后拿出一款“破窗神器”；“僧人”盘腿谈修行，账号橱窗里却在销售养生品和经书。中国信通院对其中一段视频进行检测，结果显示其AI生成概率为96%。北京互联网法院副院长仪军介绍，AI换脸、换声软件在一些黑灰产市场里十几元就能买到，利用AI捏造人设、冒用权威形象牟利的民事案件逐年增多。
2025年9月起施行的《人工智能生成合成内容标识办法》要求AI生成内容添加标识。添加标识有助于观众识别内容来源，但无法证明视频中的“交警”“僧人”具有相应身份，也不能消除制服、事故现场等画面元素造成的误导。报道中的一些视频还存在标识不醒目的问题——字号小、颜色浅，观众未必能够注意到。AI内容标识不能代替身份和资质审核，标注也不等于治理。
运营者选择交警、僧人等形象，是为了利用公众对特定身份的信任。交警与交通安全、执法权威相关，部分消费者也可能因僧人形象降低警惕。过去冒充警察，需要真人、制服和拍摄场景；如今，运营者输入几句提示词就能生成类似视频，省去了真人出镜和场景布置的成本，也便于批量发布。北京互联网法院法官封瑜在一篇报道里表示，这类内容对消费者的知情和选择造成了“不正当的干扰和误导”，青少年和老年人更容易受骗。
仅封禁账号难以阻止同类内容再次出现。商家、制作方和代运营机构如果没有被追查，运营者仍可能注册新账号继续发布。《中华人民共和国广告法》禁止广告使用或变相使用国家机关工作人员的名义、形象；《网络主播行为规范》要求医疗、财经、法律等专业领域主播取得执业资质，AI合成的虚拟主播参照执行。平台发现冒用职业或宗教身份带货的内容后，应下架视频，暂缓结算相关收益并保存交易、投流记录。商家、制作方和代运营机构明知或参与造假的，应依法追责。
平台应在账号开通商品功能前完成身份核验。使用警察、医生、僧人等身份进行商业推广的账号，应提供可核验的身份证明；涉及执业资质的，还需提交相应材料。平台还应核对账号主体与商品经营者的关系，并将认证信息与商品和结算账户关联。无法证明身份的账号，不应以相关身份推广商品。
AI降低了冒用公共身份的成本，也伤害了公众信任。用AI虚构特定身份带货，不仅会误导当下的消费决策，更会埋下长久的信任隐患——当虚假身份泛滥，公众面对真实信息时，也不得不多一分审慎与猜忌。公共信任来之不易，不该被当作随意透支的营销资源。
