同一件商品，两个人打开同一个平台，看到的价格可能不同；刷过一条视频，首页就开始接连出现相似内容；投出一份简历，收到的回复只有一句“与岗位要求不匹配”……
这些看似不相关的经历，背后可能都有算法参与。
算法帮助我们从海量信息中找到所需，也在决定：什么排在前面，什么被我们看见，什么机会先到谁手里。
近日，联合国人工智能独立国际科学小组成员、上海人工智能研究院院长宋海涛，在 2026 科普中国说“安而不忘危，AI时代的智慧与安全”专场活动为大家带来演讲《看不见的偏见：算法如何影响我们的生活》。
隐蔽的风险——算法偏见
不管是系统被黑、视频造假、数据被乱传，还是 AI 答错了，我们多少都能觉出点不对劲，但生活中还有一类更隐蔽的风险——算法偏见。
所谓“算法偏见”，大家在平台上浏览、点击、搜索和购物时，每一步都在保留数据。算法拿这些数据来预测、筛选、排序，并且呈现给我们最终结果。算法偏见，就是因为数据有偏差、规则有问题，导致一套规则在做出选择时，持续让一些人处于不利位置。比如谁排在前面，谁更容易拿到机会。
算法偏见看不见，可它影响到的，都是具体的人。而且这事儿不分国界——算法能跨国跑，偏见也能。
图片由AI生成
图片由AI生成
问题一：同一件商品、同一趟航班、同一段打车，两个人同时打开同一个APP，价格会不会一样？
答案是不一定。
平台可能给不同用户发不同优惠券，也可能按会员等级、渠道、库存和供求给出不同价格——这些差异不一定都是偏见。真正要警惕的是另一种情况：平台根据浏览记录、消费频次、设备型号、地理位置，推断愿意付多少钱、多大概率不换平台，然后给一个别人看不到的价格。越频繁买某类商品，优惠反而可能越少；越在固定时间打车，相同路段价格反而可能越高。以为在货比三家，其实算法可能在“人比三家”。
风险在于这种行为建立在对支付意愿的推断上，而用户看不到定价依据，不知道是否被差别对待，也难以选择或申诉。偶发差异可能只是运营，但长期、系统地落在同一群人身上，让他们在不知情、无从纠正的情况下处于不利，就滑向了算法偏见风险。
问题二：一个人看了一条视频后，首页会发生什么变化？
答案是：接下来刷到的，很可能越来越像刚才那一条。
今天多数内容平台用的都是同一类推荐机制，业内叫“千人千面”：同一个应用，不同的人打开，看到的内容完全不同。它甚至不需要搜索，只要看完、多停几秒，系统就记住了。当然，两个人看到不同内容、各看所需，本身不是偏见，这是推荐算法的产品能力。
我们需要警惕的是：算法根据人们的点击和停留判断兴趣，不断投喂相似内容，看到的信息越来越符合原有的情绪和观点，其他信息逐渐退出视野。当相似信息反复出现，人们容易把算法筛选后的局部信息，当成外部世界的全部。这就是“信息茧房”。
当这种收窄发生在健康、公共安全、投资、公共政策等需要全面判断的领域，它就从产品能力滑向了偏见风险。
可以说，算法推荐正在影响一个人怎样理解现实。
问题三：算法偏见进入招聘领域，会发生什么？
一家国际科技企业曾开发一套实验性智能招聘工具，用过去十年简历做训练，给新求职者打分。由于过去应聘技术岗的多是男性，系统把男性求职者常见的特征识别成了优势。后来研发人员发现：简历里出现与女性有关的词语，评分就被压低。最终这套招聘工具的研发项目被终止。
开发人员从没设置过优先录用男性的规则，问题出在训练数据：过去男性录用得多，算法就把这个历史结果当成了选人依据。
现实中的招聘系统还可能按年龄、学校、工作年限、职业空档期筛简历，求职者最后收到的，通常只有一句“与岗位要求不匹配”。当过去的用人偏好进入训练数据，刻板印象就可能以评分和排名的形式延续。
算法没有意图，但它会继承历史的偏见。
这三个案例，一个是价格、一个是信息、一个是工作机会，背后却是同一个问题：算法越来越多地参与信息、资源和机会的分配。没有造假与针对，只是根据过去的数据，把不同的价格、内容和机会，分给不同的人，而被分到后面的人，根本不知道自己排在后面。
图片由AI生成
机器没有情绪，偏见从哪里来？
那么，机器没有情绪，为什么还会产生偏见？
第一，偏见来自“数据”。算法学的是过去发生过的事。比如刚才所说的招聘场景，那套招聘工具学到的是“过去十年什么样的人被录用了”，而不是“什么样的人能干好这份工作”。历史上如果某些群体机会本来就少，那这种差异会进入数据，训练数据里样本不足，算法对他们的判断就会失准。
第二，偏见来自“算法目标”。任何算法都需要一个目标：内容平台追求更长观看时长，购物平台追求更高成交量，招聘系统追求更快筛选速度。这些指标便于计算，却只反映现实的一部分。观看时长不等于内容价值，成交量不等于消费者利益。信息茧房的根源就在这里——系统要的不是让你看得更全面，而是看得更久。
第三，偏见来自“标签和分类”。为处理海量信息，算法会给人贴标签：比如高消费用户、价格敏感用户、高风险用户……这些标签提高效率，也过度简化人。人的需求会变、能力会增长，但算法按过去行为贴的标签，可能一直跟着你。
第四，偏见会在运行中被放大：内容被推得多，点击就多；点击多，系统就认为它更受欢迎，继续推荐。很小的初始差异，经过不断的重复，就变成固化结果。
算法偏见
会把我们带向哪里？
图片由AI生成
面对算法，
普通人可以多做哪几步？
减少算法偏见，需要开发者、平台和治理者共同努力。对普通用户来说，也有一些可以主动采取的做法。
买东西时多做一步横向比价。不要只在同一个平台反复看——你越反复浏览、越像“非买不可”，留给系统判断支付意愿的信号就越多。换平台、换设备，或者用无痕模式再查一次。不敢说这一定能查出差别，但至少是一种验证的方法。
主动管理自己的信息食谱。多数平台都有关闭个性化推荐的开关，也有查看、删除兴趣标签的入口，花几分钟清理一次，收到的内容会有明显变化。更重要的是，碰到健康、公共安全、投资、公共政策这些事，别只看推荐页——主动搜索，多找几个信源对照着看。
遇到影响重要权益的自动决策，可以要求人工介入。招聘、信贷、公共服务这类场景，如果系统给出不利结果，可以询问依据、咨询人工复核，通过申诉渠道反映。每一次询问都会被记录，这些记录也是推动改进的力量。
算法本身不会主动判断公平。它怎么对待我们，取决于我们怎么设计它。对个人，它关系能不能拿到公平的机会；对国家，它关系能不能平等参与发展。
全球人工智能治理既要关注技术能走多远，也要关注每个人能否跟得上、用得好、得到公平对待。只有看清算法怎样影响具体的人，规则才有意义。
算法不会自动向善。公平，需要人为设计。
策划制作
演讲人丨宋海涛 联合国人工智能独立国际科学小组成员、上海人工智能研究院院长
责编丨杨雅萍
