种种迹象表明确实如此，一家律师事务所的经历就足以说明问题。
© Kenneth Andersson
今年早些时候，正值盛夏，Addleshaw Goddard 律师事务所陷入了一点小麻烦。
这种情况越来越常见，该公司在其人力资源部门发布的IT职位招聘广告吸引了大量求职申请。
一年前，像这样的职位可能只有二三十人会投递简历。但人工智能让求职过程变得更加快捷方便，这次一共收到了178份申请。
问题在于，筛选简历的时间越长，优秀候选人找到其他工作的可能性就越大。和许多机构一样，Addleshaw 一直鼓励其管理人员测试人工智能如何安全地改进流程，因此公司的人力资源部门决定进行一项实验，看看人工智能代理在评估申请方面与人类相比表现如何。
公司使用内部的 Microsoft Copilot 系统，妥善地设置了一个代理，并告知其需要填补的职位，以及申请人需要具备的某些人力资源系统和编程语言方面的经验，以及人工智能本身方面的经验。
公司里的工作人员将申请人分成大约十几人的小堆，然后请代理给他们打分。
智能体迅速完成了这项任务，并列出了它认为的最佳候选名单。人类也做了同样的事情。
可惜，两份名单并不相符。代理被那些简历写得花里胡哨的求职者所吸引，他们声称自己曾在前雇主那里以创纪录的速度取得了非凡的IT成就，或者经验不足却参与过大型项目。简而言之，这些简历好得令人难以置信——而且明显是人工智能生成的。
Addleshaw Goddard 的人力资源主管 Katherine Rathbone 告诉我，她的团队对这件事发生的原因有一些猜测。
首先，人工智能工具可以帮助求职者更轻松地根据职位描述定制简历。但这并非全部。“一种可能的解释是，由于人工智能能力本身就是评判标准之一，因此，系统可能将简历生成过程中人工智能的使用痕迹解读为人工智能能力的证据，”她说道。
还有一种更令人不安的可能性。人工智能代理可能仅仅因为简历是由人工智能参与撰写的，就主动偏爱这些简历。
如果属实，这将证实一篇引人注目的工作论文的结论，该论文分析了人工智能招聘工具的行为。
研究人员模拟了他们所说的24种不同职业的真实招聘流程，这些职业涵盖教师、顾问、厨师和工程师等。他们发现，使用与招聘人员相同的AI大型语言模型的求职者，比那些依赖由不称职的人类撰写的简历的求职者，入围的可能性高出23%到60%。
这种人类缺陷在销售和会计等商业岗位中最为严重，而在农业和汽车等领域中最低。
该论文仍在修改中，尚未在同行评审期刊上发表，这意味着部分研究结果可能会有所改变。但其中一位作者徐建南告诉我，更新后的分析仍然提供证据表明，人工智能模型“表现出自我偏好行为”。
在人工智能已经引发一场令人沮丧的招聘竞赛之际，这无疑是个令人不安的消息。一方面，求职者们深信自己正与一堵冷冰冰的招聘工具之墙作战，于是他们大量涌入人工智能应用程序进行反击，这些应用程序正使招聘人员应接不暇。
如果人工智能本身就带有偏见，那就会带来新的风险。试想一下，如果你是候选人，却使用了错误的人工智能，或者根本没有使用人工智能，那会是什么情况？
幸运的是，徐的论文表明，通过两种相对简单的策略，可以将人工智能的偏见减少一半以上：让模型忽略简历的来源，专注于其内容；以及使用多个评估模型来稀释任何单一工具的偏见。
与此同时，在 Addleshaw Goddard，我很高兴地得知，IT 职位的最终人选是由人工选出的，而不是代理排名最高的人选。
至于将人工智能应用于招聘，目前仍处于发展阶段。拉思伯恩表示，如果使用得当，这些工具显然具有潜力。“但人的判断仍然至关重要。”
本文出处：https://www.ft.com/content/b7671d34-878e-45ae-ba6e-fd83dfcdd46c
