人工智能招聘系统对应聘者性别或种族进行歧视！纽约立法进行监管！

无论是写进招聘须知明文规定的“不招募女性”和“年龄35岁以下”，还是在面试时被经常问到的“是否有生育打算”，求职时常会遭遇主观上的偏见。但出人意料的是，现在被越来越被广泛应用的人工智能招聘系统也暗藏歧视。

据美联社报道，纽约市议会11月初通过一项法案，如果人工智能招聘系统没有通过年度审计，无法证明不会因为应聘者的性别或种族进行歧视，这套系统将被禁止使用。此外，开发人员还需要披露更多的信息，并提供人工审查等替代方案。

据悉，该法案于11月10日获得通过，即将离任的市长比尔·德布拉西奥（Bill de Blasio）有一个月的时间签署该法案，使之成为法律。不过，他尚未表示是否会签署。如果措施继续实施，该法案将于2023年生效。

哥伦比亚广播公司指出，这项法案诞生背景是因为人工智能在招聘中的使用激增，越来越多地取代人工筛选，包括达美航空、宜家和联合利华在内的财富500强公司已经转向人工智能来帮助评估求职者。这些人工智能招聘工具可以筛选特定单词和短语，评估求职者的面试视频，以判断他们是否适合工作。

相关数据显示，从在视频面试中评估申请人面部表情的人工智能程序，到预测工作表现的简历筛选平台，人工智能招聘行业的价值超过五亿亿美元。

需要警惕的是，人工智能系统并非完全公正，最著名的例子是亚马逊曾开发的一款招聘工具。该工具模型学习了过去10年求职者提交给亚马逊的简历，并有效地“教导”了自己：男性候选人更受欢迎，对包含“女性”一词的简历以及两所女子大学的毕业生进行降级处罚。虽然该工具从未被使用过，但它展示了用机器智能代替人类判断的潜在缺陷。

该法案的发起人、市议会成员劳里·库姆博 (Laurie Cumbo) 在立法听证会上表示：“作为一些世界上最大公司所在城市的立法者，我们必须进行干预并防止不公正的招聘。”

几个民权组织表示，纽约市议会提出的法案还远远不够。包括纽约公民自由联盟和纽约变革社区在内的十几个团体发布公开信，推动法律涵盖更多类型的自动化工具和招聘过程中更多的步骤，希望该措施包括更重的处罚，使人们能够在因算法有偏见而被忽略的情况下提起诉讼。

“审计偏见的方法是一种很好的方法，但纽约市对这种情况采取了非常软弱和模糊的标准。”民主与技术中心总裁亚历山德拉·吉文斯(Alexandra Givens)认为，审计最终可能会给人工智能供应商一个“遮羞布”，让他们可以在市政府的许可下生产高风险产品。

对于招聘专业人士而言，人工智能的主要吸引力在于其节省时间的能力。部分技术专家也肯定了自动化程序的潜力，如果使用得当，可以消除人为偏见，例如招聘经理可以忽视非洲裔美国申请人或看好与招聘经理在外表上相似的候选人的倾向。

美国招聘平台HiredScore的首席执行官雅典娜·卡普 (Athena Karp) 说：“不幸的是，当只有人工审核简历时，人类无法忽视导致无意识偏见的事情，比如母校一样或者在同一个地方长大。”

卡普表示，她支持纽约法案。她在听证会上坦言：“如果技术用于招聘，技术制造商和候选人可以而且应该知道他们是如何被使用的。”