AI招聘渐热，可以提高人力资源开发效能，也可能放大社会固有偏见
如何抵御隐藏在算法背后的歧视？
阅读提示
近年来，利用算法进行AI招聘已成为职场中的一大新热点，如何规避AI算法可能带来的歧视问题成为保障就业公平面临的一个新问题。近日，在上海市政协的一场重点提案督办专题调研暨办理推进会上，监管部门、行业专家以及业内人士表示，防范AI就业歧视，需要加强对算法滥用的监管、强化技术手段，多方面共同努力消除隐藏在算法背后的歧视，更好维护劳动者权益。
随着ChatGpt火爆出圈，国内一众AIGC平台迅速跟进，叠加我国互联网招聘平台正处于飞速发展期的大背景，利用人工智能技术进行简历筛选和人力资源开发已经成为当前招聘领域的一个最新、最热门的发展趋势。
一些在AI招聘领域迈出实质性步伐的企业和机构表示，AI招聘可以避免主观因素的干扰，更好地对应聘者能力与岗位需求进行匹配。然而，偏见和歧视也可能通过算法更隐晦地内嵌到决策系统当中，悄无声息地侵蚀就业公平。
如何让AI算法背后的就业歧视无处藏身？日前，沐鸣平台官网注册在上海市政协一场重点提案督办专题调研暨办理推进会上，各方积极建言，为就业领域的AI应用立起公平公正的防护盾。
AI算法会不会产生就业歧视？
当前，我国互联网招聘平台快速发展。数据显示，一些头部平台累计服务求职者已超过1亿人次，求职有效简历数超过1.5亿份，认证企业接近1000万家。大量招聘需求与求职需求聚集于平台，带来了海量的数据积累。目前，已经有多家招聘平台开始探索通过AI算法为数据赋能。
“根据招聘平台的数据，结合当前社会上人工智能和大数据技术的发展，无论是用人单位还是中介部门，在雇佣决策上对算法技术的依赖性是不断提高的。”上海市委网信办总工程师杨海军说道。
在AI算法为人力资源开发带来效能提升的同时，一些隐蔽的风险也引发了各界的关注。
翁文磊曾长期在上海市妇联工作，密切关注女性就业的她注意到，如今的劳动者在求职时面临的情形和以往已大不相同。“互联网招聘平台的简历筛选过程基于人工智能算法，可以从已知数据中准确推测求职者的婚育状况，同时其自主学习能力会放大社会固有的部分性别偏见。”
“尽管目前还没有发现典型案例，但也要未雨绸缪。”翁文磊表示，互联网招聘平台带来的性别就业歧视更加隐蔽，只能通过长期招聘结果进行反推。“同时，劳动法规制性别歧视的主体是雇主，即便互联网招聘平台可以承担责任，其责任的履行也存在很大困难。”针对潜在的歧视风险，她认为，是否存在歧视要根据数据来看，还要加强对典型案例的数据分析，进而及时提出预警。
多管齐下共同监管
就业是最大的民生，就业歧视事关身在职场的每个劳动者，如何未雨绸缪防患于未然，各方都已行动起来，保障就业领域的公平公正。
针对算法新问题，杨海军介绍，国家先后出台了《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》，并持续开展专项行动，深入排查整治各类企业的算法滥用现象。“主要是对企业算法的机制、机理、管理制度、应用场景，它的标签体系、用户权益保护等多个方面进行深入检查。基本上所有头部的招聘企业都纳入了检查名单。”杨海军说。
在监管发力的同时，技术手段也在加强。上海市科委总工程师赵健介绍，在2021年人工智能科技支撑专项项目审核中，上海专门部署了人工智能社会实验体系建设专题，强调要科学评估人工智能的社会综合影响，有效推进人工智能应用的标准建设，辅助支持人工智能应用的公共治理的决策。
防止AI可能存在偏见和歧视的问题，一些机构已经在这方面进行有力的探索。“比如上海的浦江实验室建设了软硬结合的蒲公英人工智能治理开放平台——OpenEGlab，目标是要打造系统、实用的人工智能伦理治理的基础设施。”赵健介绍说，该平台包括规则风险展示、评测框架等五大部分。其中，公平公正的维度，涵盖了基于性别、地域、年龄、职业健康的歧视内容。同时，建立了基于评测框架敏感问题的评测语料库，数据量达到百万级，公平公正部分的数据量将达到十万级，目前对一些国内外大模型安全性初步开展了评测。
让劳动者参与算法治理
“来伊份目前有7800名正式员工，95%是女性，40岁至50岁的员工占50%。”面对职场上的就业歧视，上海来伊份股份有限公司总裁郁瑞芬常用自己的经历来回应偏见：“我是1999年创业的，雇用了大批下岗工人，她们是可爱的人，工作认真努力。”
郁瑞芬认为，年龄、性别等都不应是职场的门槛。“我们门店的大多数员工都是上海本地阿姨，沐鸣平台注册企业对她们在电脑技能方面进行了培训提升，目前每年发放工资8.5亿元左右。”
“女性构成了就业和劳动力市场的半边天，但晋升遭遇天花板、同工不同酬等就业歧视仍然存在于一些企业之中。”翁文磊认为，经济转型，特别是新技术对就业的替代效应，女性是有优势的。“现在就业不仅仅要肌肉，更重要的是协调能力。”
上海财经大学法学院教授吴文芳在对数字时代人工智能算法治理与劳动者权益保障进行研究时曾撰文指出，针对算法可能导致歧视以及算法权力滥用的问题，需要通过算法治理工具予以规制。
吴文芳表示，应关注劳动者参与算法治理的具体路径构建，以及劳动者新型权利的赋权进路。同时，应强化工会的专业化赋能及与第三方专业机构的制度化协作，积极参与算法设计、算法公开等监管程序。
影片点评