【北青快评 | 警惕AI招聘夹带就业歧视私货】#防范AI就业歧视# 近年来，利用算法进行AI招聘已成为职场中的一大新热点，如何规避AI算法可能带来的歧视问题成为保障就业公平面临的一个新问题。近日，在上海市政协的一场重点提案督办专题调研暨办理推进会上，监管部门、行业专家以及业内人士表示，防范AI就业歧视，需要加强对算法滥用的监管、强化技术手段，多方面共同努力消除隐藏在算法背后的歧视。
当前，我国互联网招聘平台快速发展。数据显示，一些头部平台累计服务求职者已超过1亿人次，求职有效简历数超过1.5亿份，认证企业接近1000万家。利用人工智能技术进行简历筛选和人力资源开发正在成为招聘领域发展趋势，多家招聘平台纷纷探索通过AI算法为数据赋能。
与传统人力招聘相比，AI招聘可以大大提升人力资源开发效能，更好地对应聘者能力与岗位需求进行匹配。不过，任何技术都是一把双刃剑。从理论上讲，AI招聘可以避免人为因素干扰，更加公平公正，但在实际操作中，倘若算法设置不够科学，反而会在客观上造成“算法歧视”，影响就业公平。更有甚者，一些人可以通过编辑算法，将对求职者的偏见和歧视巧妙地植入AI招聘中，从而逃避就业歧视责任，让系统背锅。
这种担心并非多余。事实上，在人工智能发展历程中，“性别歧视”已经不是一个新词。2014年，美国亚马逊公司开发了用于简历筛选的人工智能程序。结果发现该系统存在“性别歧视”，通常将男性的简历视为更合适的候选人。最终，亚马逊解散了该开发团队，弃用了这个模型。事后发现，该系统选取了10年间的5万个简历，对涉及的关键词按重要程度进行排序。这些简历中大部分求职者均为男性，导致AI误以为没有这类关键词的女性简历不那么重要。
避免AI招聘夹带歧视“私货”，首先要强化技术手段，确保算法公正。近年来，国家网信办等部门先后出台了《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》，持续开展企业算法排查整治专项行动。指导意见要求，建立算法备案制度，梳理算法备案基本情况，健全算法分级分类体系，明确算法备案范围，有序开展备案工作。组织建立专业技术评估队伍，深入分析算法机制机理，评估算法设计、部署和使用等应用环节的缺陷和漏洞，研判算法应用产生的意识形态、社会公平、道德伦理等安全风险，提出针对性应对措施。
有关部门应尽快构建算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系，进一步规范算法生态，确保导向正确、公平公正。
其次，加强执法监管，提高违法成本。AI招聘歧视具有一定隐蔽性，有关部门必须加强监管，打消一些企业的侥幸心理。前不久美国首起AI招聘歧视案中，我国在线教育机构麦奇教育科技与美国平等就业机会委员会达成和解。麦奇教育科技因招聘软件算法会自动拒绝55岁以上的女性和60岁以上的男性求职者，被判赔36.5万美元，用于补偿被拒的应聘者。反观国内，有关部门也应加大线上执法检查力度，对于涉嫌就业歧视的企业予以依法处罚，营造风清气正的AI招聘秩序。（文/张淳艺 图源/视觉中国）
当前，我国互联网招聘平台快速发展。数据显示，一些头部平台累计服务求职者已超过1亿人次，求职有效简历数超过1.5亿份，认证企业接近1000万家。利用人工智能技术进行简历筛选和人力资源开发正在成为招聘领域发展趋势，多家招聘平台纷纷探索通过AI算法为数据赋能。
与传统人力招聘相比，AI招聘可以大大提升人力资源开发效能，更好地对应聘者能力与岗位需求进行匹配。不过，任何技术都是一把双刃剑。从理论上讲，AI招聘可以避免人为因素干扰，更加公平公正，但在实际操作中，倘若算法设置不够科学，反而会在客观上造成“算法歧视”，影响就业公平。更有甚者，一些人可以通过编辑算法，将对求职者的偏见和歧视巧妙地植入AI招聘中，从而逃避就业歧视责任，让系统背锅。
这种担心并非多余。事实上，在人工智能发展历程中，“性别歧视”已经不是一个新词。2014年，美国亚马逊公司开发了用于简历筛选的人工智能程序。结果发现该系统存在“性别歧视”，通常将男性的简历视为更合适的候选人。最终，亚马逊解散了该开发团队，弃用了这个模型。事后发现，该系统选取了10年间的5万个简历，对涉及的关键词按重要程度进行排序。这些简历中大部分求职者均为男性，导致AI误以为没有这类关键词的女性简历不那么重要。
避免AI招聘夹带歧视“私货”，首先要强化技术手段，确保算法公正。近年来，国家网信办等部门先后出台了《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》，持续开展企业算法排查整治专项行动。指导意见要求，建立算法备案制度，梳理算法备案基本情况，健全算法分级分类体系，明确算法备案范围，有序开展备案工作。组织建立专业技术评估队伍，深入分析算法机制机理，评估算法设计、部署和使用等应用环节的缺陷和漏洞，研判算法应用产生的意识形态、社会公平、道德伦理等安全风险，提出针对性应对措施。
有关部门应尽快构建算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系，进一步规范算法生态，确保导向正确、公平公正。
其次，加强执法监管，提高违法成本。AI招聘歧视具有一定隐蔽性，有关部门必须加强监管，打消一些企业的侥幸心理。前不久美国首起AI招聘歧视案中，我国在线教育机构麦奇教育科技与美国平等就业机会委员会达成和解。麦奇教育科技因招聘软件算法会自动拒绝55岁以上的女性和60岁以上的男性求职者，被判赔36.5万美元，用于补偿被拒的应聘者。反观国内，有关部门也应加大线上执法检查力度，对于涉嫌就业歧视的企业予以依法处罚，营造风清气正的AI招聘秩序。（文/张淳艺 图源/视觉中国）
#快快评#【#李佳琦又翻车只因情绪管理不佳吗#？】9月10日，“带货一哥”李佳琦在直播间怼网友引发热议。有网友在李佳琦直播间吐槽花西子79元的眉笔越来越贵，李佳琦看到后回怼：“哪里贵了？不要睁着眼睛乱说，国货品牌很难的，有时候找找自己原因，这么多年了工资涨没涨，有没有认真工作？”这一语惹怒网友。
尽管11日凌晨李佳琦发文道歉称，他本就是一个彩妆柜台销售员，深知大家的工作都是辛苦和不容易的，还表示要学会控制情绪，“任何人都可以对直播间的产品提出意见和想法”，但似乎为时已晚，拥有千万粉丝的李佳琦跌入被回怼和掉粉的漩涡，且涉事产品也遭到抵制。“挣着普通人的钱，到头来却嘲讽普通人贫穷”，一名网友揭破残酷真相的跟帖亮了。
一个主播不太可能永远保持最好的状态，也不太可能永远都不会说错话，尤其是，在直播时受到情绪主导后，很容易口无遮挡，因而，李佳琦的此次直播间“翻车”事件带有某种必然性。这些年来，李佳琦直播“翻车”事件屡屡发生，也不差这一回。
此次“翻车”事件的孰是孰非，很好辨别。消费者当然有评价直播间所售商品的权利，理论上，这种权利还可以与消费者的“上帝”身份相连接，但现在看来，消费者在某些直播间并没有享受到“上帝”的待遇。他们在大多数时候，以及在主播所代表的直播团队的心目中，更像是一个“掏钱包者”——这种定位，很容易使得团队淡忘自己作为服务者的身份和责任，使得消费者被轻视。
此事折射出，直播发展到现在，消费者依然未能在直播生态中拥有强大基础和话语权的事实。这是一个冰凉的事实。
你以为主播不知道他们面对的是一个个活生生的人吗？他们当然知道，但在流量经济面前，消费者作为群体的意义已经被他们当成数据般的存在，简单地说，直播间闪烁的头像，就是一个个能给商家和主播带来客观效益的“人头”。
李佳琦的直播如此，“秀才”的直播亦如此。不同的是，各个主播有着自己更擅长的获客方式和获利模式。
就以李佳琦式直播所指向的商品价格而言，其赖以成名、立身的“全网最低价”，本质上都是以价格诱惑，来换取消费者对直播带货的惯性和忠诚——老实说，很多李佳琦的粉丝，大概已经忘记世界上除了在直播间买东西外还有更多的消费方式了。
而在很多消费者是努力了，但是工资没怎么涨的普通人的情况下，前述模式必然因为生意的盈利性要求、消费者的收支对比，出现矛盾和冲突。
2022年“双11”预售活动期间，李佳琦直播间“卖贵”某款水乳套装事件引发强烈质疑，便是明证。
劝告主播尊重消费者的权利和感受，这没问题，但某种意义上，消费者更需要打破对于直播间“全网最低价”的迷信、对于“亲人关系”的误读，变得更为理性。
现代快报首席评论员 戴之深
尽管11日凌晨李佳琦发文道歉称，他本就是一个彩妆柜台销售员，深知大家的工作都是辛苦和不容易的，还表示要学会控制情绪，“任何人都可以对直播间的产品提出意见和想法”，但似乎为时已晚，拥有千万粉丝的李佳琦跌入被回怼和掉粉的漩涡，且涉事产品也遭到抵制。“挣着普通人的钱，到头来却嘲讽普通人贫穷”，一名网友揭破残酷真相的跟帖亮了。
一个主播不太可能永远保持最好的状态，也不太可能永远都不会说错话，尤其是，在直播时受到情绪主导后，很容易口无遮挡，因而，李佳琦的此次直播间“翻车”事件带有某种必然性。这些年来，李佳琦直播“翻车”事件屡屡发生，也不差这一回。
此次“翻车”事件的孰是孰非，很好辨别。消费者当然有评价直播间所售商品的权利，理论上，这种权利还可以与消费者的“上帝”身份相连接，但现在看来，消费者在某些直播间并没有享受到“上帝”的待遇。他们在大多数时候，以及在主播所代表的直播团队的心目中，更像是一个“掏钱包者”——这种定位，很容易使得团队淡忘自己作为服务者的身份和责任，使得消费者被轻视。
此事折射出，直播发展到现在，消费者依然未能在直播生态中拥有强大基础和话语权的事实。这是一个冰凉的事实。
你以为主播不知道他们面对的是一个个活生生的人吗？他们当然知道，但在流量经济面前，消费者作为群体的意义已经被他们当成数据般的存在，简单地说，直播间闪烁的头像，就是一个个能给商家和主播带来客观效益的“人头”。
李佳琦的直播如此，“秀才”的直播亦如此。不同的是，各个主播有着自己更擅长的获客方式和获利模式。
就以李佳琦式直播所指向的商品价格而言，其赖以成名、立身的“全网最低价”，本质上都是以价格诱惑，来换取消费者对直播带货的惯性和忠诚——老实说，很多李佳琦的粉丝，大概已经忘记世界上除了在直播间买东西外还有更多的消费方式了。
而在很多消费者是努力了，但是工资没怎么涨的普通人的情况下，前述模式必然因为生意的盈利性要求、消费者的收支对比，出现矛盾和冲突。
2022年“双11”预售活动期间，李佳琦直播间“卖贵”某款水乳套装事件引发强烈质疑，便是明证。
劝告主播尊重消费者的权利和感受，这没问题，但某种意义上，消费者更需要打破对于直播间“全网最低价”的迷信、对于“亲人关系”的误读，变得更为理性。
现代快报首席评论员 戴之深
【一个观点】
如图，图3是我的观点。
附带再说一个我的偏见。
因为她的昵称是“两个小朋友妈妈”，就连带激起了我心中的偏见，很多生过娃的妈妈都智商直线下降，生过二胎以后脑子变得跟傻子差不多的为数不少。
如果我是公司老板，我肯定也不愿意雇宝妈，尤其需要用脑子的职业，宝妈眼里只有孩子，根本没时间去丰富、提高，甚至维持原有的脑力水平。
恰好刚才给两位宝妈朋友发了条微信，截屏如下。其中有一位是文案指导，特别细心，生娃以前回复我从来不会有半个错字。
现在呢？
很多歧视都是大数据总结的结果。
前段时间刷到某家政公司老板在说，她手里的大批保姆、家政单子客户都指明不要河南人和东北人，这个老板用了很多数据在澄清河南人不错，我回了一个评论（图6）。
事不关己的客观道理谁也懂，谁也会讲，但事落到自己头上，如果你是一个老板，你愿意选一个俩娃宝妈当员工吗？你会选一个东北/河南保姆吗？
如果两个候选人条件差不多，大概率你不会选她们。除非她们明显比竞争者要优秀很多倍，你才会給她们机会。所以，这些被选上的宝妈、保姆就会成为别人拿来反驳别人的个例，“我见过一个俩娃宝妈、河南/东北保姆就挺好……”如何如何。
与之相对的事实是，绝大多数宝妈、河南/东北保姆都不行，所以，但凡有别的选择，老板和雇主都不愿意去冒险，去赌。
道理是道理，现实是现实。
如果你是个老板，你亏不起钱；
如果你是个雇主，你冒不起风险；
普通人相信偏见，是最大程度地保护自己。
那些客观公正的大道理，只适合写论文。
普通人不是想评职称的大学教授。
如图，图3是我的观点。
附带再说一个我的偏见。
因为她的昵称是“两个小朋友妈妈”，就连带激起了我心中的偏见，很多生过娃的妈妈都智商直线下降，生过二胎以后脑子变得跟傻子差不多的为数不少。
如果我是公司老板，我肯定也不愿意雇宝妈，尤其需要用脑子的职业，宝妈眼里只有孩子，根本没时间去丰富、提高，甚至维持原有的脑力水平。
恰好刚才给两位宝妈朋友发了条微信，截屏如下。其中有一位是文案指导，特别细心，生娃以前回复我从来不会有半个错字。
现在呢？
很多歧视都是大数据总结的结果。
前段时间刷到某家政公司老板在说，她手里的大批保姆、家政单子客户都指明不要河南人和东北人，这个老板用了很多数据在澄清河南人不错，我回了一个评论（图6）。
事不关己的客观道理谁也懂，谁也会讲，但事落到自己头上，如果你是一个老板，你愿意选一个俩娃宝妈当员工吗？你会选一个东北/河南保姆吗？
如果两个候选人条件差不多，大概率你不会选她们。除非她们明显比竞争者要优秀很多倍，你才会給她们机会。所以，这些被选上的宝妈、保姆就会成为别人拿来反驳别人的个例，“我见过一个俩娃宝妈、河南/东北保姆就挺好……”如何如何。
与之相对的事实是，绝大多数宝妈、河南/东北保姆都不行，所以，但凡有别的选择，老板和雇主都不愿意去冒险，去赌。
道理是道理，现实是现实。
如果你是个老板，你亏不起钱；
如果你是个雇主，你冒不起风险；
普通人相信偏见，是最大程度地保护自己。
那些客观公正的大道理，只适合写论文。
普通人不是想评职称的大学教授。
✋热门推荐