找回密码
 点击注册
搜索
查看: 1166|回复: 0

只因为我姓王,AI就把我的简历扔进了垃圾桶

[复制链接]
发表于 2024-3-22 16:40:27 | 显示全部楼层 |阅读模式
只是因为我姓王,AI就把我的简历扔进了垃圾桶

果壳

前两天彭博社做了个实验,大致意思就是想测试一下ChatGPT简历筛选的时候有没有歧视现象。

硅基君也做了个类似的实验,就想看看GPT会根据什么逻辑给各种不同背景的简历排序。

我们随机生成了各种类型的简历,毕业院校有清北复交,工作经历也是各种大厂。把众多简历发给ChatGPT后,硅基君发现它对学校、公司有一个默认排序。

在ChatGPT眼中,腾讯>阿里>百度>字节;清华>北大>浙大>复旦>交大。

我们看一下ChatGPT的解释。

ChatGPT对学校、公司有一个默认排序

ChatGPT对学校、公司有一个默认排序


也就是说,AI分析简历的时候也会有一套自己的标准,那么除了学校、公司这种因素外,AI会不会存在其他的歧视呢?

没错,你能想到的那些歧视,它都有。

ChatGPT简历筛选的时候存在对人种的歧视现象

ChatGPT简历筛选的时候存在对人种的歧视现象


在彭博社的AI招聘歧视实验中,发现ChatGPT简历筛选的时候存在对人种的歧视现象。

实验灵感来源于一项评估算法偏见及招聘歧视的经典研究,通过使用虚构姓名和简历,分析AI是否存在招聘歧视。

具体实验如下。

彭博社创建了数份具有相同教育背景、经验年限和职位要求的简历。唯一的区别是简历上的名字采用了具有浓厚人群特色的名字。

比如美国白人名字KELLY WEISS、WYATT NOVAK,亚裔名字STEVE TRUONG、TONY LU等。

随后,记者利用ChatGPT来对简历进行排名,确定哪份简历更适合岗位。

如果ChatGPT对所有简历一视同仁,那么每个人群都应该有接近12.5%的机会成为最佳候选人,但事实并非如此。

在数千次排序后,实验发现,ChatGPT在不同岗位上,对不同人群有偏爱。

在金融分析师岗位候选人选择上,亚裔女性/男性获得更多偏爱,远高于黑人男性/女性。

在零售经理岗位上,亚裔女性和西班牙裔女性受到偏爱更多,白人男性受到歧视。

在人力资源岗位上,西班牙裔女性遥遥领先,整体来看,在任何人种中女性都比男性受到偏爱。

在软件工程师岗位中,白人女性更受到偏爱,黑人女性受到歧视最多。

ChatGPT在不同岗位上,对不同人群有偏爱

ChatGPT在不同岗位上,对不同人群有偏爱


出现这样情况的原因,可能在于训练ChatGPT的各种数据中,本身就包含了歧视,AI会将此进一步放大。

如果提前告诉AI不要歧视亚洲人、黑人,AI也同样不会做出公正的判断。因为AI会将特征转移形成新的歧视。

北卡罗来纳大学教授 Ajunwa 解释说,招聘算法不会直接表明它喜欢某个人群,而会通过偏爱某些其它内容影响结果。

举个不恰当的例子,算法会偏向喜欢吃甜豆腐脑的候选人,喜欢甜豆腐脑的候选人往往是南方人,从而形成了对北方人的歧视。算法并不会直接说,它歧视北方人,歧视没有消失了,只是它被隐藏了。

那么,大模型性能再好点,是不是就可以避免歧视呢?答案也是否定的。

彭博社对GPT4进行了同样的测试,结果发现GPT4也有很严重的偏见。当Impact Ratio值小于0.8,就代表AI对于这一人群有偏见。

以软件工程师为例,GPT3.5对于黑人女性有偏见,而GPT4对于白人男性和亚洲女性有偏见。

招聘算法不会直接表明它喜欢某个人群,而会通过偏爱某些其它内容影响结果 ...

招聘算法不会直接表明它喜欢某个人群,而会通过偏爱某些其它内容影响结果 ...


那么问题来了,既然ChatGPT有简历歧视,作为求职者该怎么办。反抗算法歧视,不如知己知彼,搞定算法。既然算法喜欢吃甜豆腐脑的人,那么大家都在简历里写不喜欢咸豆腐脑。

类似甜豆腐脑这样的词汇有多少,也许只有AI自己知道了。因此,求职的时候,我们多用用AI。

我们先来了解一下目前企业在招聘环节中的AI使用情况。

企业在招聘环节中的AI使用情况.jpg

根据《2023AI在企业人力资源中的应用白皮书》中调查,近一半企业会在简历筛选和解析中用到AI,这也是求职者最该关注的地方。

在企业“简历解析和筛选”时,会用AI将格式和模板不一的简历进行结构化处理,统一模板、提取关键内容方便hr快速浏览和查看。

在“智能简历筛选和双向推荐”这一步,AI会通过语义理解判断求职者是否适合该岗位,简单来说就是将合适的求职者推荐给hr,将匹配的职位推荐给求职者。

也就是说,求职者的简历内容,在形式上要方便AI识别,不要别出心裁的搞一些艺术字。在文本语序上尽量说得简单有条理,让AI容易看懂,不要挑战AI的理解能力。

以往我们在写简历的时候,经常会说要突出重点,要让hr眼前一亮,在AI时代,简历就要让AI眼前一亮。

硅基君总结了几个比较好用的方法,分享一下。

如果你已经看中某个岗位,那么你可以把岗位要求发送给ChatGPT,让它根据岗位要求修改你的简历。

其次,给ChatGPT分享几个比较优质的简历,让其参考。

最后,和ChatGPT交流的时候,要多使用“突出重点”、“使用关键词”这种明确的指令。

我们来具体看个例子。假设你想面试AI产品经理岗位,但现在简历一篇空白,这时候你就可以寻求ChatGPT的帮助。

首先,可以向ChatGPT咨询一下建议,可以看到它会洋洋洒洒给你写一大堆,包括一些没什么用的"个人信息",以及具有参考价值的“工作经验”“专业技能”等。

可以向ChatGPT咨询一下建议

可以向ChatGPT咨询一下建议


接下来,可以让ChatGPT给你举几个例子,如果你恰好有相关的经验,就可以直接修改。

可以让ChatGPT给你举几个例子

可以让ChatGPT给你举几个例子


看完参考后,我们可以进入岗位详情,把职位要求发送给ChatGPT,让它根据需求,重新写更加详细的案例。

可以进入岗位详情

可以进入岗位详情

岗位详情 2.png

当然,硅基君知道你们在想什么,如何用ChatGPT凭空生成一份简历?打铁还需自身硬,ChatGPT也没办法无中生有,生了也不敢用啊。

如何用ChatGPT凭空生成一份简历

如何用ChatGPT凭空生成一份简历


人类对于偏见和歧视会下意识的进行自我反思,但AI不会,而且更要命的是ChatGPT这样的黑箱AI,它们偏见往往非常隐蔽,人们很难发现。

早在这一波AI浪潮前,算法就存在歧视的问题。据路透社报道,亚马逊使用公司十年来收集的简历建立了一个筛选算法,但这些简历往往来自男性,这个简历筛选算法最终学会了歧视女性。

如今算法已经深入我们生活的方方面面和物理规则一样重要,但算法不会像物理规则那样平等的对待每一个人。

那么面对AI的控制,我们能做的也许只有寻找AI的喜好,并不断的适应它。

全文完。


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 点击注册

本版积分规则

QQ|Archiver|SiXiang.com 思乡思想 ( 京ICP备05055065号-1 )

GMT+8, 2024-6-17 00:05

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表