黑人女性AI专家被解雇引恶评,谷歌CEO出面道歉

12月10日,当地时间周三,谷歌首席执行官桑德尔·皮查伊(Sundar Pichai)就公司人工智能研究员蒂姆尼特·格布鲁(Timnit Gebru)的去职风浪一事公然向员工致歉,并对公司若何处置格布鲁的去职睁开周全观察。

据悉,皮查伊在周三发给全体员工的一封邮件中说:“我确实也听到了人们对格布鲁博士去职的强烈反映。”“这在公司内部播下了嫌疑的种子,并导致我们社区中的一些人质疑自己在谷歌的职位。对此我深表歉意,我愿意负担若何恢复你们信托的责任。”

格布鲁曾是在谷歌事情的着名人工智能研究员,其因研究证实相关面部识别算法在白人中的效果要好于有色人种而著名。格布鲁经常呼吁对谷歌搜索了等主要产物提供伦理方面的手艺支持,她断言自己上周因与他人合著的学术论文被撤引发争议而被开除。

皮查伊的致歉也注释事态迅速恶化,已经超出谷歌人工智能主管、首席执行官杰夫·迪恩(Jeff Dean)的掌控范围。格布鲁去职后,种种反映都注释皮查伊对谷歌人工智能治理层的不满。

皮查伊写道,谷歌已经启动了一项内部观察,目的是搞清楚公司若何处置格布鲁的去职以及这一事宜对员工的影响,特别是对那些没有获得充实代表的少数族裔员工的影响。

皮查伊说:“一位才华横溢的卓越黑人女性不幸从谷歌去职,我们需要为此负担责任。”“这一损失在一些代表性匮乏的社区产生了连锁反映,他们以为从格布鲁身上看到了反映了他们自己的一些履历。”

但研究人员格布鲁回应称,皮查伊做得还远远不够。格布鲁称,到现在他们都没有说“我为我们对她所做的感应负疚,这是错误的。”邮件中只是说,“播下了嫌疑的种子,并导致我们社区的一些人质疑自己在谷歌的职位。”以是我以为这种做法意为“我为事情的了局感应负疚,但我并不为我们对她所做的事感应负疚。”

格布鲁在随后接受采访时示意,事宜始于谷歌要求格布鲁撤回研究论文,或至少删除涉及的谷歌员工姓名。格布鲁拒绝了这一请求。

与此同时,她列举了公司研究人员组成的一个电子邮件小组的履历,并敦促其他人放弃正在做的一份多元化讲述。“这没什么区别,”格布鲁在邮件中写道,“再多文件或对话也不能能有任何效果。”

近期这一事宜不停流传发酵,激起了数千名谷歌现任和前任员工签署请愿书。他们示意,格布鲁被开除的真正原因是,她直言不讳地指斥谷歌在改善公司有色人种事情条件方面希望不大。

周二,谷歌与有色人种员工组成的Black Googler网络整体举行了一场猛烈集会。而问答环节的屏幕截图显示,与会者对谷歌的信托和对公司人工智能事情的支持产生了质疑。

虽然迪安和直接开除格布鲁的副总裁梅根·卡奇立雅(Megan Kacholia)都在会上揭晓了讲话,但他们没有回覆与会者的问题。据一位知情人士说,他们脱离后,有一个单独的主持人现场问答环节,这激怒了一些员工,其中许多人还谈到了告退。其他员工称谷歌举行的这次集会“充耳不闻”,并质疑公司试图继续“掩饰错误行为”。

“我们总说,我们致力于做准确的事情,”一位在集会时代提问的谷歌黑人员工写道。“准确的做法是认可发生在格布鲁身上的事情是纰谬的。我还没有看到任何一位高管认可这一点。否则,作为一名黑人女性,我很难信赖谷歌。”

一位提问者说,这次集会像是一种隐形施虐,并质疑与会者到底能从中获得什么。另一名提问者说,“在格布鲁受到无礼看待之后,为什么我作为一名人工智能领域的谷歌黑人员工还要支持谷歌在人工智能公正方面所做的起劲?请治理层给出一个理由。”(辰辰)

靠山先容:

谷歌AI伦理专家论文被撤发牢骚 遭公司开除

当地时间周四,谷歌人工智能伦理团队卖力人之一蒂姆尼特·格布鲁(Timnit Gebru)示意,自己被谷歌开除,而原因是自己发送的一封电子邮件让公司治理层以为其行为“与公司对谷歌司理的期望不一致”。

这封电子邮件是对谷歌要求格布鲁撤回自己与其他6人合著的人工智能伦理学论文提出差别意见。论文合著者中另有4名谷歌员工。格布鲁周四接受采访时示意,若是自己不想撤回这篇已经提交给明年行业集会审议的论文,谷歌要求至少要删掉谷歌员工的名字。

格布鲁向谷歌研究部门副总裁梅根·卡奇利亚(Megan Kacholia)追求注释,并告诉后者,若是对这篇论文的处置方式没有更多讨论,她计划在一段过渡期后告退。她还想就团队未来可能举行的类似研究项目讨个明确说法。

她说:“我们就是人工智能伦理团队,固然会写关于人工智能的问题。”

与此同时,格布鲁还介入了一个名为Google Brain Women and Allies的电子邮件交流小组,谈论其他人正在撰写的一份讲述,讲述内容是疫情时代,谷歌雇佣的女性少之又少。格布鲁坦言,以自己的履历判断这种讲述不会有效果,由于在谷歌没有人会被追究责任。她提到了自己在提交人工智能论文方面的履历,并将其与讲述链接起来。

格布鲁在邮件中写道:“不要再写这种讲述了,没什么用。”“这种内容不能能有任何效果。”

第二天格布鲁说自己被开除了,相关邮件来自谷歌人工智能部门卖力人杰夫·迪恩(Jeff Dean),称谷歌无法知足她的要求,因此尊重她脱离谷歌的决议。凭据格布鲁宣布的推文,邮件还说,“你昨晚发给非治理人员的邮件某些内容与一个谷歌司理并不相等。”

“这是彻底的缄默,”格布鲁谈到谷歌对她论文接纳的行动时说。“你甚至不能发出科学的声音。”

谷歌代表没有回复记者的多次置评请求。

格布鲁的研究论文涉及处置大型语言模子可能存在的伦理问题,OpenAI、谷歌和其他研究人员都正在这一领域举行研究。格布鲁说,她不知道谷歌为什么会忧郁这篇论文。她说,这篇论文事实上已经获得了主管的批准,并提交给了谷歌其他员工征求意见。

格布鲁说,谷歌要求其研究人员揭晓的所有论文都必须事先获得批准。公司告诉她,这篇论文没有遵照适当程序。

这篇论文指出了使用大型语言模子来训练算法的危险性。论文称,这些模子基本上是通过剖析来自互联网的语言举行训练的,但这些语言并不能反映全球不能上网的大部分人的表达方式。格布鲁强调风险是这些模子只会反映那些有幸成为训练数据的一部分人的世界观。

作为斯坦福人工智能实验室的合作方,格布鲁也是人工智能道德应用领域的主要倡导者之一。她因2018年一项具有里程碑意义的研究而著名,该研究显示,面部识别软件对黑皮肤女性的识别错误率高达35%,而对白人男性的识别则近乎正确。

她还直言不讳地指斥包罗谷歌在内的科技公司缺乏多样性,以及在待遇方面临黑人员工不公正。格布鲁说,自己被开除是在向谷歌其他员工通报一个信息,让他们不要语言。

格布鲁周三晚上宣布了被开除的新闻后,获得谷歌一些同事和其他偕行的支持。

一年前,谷歌以违反数据平安政策为由开除了4名员工。格布鲁那时公然支持那些失去事情的人。而对谷歌来说,格布鲁被开除的当口正值公司面临美国国家劳资关系委员会(NLRB)投诉谷歌对员工举行非法监视、讯问或停职。

格布鲁是公司内部少有的公然指斥声音。她讲述同事和主管若何试图控制她的话语,为骚扰或种族主义行为找捏词,或者无视她的担忧。

当谷歌思量让格布鲁治理另一名员工时,就见告她在多样性问题上的直言不讳对其晦气。有人忧郁,若是她这么不开心,她是否还能治理其他人。“人们不知道这些问题存在的水平,由于你不能谈论它们,而一旦你谈论了,你就成了问题,”格布鲁那时说。

留下评论