AI可以对误导性印象负责吗:为什么解决数字性别偏见需要人类?

原文始发于微信公众号(瑞中法协):AI可以对误导性印象负责吗:为什么解决数字性别偏见需要人类?

2020年国际妇女节之后,法国国家律师协会(CNB)召集了15名女律师,工程师,教授,研究人员,程序员和企业家,以寻求解决人工智能算法中性别偏见的方法。

尽管人类第一个程序员是女性,但如今的机器和算法主要是由男性设计的。2020年,数字行业的工作人员中只有17%是女性。只有航空业吸引了较低比例的女性专业人员,为了平衡这一点,CNB还推广了女性榜样,以鼓励女性在这一领域中占据一席之地。

在科技领域,女性处于劣势。他们有时会被“怪胎”的刻板印象所束缚,这是不可避免的男性形象,藏在电脑屏幕上并带有一盒冷比萨饼。不仅证明这种对男性技术专家的观念是过时的,而且还将女性形象排除在数字世界之外。

人工智能(AI)通常是个性化的,应被视为对女性偏见的罪魁祸首。然而,实际上,人工智能仅分析我们自己的偏见,它们只表达其创造者的总体观点。因此,人工智能可以重现人力资源部门的性别歧视倾向,只考虑男性候选人的简历。Google搜素“公司董事”一词,最常见的结果是一个戴着领带的男人的形象。相反,搜索“清洁人员”,您将主要看到戴着围裙的女性形象。无论是否自愿,算法设计者都倾向于将自己的偏见引入他们设计的算法中,这会产生性别歧视的后果。

有些数据偏差可能会造成种族歧视性后果。例如,通过自动识别面部或肤色的形态标准来表达它们。这是以下事实的结果:如果学习是基于单一的欧洲标准,则AI学习数据无法具有代表性。预测算法的偏差使它们吸收的过去数据存储。如果法律专业人士要依赖这种算法,那么人类的自由和主动性将被冻结。 

经济偏见更为分散和有害,但同样普遍。纯粹出于经济原因,辅助广告设计的算法会考虑将一个人设定优先于另一个人。因此,他们可能对妇女有偏见。 

人工智能本可以一视同仁,但恰恰相反,它放大了现有的偏差,而且没有任何真正的纠正的可能性。歧视性偏见很难识别,更难修复。这就是为什么我们需要更多的妇女和少数群体的人来参与这些工具的设计。它们的参数必须整合我们丰富的生活和观点多样性。 

数字化改变了社会,整个经济都受到数字化的支持。但在成为新兴数字市场时,每个行业都必须变得男性化吗?

数字知识是男性化的,至少在法国是这样。在某些地方,数字化对女性而言是一个充满希望的领域,因为它使妇女可以在家工作,并且可以更好地适应她们的限制。

纠正性别偏见需要找到方法,使妇女更好地融入技术分析和研究业务。一种方法是在培训阶段进行干预,使课程对女性更具吸引力。公司也应采用现有的内部组织手段,将妇女纳入决策过程。招聘的多样性是一种适用的简单措施,有助于公司结构中更公平的代表权。

是否有必要强加或说服,设立配额或建立激励机制?长期以来,配额一词被理解为招收了不合格的申请人,这使许多人嗤之以鼻。但是,引入配额不会妨碍AI性能。尽管这不是唯一的方法,但可以快速取得效果。竞争力和成功不应该被性别化。没有混合的行动部门令人担忧,因为丰富性是由多样性产生的。

性别偏见对女孩的学业成绩也有影响。据观察,尽管他们在小学阶段取得了良好的成绩,但他们从中学时就失去了自信。女孩的数学成绩较差,也许当这种偏见消除后,男孩的表现就会变差。更改课程说明会产生明显的影响。因此,教师培训非常重要。他们肩负着陪伴孩子接受整个教育的崇高任务。他们必须是防止不平等的第一道防线。 

因此,很重要的一点是让女孩在很小的年龄就接受编码,因为并非所有的刻板印象都是在幼儿中形成的。编码并不比编写复杂,代码也不是工程师的专有财产。需要在学校向所有儿童教授。也没有年龄障碍;当今的女性以及未来的女性都可以在数字世界中占据一席之地,只要拥有可用的工具即可。虽然教育是一个长期解决方案,但培训是建立妇女地位和纠正性别偏见的短期解决方案。 

话虽如此,在社会层面上仍观察到了令人惊讶的(也许是令人恐惧的)结果:一个国家的普遍平等水平越高,从事数字研究的妇女就越少。相反,基于不平等制度的国家越多,男孩和女孩在一起生活的次数越少,进入数字渠道的妇女就越多。这是否应该引起我们去问,共同教育是否能促进女性禁止进入数字技术领域? 

归根结底,父母是孩子最大的榜样,但他们更难接受培训。但是,应该告知他们数字行业中的女性激发女儿兴趣的巨大可能性。

如果世界上最好的设备对性别偏见视而不见,它们同样会重蹈女性的覆辙。从这场辩论中,出现了困难,危险和警告。但是,在企业,政府和国际上对AI伦理的反思正在进行的过程中,人们对意识和寻求解决方案的乐观情绪越来越高。


Share on facebook
Facebook
Share on twitter
Twitter
Share on linkedin
LinkedIn
Share on pinterest
Pinterest

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注