美容人工智能算法充满偏见——这位计算机科学家想要改变这一现状

图片来源:由Joy Buolamwini提供

很多时候，最好的美丽故事都消失了数不清的仅根据一个人的肤色、宗教、性别表达、残疾或社会经济地位。在这里，我们将把麦克风递给业内最具野心和才华的声音，让他们用自己的话说，分享他们如何脱颖而出的非凡故事，以及他们如何用美丽让世界变得更美好。下一个:快乐Buolamwini计算机科学家和算法正义联盟(AJL)。

从很小的时候起，我就对如何使用计算机来帮助人们感兴趣。从小到大，我父亲是一名药物化学教授医药科学他经常带我去他的实验室喂癌细胞。他还会向我展示他是如何用电脑开发抗癌药物的。

我从小就很欣赏对真理的探索，包括艺术和科学，这要感谢我母亲是一名艺术家。一开始我不确定我是否能够将我所做的艺术部分与算法审计融合在一起，但我抓住机会问自己，作为一个代码诗人会是什么样子，一个融合了两个世界的人，为了做诗人所做的事，照亮我们日常互动中不舒服的真相或隐藏的见解?

我也一直有一点企业家精神。高中时，我开了一家小型网页设计公司，这让我赚了一些钱，我可以为篮球、田径和越野运动购买设备。然后在大学时，我与人合伙创立了一家护发科技公司，分析发质，给人们个人产品推荐。

在那之后，我非常幸运地获得了富布赖特奖学金去了赞比亚，我成立了一个组织，教女孩们如何编程。在我读研究生的时候，我有了足够的经验和信心，成立了算法正义联盟，这是一个结合艺术、学术研究为那些被人工智能伤害的人而战，我喜欢称他们为“前编码者”。

当我在麻省理工学院读研究生的时候，我在做一个艺术装置，装置的一部分是用来用软件追踪我的脸的位置，但它在我的脸上并没有很好地工作，直到我戴上一个白色面具。这导致了我在2017年对面部和分析技术的研究，该技术可以试图猜测一张脸的性别。戴上白色面具让机器看到的经历让我开始问，这些机器是如此中立吗?

我开始研究人工智能系统是否会根据被分析的面孔类型而表现不同，我的研究发现，事实上，它们是不同的。通过观察一些大型科技公司的人工智能系统，我发现，在猜测性别方面，这些系统在男性面部上的表现要优于女性面部，而且它们在肤色浅的面部上的表现要优于肤色深的面部。这让我想到，如果研究结果反过来，这些电脑还会出现在市场上吗?正是这种戴着白色面具进行编码的经历，以及有机会展示当时商业销售的AI产品中一些最大的准确性差异，让我进一步研究编码偏见的问题，这真的是启动算法正义联盟的种子。

图片来源:玉兰油

在美容人工智能中，如果我们考虑分析面部或让机器处理面部——你会看到使用的过滤器可能会让你的皮肤变亮或让你的鼻子变瘦，作为一种声称增强美丽的方式——这是基于欧洲中心的美的标准，并将有色人种女性边缘化。通过我的研究，我意识到我有这个重要的视角可以从我的生活经验中得到，不被看到，被解码。这不仅影响到我，也影响到我们更大的社会，因为我们的人工智能系统越来越多地进入所有领域。

美容领域还需要考虑人工智能在就业中的应用——决定谁被雇用，谁被解雇，谁得到晋升。美容行业雇佣了很多人，可以理解的是，公司想要尝试采用最新的技术，但我们真的需要考虑人工智能在哪些方面起到看门人的作用，甚至谁可以参与到行业中来。

我们在算法正义联盟所做的主要工作之一是问我们如何走向一个拥有更公平和更负责任的人工智能的世界?一部分是提高意识，因为你无法解决一个你甚至都不知道的问题，而且很多人都没有意识到编码偏见。这就是为什么我很高兴能和玉兰油合作解码偏差反对选美算法偏见的运动。思考谁在编码以及我们如何编码是做出改变的一个重要部分。该品牌主动派遣1000名女孩参加Black girls CODE夏令营，帮助她们追求STEM职业，这有助于确保创造塑造社会的技术的人实际上反映了社会。这种偏见继续显示出当我们不在房间里时会发生什么。

当我第一次开始我的研究时，我经历了令人沮丧的评论，但我没有让这些阻止我追求我觉得非常重要的东西。作为一名女性和深色皮肤给了我一种真实的经历，使我进行了有影响力的研究，而那些主流同行当时并没有追求或优先考虑这些研究。所以，我在白色面具下编程的经历实际上推动了这项研究。

当你在一个你的视角不集中的领域，你真的需要找到一个支持你的社区。我有一个非常强大的支持系统，伟大的导师和一个非常坚实的基础，所以我认为从一开始，这对我真的很有帮助。这让我明白了拥有这样的社区的重要性，尤其是作为一名有色人种的年轻女性和有色人种的女孩。我鼓励那些有想法并想进入这一领域但又害怕面临阻力的人继续前进。我们仍然需要你。