在我的教育和早期职业生涯中，我花了大量时间做大规模的研究。事实上，我进入IBM执行资源项目的途径是通过我的部门进行的最大的研究项目之一。

 

对于那些试图解决多样性和包容性问题的人来说，一个反复出现的问题是，在缺乏理解的情况下，他们只关注症状。就像用解充血药治疗感冒一样，它可能会暂时缓解症状，但这种方法并没有成功地解决问题。

 

上周在戴尔科技世界(Dell Technology World)，华宇平台招商我参加了由首席多样性官布赖恩•里夫斯(Brian Reaves)主持的一个有关多样性和包容性的会议。它关注的是面部识别技术的问题，这项技术在白人男性中效果很好，但在其他任何群体中效果都不太好。

 

演讲者是Joy Buolamwini，她称自己为“代码的诗人”。如果她的演讲是一个TED演讲(这并不奇怪——她已经做了一个TED演讲)，它将会是我所见过的最好的演讲之一。如果你曾经看过TED演讲，你会意识到这意味着演讲的质量和传达的信息是非常高的。

 

我将分享我对这一重要会议的回应，并以我本周的产品结束。

 

专家会议

 

每一个戴尔的技术世界都包含了广泛关注的话题。你真的应该参加这些会议。虽然不是所有的都很好，但它们通常都能提供市场中正在发展的关键问题的洞见，而且这些洞见的广度可能是你在其他任何活动中都无法获得的。见鬼，反正你也在那里——你可能会学到一些东西。他们往往比大多数产品推销更有趣和相关。

 

过去的报告似乎表明，戴尔应该进军新兴市场，比如机器人和通用人工智能(那是去年的事了)，但戴尔似乎并没有认真对待这些宣传。今年让我着迷的是，布莱恩·里夫斯(Brian Reaves)就在现场，他显然打算把这件事放在心上。事实上，他似乎已经采纳了乔伊的建议。

 

算法的偏见

 

乔伊雄辩地指出了我们科技界大多数人都知道或应该知道的一件事:白人男性工程师的同质文化对任何其他群体都是一无所知的。她的重点是面部识别，世界各国政府越来越多地使用这项技术来识别人。据乔伊称，目前美国有1.3亿人参加面部识别项目。他们中的许多人不仅不知道这一点，而且还被误解了。

 

这对有色人种的女性来说尤其麻烦，她们经常被误认为是男性，甚至被误认为是动物或其他什么东西。例如，有些被认为是男人的假发或胡子。这些程序被用来决定服务，决定是否允许个人访问，决定他们是否是罪犯。

 

潜在的问题并不是AI工具在核心技术方面的失败。虽然这些错误的识别有时可能来自于低质量的相机，但它们很大程度上是有严重偏差的数据集的结果。这些数据通常来自科技公司，其中大部分是白人男性;或者来自媒体，从数量上看，媒体似乎更喜欢白人男性的照片。

 

这不仅是系统准确性的问题——它实际上是大规模的滥用。我是说，如果某个脑残的人工智能把你当成大猩猩，那会有多无礼?在某些地区，有色人种被用来判定是否有罪，这些项目经常将有色人种列为惯犯，错误地建议对他们判处更高的刑罚。

 

这些程序可能被用来通过分析面部表情来淘汰潜在的糟糕的求职者(其中一个产品被称为“Hirevue”)——即使已经证明它们甚至不能可靠地识别性别，或者求职者是否是人类。

 

IBM、微软、亚马逊

 

作为努力的一部分，乔伊最初研究了来自微软、IBM和Face++的面部识别程序。Face++是一家总部位于中国的公司，我以前从未听说过。这些程序对于白人来说几乎是完美的，但是当你接触到有色人种，尤其是有色人种的女性时，他们的准确性往往比抛硬币好不到哪里去。在这些公司意识到这些问题后，他们开始着手解决这些问题，目前他们的程序对有色人种的识别要准确得多——尽管还远远不够完美。

 

然后乔伊看了看亚马逊和凯罗斯，发现他们和其他人一样糟糕，没有从他们的同行那里学到任何东西。可怕的是，考虑到它的广泛使用，亚马逊是迄今为止最糟糕的。

 

然而，这表明，通过集中精力、修复问题的愿望和强大的执行力，您可以极大程度地减少问题，并且继续处理它最终会使错误识别的数量变得微不足道。

 

要解决这一问题

乔伊认为，要解决这个问题，就有必要增加用于训练人工智能的数据集的多样性，这样它们就能更好地匹配它们要测量的人口。如今，这些数据集中只有17%的女性和4%的有色人种女性。(有趣的是，乔伊发现她必须戴上一个白色面具，才能让这些系统把她当作人来看待，这既令人尴尬，又令人着迷。)

 

她建议的过程应该是永远不会结束的，应该是首先强调偏见，这样问题就可以得到解决。然后找出产生偏差的原因，这样就可以把资源集中在问题上。然后执行以减少偏差。

 

我自己接受的研究培训表明，你永远无法消除偏见，因为偏见是人固有的，但你可以努力将其最小化，这样随着时间的推移，它的影响就不那么显著了。

 

乔伊提出了三个必须包含的条件:

 

敢于提出不舒服的、交叉的问题。如果事情看起来不太对劲，那就努力调查一下。不要因为它让人不舒服而回避它。改变是不舒服的，但你能取得进步的唯一方法是通过改变。

 

敢于倾听沉默的声音。弱势群体通常被认为是无关紧要的，但如果你不倾听，你就不会看到或理解需要解决的关键问题——更不用说能够为解决这些问题提供资源了。

 

敢于梦想。我认为乔伊显然活在这世上。一个更美好世界的梦想，如果大家共同分享，就能产生一个更美好的世界。如果你只是接受现状，那么你就几乎不可能完成其他可能完成的事情。

 

乔伊赞扬了谷歌的员工，他们上周举行了一场小小的抗议活动，抗议针对他们同事的报复行动，其中许多人因为抗议谷歌的一些不良行为而被降职或解雇。我同意这些人是英雄，如果我们想推动需要的改变，这种事情通常是必要的。

 

Joy建议使用分析工具的人认识到缓解是一个过程，当您向分析工具添加元素时，总是要对假设、数据的准确性和所使用的模型提出质疑。永远不要认为。

 

她还赞扬了英国大规模实施面部识别的做法，因为它公开了面部识别很糟糕的事实。它需要透明度来针对解决问题的资源;把它们掩盖起来显然是行不通的。

 

考虑到我曾在全国范围内做过研究，我自己的研究生工作也花了大量时间思考消除偏见的问题，我发现乔伊的演讲非常有趣。我们知道，如果适当地创建和管理不同的团队，可以产生更好的产品、更好的性能，并使公司更加全面和包容。

 

如果我们能认识到问题的存在，找出问题的原因，并努力减轻问题，我们不仅能使我们的公司成为更好的工作场所，而且能使世界成为更美好的生活场所。

 

乔伊的谈话给了我希望，我们正在取得进展。如果更多的人参与进来，也许我们真的可以创造出乔伊和许多白人老人梦想的乌托邦。

 

Rob Enderle的本周产品

 

我们正在迈向一个被机器人包围的未来。我曾看到过一些预测，表明几年后智能手机的市场将超过智能手机。我最大的担忧之一是，科技公司一直忽视机器人的崛起，就像之前的那些公司很大程度上忽视了个人电脑和智能手机等其他主要颠覆性趋势一样。

 

嗯，Briggo是一个对比点，因为它是一个机器人咖啡店，每英尺能产生12K美元的收入，而且能做出我喝过的最好的该死的摩卡咖啡。

 

Briggo咖啡

 

Briggo Coffee Haus(基本上是一个机器人星巴克)是由戴尔的原始设备制造单元和Boomi，以及大量的机器人开发而成。(这个团队基本上创造了一个克隆世界顶级咖啡师的机器人。)

布里格咖啡馆是我见过的最令人印象深刻的咖啡自动贩卖机之一。我为早晨的一杯咖啡而活，当我品尝了我的第一杯布里格戈咖啡后，我就上瘾了。遗憾的是，目前还没有很多这样的飞机，但它们很快就会抵达旧金山机场，而且已经在奥斯汀机场了。戴尔的员工是幸运的，因为他们在戴尔总部有两样东西。如果我在戴尔的其他大型工厂没有这种设备，我一定会问:这是什么鬼东西?我不算数吗?

 

他们使用收入分成模式，这样安装他们的人就能获得一定比例的收入，华宇平台招商而Briggo主要负责硬件成本和支持机器的后勤。这台机器是技术的展示窗口，拥有完整的预测分析和软件堆栈，确保质量，让领先的计算机科学家感到自豪。

 

它使用一个基于云的解决方案,这意味着如果你有这个应用程序,你可以点咖啡土地(你会得到一个使用代码),它将准备好当你冲刺,这样即使你有紧密连接你可以得到您的咖啡(我只是希望它是在拉斯维加斯机场,我写这篇文章)。

 

最终的产品比我通常看到的星巴克要好得多，一点都不好笑。考虑到我现在希望我现在有一杯这样的东西，布里格咖啡机，尤其是咖啡，是我本周的产品。如果你看到这样的饮品，不妨尝试一下，我敢打赌你一定会对它的选择和品质印象深刻。