文/Sushman Biswas

人工智能(AI)可以模仿和放大人类的偏见，然而，当负责任地使用它可以帮助克服偏见，做出客观的，数据驱动的决定。

2014年，当亚马逊(Amazon)组建团队开发其新招聘引擎时，它曾被寄予很高的期望。这个实验性的解决方案使用人工智能来对候选人的简历进行评分，以识别出最优秀的人才。然而，在测试解决方案后不久，研究小组发现该系统并没有以性别中立的方式对候选人进行打分。与任何深度学习算法一样，该算法依赖于对历史数据的训练。不幸的是，嵌入其中的现实世界数据具有显示性别偏见的模式，而人工智能算法最终将其纳入了功能。

亚马逊的招聘引擎经过培训，可以通过观察提交给公司的10年简历中的模式来评估应聘者。不出所料，大多数申请者是男性，这反映了整个科技行业的性别差异。因此，招聘引擎告诉自己，男性候选人更可取。该公司对涉及到可识别性别信息的简历进行了处罚——