亚马逊的内部机器学习系统由于对女性求职者的偏见而被取消。与男性候选人相比，该软件一直在降低女性候选人的等级。
引进这个项目是为了加快招聘过程。然而，当该公司意识到该软件产生的结果不是中性的时，它进行了修改以消除偏见。但是，既然不能保证其他偏见并没有渗透到该项目中，该项目在去年被全部废除。
应该意识到人工智能系统是基于历史数据的，因此它们经常延续现有的偏见也就不足为奇了。因此，现有的对女性的偏见由于其存在于输入到人工智能系统的数据中而得以延续。根据路透，
亚马逊的这一计划会惩罚那些上过女子学院的申请人，以及那些简历中含有“女子”一词的人(就像可能出现在“女子象棋俱乐部”中那样)。
