据报道，无人驾驶汽车在检测儿童和深色皮肤行人方面比其他汽车差。

伦敦国王学院的研究人员 针对8000多张图像测试了八个人工智能行人检测系统。通过测试，它发现该软件对成年人行人的检测能力比儿童高20%。研究还发现 该软件对浅色皮肤的行人的准确率比深色皮肤的行人高7.5%。

研究人员指出，这个问题很大程度上与产品是如何训练的有关。每个模型都用浅色皮肤的人的照片训练，而不是深色皮肤的照片，结果是程序更容易检测到浅色皮肤的行人，因为这是他们看到的更多。

“虽然不公平的人工智能系统的影响已经有了很好的记录人工智能招聘软件青睐男性求职者 到面部识别软件对黑人女性的准确度低于白人男性，自动驾驶汽车可能造成的危险是严重的，”进行这项研究的科学家之一张杰博士在一份声明中说。“以前，少数民族可能被剥夺了重要服务，现在他们可能面临严重伤害。”

需要注意的是，汽车制造商没有公布他们用于行人检测的软件的详细信息。科学家们声称，这些程序通常建立在他们研究中使用的相同开源系统上。

研究人员在对深色皮肤个体的系统检测中发现，除了一般的困难之外，还发现在低对比度和低亮度的情况下，偏见会明显恶化，当人工智能驱动的行人检测系统在夜间使用时，可能会导致更危险的情况。

至于如何解决这个问题，研究人员建议政府与汽车制造商合作，围绕人工智能及其培训方式制定法规，特别是确保人工智能得到公平培训。