有一个开源的机器学习算法，可以从给定的低像素照片来「猜测」出图上人的长相，以此获得高清图片。
然而很快有人发现，在输入前总统奥马巴的照片后，算法给出了一张典型的白人面孔。
https://twitter.com/Chicken3gg/status/1274314622447820801
而更多人测试发现，这款算法模型的偏向不限于黑人，亚裔面孔同样会被「推测」成典型白人面孔。
https://twitter.com/osazuwa/status/1274444300894572546

这就是人工智能领域的事实歧视：因为训练材料的不够客观，导致算法拟合出的结果呈现了强烈的种族偏好。
想想看，如果这种情况发生于司法环节，一款用于拟定量刑建议的人工智能，会从黑人、穷人的历时刑罚卷宗中，训练出怎样可怕的倾向？