이 기사에 따르면 환자의 의료 영상을 이용해 여러 기계 학습 모델을 분석하는 연구자들은 영상에서 높은 정확도로 인종을 예측할 수 있는 모델의 능력을 확인할 수 있었다. 그들은 정확히 무엇이 시스템이 일관성 있게 정확하게 추측할 수 있게 하는지에 대해서 실수를 당했다. 연구진들은 질병이나 물리적인 구성과 같은 요소들도 인종의 강력한 예측변수가 아니라는 것을 발견했습니다. 즉, 알고리즘 시스템은 이미지의 어떤 특정한 측면을 이용하여 그들의 결정을 내리는 것으로 보이지 않는다는 것입니다.