Специалисты показывали системе распознавания лиц пешеходов, поделенных на основе оценок по шкале Фитцпатрика (ее используют для классификации оттенков кожи). Согласно ей, существует шесть фототипов кожи: от самого светлого до самого темного. Нейросеть испытывала трудности с идентификацией пешеходов, имевших три самых темных фототипа кожи.
Почему у искусственного интеллекта возникают такие проблемы, специалисты однозначно сказать не могут. Существует версия, что алгоритм нейросетей при идентификации людей руководствуется собственной базой, в которой присутствует множество изображений с пешеходами. Анализируя снимки, искусственный интеллект способен адекватно реагировать на людей. Возможно, в этих базах недостаточно фотографий темнокожих пешеходов, поэтому нейросеть не может их распознать.