Программа Proctorio, которая следит за тем, чтобы учащиеся не жульничали на экзаменах, в половине случаев не определяет лица темнокожих пользователей. К такому выводу пришел Акаш Сатисан — студент, который лично столкнулся с предвзятостью алгоритма, пишет Motherboard.
Сатисан решил изучить методы распознавания лиц Proctorio и выяснил, что они работают идентично OpenCV — алгоритму компьютерного зрения с открытым исходным кодом.
Он провел несколько тестов с использованием OpenCV и набора данных, предназначенного для оценки точности работы алгоритма машинного зрения с лицами разных национальностей.
Оказалось, что алгоритм не только не распознал лица темнокожих более чем в половине случаев, но и продемонстрировал низкую точность идентификации людей любой из национальностей — самый высокий показатель попаданий был меньше 75%.
Proctorio не раскрывает подробностей, как работают их алгоритмы определения лиц. Однако на сайте имеется упоминание OpenCV в разделе с лицензиями, что косвенно подтверждает использование этого алгоритма.
На запрос журналистов представитель компании заявил, что тесты Сатисана доказывают — их программное обеспечение только ищет лица, но не распознает личности, связанные с ними.
Напомним, в начале апреля исследователи Кембриджского университета создали онлайн-игру Emojify, которая демонстрирует возможности и недостатки технологий распознавания эмоций человека.
В январе 2021 года правозащитная организация Amnesty International призвала запретить распознавание лиц в общественных местах. В организации считают, что биометрическая идентификация людей с помощью камер уличного наблюдения — грубое вмешательство в личную жизнь граждан.
В начале 2019 года темнокожий американец провел десять суток в тюрьме из-за ошибки распознавания лиц. Мужчина намерен судиться с местной полицией за безосновательный арест.
