Умные алгоритмы чаще отклоняют темнокожих и кандидатов азиатского происхождения. И это далеко не единственная их предвзятость.
Аналитики из Стэнфордского университета провели крупнейшее на данный момент исследование алгоритмов найма, использующих искусственный интеллект для отбора сотрудников, и пришли к неожиданному выводу. Оказывается, самые популярные HR-инструменты, которыми пользуются крупные компании, крайне предвзяты в своих выводах. А иногда являются настоящими расистами.
Исследователи провели анализ четырех миллионов заявок на работу 156 работодателей, которые используют популярную платформу для найма Pymetrics. Данная система оценивает кандидатов с помощью серии онлайн-игр, а после выносит баллы по таким качествам, как склонность к риску и скорость реакции. Следом сотрудники с лучшим рейтингом рекомендуются будущем начальству.
Исследование показало, что сотрудникам, проходящим через игры Pymetrics, необходимо подать заявки как минимум на 25 различных вакансий, чтобы получить хотя бы одну рекомендацию для перехода на следующий этап тестирования. При этом система проявляет предвзятость по расовому признаку, в большей степени отсеивая кандидатов азиатского и африканского происхождения.
Но главная проблема не в этом. Теоретически, прохождение тестирования у разных работодателей повышает шансы получить нужную вакансию. Однако, если обе компании используют одинаковые модели для подбора персонала, то кандидат автоматически получит идентичную числовую оценку в обоих местах. Что лишает сотрудника «второй попытки» в прохождении тестирования.
Источник: hi-tech.mail.ru