Аналитики из Стэнфордского университета провели крупнейшее на данный момент исследование алгоритмов найма, использующих искусственный интеллект для отбора сотрудников, и пришли к неожиданному выводу. Оказывается, самые популярные HR-инструменты, которыми пользуются крупные компании, крайне предвзяты в своих выводах. А иногда являются настоящими расистами.
Исследователи провели анализ четырех миллионов заявок на работу 156 работодателей, которые используют популярную платформу для найма Pymetrics. Данная система оценивает кандидатов с помощью серии онлайн-игр, а после выносит баллы по таким качествам, как склонность к риску и скорость реакции. Следом сотрудники с лучшим рейтингом рекомендуются будущем начальству.
Исследование показало, что сотрудникам, проходящим через игры Pymetrics, необходимо подать заявки как минимум на 25 различных вакансий, чтобы получить хотя бы одну рекомендацию для перехода на следующий этап тестирования. При этом система проявляет предвзятость по расовому признаку, в большей степени отсеивая кандидатов азиатского и африканского происхождения.
Но главная проблема не в этом. Теоретически, прохождение тестирования у разных работодателей повышает шансы получить нужную вакансию. Однако, если обе компании используют одинаковые модели для подбора персонала, то кандидат автоматически получит идентичную числовую оценку в обоих местах. Что лишает сотрудника «второй попытки» в прохождении тестирования.
При подаче заявок на две вакансии у двух разных работодателей кандидаты вполне могут ожидать, что получат две отдельные оценки и, следовательно, два шанса. Однако если для обеих вакансий используется одна и та же ИИ-модель, их числовая оценка будет идентичной.
Исследователи из Стэнфордского университета США
Тем временем докторант Университета Ваасы в Финляндии изучил, как генеративные ИИ-модели, в частности ChatGPT и Gemini, меняют рабочие места и влияют на опыт сотрудников. А также дал ответ на вопрос — сможет ли искусственный интеллект заменить людей на рабочих местах?
Источник: hi-tech.mail.ru