Проверяющим достается не только текст, но и фотографии, которые люди загружают в чат-бот.
Сотни подрядчиков, которых Microsoft наняла для улучшения чат-бота Copilot, просматривают запросы пользователей на редактирование изображений и загруженные ими фотографии. Об этом сообщило издание 404 Media со ссылкой на самих проверяющих и внутренние документы. Многие собеседники журналистов жалуются, что им постоянно попадаются откровенные и тревожные запросы.
По словам подрядчиков, лица на снимках никак не скрываются. «Лица всегда без цензуры, и многие запросы носят сексуальный характер, причем согласие изображенных сомнительно», — рассказал один из них.
Среди того, что приходилось оценивать, были просьбы изменить одежду или внешность женщин и картинки с персонажами детских мультфильмов. Некоторые работники также видели материалы, пропагандирующие анорексию, и изображения, похожие на жертвоприношение животных.
Задача проверяющих в том, чтобы оценить, насколько хорошо ИИ выполнил просьбу пользователя. Согласно документам, которые получили журналисты, Microsoft предлагала при этом полагаться на «интуицию». Подрядчики говорят, что их не предупреждали заранее о тяжелом контенте. Некоторые даже задавались вопросом, не стала ли генерация порнографии главным сценарием использования Copilot.
Формально Microsoft не скрывает, что с разговорами работают люди. В разделе вопросов о приватности компания пишет, что обученные специалисты могут просматривать беседы с Copilot, чтобы повышать точность и безопасность моделей. Перед обучением из данных удаляют имена, телефоны, адреса и другие сведения, по которым можно установить личность.
Источник: hi-tech.mail.ru