OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта компании. Об инициативе под кодовым названием Project Lily сообщило издание 404 Media со ссылкой на внутренние документы и общение с участниками программы.
Иногда разговоры с чат‑ботами содержат конфиденциальную информацию, к которой имеют доступ нанимаемые OpenAI подрядчики. Цель Project Lily заключается в улучшении ответов, которые ChatGPT предоставляет своим пользователям.
Подрядчики оценивают и критикуют сгенерированные чат‑ботом результаты. Также они обучают чат‑бот не очеловечивать себя и быть менее склонным к «подхалимству» — это одна ключевых проблем OpenAI. Чрезвычайно угодливая модель GPT-4o отчасти стала причиной нескольких самоубийств.
Использование подрядчиков для подобных целей представляет собой серьёзный риск для конфиденциальности пользователей ChatGPT, поскольку люди часто применяют чат‑бот в качестве терапевта, профессионального помощника или виртуального друга.
Подрядчики не видят имена пользователей ChatGPT. В свою очередь OpenAI заявляет, что старается удалять личную информацию до того, как промпты попадут к проверяющим. Однако компания признаёт, что конфиденциальные данные всё же могут проходить через этот фильтр.
Сведения о Project Lily развеивают ошибочное представление о том, что языковые модели совершенствуются только благодаря массовому сбору OpenAI данных из интернета, таланту её высокооплачиваемых инженеров и специалистов по ИИ, а также возможностям новых поколений моделей, отмечает 404 Media. Важную роль играют внешние подрядчики, которым платят за чтение и проверку ответов ChatGPT на реальные пользовательские запросы.
Anthropic подтвердила 404 Media, что также использует людей для проверки и улучшения своих моделей. К аналогичным услугам прибегает и Google.
Подрядчики OpenAI оценивают выдачу ChatGPT по шкале от 1 до 7. За наём этих специалистов отвечает компания Crossing Hurdles, а оплату производит Mercor. Один из подрядчиков рассказал, что его работа приносит более $50 в час.
Обучение моделей включено по умолчанию в потребительских тарифах, в том числе бесплатный, Plus и Pro.
Источник: habr.com