OpenAI уволила нескольких подрядчиков, которые проверяли ответы ChatGPT. 404 Media пишет, что это произошло после того, как выяснилось, что они использовали сторонние ИИ-инструменты.
Для справки: OpenAI привлекает тысячи подрядчиков для проверки некоторых запросов пользователей и ответов ChatGPT. Они оценивают «точность информации» и следят за тем, чтобы модель «не подстраивалась чрезмерно под мнение пользователя».
Справедливости ради, в инструкциях прямо говорится, что нельзя применять не только другие ИИ-сервисы, но и такие инструменты, как GPTZero, Grammarly и переводчик.
Причина запрета связана с качеством обучения моделей. Если ИИ начинает обучаться преимущественно на материалах, созданных другим ИИ, это может привести к «коллапсу модели», то бишь «постепенной потере качества и появлению ошибок».
Источник: www.ferra.ru