Компания OpenAI привлекает сотни сотрудников и подрядчиков для анализа пользовательских запросов ChatGPT. Специалисты читают переписки и оценивают ответы нейросети не только в рамках модерации и безопасности, но и для улучшения работы модели. Telegram-канал создателя Трешбокса про технологии
Для анализа используются отобранные запросы, которые предварительно анонимизируются. При этом в некоторых случаях в них может сохраняться личная информация. Рабочая панель сотрудников также показывает сводку воспоминаний пользователя, благодаря чему проверяющий способен получить дополнительные сведения из предыдущих разговоров.
В OpenAI заявляют, что для защиты данных применяется специальный фильтр конфиденциальности. При этом сама компания предупреждает, что он может работать с ошибками. Пользовательские чаты могут использоваться для улучшения модели, если не отключить соответствующую настройку, но по данным некоторых СМИ, она включена по умолчанию.
Отдельное внимание уделяется стилю ответов ChatGPT. Сотрудники отмечают случаи антропоморфизации и чрезмерной услужливости нейросети. Эти особенности изучаются в том числе из-за опасений, связанных с так называемым ИИ-психозом, когда ответы чат-бота могут усиливать бредовые убеждения пользователя. В нескольких судебных исках также утверждается, что прежние версии ChatGPT могли быть связаны с самоубийствами пользователей.
Рецензенты анализируют и характерные признаки машинной речи, включая чрезмерное использование эмодзи. Например, в инструкциях для сотрудников отдельно разбираются случаи, когда эмодзи дерева уместно использовать при обсуждении посадки деревьев, а некоторые символы не подходят для разговоров о смерти или трагедиях.
При этом сотрудники, участвующие в таком анализе, не обязаны самостоятельно проверять факты в ответах. В документах для рецензентов упоминаются другие команды, которые занимаются проверкой содержания.
Источник: trashbox.ru