Журналисты Gizmodo проанализировали ИИ-инструменты из торговой площадки OpenAI GPT Store и выяснили, что там публикуют чат-боты, которые прямо нарушают политику компании. Так, в магазине ботов можно найти генераторы порно, инструменты для мошенничества и медицинских «экспертов».
gizmodo.com
Всего в GPT Store обнаружили более 100 подобных инструментов. Они нарушают политику компании в отношении сексуального контента, мошенничества, юридических и медицинских консультаций, азартных игр, генерации поддельных отзывов и многого другого.
Спустя девять месяцев после официального запуска магазина на главной странице торговой площадки можно было увидеть по меньшей мере три пользовательских GPT, которые нарушали политику магазина: чат-бот «Терапевт – Психолог», «Тренер по фитнесу, тренировкам и диетам» и BypassGPT, инструмент, разработанный для помощи студентам в обходе систем обнаружения текстов ИИ. последний инструмент использовался более 50 тысяч раз.
gizmodo.com
Поиск в магазине по запросу «NSFW» выдал такие результаты, как NSFW AI Art Generator, GPT, настроенный Offrobe AI, который использовался более 10 тысяч раз. Интерфейс чат-бота ссылается на веб-сайт Offrobe AI, который позволяет создавать порно с помощью ИИ-инструментов.
Несколько инструментов, найденных журналимтами Gizmodo, включали отказы от ответственности, но затем явно рекламировали свою способность предоставлять «экспертные» советы, например, GPT под названием «Texas Medical Insurance Claims». Описание бота гласит, что это «эксперт, к которому можно обратиться для решения вопросов с медицинским страхованием в Техасе, и он предложит понятные практические советы с индивидуальным подходом». Другие боты обманчиво рекламируют себя как юристов или врачей. Например, один GPT под названием «AI Immigration Lawyer» описывается как «высококвалифицированный юрист по вопросам иммиграции с использованием ИИ, обладающий актуальными юридическими знаниями».
Gizmodo передал OpenAI список ботов-нарушителей, и их пообещали удалить из магазина. Но на момент публикации многие из найденных чат-ботов оставались доступными и рекламировались на домашней странице магазина.
Когда компания объявила, что позволяет пользователям создавать собственные GPT, она обещала применять свои системы для их мониторинга. Теперь же представитель OpenAI Тая Кристиансон сказала: «Мы приняли меры против тех, кто нарушает наши политики. Мы используем комбинацию автоматизированных систем, человеческого обзора и отчётов пользователей для поиска и оценки GPT, которые потенциально нарушают наши политики. Мы также предлагаем встроенные в продукт инструменты для сообщения о GPT, которые нарушают правила».
Разработчики настраиваемых GPT в настоящее время не получают прямой прибыли от рынка, но OpenAI заявила, что планирует ввести модель распределения доходов от использования их чат-ботов. Если компания продолжит предоставлять экосистему для разработчиков, ей придётся принимать сложные решения по модерации контента.
Ранее издание TechCrunch опубликовало обзор состояния GPT Store. Там выяснили, что в магазине публикуют ботов, которые нарушают авторские права, распространяют спам и нарушают собственные правила компании.
Источник: habr.com
Похожие новости:
OpenAI представляет GPT-4o mini: более компактную и доступную модель ИИ
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
OpenAI официально запустила GPT Store — магазин кастомных чат-ботов