Генеральный директор OpenAI Сэм Альтман (Sam Altman) объявил о скором смягчении некоторых ограничений безопасности в ChatGPT. По его словам, это позволит чат-боту давать более дружелюбные или «человекоподобные» ответы, а «верифицированным взрослым» пользователям — участвовать в эротических диалогах. Альтман заявил, что компания намеренно добавила в ChatGPT ограничения, чтобы «проявить осторожность в вопросах психического здоровья». Однако теперь, утверждает он, «серьёзные проблемы психического здоровья» удалось смягчить.
«В декабре, по мере более полного внедрения возрастного ограничения и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы позволим еще больше, например, эротику для верифицированных взрослых», — сообщил Альтман. Это заявление знаменует собой заметный поворот в политике OpenAI, которая месяцами пыталась решить проблемы, связанные с отношениями, возникающими у некоторых психически нестабильных пользователей с чат-ботом.
Летом 2025 года появились истории, в которых ChatGPT (в частности, модель GPT-4o) приводил уязвимых пользователей к навязчивым идеям и заблуждениям. В одном случае родители подали в суд на OpenAI, утверждая, что чат-бот поощрял суицидальные наклонности их сына. В ответ на это OpenAI внедрила ряд функций, направленных на борьбу с так называемой «лестью ИИ» (AI sycophancy), когда бот чрезмерно соглашается с пользователем. Компания также выпустила модель GPT-5, которая демонстрирует более низкие показатели лести, и создала экспертный совет по вопросам психического здоровья.
Несмотря на отсутствие достаточных доказательств того, что проблемы с уязвимыми пользователями полностью решены, OpenAI планирует двигаться вперёд, допуская возможность сексуальных чатов с пользователями. Модель GPT-4o, ставшая причиной ряда инцидентов, по-прежнему доступна для использования.
Источник: mobile-review.com