OpenAI представила обновления системы безопасности в ChatGPT, направленные на защиту молодых пользователей и поддержку в кризисных ситуациях.
Главное нововведение — это автоматическая маршрутизация диалога. Если система обнаружит признаки сильного психологического стресса, разговор будет передаваться так называемым «думающим» моделям. Эти модели обучены с помощью метода Deliberative Alignment и способны выдавать более медленные и взвешенные ответы. Запуск функции запланирован в течение ближайших 120 дней.
Дополнительно в ChatGPT появится режим родительского контроля. Родители смогут привязать аккаунт подростка к своему, устанавливать ограничения, управлять историей чатов и получать уведомления, если система заметит у ребенка признаки кризисного состояния.
Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.
Подробнее
Источник: habr.com