OpenAI сообщила, что в течение ближайшего месяца в приложении ChatGPT появится родительский контроль. Родители смогут связать свой аккаунт с аккаунтом подростка (от 13 лет), задавать правила поведения модели, включать и отключать память и историю чатов. Также ChatGPT будет определять, если подросток находится в состоянии стресса, и отправлять сообщение об этом родителям.
OpenAI ужесточает меры безопасности на фоне судебного иска, поданного против компании родителями покончившего с собой 16-летнего Адама Рейна. Истцы заявляют, что с конца 2024 года Адам регулярно обсуждал свои проблемы с ChatGPT, причем ИИ поддерживал его стремления и в одном из последних диалогов даже предложил составить предсмертную записку.
Ранее в компании признали, что в случае долгих диалогов их модели могут хуже следовать протоколам безопасности. Решением этой проблемы сейчас заняты специалисты OpenAI, также компания собрала группу из 250 экспертов по всему миру, с которыми будет проводить дальнейшие консультации. На данный момент ChatGPT уже обучена подсказывать пользователям, куда они могут обратиться за помощью: в России это номера 112 и 8-800-2000-122, а также универсальный сайт findahelpline.com.
Помимо введения родительского контроля, в OpenAI планируют более активно переправлять диалоги на «чувствительные» темы рассуждающим моделям вроде GPT-5 Thinking и o3. Внутренние эксперименты компании показали, что такие модели лучше следуют протоколам безопасности.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com