OpenAI сообщила, что обновила модель GPT-5 в ChatGPT, чтобы она лучше вела себя в тяжелых разговорах, начиная с признаков психоза у пользователя и заканчивая эмоциональной зависимостью от чат-бота. Модель теперь надежнее распознает дистресс, говорит спокойнее, не поддакивает бредовым («кто-то читает мои мысли»), и мягко уводит человека к реальной помощи — друзьям, врачам, горячим линиям. По данным компании, доля ответов, которые тестировавшие ChatGPT специалисты сочли нежелательными, снизилась на 65–80% после внедрения обновления 3 октября 2025 года.
Для самых рискованных тем OpenAI составила подробные руководства: что считать тревожным сигналом, как модель должна отвечать и чего она не имеет права делать. Чтобы задать эти рамки, OpenAI подключила почти 300 психиатров, психологов и врачей из примерно 60 стран — из них более 170 напрямую участвовали в разработке ответов, оценке поведения модели и проверке опасных случаев.
Отдельная зона — эмоциональная зависимость от ChatGPT. Компания считает тревожным, когда человек пишет, что ИИ — «единственный, кто меня понимает», и отстраняется от близких. Теперь модель обучена не подпитывать такую зависимость, а мягко возвращать к живым ��юдям: «я рад, что тебе со мной легче, но я не должен заменять других, ты заслуживаешь поддержки рядом». По данным OpenAI, по этой категории нежелательные ответы сократились на 42% по сравнению с GPT-4o, а по внутренней автоматизированной проверке из более тысячи трудных диалогов новая версия GPT-5 стала вести себя «как задумано» в 97% случаев. Ранее та же проверка давала лишь 50%.
Ранее обновленную систему безопасности ChatGPT уже комментировал глава OpenAI Сэм Альтман. Он рассказал, что доволен доработками, и в ближайшее время компания начнет возвращать GPT-5 более «человечную» персоналию, как было во времена GPT-4o. А ближе к концу года в ChatGPT добавят верификацию возраста, пройдя которую, можно будет включить взрослый контент.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com