В следующем месяце OpenAI начнёт внедрять родительский контроль в ChatGPT, написала компания в посте в блоге. Также компания будет сотрудничать с Экспертным советом по благополучию и искусственному интеллекту и расширит Глобальную сеть врачей.
В течение следующего месяца родители смогут:
Связать свою учётную запись с аккаунтом подростка (возраст от 13 лет) с помощью простого приглашения по электронной почте.
Контролировать, как ChatGPT реагирует на запросы подростка, с помощью правил поведения модели, соответствующих возрасту.
Выбирать, какие функции отключить, в том числе историю памяти и чата.
Получать уведомления, когда система обнаружит, что ребёнок находится в состоянии острого стресса.
Эти элементы управления дополняют функции, которые OpenAI внедрила для всех пользователей, включая напоминания о перерывах во время длительных сеансов.
OpenAI объявила о сотрудничестве с Экспертным советом по благополучию и искусственному интеллекту, который поможет ей оценивать благополучие пользователей и направлять развитие продукта. Этот совет будет работать в тандеме с Глобальной сетью врачей, в которую входят более 250 медиков.
«Из этого обширного сообщества более 90 врачей из 30 стран, включая психиатров, педиатров и врачей общей практики, уже внесли свой вклад в наше исследование того, как наши модели должны работать в контексте психического здоровья. Их вклад напрямую влияет на наши исследования в области безопасности, обучение моделей и другие мероприятия, помогая нам при необходимости быстро привлекать нужных специалистов», — пишет компания.
Непосредственно в ChatGPT улучшится система маршрутизации, которая будет автоматически перенаправлять тему, содержащую признаки «острого расстройства» в GPT‑5-thinking, чтобы бот мог генерировать более продуманные ответы.
Изменения произошли после смерти подростка и недавнего судебного разбирательства против OpenAI и генерального директора Сэма Альтмана.
Источник: habr.com