OpenAI объявила новые принципы работы ChatGPT, которые должны сбалансировать три задачи: приватность, свободу и безопасность. Сэм Альтман отметил, что именно сочетание этих трех направлений определит, как ИИ будет использоваться в будущем, особенно среди подростков.
Для взрослых пользователей компания сохраняет больше свободы. По умолчанию модель не будет выдавать рискованные ответы или флиртовать, но по запросу сможет давать более гибкие варианты — например, помочь в написании художественного тексте с «непростыми» темами. Также OpenAI добивается от властей «приватности» диалогов с ИИ на некоторые темы по аналогии с врачебной и адвокатской тайной.
Подросткам, наоборот, вводят жесткие ограничения. Для них исключен флирт и обсуждение суицида даже в творческом контексте. Добавляются инструменты родительского контроля — связка аккаунтов, «часы тишины», возможность отключать память и история переписки. Если система зафиксирует признаки острой угрозы, уведомления отправят родителям, а при их недоступности — могут подключить власти.
В основе изменений лежит система предсказания: ChatGPT будет определять возраст по стилю общения. Если модель не уверена, пользователя автоматически относят к подросткам. В ряде стран взрослым придется подтвердить возраст через ID. Новые функции будут запускаться постепенно, а полный пакет родительского контроля OpenAI обещает включить до конца сентября.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com