Разработчики хотят сделать чат-бот безопаснее для детей.
Компания OpenAI добавила в свой чат-бот ChatGPT настройки родительского контроля. О нововведении разработчики рассказали 29 сентября.
Согласно официальному заявлению, новая функция доступна всем пользователям. С ее помощью родители смогут связать свою учетную запись с аккаунтом ребенка, чтобы определить настройки для безопасного использования.
Как отметили в OpenAI, в таком случае учетная запись ребенка автоматически получит дополнительную защиту. В частности, она усиливает цензуру и вводит ограничения, связанные с жестокостью, сексуальным или романтическим контентом, нереалистичными идеалами красоты. Родители при желании могут отключить это, но сами дети не смогут это сделать.
Среди других возможностей есть функция ограничения времени использования ChatGPT, отключение голосового режима и «памяти», чтобы чат-бот не запоминал информацию из диалогов. Также можно запретить генерацию или редактирование изображений и отказаться от обучения моделей на основе разговоров подростков. Разработчики подчеркивают, что подобные меры помогут защитить детей, но они не являются стопроцентной гарантией. По их словам, запреты можно обойти, если намеренно попытаться это сделать.
Помимо этого, в ChatGPT добавили систему, которая помогает распознавать признаки того, что ребенок может думать о причинении себе вреда. Если нейросеть определяет такую ситуацию, ее проверяют «специально обученные люди». В случае «острого стресса» они свяжутся с родителями и предупредят их. «Даже в этих редких ситуациях мы серьезно относимся к конфиденциальности подростков и будем делиться только информацией, необходимой родителям или экстренным службам для защиты безопасности подростка», — заявили в компании.
Источник: hi-tech.mail.ru