Компания OpenAI представила новую функцию безопасности для ChatGPT под названием Trusted Contact («Доверенный контакт»). Она позволяет совершеннолетнему пользователю заранее указать человека, которому будет отправлено уведомление в потенциально опасной или кризисной ситуации. В качестве доверенного контакта можно выбрать друга, родственника, опекуна или любого другого взрослого человека. Функция должна стать дополнительным уровнем безопасности наряду с уже существующими решениями — рекомендациями обратиться на горячие линии помощи или к специалистам. Подписывайтесь на Telegram-канал про технологии
Нововведение основано на уведомлениях о безопасности, предоставляемых функцией «Родительский контроль», которая позволяет родителям или опекунам получать оповещения при появлении признаков острого стресса в привязанном детском аккаунте. Теперь эти возможности расширяются на любого пользователя старше 18 лет. Настройка функции «Доверенный контакт» осуществляется в несколько этапов. Пользователь сначала добавляет одного взрослого человека в настройках ChatGPT, после чего выбранный контакт получает приглашение и должен подтвердить своё согласие в течение недели. Если приглашение отклонено, можно выбрать другого человека.
Если алгоритмы обнаружат признаки серьёзной угрозы безопасности в разговоре пользователя (причинение вреда себе, деструктивное поведение), ChatGPT сначала предложит ему связаться с доверенным контактом и даже подскажет варианты, как начать диалог. Затем ситуацию будет анализировать группа специально обученных специалистов. Если они подтверждают наличие потенциального риска, доверенному контакту будет отправлено уведомление по электронной почте, SMS или через приложение (при наличии учётной записи ChatGPT). Уведомления не содержат подробности переписки или расшифровки чатов — только общий характер ситуации, причина возникновения потенциально тревожного случая и рекомендация связаться с пользователем. Также доверенное лицо получает ссылку на советы экспертов по ведению подобных разговоров.
В OpenAI подчёркивают, что новая функция не заменяет профессиональную помощь и экстренные службы. Это часть комплексного подхода к безопасности, её разработка велась совместно с врачами, исследователями и организациями, работающими в сфере психического здоровья и профилактики суицидов. Пользователи всегда могут удалить или отредактировать список доверенных контактов в настройках, а доверенные контакты могут в любое время удалить себя, воспользовавшись справочной информацией.
Источник: trashbox.ru