OpenAI начала внедрять в ChatGPT новую функцию «Доверенные контакты». Она предназначена для ситуаций, когда система фиксирует возможные признаки самоповреждения, суицидальных мыслей или другого опасного кризисного состояния у пользователя. В таком случае сервис сможет уведомить заранее выбранного человеком близкого или знакомого.
Функция доступна только совершеннолетним пользователям. Чтобы подключить ее, нужно добавить в настройках аккаунта контакт доверенного лица и отправить ему приглашение. Второй человек должен подтвердить участие в течение недели. После этого контакт можно в любой момент изменить или удалить, а само доверенное лицо вправе отказаться от статуса.
В OpenAI объясняют, что нововведение не заменяет экстренные службы или профессиональную психологическую помощь. Его задача — создать дополнительный уровень поддержки через людей, которым пользователь доверяет. Компания подчеркивает, что идея функции основана на рекомендациях экспертов в области кризисной помощи и психического здоровья.
Работает все так: если ChatGPT обнаружит в переписке тревожные сигналы, ИИ сначала предложит самостоятельно обратиться к доверенному контакту и предупредит, что тот может получить уведомление. Затем ситуацию дополнительно проверит группа специально обученных сотрудников OpenAI. После подтверждения риска система сможет отправить доверенному лицу короткое сообщение по электронной почте, SMS или через приложение ChatGPT.
В основе функции «Доверенный контакт» лежит простая, проверенная экспертами предпосылка: когда кто-то находится в кризисной ситуации, существенное значение может иметь связь с тем, кого он знает и кому доверяет. Она предлагает дополнительный уровень поддержки наряду с местными линиями помощи, уже доступными в ChatGPT
OpenAI
OpenAI уточняет, что содержание переписки не раскрывается. В уведомлении не окажется цитат, скриншотов или других деталей разговора с ИИ — доверенный контакт получит лишь общий сигнал о возможной проблеме с безопасностью.
Подключение функции добровольное. Пользователь сам решает, нужен ли ему такой механизм поддержки и кого именно назначить доверенным контактом. В компании считают, что возможность быстро связаться с близким человеком в критической ситуации может оказаться важнее, чем автоматические предупреждения со стороны ИИ.
Источник: hi-tech.mail.ru