Вчера, 16 сентября, Сэм Альтман (Sam Altman), генеральный директор OpenAI, опубликовал пост в официальном блоге американской компании, сообщив о достаточно крупном нововведении в рамках ChatGPT, которое напрямую затрагивает подростков. «Мы ставим безопасность выше конфиденциальности и свободы подростков. Это новая и мощная технология [ChatGPT на базе ИИ] и мы считаем, что несовершеннолетним нужна эффективная защита», — заявил Альтман.
В компании считают, что пользователей младше 18 лет необходимо отделить от более взрослой аудитории (стоит напомнить, что ChatGPT предназначен для лиц старше 13 лет). Для этого специалисты бренда разработали систему прогнозирования возраста пользователя, которая будет определять возраст человека на основе того, как именно он использует ChatGPT. В случае, если относительно возраста юзера возникнут сомнения, компания постарается действовать наверняка — в этом сценарии профили по умолчанию будут переводить на использование версии чат-бота для пользователей, которым ещё не исполнилось 18 лет. В этом режиме действуют определённые ограничения и иные правила общения ИИ с человеком.
Пожалуй, ключевое отличие в том, что чат-бот не будет принимать участия в диалогах на темы того, как пользователь может себе навредить — даже в том случае, если запрос исходит из творческих побуждений. Более того, если система зарегистрирует, что у несовершеннолетнего пользователя возникают мысли определённой наклонности, специалисты компании постараются связаться с его родителями и сообщить о данной проблеме. Также компания может связаться с властями в случае, если пользователь может навредить себе, а связаться с родителями не удаётся. Естественно, это вредит репутации OpenAI, которая так рьяно защищала право пользователей на неприкосновенность частной жизни в рамках использования ИИ, но компания просто вынуждена пойти на эти меры.«Мы понимаем, что наши принципы противоречат друг другу, и не все согласятся с тем, как мы решаем данный конфликт. Это сложные решения, но после обсуждения с экспертами мы пришли к выводу, что это наилучший вариант, и хотим открыть заявить о своих намерениях», — заключил Сэм Альтман.
Вероятно, стремление OpenAI защитить несовершеннолетних пользователей не понравится самим подросткам, так как теперь о конфиденциальности диалогов не может быть и речи, но родителям это точно зайдёт.
Источник: trashbox.ru