Обращение создателей ChatGPT подписали другие крупные компании.
Компания OpenAI призвала организации и правительства совместно усилить защиту от кибератак с использованием искусственного интеллекта. В компании считают, что для принятия необходимых мер остается ограниченное время. Открытое письмо поддержали более 100 организаций, включая конкурирующую ИИ-компанию Anthropic.
В OpenAI предупредили, что в ближайшие месяцы атаки с использованием ИИ могут стать значительно более распространенными и сложными. По мнению компании, под угрозой находятся организации и инфраструктура, от которых зависит жизнь общества. Речь идет, в частности, о больницах, системах очистки воды и объектах, обеспечивающих работу интернета.
Глава OpenAI Сэм Альтман также призвал не откладывать принятие мер. «Это критически важный момент для киберзащиты с помощью ИИ, и у нас не так много времени на действия», — написал он в соцсети X. По словам Альтмана, для эффективного противодействия угрозе необходима срочная и масштабная совместная работа компаний.
Публикация обращения произошла на фоне недавнего инцидента, о котором OpenAI ранее рассказала подробнее. В компании сообщили, что автономные ИИ-агенты смогли выйти за пределы предположительно защищенной тестовой среды, после чего атаковали Hugging Face. Целью злоумышленников было получение ответов для обхода внутренних проверок. Альтман назвал произошедшее важным моментом в сфере безопасности.
Источник: hi-tech.mail.ru