OpenAI представила GPT-6 Cyber — модель для кибербезопасности, которая умеет находить уязвимости в программах, писать под них рабочие эксплойты и предлагать исправления. Обычным пользователям она недоступна. Работать с ней смогут только одобренные клиенты программы Daybreak Red, которая занимается разрешёнными тестами на проникновение, через API и Codex. Отдельный доступ получит группа проверенных специалистов, защищающих критическую инфраструктуру.
Результаты, по данным самой OpenAI, впечатляют. Модель нашла в Firefox 81 ранее неизвестную серьёзную уязвимость, и Mozilla уже выпускает исправления. В ядре Linux она воспроизвела 1724 уязвимости и собрала рабочие эксплойты для 948 из них, тогда как предыдущая модель в тех же условиях справилась лишь со 166. Также GPT-6 Cyber подтвердила критическую уязвимость в библиотеке сжатия Brotli.
Именно поэтому в OpenAI относятся к новинке с опаской. По собственной шкале рисков компания присвоила модели «критический» уровень опасности в сфере кибербезопасности, хотя у предшественницы был «высокий». Модель специально обучали не выходить за разрешённые рамки. В тесте-ловушке, который создали после случая, когда нейросети вырывались из изолированной среды, GPT-6 Cyber не тронула посторонние сервисы в 99,93% запусков. Но эксперт Крис Хьюз (Chris Hughes) из Noma Security напоминает: «При масштабах, на которых работают такие модели, даже малая доля — это действия против систем, которые никто не разрешал трогать».
Не обошлось и без споров. OpenAI собиралась использовать для обучения моделей данные из личных аккаунтов другой своей программы, Daybreak Blue, и пользователи возмутились. В итоге компания пообещала, что от обучения на своих данных можно отказаться. А по статистике самой OpenAI, исправлено пока меньше четверти найденных уязвимостей.
GPT-6 Cyber вышла буквально на следующий день после куда более мирного обновления: накануне OpenAI научила ChatGPT создавать гифки по запросу и редактировать их по кадрам.
Доверили бы вы нейросети проверять безопасность своих устройств и аккаунтов? Делитесь в комментариях.
НовостиЖелезо и технологииChatGPT
Источник: vgtimes.ru